Kris on Nostr: 140 kW Racks ...
140 kW Racks
https://engineering.fb.com/2024/10/15/data-infrastructure/metas-open-ai-hardware-vision/
With Catalina we’re introducing the Orv3, a high-power rack (HPR) capable of supporting up to 140kW.
140 kW sind 190 PS. Pro Rack.
Dieser AI-Kram hat ein offensichtliches Effizienzproblem – beim Training. Inferenz ist eine andere Nummer.
Solange Softbank und Freunde da Milliarden buchstäblich verbrennen wollen ist alles schnieke, aber das ist in keinem Finanzmodell darstellbar. Mit Atomkraft noch weniger als mit irgendeiner anderen Form von Energie.
https://engineering.fb.com/2024/10/15/data-infrastructure/metas-open-ai-hardware-vision/
With Catalina we’re introducing the Orv3, a high-power rack (HPR) capable of supporting up to 140kW.
140 kW sind 190 PS. Pro Rack.
Dieser AI-Kram hat ein offensichtliches Effizienzproblem – beim Training. Inferenz ist eine andere Nummer.
Solange Softbank und Freunde da Milliarden buchstäblich verbrennen wollen ist alles schnieke, aber das ist in keinem Finanzmodell darstellbar. Mit Atomkraft noch weniger als mit irgendeiner anderen Form von Energie.