News AI-Rechenleistung: Metas neue AI-Cluster nutzen jeweils 24.576 Nvidia H100

[Kadett_Pirx]

Projekt Skynet nimmt Fahrt auf

 

[Beg1]

Die Qualität von KI ist ohnehin unterirdisch. Das hat mit Intelligenz nichts zu tun. Das ist eher ungeprüftes nachplappern von Daten und die werden noch nicht einmal von der KI gegengecheckt und auf Validität geprüft.

AI wird bereits massiv genutzt, vor allem im Bereich Content Creation, gibt ja nicht nur die Chatfunktion

Bei der Größenordnung würde ich mal 30-50% Rabatt auf den Listenpreis ausgehen aber trotzdem unglaubliche Summen.

Haha, der beste Witz in diesem Thread.

 

[chillipepper]

AI wird bereits massiv genutzt, vor allem im Bereich Content Creation, gibt ja nicht nur die Chatfunktion

Gut content creator oder medizinischer Bereich zur Auswertung von Aufnahmen oder was auch immer, ok.

Aber KI wird doch hier in allen Bereichen gehypted, vor allem in solchen, in denen ich das eher skeptisch sehe.

In sensiblen Bereichen werden zu viele Daten abgegriffen und dabei gerät völlig außer Kontrolle, wo die Daten überall hinfließen. Mal abgesehen von vielen Qualitätsmängeln.

Warum gerade eine Firma wie Meta was machen sollte, was mir zum Vorteil gereichen soll … nun, das sehe ich eher skeptisch (rein gar nichts).

Du kannst nur bei einem sicher sein, es wird Dir und Deiner Person nicht zum Vorteil gereichen.
Es wird immer zur Absicherung und Gewinnmaximierung von Firmen gegen Dich verwendet werden.

Übergewicht? -> höhere Versicherungsprämien im Gesundheitsbereich
Risikosportarten? -> höhere Versicherungsprämien bei diversen Versicherungen oder .. tut uns leid, aber ....
Falsche politische Gesinnung oder was auch immer -> Probleme, interessante Jobs zu bekommen
Internet Kauf -> höhere Preise oder Class B Ware je nach Wohnlage oder sonstigen Daten

Darauf läuft es doch hinaus.

 

[daVinci]

Ich glaube, das "warum" können sie selber noch gar nicht richtig beantworten. Das Geld ist halt da und an der Spitze sitzt ein Nerd mit einer Mischung aus fomo und Größenwahn. Next big thing hin oder her, am Ende muss es auch konkret etwas, der Investition entsprechend, gebracht haben. Und mit der nächsten Chip Generation wird dann der gesamte Bestand aktualisiert? Frage für einen (Aktien)Freund.

 

[quakegott]

But can it run Alan Wake 2?

Wenn man an der Bildqualität schraubt könnte sogar 4K drin sein

 

[Scythe1988]

--Bitte die Zitierregeln beachten--

wieso läuft es darauf hinaus? Alles was du gesagt hast wird seit Jahren, auch ganz ohne KI gemacht.... Das mit dem Job und der falschen politischen Gesinnung, fände ich allerdings sehr sinnvoll, wenn wir das mal etwas intensiver machen würden

 

[Yosup]

wieso läuft es darauf hinaus? Alles was du gesagt hast wird seit Jahren, auch ganz ohne KI gemacht.... Das mit dem Job und der falschen politischen Gesinnung, fände ich allerdings sehr sinnvoll, wenn wir das mal etwas intensiver machen würden

Und so fängt es an...

 

[SweetOhm]

Dabei wäre Gaudi2 evtl. die bessere Wahl gewesen ?!?

https://www.igorslab.de/stability-a...0-und-a100-gpu-beschleuniger-und-ueberrascht/

 

[-MK]

Also ist jetzt ein guter Zeitpunkt für noch weitere Nvidia Aktien? 😉

 

[person unknown]

Ich habe es auch gerade mal grob überschlagen, alleine für die GPUs dürfte man sich um knapp 1,5 Mrd. $ für die beiden Cluster bewegen. In die Cluster dürfte aber auch eine gewaltige Menge Strom fließen.

350.000 Stück zu jeweils 43.000$ - kann es sein, dass dein Komma um eins verrutscht ist? Aber spielt ja eh keine Rolle für den Zuckerberg 😄

 

[chillipepper]

wieso läuft es darauf hinaus? Alles was du gesagt hast wird seit Jahren, auch ganz ohne KI gemacht.... Das mit dem Job und der falschen politischen Gesinnung, fände ich allerdings sehr sinnvoll, wenn wir das mal etwas intensiver machen würden

Ja, es ist bereits schlimm, aber durch KI wird es noch schlimmer.
Wenn man doch bereits weiß, das das ganze jetzt schon unkontrollierbar ist, dann wird es mit KI noch weitaus schlimmer werden. Es fallen mehr Daten an und diese können auch wiederum durch KI noch besser verdichtet werden.

Warum wird es schlimmer? Weil durch KI jeder dazu verleitet wird, noch mehr Dinge (von sich) preiszugeben, damit die KI überhaupt richtig arbeiten kann und damit die gewünschten Ergebnisse möglichst schon für "copy/paste" passen.

Bei Google sind es vielleicht nur ein paar Stichwörter, bei KI wird deutlich mehr Content und auch Kontext gebraucht.

 

[person unknown]

Geile Meldung, gefällt mir 👌 ✌️

But can it run Alan Wake 2?

nope. cannot run - has no legs 🤔

 

[Garack]

Also ist jetzt ein guter Zeitpunkt für noch weitere Nvidia Aktien? 😉

Pre market ist down, nach den 8% up gestern auch kein Wunder. Price targets gehen bis 1400.
Dieses Jahr wird wunderbar für Nvidia. Was dann passiert wenn alle dicken Fische ihre eigenen Beschleuniger haben… kann Software oder edge Computing das auffangen?
Kein Plan, aber aktuell klar nachkaufen

 

[Medcha]

Der Stromverbrauch ist leider sehr interessant. Hier mal ein Artikel von Windows Central dazu:
A new report reveals that ChatGPT exorbitantly consumes 17,000 times more electricity compared to the average US household per day

Einfach absurd... und keiner braucht es. Hauptsache das Gehirn wird weiter entlastet, damit wir immer mehr Geld für Schrott ausgeben können.

 

[SHEG]

Bei dem Artikel muss ich sofort ans Weihnachtsrätsel denken...

 

[iGameKudan]

Holy fucking shit. Knapp über 50.000 der richtig fetten H100-GPUs… 😧

 

[Pltk]

Was da aktuell ein Geld umgesetzt wird ist unfassbar. Freue mich schon auf den nächsten Jahresabschluss von NVidia... Auch wenn die Zahlen aktuell schon unglaublich scheinen, so ist ja kein Ende in Sicht.

Und trotzdem wird die nächste Grafikkartengeneration für den einfachen Spieler zu Hause bestimmt wieder teurer...

 

[ruthi91]

Dabei wäre Gaudi2 evtl. die bessere Wahl gewesen ?!?

https://www.igorslab.de/stability-a...0-und-a100-gpu-beschleuniger-und-ueberrascht/

Nein? Außerdem ist Bilder erstellen ja längst nicht alles was so ein Gerät kann.

"On inference tests with the Stable Diffusion 3 8B parameter model the Gaudi 2 chips offer inference speed similar to Nvidia A100 chips using base PyTorch. However, with TensorRT optimization, the A100 chips produce images 40% faster than Gaudi 2."

Und das ist A100, also letzte Generation, aktuell ist H100 und das nächste Topmodell heißt B100.
(Gott strafe Nvidia für ihre Namensgebung)

Außerdem will Facebook vermutlich jetzt anfangen zu bauen und möglichst bald den Testbetrieb starten und nicht noch 1 Jahr warten.

 

[Sron]

Und trotzdem wird die nächste Grafikkartengeneration für den einfachen Spieler zu Hause bestimmt wieder teurer...

Warum auch nicht. Es werden Kapazitäten geblockt, mit denen man sich bei AI gerade den Popo vergolden kann. Von daher nur verständlich, dass diese Ressourcen auch nicht verschenkt werden.

Warum glauben eigentlich alle, dass Unternehmen welche die mit Abstand besten Produkte am Markt bauen, diese verschenken zu müssen?

 

[Yosup]

Warum glauben eigentlich alle, dass Unternehmen welche die mit Abstand besten Produkte am Markt bauen, diese verschenken zu müssen?

Bei Produktgruppen wie Medikamenten, Lebensmitteln und Trinkwasser kann man das durchaus differenzierter sehen, aber gerade Entertainment-Artikel wie GPUs, Spielkonsolen etc. wären mit das Letzte was ich preisregulieren würde.