NVIDIA

xAI (Musk) Colossus mit 10.000 Nvidia H100 bringt ja alleine 2-3 Mrd Umsatz. Dann sind da 4-5 noch größere mit gewinnbringenden operativen Geschäft, die wie blöde AI-Karten kaufen, damit sie auch künftig Gewinne machen werden.
Mittlere und kleinere Kunden kaufen die Karten über Dell, HP, Supermicro usw.
Ich finde eine solche Verteilung nach Potenzgesetz nicht ungewöhnlich, das gibt es auch bei Vermögen, Größe von Städten usw.
Man merkt hier auch, dass die dt. Industrie hier den Anschluss verpasst hat.

Es fällt auf, dass
1) AMD und Intel vom Kuchen kaum was abbekommen
2) Nvidias AI Karten sind ca. 5x so teuer wie deren Grafikkarten bei vergleichbarer Zahl an Transistoren, Verbrauch, Lithographie.
Kennt jemand die Gründe? Ist die Speicheranbindung so kompliziert, dass AMD das nicht kann?

Frage ist wie lange die großen BigTechs noch wieviele Prozessoren von Nvidia kaufen werden.
Das geht vielliecht ein paar Jahre so weiter - bis sie ihre KI-Infrastruktur fertig gebaut haben.
Und dann? Brauchen sie immer wieder in dieser Masse neue Prozessoren?

Wer braucht was wieviel? Oder wird es große Rechenzentren geben bei denen KI-Rechenleistung
gemietet werden kann? Für kleinere Unternehmen, für die eine eigene Infrastruktur zu teuer ist.

Hängt auch alles davon ab was wie kommt - in Bezug auf die "KI-Revolution"....
Kommt irgendwann auch "mehr" wieder zurück wie reingsteckt wird?


Und wegen AMD....

AMD MI300X-Leistung im Vergleich zu Nvidia H100 – Low-Level-Benchmarks, die Cache, Latenz, Inferenz und mehr testen, zeigen starke Ergebnisse für eine einzelne GPU

By Aaron Klotz
Beiträge von Jarred Walton
veröffentlicht 26. Juni 2024

MI300X verfügt über eine sehr starke Architektur, basierend auf Tests von Chips and Cheese.


https://www.tomshardware.com/pc-componen...vidia-h100

KI-Meisterschaft: Ein umfassender Blick auf NVIDIA H100 vs. AMD Instinct MI250X

06. Februar 2024


https://greennode.ai/blog/ai-mastery-a-c...nct-mi250x