(27.01.2025, 16:12)Lancelot schrieb: [ -> ]Deepseeks Kosteeinsparung ist im Training. Nicht in der Inference (Benutzung)
Wenn du nach unten scrollst findest du Benchmarks.
https://thezvi.substack.com/p/deekseek-v...ion-dollar
Das denke ich nicht.
Wir könnnen bei den geschlossenen Modellen die Kosten natürlich nur anhand der Preisliste beurteilen (da es da bereits viel Wettbewerb gibt, sollten da keine hohen Margen möglich sein).
https://www.vellum.ai/blog/the-training-...-to-use-it
making it about 27 times cheaper for inputs and nearly 27.4 times cheaper for outputs than OpenAI’s o1 (die chain-of-thought tokens wurden hier wohl vergessen)
https://www.reddit.com/r/LocalLLaMA/comm...vs_o1_and/
R1 is only 4.41x cheaper than o1
https://dubesor.de/benchtable
21.7x cheaper
Der jüngste selfmade Milliardär aller Zeiten, Alexandr Wang, sagt, die hätten heimlich noch 50.000 Nividia H100 gehabt (Musk hat es dann nur wiederholt):
https://economictimes.indiatimes.com/new...738587.cms
Der "open source" Aspekt wird überschätzt, da es sich um 700 Gigabytes Parameter handelt, die auch regelmäßig neu trainiert werden müssten.
Dass AI billiger wird, kann nur gut sein. Man kann jetzt schon auf 3000$ Hardware etwas simulieren, was intelligenter als ein durschnittlicher Mensch redet.
Bald wird man für 50.000$ ein Pflegerobotor oder Lagerroboter oder Verkaufspersonal bauen können.
Es ist klar, dass Japan, Taiwan, Südkorea, China diesen Weg gegen die Überalterung gehen werden statt auf Einwanderung gering Qualifizierter zu setzen.
Es ist das erst Mal, dass eine asiatische Software Firma den globalen Westen überholt. Auch Japan hatte mit Software nie Erfolg (außer etwas Videospiele), als es lange Zeit die zweitgrößte Volkswirtschaft der Welt war. Bisher stand Asien für billige Hardware, die vom Westen aus Kostengründen ausgelagert wurde, um sich Software zu widmen.
https://www.youtube.com/watch?v=EAgdQKPGuU0
DeepSeek AI: What It Means and What Happens Next
4:48
Mit 340 Mrd und angenommenen 2000 Mitarbeitern würde die Bewertung bei 170 Mio $ pro Mitarbeiter liegen.
Ich hab mal geschrieben, Nvidia läge bei 20 Mio $ pro Mitarbeiter, niemand hat den krassen Fehler bemerkt, es waren natürlich 200 Mio $ pro Mitarbeiter, das all time high waren 240 Mio $ pro Mitarbeiter:
(28.08.2024, 01:57)Thomas_B schrieb: [ -> ]mit hoher Marge wie NVDA. Wobei dort die Bewertung bei 20 Mio $ pro Mitarbeiter liegt.
Kann jemand noch mehr bieten? Beteiligungen, wo ein paar Leute ein Portfolio verwalten, gelten nicht, es muss schon was produziert werden.
Renaissance Technologies dürfte deutlich unter 240 Mio $ pro Mitarbeiter liegen, ist aber auch nicht notiert.
Ich finde diese Kennzahl interessant, um nach Wachstumsfirmen zu sieben.
Die kleineren HFT MMs sind wild
Janestreet... keine Bewertung..So um die 2500 Mitarbeiter... gerne 10 Milliarden revenue im Jahr. Bonus für Juniors von über 1.5 Mio sind keine Seltenheit.
DAS IST UNHEIMLICH!
GeoSpy kann anhand eines einzigen Innenfotos Ihren genauen Standort bestimmen.
GeoSpy ist eine KI-Plattform, die nur durch die Analyse der Pixel bestimmen kann, wo ein Foto aufgenommen wurde. Es werden keine Metadaten benötigt.
Sie erkennt kleine Anhaltspunkte wie Straßenschilder, Hydranten und Firmenlogos und verbindet diese, um den Ort zu finden. Je mehr sie lernt, desto genauer wird sie.
Die KI wird erschreckend gut.
Ilya Sutskevers vor 8 Monaten gegründete Firma "Safe Superintelligence Inc." (SSI) wird aktuell mit 20 Mrd bewertet und hat wohl so um die 10 Angestellte:
https://www.linkedin.com/company/safe-su...igence-inc
https://www.reddit.com/r/MachineLearning...unch_safe/
https://www.reuters.com/technology/opena...025-02-07/
Macht schlappe 2 Mrd Bewertung pro Mitarbeiter, all time high
Das kann man auch nicht mehr so schnell toppen
Ilya Sutskever war das technische mastermind bei OpenAI und Schüler Geoffrey Hintons.
In D dürfte SAP mit gut 3 Mio Bewertung pro Mitarbeiter (wie ORCL) Spitze bei den Börsennotierten sein und dass auch nur wegen KI Fantasie. Außerbörslich AlephAlpha, aber die haben natürlich keine Chance, weggeschmissenes Geld.
SIE 0.5 Mio pro Mitarbeiter
MSFT 13 Mio
GOOG 12.5 Mio
(01.02.2025, 23:41)Lancelot schrieb: [ -> ]Die kleineren HFT MMs sind wild
Janestreet... keine Bewertung..So um die 2500 Mitarbeiter... gerne 10 Milliarden revenue im Jahr. Bonus für Juniors von über 1.5 Mio sind keine Seltenheit.
Bei Janestreet beeindruckt mich immer, dass sie gegen den Trend immer schon funktionale Programmiersprachen verwendet haben.
Bei RenTech, dass die Prognose des Chefs, die Margen kann man nicht halten, da heute die Hauptkonkurrenten das gleiche Know How haben, NICHT eingetroffen ist.
Trotzdem liegen Janestreet, Optiver, RenTech (alles Privatfirmen, die Trading mit machine learning machen) nicht so wahnsinning hoch bei "market cap / employee count" (max. 20 Mio/Mitarbeiter), da sie ja 40-90% der Handelsgewinne an die Mitarbeiter ausschütten und gar keinen Börsengang anstreben, auch keinen Kapitalbedarf haben. Da ist auch das Risiko, dass sich copy cats bilden, sobald sie nicht mehr das meiste an die Mitarbeiter ausschütten.
Hinter deepseek steckt auch ein machine learning Trading Unternehmen:
https://www.nzz.ch/technologie/deepseek-...ld.1868542