Der Geist ist aus der Flasche. AI wird "the next big thing" und niemand kann das heute mehr aufhalten.

(23.11.2023, 15:07)Skeptiker schrieb: Der Geist ist aus der Flasche. AI wird "the next big thing" und niemand kann das heute mehr aufhalten.

Die Frage ist, wie zukünftig damit umgegangen wird. 
Also ob man es so macht wie mit der Atombombe, deren Wirkung man im Prinzip ja vorher auch schon kannte, was aber niemanden abgehalten hat, sie erstmal zu bauen UND einzusetzen, und dann erst hinterher, als der Feind sie auch hatte, man auf die Idee gekommen ist, daß ihr Einsatz im Krieg vielleicht doch nicht so toll ist.

Nur besteht bei der Superintelligenz das Problem, daß es ein "Hinterher" gar nicht mehr geben könnte, da im Gegensatz zu allen bisherigen Technologien keine Abhängigkeit von menschlichem Zutun mehr besteht. Einmal in die Welt gesetzt, arbeitet die Superintelligenz komplett autark.

(23.11.2023, 08:54)Speculatius schrieb: Langsam kommt Licht ins Dunkel:

Es war wohl ein Konflikt ums liebe Geld einerseits vor dem Hintergrund der Gefahren einer möglichen Superintelligenz andererseits. Altman gehört offenbar der "Geld-ist-wichtig-und Gefahren-nicht-so-groß"-Fraktion an, deswegen konnte er sich auch so schnell mit M$ einig werden. 
Die Gegenfraktion, die Altman zunächst gefeuert hatte, zieht aber offenbar jetzt den Kürzeren - wegen des Drucks der Geldgeber.

Dann ist das vermutlich schon gut, dass er bei OpenAI geblieben ist. Und man dort einen Kompromiss zwischen Gewinnstreben und Sicherheit aushandelt.

(23.11.2023, 17:03)saphir schrieb: Dann ist das vermutlich schon gut, dass er bei OpenAI geblieben ist. Und man dort einen Kompromiss zwischen Gewinnstreben und Sicherheit aushandelt.

Den hat man eben nicht ausgehandelt. Man hat jetzt die Bedenkenträger gefeuert und will nur noch Kohle damit machen. Gegen das Kohle machen spricht zwar grundsätzlich nichts, nur sind mögliche Risiken, die mit der Entwicklung der KI insgesamt verbunden sind, erstmal hinten angestellt.

Fairerweise muß man wohl sagen, daß das überall anderswo kaum anders gehandhabt werden wird. Man entwickelt erstmal drauf los mit dem Ziel der Profitmaximierung. Erst viel später, wenn die KI schon längst im Einsatz ist, werden dann die Risiken nach und nach ein Problem - und in den seltensten Fällen von denen bezahlt, die die KI entwickelt haben. Das zahlt dann der Steuerzahler.

Zitat:Das bahnbrechende Geheim-Projekt in Altmans Hinterhand
....
Laut dem Bericht habe das Management um CTO Mira Murati erst nach einer Anfrage von Reuters und diversen Medienberichten eine interne Nachricht an Teile der Belegschaft versendet und darin die Existenz eines KI-Projekts namens Q* erwähnt.
...
Q* soll die Fähigkeiten vom aktuellen Algorithmus GPT4 noch einmal deutlich übertreffen und insbesondere dazu in der Lage sein, ohne vorheriges spezifisches Training logische und mathematische Probleme zu lösen. Eine Fähigkeit, die GPT4 bislang nur hat, wenn es eine ähnliche Aufgabe samt Lösung bereits einmal trainieren konnte.

Zum ganzen Artikel:
https://www.welt.de/wirtschaft/article24...with_polys
https://archive.is/sbD27

Ich glaube dass ist ein spannendes Narrativ...aber Blödsinn.

Ich habe Illya zweimal getroffen. Er ist der eigentliche Mastermind hinter den OpenAI Tools. Extrem smart und tatsächlich sehr freundlich. 

Der eigentliche Konflikt ist der: Ilya möchte Reserach machen und den nächsten Schritt in Richtung AGI machen. Er ist der Meinung dass sehr sehr sehr Tiefe Language Models + Reinforcement Learning der Weg sind, AGI zu erreichen. Und vielleicht ist das Geheimprojekt "Q" auch genau das...Deep-Q-Learning mit ChatGTP als Teil des Value Nets.     

Andere Leute wie Yann LeCun sehen das anders (und ich auch). Sie denken  dass AGI wie ein biologisches System ein physisches "World Model" haben muss und irgendwie eine Hirarchie haben muss. Bisher ist Ilya schon deutlich weiter, als ich jemals dachte das es möglich gewesen wäre. 
.
Ilya möchte da Fortschritte erzielen und diese Forschung und Modelle publizieren. Dem Rest der Welt zeigen, dass er richtig liegt. 

Captain Altman will eine profitable Firma haben. Dazu wird Gruselstory einer "Superintelligenz" geschürt und plötzlich nach staatlicher Regulation geschrien. 

Ich denke nicht dass "Q" auch nur ansatzweise eine Gefahr für irgend wen ist.  Alles Hype und Medien Nonsens. Wenn ihr mich fragt.

 https://www.youtube.com/watch?v=13CZPWmke6A

Gibt es eigentlcih eine gute Doku oder Buch was AI heutzutage eigentlich ist?

Heise hat ja spezielle Ausgabenhefte manchmal, aber ein "Was ist eigentlich AI?" habe ich bisher noch nicht gesehen. Ich dachte immer es geht nur um die sofortige Verfügbarkeit von Wissen (deren Training). Intelligenz heisst eigentlich dass man daraus Schlüße ziehen kann.

Und Microsoft will ja jetzt sogar spezielle Chips dafür entwickeln. Wie ist das zu verstehen?

(24.11.2023, 12:17)Lancelot schrieb: Ich glaube dass ist ein spannendes Narrativ...aber Blödsinn.

Ich habe Illya zweimal getroffen. Er ist der eigentliche Mastermind hinter den OpenAI Tools. Extrem smart und tatsächlich sehr freundlich. 

Aber Ilya Sutskever ist ja jetzt gefeuert - erst feuert er Altman, jetzt umgekehrt, innerhalb von wenigen Tagen - ist für einen Außenstehenden schon schwer zu durchschauen.

Hatte das eher so verstanden, dass das eine Lager neue KI-Anwendungen innerhalb von "Labor-
bedingungen" testen, perfektionieren, weiterentwickeln und möglichst viele Fehler, Gefahren beseitigen
will, bevor es auf die Menschheit losgelassen wird.

Das andere Lager will neue KI-Anwendungen dagegen möglichst schnell aktiv im real life einsetzen,
um es in der Praxis zu testen und währenddessen es von den Menschen genutzt wird weiterzuentwickeln.
So sollen auch mögliche Gefahren, Fehler schneller entdeckt werden, wodurch es dann auch schneller zu
Regeln, Gesetzen kommt. Zu der Gruppe gehört der Altman.

Keine Ahnung welche "aktive" Rolle er bei der KI-Entwicklung selbst spielt. Ist er Entwickler?
Oder Manager? (wie es Steve Jobs bei Apple war - er hat ja nur gesagt was er will, oder welche
Vision er hat - gebaut, entwickelt, haben es andere - bis er zufrieden war)

Wenn ich das hier so lese, hört es sich so an, als ob Ilya der Kopf der KI-Entwickler ist. Richtig?
Und der ist weg? Was heißt das dann für OpenAI?

Welcher Weg ist der bessere? Denke beide haben Vor- und Nachteile. Vielleicht sollten sich beide
Lager ein wenig entgegenkommen?

Man darf wohl davon ausgehen, daß es wie immer um Macht, Geld und Ruhm geht.
Wer ist der Größte, wer verdient das meiste Geld und wer geht als Master of the Universe in die Geschichte ein? Eine Nummer Zwei oder Nummer Drei, die einem da auf dieser Mission gefährlich werden könnten, müssen weg und werden deswegen rausgekickt. Immer derselbe Film.