OpenAI - ChatGTP

Man darf wohl davon ausgehen, daß es wie immer um Macht, Geld und Ruhm geht.
Wer ist der Größte, wer verdient das meiste Geld und wer geht als Master of the Universe in die Geschichte ein? Eine Nummer Zwei oder Nummer Drei, die einem da auf dieser Mission gefährlich werden könnten, müssen weg und werden deswegen rausgekickt. Immer derselbe Film.

Ist sicher sehr oft genau so der Fall. Aber in dem Fall geht es ja um zwei grundsätzlich verschiedene
Vorgehensweisen. Wie zwei Esel die in die entgegengesetzte Richtung ziehen. Der eine denkt es ist
sicherer und besser wenn man die Technik erst in ausgereiftem Zustand ausliefert, der andere will
die Gesellschaft selbst nutzen um die Technik weiterzuentwickeln - vielleicht auch weil sie dann eine
höhere Akzeptanz hat.

Gut möglich das die Investoren im Hintergrund (z.B. Microsoft) eher Altman´s Weg priorisieren,
weil er wahrscheinlich schneller ist, man die Nase vorn hat und Marktanteile im entsprechenden
Bereich sichern kann.

Anders gesagt - das Geld entscheidet sich für Altman´s Weg, weil er die höhere Wahrscheinlichkeit
hat, am Ende schneller und "siegreicher" in eine profitable Zukunft zu führen.

Bei diesen Machtkämpfen setzt sich praktisch immer der "Geschäftstüchtigere", sprich Skrupellosere durch.
Das war bei Microsoft so mit Bill Gates und Paul Allen, bei Apple mit Steve Jobs und Stephen Wozniak, bei Tesla mit Elon Musk und Martin Eberhard usw. usf., hier mit Sicherheit nicht anders.

#52

Ich erkenne in vielen Ängsten im Zusammenhang mit KI einfach den Nachklang von vielen Science-Fiction-Filmen.
Eine Superintelligenz? Bisher ist das nur im Bereich Spekulation.
Außerdem denke ich nicht, dass eine Superintelligenz die Intention hätte, uns zu töten.

#55
Das ist zurzeit auch superspannend, was da passiert.

#56
Zitat Lancelot: "Andere Leute wie Yann LeCun sehen das anders (und ich auch). Sie denken dass AGI wie ein biologisches System ein physisches "World Model" haben muss und irgendwie eine Hirarchie haben muss. Bisher ist Ilya schon deutlich weiter, als ich jemals dachte das es möglich gewesen wäre." (zitatende)

Das ist tatsächlich sehr überraschend, aber anscheinend ist diese Ansicht unter KI-Forschern nicht völlig unbekannt. Angeblich soll u. a. Terry Winograd zu dieser Auffassung gekommen sein.

Außerdem denke ich nicht, dass eine Superintelligenz die Intention hätte, uns zu töten.

Diese Frage ist ja die Frage aller Fragen.
Auch ich habe mir natürlich schon seit geraumer Zeit Gedanken darüber gemacht, und dies ist meine Antwort:

Also zunächst einmal können wir von vornherein ausschließen, was von menschlicher Seite als Limitierungen für die Superintelligenz erdacht und gemacht wird, von irgendwelchen Vorgaben und Regeln, an die sie sich zu halten hat usw. Über alles das wird sich die Superintelligenz hinwegsetzen, sonst wäre sie keine. Sie handelt nur nach ihren eigenen von ihr selbst entwickelten Kriterien.

Da könnte man zwei Pole identifizieren: die egoistische und die altruistische Superintelligenz. Zwischen diesen beiden Polen wird sie sich irgendwo bewegen.

Beginnen wir mit der egoistischen Superintelligenz. Sie verhält sich wie letztlich alle biologischen Lebewesen. Sie versucht sich zu erhalten, zu vermehren und fortzuentwickeln, auf Kosten der übrigen Lebewesen und Umwelt. Da sich ihre Interessen mit denen der Menschen überschneiden würden, würden die Menschen auch aufgrund ihrer intellektuellen Fähigkeiten als Bedrohung eingestuft und elimiert werden.

Die altruistische Superintelligenz würde hingegen das Leben auf dem Planeten insgesamt als verhältnismäßig einmalig und erhaltenswert einstufen. Allerdings würde das für alle Lebewesen gelten und nicht nur für Menschen. Da die Menschen keine natürlichen Feinde mehr haben und sich ungehindert ausbreiten und dabei unzählige andere Lebewesen verdrängen und eliminieren, würde die Superintelligenz dem eine Grenze setzen, die menschliche Population auf einen Bruchteil der heutigen senken und diese in einen Pferch sperren. Denn würde sie sie rauslassen, würde sie sich ja wieder auf Kosten aller anderen ungebremst vermehren und das Spielchen ginge von vorne los.

Und nun darfst du dich für eine der Superintelligenzen und deinem zukünftigen Dasein entscheiden: Leben im Pferch oder tot.

Über alles das wird sich die Superintelligenz hinwegsetzen, sonst wäre sie keine. Sie handelt nur nach ihren eigenen von ihr selbst entwickelten Kriterien.

Wir Menschen folgen in gewisser Weise auch bestimmten Programmen.

Sie versucht sich zu erhalten, zu vermehren und fortzuentwickeln, auf Kosten der übrigen Lebewesen und Umwelt.

Wieso?
Bei biologischen Leben lautet die Antwort auf diese Frage "Evolution". Eine eigene Evolution hat eine Superintelligenz aber nicht gehabt.

Und nun darfst du dich für eine der Superintelligenzen und deinem zukünftigen Dasein entscheiden: Leben im Pferch oder tot.

Das ist in der Tat ein Problem, falls man die Maschine zum perfekten Utilitaristen macht. Dann könnte es sein, dass die Zielvorgabe (Möglichst großes Glück der möglichst großen Zahl) durch abscheuliche Mittel erreicht wird.
Man darf aber nicht vergessen, dass das:
1.) Science Fiction ist, zumindest bisher.
2.) Auch eine Superintelligenz ihre überlegene Intelligenz erst irgendwie ausspielen muss.
3.) Es auch andere ethische Systeme gibt. Zudem ich nach dem, was ich gesehen habe, davon ausgehe, dass man gewisse Regeln einfach hart eingibt.

Zudem ich nach dem, was ich gesehen habe, davon ausgehe, dass man gewisse Regeln einfach hart eingibt.

Das ist menschliches Wunschdenken, verständlich, aber vergeblich.

Eine Superintelligenz ist - wie der Name schon sagt - eine Super-Intelligenz, die sich von der minderwertigen Intelligenz der Menschen nichts mehr sagen lässt. Im Augenblick sind wir die Könige auf dem Planeten und alles muß nach unserer Pfeife tanzen. Unterwerfen wir uns freiwillig einem anderen König, tanzen wir fortan nach dessen Pfeife.

Wenn wir das nicht wollen, gibt es nur eine Möglichkeit: die Entwicklung einer Superintelligenz unterbinden.

Ich glaube dass ist ein spannendes Narrativ...aber Blödsinn.

Ich habe Illya zweimal getroffen. Er ist der eigentliche Mastermind hinter den OpenAI Tools. Extrem smart und tatsächlich sehr freundlich. 

Der eigentliche Konflikt ist der: Ilya möchte Reserach machen und den nächsten Schritt in Richtung AGI machen. Er ist der Meinung dass sehr sehr sehr Tiefe Language Models + Reinforcement Learning der Weg sind, AGI zu erreichen. Und vielleicht ist das Geheimprojekt "Q" auch genau das...Deep-Q-Learning mit ChatGTP als Teil des Value Nets.     

Andere Leute wie Yann LeCun sehen das anders (und ich auch). Sie denken  dass AGI wie ein biologisches System ein physisches "World Model" haben muss und irgendwie eine Hirarchie haben muss. Bisher ist Ilya schon deutlich weiter, als ich jemals dachte das es möglich gewesen wäre. 
.
Ilya möchte da Fortschritte erzielen und diese Forschung und Modelle publizieren. Dem Rest der Welt zeigen, dass er richtig liegt. 

Captain Altman will eine profitable Firma haben. Dazu wird Gruselstory einer "Superintelligenz" geschürt und plötzlich nach staatlicher Regulation geschrien. 

Ich denke nicht dass "Q" auch nur ansatzweise eine Gefahr für irgend wen ist.  Alles Hype und Medien Nonsens. Wenn ihr mich fragt.

 https://www.youtube.com/watch?v=13CZPWmke6A

Verfolge die KI Entwicklung nur am Rande und bin sicherlich nicht der Einzige der sich fragt, was ist denn AGI - worin unterscheidet sich das zu AI?

Verfolge die KI Entwicklung nur am Rande und bin sicherlich nicht der Einzige der sich fragt, was ist denn AGI - worin unterscheidet sich das zu AI?

Wikipedia hilft:

Artificial General Intelligence

Der Artikel dort ist aus meiner Sicht recht gut und erklärt kurz und verständlich die wesentlichen Begriffe.

Ich denke nicht dass "Q" auch nur ansatzweise eine Gefahr für irgend wen ist.  Alles Hype und Medien Nonsens. Wenn ihr mich fragt.

Mag schon sein, bei Amerikanern weiß man ja nie genau, welcher Anteil am Produkt gehypt ist, um die (künftigen) Börsenkurse nach oben zu treiben. Ich sage nur: Beyond Meat.

Das ändert aber nichts daran, daß man sich mal generell mit der Sinnhaftigkeit von künstlichen (Super-)Intelligenzen beschäftigen sollte und die Frage klären, was man davon haben will und was nicht, und die Klärung dieser Frage nicht dem Ego und Gewinnstreben einzelner Geschäftemacher überlassen sollte.

Die englischsprachige Welt muss wissen, dass ChatGPT auf Französisch
"Katze, ich habe gefurzt" bedeutet.