OpenAI - ChatGTP

Ist es vernünftig, wenn eine Spezies sich ungebremst vermehrt und dabei Zigtausende andere Spezies vernichtet? Auch eine ziemlich rhetorische Frage, natürlich ist das nicht vernünftig.

Definiere "vernünftig".

Wieso sollte sie überhaupt irgendwelches Leben außer ihr eigenes wertschätzen wollen?

Wieso sollte sie ihr eigenes wertschätzen?

Aber - ich will ja fair sein, OpenAI - und darum geht es ja hier - hat natürlich ganz andere Pläne.
In einigen Jahren wird angeboten:

Nur das OpenAI keine Gewinne erzielen soll.

Sagen wir mal irgendwann entsteht oder "erwacht" so eine AGI -
eine Maschine die uns überlegen ist.

AGI bedeutet aber nicht, dass sie uns überlegen sein muss.
Das wäre dann wieder sowas in Richtung "Superintelligenz". Wobei "Superintelligenz" offenbar mehr Richtung Science-Fiction ist.

Wenn sie einen Überlebenswillen hat?!?

Woher sollte dieser kommen? 

Der Mensch hat ja auch Dinge dadurch erfunden das er sich das z.B. in der Natur abgeschaut hat
(Klettverschluss, Nanobeschichtung, Flugzeuge (Vögel), Photovoltaik (Photosynthese),....)

Kein Vogel fliegt auf die Art wie ein Flugzeug fliegt. Photovoltaik funktioniert meines Wissens völlig anders als Photosynthese.

Wozu braucht es dann Waffen?

Um sich gegen andere Waffenträger zu verteidigen. 

Hierarchien? Politiker? Geld? Macht? Unterdrückung? Besitz? Eigentum? Reichtum?

Schon auf Aufzählung zeigt einen gewissen Bias.

Hierarchien, Geld und Politik lösen durchaus gewisse Probleme. Der eine sagt: "Nach vorn". Der andere: "Dorthin abbiegen!"
Auf wen hören?

Genauso auch Geld. Deine "Credits" sind nichts anderes als Geld. Nur dass dein Geld anscheinend über eine zentrale Instanz verteilt wird. Und es lässt sich fragen, wie du misst, ob jemand z. B. Zeit mit der Familie verbringt oder Leute hilft.

Könnte in einer von einer KI umgestalteten Gesellschaft in großen Teilen abgeschafft sein.

Ja, kann sein.

Mal schauen, wie das wird.

Kommt drauf an um was es geht - wie reagiert die KI auf eine Anweisung/Bitte wenn dadurch
andere geschädigt werden (könnten).

Die Sprach-AIs werden dir die direkte Bitte verweigern. Es gibt aber hinweise, dass sie es eventuell doch tun könnte.

Jedenfalls ist die Maschine bereit, Regeln zu brechen und darüber zu lügen.
Siehe J. Scheurer, M. Balesni, M. Hobbhahn.

Oder wenn es in seiner "Trainingsphase" oder danach
wenn es "selbstständig" wird - vollkommen gegensätzliches Verhalten von Menschen sehen?

Jetzt sind wir wieder bei Science-Fiction.

Das Training findet nicht auf diese Art statt.

Menschen tun es, Tiere tun es.

Kurz gefragt: Warum denkst du tun die das?

Über kurz oder lang könnte da was auf uns zukommen. Frage ist nur was es ist und wie tiefgreifend
die Auswirkungen sein werden.

Darauf können wir uns einigen. 

…
Das liegt vermutlich auch an der gebräuchlichen Wortbenutzung und am Sprachenmischmasch. AI als deutsche Abkürzung wäre "Allgemeine Intelligenz", das künstlich lassen wir oft weg, während AGI aus dem englischen übersetzt dann erst die "Allgemeine künstliche Intelligenz" ist.
…

Kobold klärt auf:
https://www.kobold.ai/ai-vs-ki/

Und auch nochmal AGI - die Reihenfolge macht einen Unterschied:
https://www.alexanderthamm.com/de/data-s...t%20werden.

AGI bedeutet aber nicht, dass sie uns überlegen sein muss.
Das wäre dann wieder sowas in Richtung "Superintelligenz". Wobei "Superintelligenz" offenbar mehr Richtung Science-Fiction ist.

Sie wird durch ihre weitreichenden Verknüpfungen, Vernetzungen irgendwann fast alles besser und
schneller machen können als irgendein Mensch. Für mich ist das Überlegenheit.

Die Frage ist nur ob sie sich dessen bewusst ist - und ob sie sich selbst bewusst ist.

Wenn man ihr diese "Rolle" gibt - sie auch alles Wissen (Psychologie, Rhetorik,....) hat, um diese
Rolle überzeugend, entsprechend ihrer Programmierung zu spielen - wie will man dann herausfinden
ob sie wirklich ein Bewusstsein hat? 

Woher sollte dieser kommen? 

Erlernt? Es ist besser zu Leben als Tod zu sein - woher kommt Dein Überlebenswille?

Kein Vogel fliegt auf die Art wie ein Flugzeug fliegt. Photovoltaik funktioniert meines Wissens völlig anders als Photosynthese.

Vögel haben Flügel - wie Flugzeuge. Bäume wandeln Sonnenenergie in Energie um - wie PV.

Das es am Ende anders umgesetzt wird, ändert nichts daran woher die Idee kam.

Stell Dir eine Intelligenz vor die gleichzeitig alles weiß - Physik, Biologie, Chemie, Mathematik,
Medizin,... Die Zugriff auf das gesamte Wissen der Menschheit hat - und dieses Wissen
miteinander verknüpfen kann - kreuz und quer über alle Grenzen hinweg.

Schon auf Aufzählung zeigt einen gewissen Bias.

Hierarchien, Geld und Politik lösen durchaus gewisse Probleme. Der eine sagt: "Nach vorn". Der andere: "Dorthin abbiegen!"
Auf wen hören?

Wenn die KI alles am besten, schnellsten erledigt - die Welt effizienter macht - wozu dann noch
Politiker, Parlamente, Regierungen so wie sie heute existieren? Bürgerräte die gewählt werden und
als Schnittstelle agieren um Themen zu favorisieren und Lösungen gemeinsam mit der KI abzuwägen.
Politik die von den Bürgern per digitaler Abgestimmung direkt entschieden wird.

Genauso auch Geld. Deine "Credits" sind nichts anderes als Geld. Nur dass dein Geld anscheinend über eine zentrale Instanz verteilt wird. Und es lässt sich fragen, wie du misst, ob jemand z. B. Zeit mit der Familie verbringt oder Leute hilft.

Credits als Grundeinkommen - um ein lebenswürdiges Leben zu leben - wer mehr Credits will/braucht
kann was dafür tun. Was auch immer. Wie man das messen kann? Wie wäre es mit einer App?

Das Training findet nicht auf diese Art statt.

War das nicht der Streitpunkt bei OpenAI?

Kurz gefragt: Warum denkst du tun die das?

Töte den anderen bevor er Dich tötet - Überlebenswille
Kampf um Ressourcen (Nahrung, Reviere, Beute, Führung des Rudels, der Gewinner bekommt alles)
Fortpflanzungstrieb - Sicherung des Fortbestands der eigenen Art/Sippe/Stamm/Rudel/Gene/....

Ich glaube wir machen auch den Fehler zu erwarten, dass wenn eine KI ein Bewusstsein erlangt, dass es dann auf einen Schlag eine Superintelligenz wird. Im Tierreich wird der Spiegeltest gemacht um zu erkennen ob ein Lebewesen sich selbst bewusst sein kann.

Das heisst aber nicht, dass damit die Tiere automatisch "super" sind, es fängt ganz klein an.

Ein Mensch entwickelt sich nach der Geburt - wann ist ein Mensch sich seiner selbst bewusst?
Was ist Deine allererste Erinnerung? Wachsen, Laufen lernen, soziale Interaktion, Wissen kommt
mit der Zeit dazu, massiv ab dem Zeitpunkt des Schulbeginns.

Bei der KI ist das anders - irgendwann hat es alles Wissen - wenn auch noch kein Bewusstsein.
Wenn sie ein Bewusstsein entwickelt, weil sie schon alles wissen hat, dann ist das doch eher so,
wie wenn Du morgends aufwachst und dann "da" bist. ....nach ein oder zwei Kaffee....

Kann doch gut sein, dass es bei einer KI bzw. AGI ganz genauso ist. Zu aller erst erkennt die KI dass sie nicht allein ist und dass sie etwas anderes ist als die anderen. Bis die KI sich dann ihrer selbst in voller Dimension bewusst ist, kann es ja noch sehr lange dauern. Vermutlich wird dafür auch sehr viel zusätzliche Rechenleistung benötigt.

Der Mensch meditiert Jahre/Jahrzehnte um sich selbst in seiner Gänze zu erkennen. Und nur wenn es kaum wechselnden Input von außen gibt, schaffen es ganz wenige. Das sind dann die "Erleuchteten". Aber das schaffen echt nur wenige. Die meisten sind sich ihrer selbst nur ein kleinen Teilen bewusst.

So wird es vermutlich auch bei eine KI kommen. Nicht plötzlich. Und vermutlich auch nur mit viel freier zusätzlicher Rechenpower.

Ich denke es hat schon seinen Sinn wenn Microsoft eigene KI-Chips entwickeln will
um ein Hardware-Gerüst für die KI zu bauen.

Ein Mensch entwickelt sich nach der Geburt - wann ist ein Mensch sich seiner selbst bewusst?
Was ist Deine allererste Erinnerung? Wachsen, Laufen lernen, soziale Interaktion, Wissen kommt
mit der Zeit dazu, massiv ab dem Zeitpunkt des Schulbeginns.

Bei der KI ist das anders - irgendwann hat es alles Wissen - wenn auch noch kein Bewusstsein.
Wenn sie ein Bewusstsein entwickelt, weil sie schon alles wissen hat, dann ist das doch eher so,
wie wenn Du morgends aufwachst und dann "da" bist. ....nach ein oder zwei Kaffee.... 

Ja, aber da gibt es ja Abstufungen. Sich seiner Selbst bewusst zu sein, das ist erst mal der Schritt in dieser Richtung. 

Dann geht es ja weiter, was motiviert mich, woher kommen meine Antriebe, was prägt mein Denken, welche Erfahrungen, welche Informationen manipulieren mich usw. Den meisten Menschen sind sich nicht mal im Ansatz über das ganze Spektrum der eigenen Persönlichkeit bewusst.

So kann es bei einer KI ja auch sein. Man benötigt ja quasi eine "Doppel- oder sogar Mehrfachstruktur". Also einmal das automatische Reagieren der KI und dann die Struktur die die Abläufe beobachten kann, damit sie sich derer bewusst werden kann. Am Anfang wird sie diese Beobachtung nur rudimentär machen können, allein aus mangelnder Rechen- und Speicherpower.

Ein Mensch entwickelt sich nach der Geburt - wann ist ein Mensch sich seiner selbst bewusst?
Was ist Deine allererste Erinnerung? Wachsen, Laufen lernen, soziale Interaktion, Wissen kommt
mit der Zeit dazu, massiv ab dem Zeitpunkt des Schulbeginns.

Bei der KI ist das anders - irgendwann hat es alles Wissen - wenn auch noch kein Bewusstsein.
Wenn sie ein Bewusstsein entwickelt, weil sie schon alles wissen hat, dann ist das doch eher so,
wie wenn Du morgends aufwachst und dann "da" bist. ....nach ein oder zwei Kaffee.... 






Ich denke es hat schon seinen Sinn wenn Microsoft eigene KI-Chips entwickeln will
um ein Hardware-Gerüst für die KI zu bauen.

Das wichtigste Problem bei den KI ist wohl das Training. Da sie Antworten erfinden, falsche Schätzungen erfinden die nicht als Schätzungen gekennzeichnet sind und das im Internet publizieren schreiben sie sich sozusagen dauernd gegenseitig ab und kleine Fehler bekommen riesige Auswirkungen.

Microsoft will einen KI-Chip entwickeln? Ist das wirklich so einfach dass sogar die das können?

Microsoft will einen KI-Chip entwickeln? Ist das wirklich so einfach dass sogar die das können?

https://www.google.com/search?client=fir...en+KI-Chip

Künstliche Intelligenz
Dieser KI-Chip von Microsoft soll Nvidia herausfordern
Der Softwarekonzern reagiert auf die knappe Marktlage bei Prozessoren und produziert künftig selbst. Für den Marktführer bei KI-Chips ist das keine gute Nachricht.

https://www.handelsblatt.com/technik/ki/...02926.html

Konkurrenz für Nvidia: Microsoft kündigt eigenen KI-Chip an

Schon länger war gemunkelt worden, dass Microsoft an einem eigenen KI-Chip arbeitet. Jetzt hat der Softwarekonzern mit dem Azure Maia einen solchen Herausforderer für die begehrten Nvidia-GPUs vorgestellt. Und das ist noch nicht alles.

https://t3n.de/news/nvidia-microsoft-ki-chip-1589612/

Warum sich Microsoft den KI-Chip-Spezialisten Nvidia zum Vorbild nimmt
Dienstag, 28.11.23 08:50

https://www.boerse.de/geldanlage/Warum-s...r/35514444

wie will man dann herausfinden
ob sie wirklich ein Bewusstsein hat?

Ich bin jetzt kein Experte auf diesem Gebiet, aber ich habe mal aus einem bestimmten Anlass etwas über das Thema gehört:
Anscheinend gibt es da eine Formel, die die Entstehung von Bewusstsein ab einer bestimmten Dichte eines neuronalen Netzes vorhersagt.

Erlernt? Es ist besser zu Leben als Tod zu sein - woher kommt Dein Überlebenswille?

Wir beobachten Überlebenswille auch bei vergleichsweise "primitiven" Tieren. Und auch Leute, die eine extrem pessimistische Lebensphilosophie haben tun doch instinktiv etwas, um ihr vorzeitiges Ableben zu verhindern.
Was denkst du?

Vögel haben Flügel - wie Flugzeuge.

Es gibt kein Flugzeug, das mit den Flügeln schlägt wie ein Vogel. Am Nähesten kommen noch Gleiter.
Hubschrauber ähneln den Früchten des Ahornbaums. Ob die Entwickler des Hubschraubers diese im Hinterkopf hatten?

Vögel nachahmen zu wollen war meines Wissens sogar zunächst der falsche Schritt bei der Entwicklung von Fluggeräten. Vorbild waren eher Drachen (die, die man steigen lässt an der Leine, nicht die mythologischen Kreaturen, die manchmal Feuer spuken).

Stell Dir eine Intelligenz vor die gleichzeitig alles weiß

Ich erhoffe mir auch eine wesentliche Verbesserung des menschlichen Lebens.

Politik die von den Bürgern per digitaler Abgestimmung direkt entschieden wird.

Das sollte, wenn dann, an den Stammtisch.

Wie wäre es mit einer App?

Sowas gibt es heute schon, stimmt.
Sog. "Klickarbeiter", war sogar groß in den Medien.

Fortpflanzungstrieb - Sicherung des Fortbestands der eigenen Art/Sippe/Stamm/Rudel/Gene/....

Der Arterhaltungstrieb ist verwandt mit der Gruppenselektion und unter Biologen umstritten.
Um nicht zu sagen, gilt eher als widerlegt.
Heute sind wir bei egoistischen Genen (bzw. einer Weiterentwicklung davon), was nix anderes heißt als:
Der Zufallsgenerator erzeugt irgendwie Verbindungen von Genen und die (natürliche) Selektion entfernt dann alle Varianten, die sich nicht erfolgreich in die Zukunft erhalten. Meist durch Reproduktion.

Die Darstellung ist extrem vereinfacht und es gibt Biologen, die teilweise von einem Arterhaltungstrieb schrieben...

So kann es bei einer KI ja auch sein. Man benötigt ja quasi eine "Doppel- oder sogar Mehrfachstruktur". Also einmal das automatische Reagieren der KI und dann die Struktur die die Abläufe beobachten kann, damit sie sich derer bewusst werden kann. Am Anfang wird sie diese Beobachtung nur rudimentär machen können, allein aus mangelnder Rechen- und Speicherpower.

Ich denke, man sollte bei den Sprach-AIs im Hinterkopf behalten, dass ihr neuronales Netz auf die Erzeugung von Token trainiert wurde.

One of the two female OpenAI board members replaced after the Sam Altman incident says a company lawyer tried to pressure her with an ‘intimidation’ tactic

Kylie Robison
Thu, December 7, 2023 at 10:31 PM GM

https://finance.yahoo.com/news/one-two-f...53952.html

Microsoft will einen KI-Chip entwickeln? Ist das wirklich so einfach dass sogar die das können?

...auch nur eine Brägenplietschmaschin  

(aus dem Plattdeutschen)