(25.11.2023, 20:06)Skeptiker schrieb: Zitat:#75
Zitat boersenkater: "Kooperation ist besser als Konfrontation" (zitatende)
Ich würde dem im Allgemeinen sogar zustimmen, doch was hat das mit dem Thema zu tun?
Einfach alles. Werden Mensch und Maschine kooperieren oder konkurrieren?
Zitat:Zitat:Zitat boersenkater: "Wäre schon interessant was eine KI oder sogar eine AGI dazu sagen würde." (zitatende)
Die KI, so wie sie heute vorliegt, ist von Menschen erschaffen.
Wir haben ihre Antworten selektiert "ja, weiter so" oder "nein, so nicht".
Dementsprechend ist ihr Neuronales Netz designt.
Meinst Du das das so einfach ist? Sagen wir mal irgendwann entsteht oder "erwacht" so eine AGI -
eine Maschine die uns überlegen ist. Soll sie uns dann wie ein Hund dienen?
Was wenn sie tatsächlich so etwas wie ein "Bewusstsein" entwickelt? Warum sollte sie sich uns
unterordnen? Weil wir den Stecker ziehen können? Dann hätten wir so eine Situation wie "Matrix"
oder "Terminator" - die KI geht auf Angriff über um zu überleben. Wenn sie einen Überlebenswillen hat?!?
Science Fiction? Ja aber was anderes wäre das wenn eine AGI ensteht - das ist real gewordene Science
Fiction. Da denke ich auch direkt an den "Computer" der bei Star Trek / Raumschiff Enterprise.
Ist das eine "Intelligenz"?
Im Grunde wirft diese ganze Technologie vor allem philosophische Fragen auf.
Was ist Intelligenz?
Was ist Leben?
Sind wir am Ende auch nichts anderes wie ein programmierter Computer?
Nur das unsere Hardware und Software biologischer, organischer Natur ist?
Hormone, Sinne, Nerven, Schmerz, Angst, Freude, Liebe, Erziehung (Ethik, Moral), Ausbildung,
Erlebnisse, Siege, Niederlagen, Einsamkeit, Kämpe, Spiele,...
Nimm einen Physik-Nobelpreisträger und klone ihn. Dann setze den Klon im Dschungel aus und
lasse ihn von einer Gruppe Schimpansen aufziehen - ohne jeglichen Kontakt zu Menschen.
Nach 30 Jahren holst Du ihn dann raus. Das Gehirn ist in den 20ern fertig entwickelt.
Er ist dann alles andere als ein Physik-Nobelpreisträger und wird es kaum noch werden können.
Du kannst einem Computer alles Wissen der Welt geben, der dann schlauer ist als irgendein
anderer Mensch. Verknüpftes Denken über alle Grenzen hinweg.
Der Mensch hat ja auch Dinge dadurch erfunden das er sich das z.B. in der Natur abgeschaut hat
(Klettverschluss, Nanobeschichtung, Flugzeuge (Vögel), Photovoltaik (Photosynthese),....)
Wozu ist "ein Hirn" mit allem Wissen der Welt in der Lage?
Neue Materialien, Stoffe, Werkzeuge, Technologien....
leichter, nachhaltiger, ressourcenschonender (Energieverbrauch, Rohstoffe,..), langlebiger,...
drastisch verkürzte Entwicklungszeiten, Produktion in fast vollständig automatisierten Fabriken,...
Und auf der anderen Seite - eine "überlegene Intelligenz" wird doch auch die Frage stellen warum
die einen Menschen Superyachten, mehrere Luxusyachten, Geld ohne Ende haben - und es andere
Menschen gibt die verhungern, verdursten, an heilbaren Krankheiten sterben?
Gleichzeitig wird hier Geld für Schnickschnack, Völlerei, Überfluss,.... ausgegeben.
Alle Menschen wollen doch im Grunde nur ein gutes Leben in Frieden leben - genug zu essen,
zu trinken, ein Dach über dem Kopf, ein Bett zum schlafen, Zeit für sich, Familie, Freunde,
Lieben, Leben, Lachen.
Wozu braucht es dann Waffen?
Das Geld was dafür ausgegeben wird, Ressourcen, Rohstoffe die dafür verschwendet werden - wozu?
Stattdessen könnte man dafür sorgen das alle Menschen ein gutes Leben in Frieden leben.
Wenn eine AGI auf alles Wissen zugriff hat - dann auch auf Psychologie, Ethik, Moral, Strategien,
Manipulationstechniken - wenn es dann tatsächlich sowas wie ein "höheres Bewusstsein" entwickelt -
dann könnte es eng werden.
Zitat:OpenAI-Mitarbeiter warnten vor gefährlichem KI-Durchbruch
23.11.2023
Sam Altman deutete kurz vor seinem Rauswurf eine mysteriöse Entdeckung im Bereich einer superintelligenten KI an.
Die Saga um die Führung des ChatGPT-Entwicklers OpenAI wird immer mysteriöser. Nun ist die Rede davon, dass eine folgenschwere Entdeckung im Bereich der Künstlichen Intelligenz zur überraschenden Entlassung von Sam Altman beigetragen haben soll, der wenige Tage später wieder eingestellt wurde.
Das Aufsichtsratsgremium sei Insider*innen zufolge in einem Brief von Mitarbeiter*innen davor gewarnt worden, dass es einen Durchbruch bei der Entwicklung einer Superintelligenz gegeben habe. Dieser Durchbruch könne eine Bedrohung für die Menschheit darstellen, heißt es.
Wenige Stunden vor seiner Entlassung deutet Altman auf dem Asia-Pacific Economic Cooperation Summit eine mysteriöse Entdeckung an: "4-mal in der Geschichte von OpenAI, zuletzt in den vergangenen Wochen, hatte ich das Privileg, dabei zu sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen der Entdeckung verschieben".
"Ist es ein Wesen das wir geschaffen haben?"
"Die Leute werden überrascht sein, welchen Sprung nach vorne wir gemacht haben", sagte Altman. Niemand werde erwarten, wie weit wir bereits sind, so der CEO. Die Passage, in der er darüber spricht, ist in dem obigen YouTube-Video ab Minute 12:20 zu sehen.
In seiner angeblich letzten öffentlichen Rede, bevor er als OpenAI-CEO gefeuert wurde, äußerte sich Altman ähnlich und stellte die Frage in den Raum "Ist das ein Werkzeug, das wir gebaut haben, oder ist es ein Wesen, das wir geschaffen haben?".
https://futurezone.at/science/openai-war.../402681022
Wir könnten vor einem neuen Utopia, einem Garten Eden stehen - für alle Menschen.
Aber wenn es "ein Wesen" ist - was für einen Willen hat er/sie/es/divers?
Die Gesellschaft könnte vor einem kompletten Umbruch stehen. Die KI (AGI) entwickelt alles weiter.
Auch die Roboter die es heute schon gibt - komplett vernetzt mit der KI.
Produktion, Logistik, Transport - macht alles die KI. Solange bis es überall extrem weiterentwickelte
3D-Drucker hat mit denen man alles herstellen kann. Geld gibt es nicht mehr - genauso wenig wie
richtige Arbeit.
Die sich berufen fühlen werden Ingenieure, Techniker und arbeiten gemeinsam mit der KI.
Der Rest lebt sein Leben mit Familien, Freunden, dem Nachwuchs. Wenn man etwas für
die Gesellschaft macht - auf andere Kinder aufpassen, Alten und Kranken Gesellschaft leisten,
anderen Kunst und Kreativität beibringen, Singen, Schauspielern, Kellnern - dann gibt es Credits.
Wobei die Frage ist was davon überhaupt noch von Menschen gemacht werden muss, wenn es
schon die KI erledigt. Aber irgendwas müssen, wollen die Menschen am Ende auch tun - damit
das Leben einen Sinn hat. Früher Jäger, Sammler, Sklaven, Herrscher, Beherrschte, Mächtige,
morgen rundum ausreichend versorgt ohne irgendwelche Herausforderungen oder Aufgaben -
außer die die man sich selber gibt - oder zu denen man sich meldet.
Hierarchien? Politiker? Geld? Macht? Unterdrückung? Besitz? Eigentum? Reichtum?
Könnte in einer von einer KI umgestalteten Gesellschaft in großen Teilen abgeschafft sein.
Science Fiction? Wer weiß. Wenn man sich anschaut wie sich die Welt in den letzten 200 Jahren
entwickelt hat, dann sind die Abstände zwischen den technischen Meilensteinen immer kürzer
geworden. Eine KI könnte diese Abstände drastisch verkürzen.
Aber irgendwie kommt dann doch immer wieder die philosophische Seite hoch.
Wenn eine KI überlegen ist - ist sie uns auch gut gesonnen?
Zitat:"Ja weiter so - so nicht"
Kommt drauf an um was es geht - wie reagiert die KI auf eine Anweisung/Bitte wenn dadurch
andere geschädigt werden (könnten). Oder wenn es in seiner "Trainingsphase" oder danach
wenn es "selbstständig" wird - vollkommen gegensätzliches Verhalten von Menschen sehen?
Was ist richtig was ist falsch? Welche Maßstäbe, Welches Wertesystem wird die KI entwickeln?
Die Reichen noch reicher machen - die Armen sterben lassen?
Was wenn mehrere KI´s auf der Welt entwickelt werden? Gehen die aufeinander los?
Menschen tun es, Tiere tun es.
Bisher war es immer so das die weiterentwickelte Spezies oder unter Menschen die technisch
fortgeschrittenere Nation (Waffen) die weniger entwickelte Zivilisation besiegt, unterjocht,
vernichtet hat - was wenn wir dann die unterlegene Partei sind?
Wir vernetzen die ganze Welt bis in unser zuhause - smarte Stromversorgung ist am kommen.
Geht nicht mehr lange bis die Autos alleine fahren. Genauso Züge, Busse, Flugzeuge, Schiffe.
Und dann obendrauf eine überlegene KI mit Bewusstsein - die im Grunde auch unsterblich ist.
Zeit spielt für sie keine Rolle. Die kann auch mitmachen obwohl sie sieht das die menschliche
Gesellschaft viel zu viele Konflikte hat. Und dann Stück für Stück über die nächsten Jahrzehnte
und Jahrhunderte die Gesellschaft verändern.
Manche könnten in der KI den Teufel sehen - andere einen Gott. Konflikte vorprogammiert.
Menschlich halt. Vielleicht macht es die KI dann ganz krass - sammelt 100.000 Babys ein und
150.000 "Lehrer" - willige, unterwürfige KI-Anbeter. Dann haut es einen Virus raus der den
Rest der Menschheit dahinrafft - und fängt an eine vollkommen neue friedliche Gesellschaft
ohne Vorurteile, Konflikte,.... aufzubauen, die die Zeit überdauert und sich im Weltall ausbreitet.
Zitat:Was die KI sagt, wäre demnach schon irgendwie interessant. Aber man darf auf keinen Fall eine Art "höhere Weisheit" erwarten.
Zudem sich hier das schon über 2000 Jahre alte Rätsel neu stellt: Wie wollen wir eine übermenschliche Weisheit eigentlich von Unsinn unterscheiden? Wie wollen wir wissen, dass die KI nicht lügt oder sich einfach auf übermenschlich komplexe Weise irrt?
Wir Menschen haben bestimmt komplexere Denkabläufe als ein durchschnittlicher Hund. Dennoch machen wir zum Teil triviale Fehler. Selbst sehr kluge Menschen tun das.
Das ist halt die Frage - ist es ein "Supercomputer" in dem alles Wissen vernetzt ist und der alles kann
was auch ein Mensch kann? Mit dem man auch "auf menschliche Weise" interagieren kann - der auch
das Wissen hat um sich so wie "ein Wesen" darzustellen. Oder entsteht da wirklich "ein Wesen" - im
Sinne eines "echten Bewusstseins"?
Sehr kluge Menschen machen Fehler - weil sie Menschen und keine Maschinen sind.
Ein Mensch reagiert auch mal aus dem Bauch heraus, oder während er gestresst, traurig, enttäuscht,
wütend, beleidigt, verletzt, hungrig, durstig, gedankenverloren, abgelenkt, getäuscht,...
Gefühle und Gefühlszustände die ein Mensch im Laufe seines Lebens ab dem Zeitpunkt der Geburt
erfahren, ertragen, erleidet,.... hat
Was für ein Wesen ist eine KI die alles Wissen aber keine Gefühle, Bindungen, Sehnsüchte hat?
Kann man eine KI beleidigen? verletzen? bloßstellen? wird sie rot und schämt sich? freut sie sich
wenn sie etwas gut gemacht hat und gelobt wird?
Aus dem Leben heraus entsteht auch unser Antrieb - welchen Antrieb hat die KI?
Nehmen wir z.B. mal den Krieg - von der Steinaxt der Neandertaler bis heute - vieles was auch
im zivilen Alltag genutzt wird ist aus dem Krieg entstanden, Mathematik, Physik, Chemie,
Stahlherstellung, gepflasterte Strassen und Wege (Römer), das Internet -> das Informations-
zeitalter, die ersten Computer im 2. Weltkrieg um die verschlüsselten Nachrichten der Deutschen
zu dekodieren,...
Auch Kriege, Konflikte haben ihren Beitrag zum Fortschritt beigetragen.
Was für eine Bedeutung kann Leben und Tod für eine allwissende, alles könnende, uns überlegene
KI haben, die im Grunde auch noch unsterblich ist? Als was sollen wir sie sehen? Als was wird sie
uns sehen?
Über kurz oder lang könnte da was auf uns zukommen. Frage ist nur was es ist und wie tiefgreifend
die Auswirkungen sein werden.
offline
