offline
(24.11.2023, 20:48)Speculatius schrieb: Über alles das wird sich die Superintelligenz hinwegsetzen, sonst wäre sie keine. Sie handelt nur nach ihren eigenen von ihr selbst entwickelten Kriterien.
Wir Menschen folgen in gewisser Weise auch bestimmten Programmen.
Speculatius schrieb:Sie versucht sich zu erhalten, zu vermehren und fortzuentwickeln, auf Kosten der übrigen Lebewesen und Umwelt.
Wieso?
Bei biologischen Leben lautet die Antwort auf diese Frage "Evolution". Eine eigene Evolution hat eine Superintelligenz aber nicht gehabt.
Speculatius schrieb:Und nun darfst du dich für eine der Superintelligenzen und deinem zukünftigen Dasein entscheiden: Leben im Pferch oder tot.
Das ist in der Tat ein Problem, falls man die Maschine zum perfekten Utilitaristen macht. Dann könnte es sein, dass die Zielvorgabe (Möglichst großes Glück der möglichst großen Zahl) durch abscheuliche Mittel erreicht wird.
Man darf aber nicht vergessen, dass das:
1.) Science Fiction ist, zumindest bisher.
2.) Auch eine Superintelligenz ihre überlegene Intelligenz erst irgendwie ausspielen muss.
3.) Es auch andere ethische Systeme gibt. Zudem ich nach dem, was ich gesehen habe, davon ausgehe, dass man gewisse Regeln einfach hart eingibt.
