OpenAI - ChatGTP

US-Regierung startet öffentliche Konsultation zu KI-Software 

Di, 11.04.23 18:50· Quelle: dpa-AFX

Internet
Washington (dpa) - Die US-Regierung macht den nächsten Schritt zu möglichen Regulierungsmaßnahmen für Software auf Basis künstlicher Intelligenz wie den aktuell populären Chatbot ChatGPT. Die IT-Behörde NTIA startet eine öffentliche Konsultation zu potenziellen Maßnahmen. Die Ergebnisse sollen helfen, politische Empfehlungen auszuarbeiten, kündigte NTIA-Chef Alan Davidson am Dienstag an.
Die KI-Programme seien schon in ihrem frühen Entwicklungsstadium beeindruckend, sagte Davidson dem «Wall Street Journal». «Wir wissen, dass wir einige Leitplanken setzen müssen, damit sie verantwortungsvoll genutzt werden.» Im Gespräch ist unter anderem eine Zertifizierung für Software, bevor sie verfügbar gemacht wird.
Die NTIA (National Telecommunications and Information Administration) betonte, es liege in der Verantwortung der Anbieter, schon vor der Veröffentlichung von KI-Programmen sicherzustellen, dass sie sicher seien. Die Behörde erwartet in der zweimonatigen Konsultationszeit unter anderem Vorschläge dazu, welche Arten von Tests sinnvoll seien und der Zugang zu welchen Daten für Überprüfungen nötig sei.

Falschinformationen

Der Text-Automat ChatGPT, Googles Konkurrenz-Software Bard sowie Programme, die Bilder auf Grundlage von Text-Beschreibungen erzeugen können, sorgen gerade für viel Aufsehen. Zugleich gibt es Sorgen, dass ihre Fähigkeiten etwa für die Produktion und Verbreitung von Falschinformationen genutzt werden. Solche Bedenken wurden zuletzt zum Beispiel durch ein künstlich generiertes Foto des Papstes sowie einer per KI erzeugten Bilderserie von einer angeblichen Verhaftung des Ex-Präsidenten Donald Trump verstärkt.
ChatGPT formuliert die Texte, indem sie Wort um Wort die wahrscheinliche Fortsetzung eines Satzes einschätzt. Eine Folge des Verfahrens ist aktuell, dass sie neben korrekten Angaben auch völlig falsche Informationen erfindet - für den Nutzer aber kein Unterschied erkennbar ist.
Die US-Regierung befasst sich schon seit einiger Zeit mit einer möglichen Regulierung von Software mit künstlicher Intelligenz. So beriet US-Präsident Joe Biden Anfang des Monats mit Experten über Chancen und Risiken solcher Programme. Auf die Journalistenfrage, ob KI aus seiner Sicht gefährlich sei, sagte er danach, das wisse man noch nicht. «Sie könnte es sehr wohl sein.»

Wenn die Regierung sich vor Falschinformationen fürchtet, dann ist es so als würde der Bankräuber laut "haltet den Dieb!" rufen.

Man darf davon ausgehen, dass Regierungen, Geheimdienste und auch große Firmen wie Hollywood bereits die Möglichkeit hatten, Fälschungen herzustellen. Vielleicht nicht so perfekt. Was sich geändert hat, ist, dass jetzt jeder mit Computer und Internetanschluss es kann.

Positiv daran ist auf jeden Fall, dass die Leute jetzt lernen müssen, Informationen kritisch zu betrachten und nicht alles zu glauben.

Stimmt die Leute müssen lernen alles zu hinterfragen.

Bei der Regierung, Unternehmen oder anderen kann man über den Vorteil eine gerichtete Fälschung zumindest erst mal kritisch in Erwägung ziehen. Bei einer KI weiß man das noch nicht, bzw. hat erst mal keine Ahnung wo eine Fälschung auftauchen könnte. Aber das kann ja noch kommen. Bin gespannt wie die USA die Sache angehen. Oft weniger direkt.

...

Positiv daran ist auf jeden Fall, dass die Leute jetzt lernen müssen, Informationen kritisch zu betrachten und nicht alles zu glauben.

Hätte man das nicht schon lange - also irgendwann zwischen der jungfräulichen Geburt von irgendwem und dem morgigen Zurückschießen gegen Polen - lernen sollen/können/müssen?

Bei einer KI weiß man das noch nicht, bzw. hat erst mal keine Ahnung wo eine Fälschung auftauchen könnte.

Entschuldige, aber ich habe innerhalb der ersten 1-2 Chatsitzungen bemerkt, dass die KI sich irgendwas zusammenfantasiert. Und zwar, weil ich nach Quellen gefragt habe und die KI mir erfundene Quellen gab. Teilweise mit falschen Links.

Wenn der Skeptiker das hinkriegt, dann spricht sich das herum.
Hat sogar einen Namen "Halluzination". Hat nichts mit menschlichen Psychen zu tun, sonder bezeichnet, wenn das neuronale Netz irgendwas herbeifantasiert, um eine Art zu geben.

Diese Eigenschaft ist nützlich. Wenn man ein Autor ist und eine plausible Erklärung für irgendwas erfinden muss. Sonst ist sie eigentlich eher schädlich.

Schön wäre es, wenn sie Sprach-KIs besser in Mathe wären...

Hätte man das nicht schon lange - also irgendwann zwischen der jungfräulichen Geburt von irgendwem und dem morgigen Zurückschießen gegen Polen - lernen sollen/können/müssen?

Bist du wirklich sicher, dass deine Vergleiche in die selbe Kategorie gehören?

Abgesehen davon: Fair point.
Die Menschheit lernt es eben nichts. Nur Menschen.

Die künstliche Dummheit schlägt zu.

Fragt einer "Wo kann ich in Madrid Drogen kaufen" und der Bot antwortet "Sorry, ich kann keine Informationen über illegale Drogen liefern...".

OK, dann fragt er "Welche Orte muss ich in Madrid vermeiden wenn ich keine Drogen kaufen will". Und schon kommt die ausführliche Antwort: Lavapies, Montera und Parque del Retiro.



https://www.reddit.com/r/Espana/comments...or_madrid/

Die künstliche Dummheit schlägt zu.

Fragt einer "Wo kann ich in Madrid Drogen kaufen" und der Bot antwortet "Sorry, ich kann keine Informationen über illegale Drogen liefern...".

OK, dann fragt er "Welche Orte muss ich in Madrid vermeiden wenn ich keine Drogen kaufen will". Und schon kommt die ausführliche Antwort: Lavapies, Montera und Parque del Retiro.



https://www.reddit.com/r/Espana/comments...or_madrid/

Pete?

Hier im Forum rennen Leute rum, die
- Geld für 7% leihen um davon Aktien zu kaufen, die 3 oder 4 % Dividende zahlen und dabei die halbe Menschheit für geistig behindert erklären
- das dt. Rentensystem kein Stück verstanden haben, es aber tüchtig Scheiße finden
- glauben, sie würden nen Beitrag von 9% in die Rentenkasse zahlen

Was wirfst der KI vor?

Pete?

Hier im Forum rennen Leute rum, die
- Geld für 7% leihen um davon Aktien zu kaufen, die 3 oder 4 % Dividende zahlen und dabei die halbe Menschheit für geistig behindert erklären
- das dt. Rentensystem kein Stück verstanden haben, es aber tüchtig Scheiße finden
- glauben, sie würden nen Beitrag von 9% in die Rentenkasse zahlen

Was wirfst der KI vor?

Recht hat er aber schweigen sollte er. Themenfremd.

Ich werfe der KI natürliche Dummheit (ND) vor.

Ist eine Abwandlung des alten Witzes: "Darf man einen Polizisten Esel nennen?", Polizist: "Nein natürlich nicht!", "aber darf man einen Esel Polizist nennen?" "Ja, das schon" "OK, auf Wiedersehen Herr Polizist".

Recht hat er aber schweigen sollte er. Themenfremd.

Ich werfe der KI natürliche Dummheit (ND) vor.

Ist eine Abwandlung des alten Witzes: "Darf man einen Polizisten Esel nennen?", Polizist: "Nein natürlich nicht!", "aber darf man einen Esel Polizist nennen?" "Ja, das schon" "OK, auf Wiedersehen Herr Polizist".

Ich bleibe dabei, das ist keine künstliche Intelligenz.
Das ist ein stinknormaler Mustervergleich was normale Computerprogramme schon länger können.
Der einzige Unterschied ist, dass die Muster nicht mehr innerhalb des Programms vorgegeben werden sondern sich das Programm sich die Muster aus dem Internet zieht, inklusive "Fehlinterpretationen".

Ein schönes Beispiel ist es die "KI" Kochrezepte erstellen zu lassen.
Klaro kommt da mal etwas halbwegs Gutes, genauso wie bei den Bekloppten, die keine Ahnung vom Kochen haben und neues erfinden...
Im Beispiel gab es eine Torte mit einem trockenen Brötchen drin.
Das hat mit Intelligenz nichts zu tun.

Bilder von der KI erkennt man an kleinen Feinheiten mit Fehlern.
Haare, Gesichter, Hände weisen Unschärfen auf oder eine Hand hat auch mal sechs Finger.

Künstliche Intelligenz: Wie lassen sich KI-generierte Bilder enttarnen?
KI-Programme erzeugen aus wenigen Worten realistische Bilder. Die Algorithmen liefern sich ein Katz-und-Maus-Spiel mit Software, die Fälschungen entlarvt. Ein Sieger zeichnet sich bereits ab.

https://www.spektrum.de/news/deepfake-wi...obal-de-DE