offline
US-Regierung startet öffentliche Konsultation zu KI-Software
Di, 11.04.23 18:50· Quelle: dpa-AFX
Internet
Washington (dpa) - Die US-Regierung macht den nächsten Schritt zu möglichen Regulierungsmaßnahmen für Software auf Basis künstlicher Intelligenz wie den aktuell populären Chatbot ChatGPT. Die IT-Behörde NTIA startet eine öffentliche Konsultation zu potenziellen Maßnahmen. Die Ergebnisse sollen helfen, politische Empfehlungen auszuarbeiten, kündigte NTIA-Chef Alan Davidson am Dienstag an.
Die KI-Programme seien schon in ihrem frühen Entwicklungsstadium beeindruckend, sagte Davidson dem «Wall Street Journal». «Wir wissen, dass wir einige Leitplanken setzen müssen, damit sie verantwortungsvoll genutzt werden.» Im Gespräch ist unter anderem eine Zertifizierung für Software, bevor sie verfügbar gemacht wird.
Die NTIA (National Telecommunications and Information Administration) betonte, es liege in der Verantwortung der Anbieter, schon vor der Veröffentlichung von KI-Programmen sicherzustellen, dass sie sicher seien. Die Behörde erwartet in der zweimonatigen Konsultationszeit unter anderem Vorschläge dazu, welche Arten von Tests sinnvoll seien und der Zugang zu welchen Daten für Überprüfungen nötig sei.
Falschinformationen
Der Text-Automat ChatGPT, Googles Konkurrenz-Software Bard sowie Programme, die Bilder auf Grundlage von Text-Beschreibungen erzeugen können, sorgen gerade für viel Aufsehen. Zugleich gibt es Sorgen, dass ihre Fähigkeiten etwa für die Produktion und Verbreitung von Falschinformationen genutzt werden. Solche Bedenken wurden zuletzt zum Beispiel durch ein künstlich generiertes Foto des Papstes sowie einer per KI erzeugten Bilderserie von einer angeblichen Verhaftung des Ex-Präsidenten Donald Trump verstärkt.
ChatGPT formuliert die Texte, indem sie Wort um Wort die wahrscheinliche Fortsetzung eines Satzes einschätzt. Eine Folge des Verfahrens ist aktuell, dass sie neben korrekten Angaben auch völlig falsche Informationen erfindet - für den Nutzer aber kein Unterschied erkennbar ist.
Die US-Regierung befasst sich schon seit einiger Zeit mit einer möglichen Regulierung von Software mit künstlicher Intelligenz. So beriet US-Präsident Joe Biden Anfang des Monats mit Experten über Chancen und Risiken solcher Programme. Auf die Journalistenfrage, ob KI aus seiner Sicht gefährlich sei, sagte er danach, das wisse man noch nicht. «Sie könnte es sehr wohl sein.»
Di, 11.04.23 18:50· Quelle: dpa-AFX
Internet
Washington (dpa) - Die US-Regierung macht den nächsten Schritt zu möglichen Regulierungsmaßnahmen für Software auf Basis künstlicher Intelligenz wie den aktuell populären Chatbot ChatGPT. Die IT-Behörde NTIA startet eine öffentliche Konsultation zu potenziellen Maßnahmen. Die Ergebnisse sollen helfen, politische Empfehlungen auszuarbeiten, kündigte NTIA-Chef Alan Davidson am Dienstag an.
Die KI-Programme seien schon in ihrem frühen Entwicklungsstadium beeindruckend, sagte Davidson dem «Wall Street Journal». «Wir wissen, dass wir einige Leitplanken setzen müssen, damit sie verantwortungsvoll genutzt werden.» Im Gespräch ist unter anderem eine Zertifizierung für Software, bevor sie verfügbar gemacht wird.
Die NTIA (National Telecommunications and Information Administration) betonte, es liege in der Verantwortung der Anbieter, schon vor der Veröffentlichung von KI-Programmen sicherzustellen, dass sie sicher seien. Die Behörde erwartet in der zweimonatigen Konsultationszeit unter anderem Vorschläge dazu, welche Arten von Tests sinnvoll seien und der Zugang zu welchen Daten für Überprüfungen nötig sei.
Falschinformationen
Der Text-Automat ChatGPT, Googles Konkurrenz-Software Bard sowie Programme, die Bilder auf Grundlage von Text-Beschreibungen erzeugen können, sorgen gerade für viel Aufsehen. Zugleich gibt es Sorgen, dass ihre Fähigkeiten etwa für die Produktion und Verbreitung von Falschinformationen genutzt werden. Solche Bedenken wurden zuletzt zum Beispiel durch ein künstlich generiertes Foto des Papstes sowie einer per KI erzeugten Bilderserie von einer angeblichen Verhaftung des Ex-Präsidenten Donald Trump verstärkt.
ChatGPT formuliert die Texte, indem sie Wort um Wort die wahrscheinliche Fortsetzung eines Satzes einschätzt. Eine Folge des Verfahrens ist aktuell, dass sie neben korrekten Angaben auch völlig falsche Informationen erfindet - für den Nutzer aber kein Unterschied erkennbar ist.
Die US-Regierung befasst sich schon seit einiger Zeit mit einer möglichen Regulierung von Software mit künstlicher Intelligenz. So beriet US-Präsident Joe Biden Anfang des Monats mit Experten über Chancen und Risiken solcher Programme. Auf die Journalistenfrage, ob KI aus seiner Sicht gefährlich sei, sagte er danach, das wisse man noch nicht. «Sie könnte es sehr wohl sein.»
__________________
Kinder wollen nicht wie Fässer gefüllt, sondern wie Fackeln entzündet werden.
