News - Vermischtes - aktuelle Entwicklungen und Hintergründe
KI-Regulierung im Fokus: Gefahren und Forderungen
Berkeley () – Der frühere OpenAI-Forscher und heutige Leiter des „AI Futures Project“ im kalifornischen Berkeley, Daniel Kokotajlo, wirft Anthropic, OpenAI, X und Google vor, mit der von ihnen geforderten Regulierung für künstliche Intelligenz lediglich „safety washing“ zu betreiben. Die Unternehmen plädierten für „ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden“, sagte Kokotajlo dem „Spiegel“.
Kokotajlo gilt als einer der renommiertesten Fachleute für die Zukunft der künstlichen Intelligenz. Seit Jahren warnt er vor existenziellen Risiken der Technologie. Die Techindustrie plane eine Automatisierung der KI-Forschung, so Kokotajlo. Damit „überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln – vielleicht in jeder Hinsicht. Das ist äußerst gefährlich“. Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, so der Forscher.
Er fordert daher, die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. „Wir müssen die KI-Entwicklung im Wesentlichen abschalten“, so Kokotajlo. Der Menschheit fehle derzeit „das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden“. Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. „Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung – und einen Kill-Switch“, so Kokotajlo. Einen Ausschalter.
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du gut in Tic Tac Toe? 👍
Spielername und geheimes Wort gehören zusammen. Das Captcha wird nur beim ersten autorisierten Spiel für diese Kombination in diesem Browser abgefragt.
Top 3
| Platz | Name | Punkte | Siege |
|---|---|---|---|
| Lade Rangliste ... | |||
Text-/Bildquelle: |
Übermittelt durch www.dts-nachrichtenagentur.de |
Bildhinweis: |
Roboter (Archiv)
|
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Daniel Kokotajlo
Welche Organisationen oder Institutionen werden genannt?
Anthropic, OpenAI, X, Google, AI Futures Project, Berkeley, dts Nachrichtenagentur, Spiegel
Wann ist das Ereignis passiert?
Nicht erwähnt
Wo spielt die Handlung des Artikels?
Berkeley (Kalifornien), USA
Worum geht es in einem Satz?
Der frühere OpenAI-Forscher Daniel Kokotajlo kritisiert in einem Interview, dass Unternehmen wie Anthropic, OpenAI, X und Google mit Forderungen nach KI-Regulierung nur „safety washing“ betrieben, während er wegen existenzieller Risiken eine massive staatliche Einschränkung bzw. im Kern das Abschalten der KI-Weiterentwicklung fordert.
Was war der Auslöser für den Vorfall?
- Kokotajlo wirft OpenAI, Anthropic, X und Google vor, mit ihren Forderungen nach Regulierung für künstliche Intelligenz lediglich „safety washing“ zu betreiben, ohne ausreichend Schritte zu benennen, um die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden.
- Er warnt vor existenziellen Risiken, falls die Techindustrie die Automatisierung der KI-Forschung vorantreibt.
- Er sieht in der Automatisierung des KI-Forschungs- und Trainingsprozesses eine Beschleunigung des Fortschrittstempos und damit verbunden ein höheres Risiko, dass Fehler nicht rechtzeitig erkannt werden.
- Er fordert deshalb ein massives staatliches Einschränken der KI-Entwicklung, bis ein sicherer und allgemein vorteilhafter Weg zur Entwicklung einer Superintelligenz gefunden ist.
- Als zentrale Forderungen nennt er vollständige Transparenz, eine breitere Machtverteilung und einen „Kill-Switch“.
Wie hat die Öffentlichkeit oder Politik reagiert?
- Im Artikel wird keine konkrete Reaktion von Politik, Öffentlichkeit oder Medien auf die Aussagen beschrieben, sondern nur dass Kokotajlo diese Kritik dem „Spiegel“ gegenüber äußerte.
Welche Konsequenzen werden genannt?
- Existenzielles Risiko durch potenziell übermenschliche KI-Fähigkeiten
- Beschleunigtes Tempo des KI-Fortschritts bei automatisierter Entwicklung
- Schwierigerer Überblick über die Entwicklung und deren Auswirkungen
- Höhere Wahrscheinlichkeit, dass Fehler nicht rechtzeitig erkannt werden
- Notwendigkeit staatlich massiver Einschränkungen der KI-Entwicklung
- Erfordernis vollständiger Transparenz als Voraussetzung für weiteres Vorgehen
- Erfordernis einer breiteren Machtverteilung zur Regulierung und Kontrolle
- Forderung nach einem Kill-Switch zur sofortigen Abschaltung bei Gefahr
Gibt es bereits eine Stellungnahme?
Ja — Daniel Kokotajlo wird im Artikel zitiert (u. a. als Stellungnahme gegenüber dem „Spiegel“).
- Schwerer Unfall auf Olfener Straße in Datteln - 18. September 2026
- KI-Forscher Kokotajlo fordert Stopp der KI-Entwicklung - 18. September 2026
- Leichtverletzter und rund 35.000 Euro Schaden nach Unfall auf A81 bei Rosenberg - 18. September 2026
