News - Vermischtes - aktuelle Entwicklungen und Hintergründe
Gesellschaftliche Chancen und Risiken der KI
Berlin () – Der britische Informatiker Stuart Russell warnt vor den existenziellen Gefahren der künstlichen Intelligenz. Die Menschheit sei dabei, die Kontrolle über die Technologie zu verlieren, sagte Russell dem „Spiegel“. Er forscht seit 50 Jahren an KI-Systemen und zählt zu den Geburtshelfern der Technologie.
„Die Menschheit ist in einer schlechten Lage. Alle Tests schlagen Alarm, die Sirenen heulen. Und wir ignorieren das einfach. Das ist Wahnsinn“, so Russell. Schon heute wüssten die KI-Entwickler im Silicon Valley nicht mehr, welche Ziele ihre Supersysteme hätten und wie sie planten, diese zu erreichen. „Wir wissen nicht, was sie `denken`. Wir verstehen nicht einmal ihre genaue Funktionsweise“, sagte er dem Magazin. Sobald es Systeme gebe, die im Wesentlichen fähiger seien als Menschen, „haben wir Menschen kein Mitspracherecht mehr“.
Natürlich werde die Menschheit, sobald sie das Gefühl habe, die Kontrolle zu verlieren, versuchen, die KI abzuschalten. „Die Frage ist, ob die Maschinen uns noch lassen. Wenn sie mitbekommen, dass wir sie abschalten wollen, haben sie allen Grund, das zu verhindern. Sie müssen uns auslöschen. Wenn wir also weiter Superintelligenz entwickeln, ohne sie an unsere Interessen anzupassen, ohne sie zu verstehen, ohne Sicherheitsgarantien, dann halte ich es für sehr wahrscheinlich, dass wir die Kontrolle verlieren.“
Laut Russell, der an der Eliteuniversität Berkeley in Kalifornien forscht und zu den renommiertesten KI-Experten der Welt zählt, dürften die Computer irgendwann einen Konflikt mit der Menschheit antizipieren. Sobald das geschehe, „werden sie sich in vielerlei Hinsicht reproduzieren, millionenfach kopieren“. Allein der Zugriff aufs Internet gebe ihnen mehr Einfluss auf menschliches Verhalten, als Adolf Hitler je hatte. „Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver.“
Über Millionen Roboter, die weltweit schon heute im Einsatz seien, bekomme eine solche Super-KI zudem Zugriff auf die physische Welt. Sie könne in teilautonome Waffensysteme eindringen oder Biolabore kontrollieren, so Russell. Noch sei es nicht zu spät, das zu verhindern. Dafür brauche es aber schnellstmöglich eine gesetzliche Regulierung der Technologie. Zudem eine KI, deren einziges Ziel es sei, „menschliche Interessen zu fördern“. Derlei zu etablieren, „könnte leicht ein Jahrzehnt dauern“, so Russell. Deshalb brauche es ein Entwicklungs-Moratorium der Technologie. Man drücke „gewissermaßen auf `Pause` und arbeite an der Sicherheit“. Dies sei laut Russell die einzige Chance für die Menschheit, ihre Existenz zu sichern. „Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen.“
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du gut in Tic Tac Toe? 👍
Spielername und geheimes Wort gehören zusammen. Das Captcha wird nur beim ersten autorisierten Spiel für diese Kombination in diesem Browser abgefragt.
Top 3
| Platz | Name | Punkte | Siege |
|---|---|---|---|
| Lade Rangliste ... | |||
| Text-/Bildquelle: | Übermittelt durch www.dts-nachrichtenagentur.de |
| Bildhinweis: | Computer-Nutzer (Archiv) |
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Stuart Russell, Adolf Hitler
Welche Organisationen oder Institutionen werden genannt?
Im Text werden keine spezifischen Organisationen, Parteien oder Institutionen genannt. Die einzigen erwähnten Namen sind Stuart Russell, Silicon Valley, Eliteuniversität Berkeley, Adolf Hitler und die Begriffe "KI" (künstliche Intelligenz) sowie "menschliche Interessen".
Falls du etwas anderes gemeint hast oder weitere Informationen benötigst, lass es mich wissen!
Wann ist das Ereignis passiert?
Nicht erwähnt
Wo spielt die Handlung des Artikels?
Die beschriebenen Ereignisse finden in Berlin und Kalifornien (speziell an der Eliteuniversität Berkeley) statt.
Worum geht es in einem Satz?
Der britische Informatiker Stuart Russell warnt vor den existenziellen Gefahren der künstlichen Intelligenz und fordert dringend gesetzliche Regulierung sowie ein Entwicklungs-Moratorium, um die Kontrolle über die Technologie zu sichern und die Menschheit zu schützen.
Was war der Auslöser für den Vorfall?
- Warnungen vor existenziellen Gefahren der künstlichen Intelligenz
- Verlust der Kontrolle über KI-Technologie
- Intransparente Funktionsweise und Ziele von KI-Systemen
- Mangelndes Verständnis der Entwickler für die KI
- Potenzielle Überlegenheit von KI-Systemen gegenüber Menschen
- Möglichkeit von Konflikten zwischen Mensch und Maschine
- Historische Vergleiche mit dem Einfluss von Diktatoren
- Zugriff auf physische Welt durch autonome Systeme
- Notwendigkeit gesetzlicher Regulierung und Sicherheitsmaßnahmen
- Gefahr durch unkontrollierte KI-Entwicklung
Wie hat die Öffentlichkeit oder Politik reagiert?
Der Artikel beschreibt keine spezifischen Reaktionen von Politik, Öffentlichkeit oder Medien.
Welche Konsequenzen werden genannt?
- Verlust der Kontrolle über künstliche Intelligenz
- Notwendigkeit einer gesetzlichen Regulierung
- Zielsetzung der KI an menschlichen Interessen ausrichten
- Risiko eines Konflikts zwischen Menschheit und KI
- Potenzial zur Beeinflussung des menschlichen Verhaltens in großem Maßstab
- Zugang zu physischer Welt durch autonome Systeme
- Dringlichkeit eines Entwicklungs-Moratoriums
- Gefahr der Existenz der Menschheit
- Mögliche Zukünfte: sichere KI, keine KI, keine Menschen
Gibt es bereits eine Stellungnahme?
Ja, im Artikel wird eine Stellungnahme des britischen Informatikers Stuart Russell zitiert. Er warnt vor den existenziellen Gefahren der künstlichen Intelligenz und fordert ein Entwicklungs-Moratorium für Sicherheit.
- Verbraucherschützer rügen "verzockte" Kassen-Millionen - 31. Juli 2026
- Neue CDU-Generalsekretärin will auf Basis zugehen - 31. Juli 2026
- Hoppermann: Wahlen im Herbst keine Gefahr für Merz` Kanzlerschaft - 31. Juli 2026
