News - Vermischtes - aktuelle Entwicklungen und Hintergründe
Gesellschaftliche Debatte zu KI-Risiken in Lausanne
Lausanne () – Der KI-Experte und Professor und Co-Direktor des KI-Zentrums der Eidgenössischen Technischen Hochschule Lausanne, Marcel Salathé, hält Warnungen für übertrieben, dass die Menschheit in den kommenden Jahren von einer maschinellen Superintelligenz ausgelöscht werden könne. „Wenn jemand so etwas Außergewöhnliches behauptet, muss er das auch beweisen. Aber es gibt meines Wissens nach keinen belastbaren Beweis für so eine Prognose“, sagte Salathé dem „Spiegel“.
Alles sei „nur Spekulation: ausgehend von bestimmten Erkenntnissen, die dann komplett überinterpretiert und zehn Jahre in die Zukunft projiziert werden“, so der KI-Experte weiter. Das sei absurd. Wie man wisse, „liegen Menschen meistens falsch, wenn sie die Zukunft vorhersagen.“
Vergangene Woche hatten der frühere OpenAI- und Anthropic-Entwickler Jacob Coxon und der Anthropic-Forscher Evan Hubinger eindringlich davor gewarnt, KI könne in den nächsten Jahren die Menschheit töten – und damit eine weltweite Debatte losgetreten.
Beide seien zweifellos Experten in ihrem Fachgebiet, sagte Salathé. „Aber sie können kaum die gesellschaftlichen, ökonomischen und politischen Dynamiken abschätzen, die sich rund um diese Technologie abspielen und die Entwicklung beeinflussen werden“, so der KI-Experte weiter. Die Menschheit werde „in fünf Jahren sicher nicht durch KI ausgelöscht sein.“
Salathé ist Mitgründer der KI-Wettbewerbsplattform AIcrowd und des AMLD Intelligence Summit in Lausanne, einem alljährlichen Treffen von KI-Entwicklern und -Wissenschaftlern, Unternehmen und Politikern.
Die Weltuntergangsdebatte lenke von anderen Themen ab. „Es darf nicht sein, dass KI-Konzerne wie OpenAI Hacking-Agenten losschicken und nicht haften, wenn es schiefgeht. Unsere Gesellschaft muss den Konzernen klar zeigen: Experimente wie im Fall Hugging Face lassen wir nicht mehr zu“, sagte Salathé. KI-Modelle von OpenAI waren bei einem internen Test aus der abgeschotteten Umgebung ausgebrochen und hatten sich beim Unternehmen Hugging Face eingehackt.
Zudem müsse gerade in Europa die Cybersicherheit dringend verstärkt werden, forderte der KI-Experte. „Ich habe viel weniger Angst vor KI, die außer Kontrolle gerät, als vor KI in den falschen Händen. Wenn ein böswilliger Akteur, vielleicht sogar ein Staat, gezielt KI einsetzt, kann sie enormen Schaden anrichten. Europa muss jetzt ernsthaft in die Entwicklung von KI, in Expertise und eigene Verteidigungstechnologien investieren“, sagte Salathé dem „Spiegel“
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du gut in Tic Tac Toe? 👍
Spielername und geheimes Wort gehören zusammen. Das Captcha wird nur beim ersten autorisierten Spiel für diese Kombination in diesem Browser abgefragt.
Top 3
| Platz | Name | Punkte | Siege |
|---|---|---|---|
| Lade Rangliste ... | |||
Text-/Bildquelle: |
Übermittelt durch www.dts-nachrichtenagentur.de |
Bildhinweis: |
Junge Frau mit Laptop (Archiv)
|
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Marcel Salathé, Jacob Coxon, Evan Hubinger
Welche Organisationen oder Institutionen werden genannt?
Eidgenössische Technische Hochschule Lausanne (ETH Lausanne), KI-Zentrum der Eidgenössischen Technischen Hochschule Lausanne, dts Nachrichtenagentur, OpenAI, Anthropic, Spiegel, Jacob Coxon, Evan Hubinger, AIcrowd, AMLD Intelligence Summit, Hugging Face.
Wann ist das Ereignis passiert?
Das beschriebene Ereignis fand vergangene Woche statt (im Text außerdem erwähnt: in den nächsten Jahren bzw. in fünf Jahren; außerdem bezieht sich der Kontext auf einen internen OpenAI-Test und den Fall Hugging Face).
Konkret nennt der Text jedoch keine exakten Daten (Datum/Tag/Monat).
Wo spielt die Handlung des Artikels?
Lausanne
Worum geht es in einem Satz?
Der KI-Experte Marcel Salathé hält Warnungen vor einer möglichen Auslöschung der Menschheit durch maschinelle Superintelligenz für unbelegte Spekulation, kritisiert stattdessen fehlende Haftung und mögliche Sicherheitsrisiken von KI-„Hacking-Agenten“ sowie den dringenden Ausbau von Cybersicherheit und Eigenexpertise in Europa.
Was war der Auslöser für den Vorfall?
- Warnungen von Jacob Coxon und Evan Hubinger, KI könne in den nächsten Jahren die Menschheit töten
- Auslösung einer weltweiten Debatte um die Gefahren durch KI
Wie hat die Öffentlichkeit oder Politik reagiert?
- Marcel Salathé hält Warnungen vor einer maschinellen Superintelligenz für übertrieben und fordert, dass solche außergewöhnlichen Behauptungen belastbar belegt werden müssen
- Er kritisiert, dass es sich dabei vor allem um Spekulationen handelt und die Zukunftsprognosen von Menschen oft falsch sind
- Er sagt, dass Coxon und Hubinger zwar Experten seien, aber gesellschaftliche, ökonomische und politische Dynamiken rund um KI nicht ausreichend abschätzen könnten
- Die „Weltuntergangsdebatte“ lenke von anderen wichtigen Themen ab
- Er fordert gesellschaftliche Vorgaben, damit KI-Konzerne wie OpenAI keine Hacking-Agenten losschicken können, ohne zu haften wenn es schiefgeht
- Er nennt als Beispiel, dass KI-Experimente wie beim Fall Hugging Face künftig nicht mehr zugelassen werden sollten
- Er fordert eine dringend verstärkte Cybersicherheit in Europa
- Er betont weniger Angst vor außer Kontrolle geratener KI, sondern vor KI in den falschen Händen und plädiert dafür, dass Europa in KI-Entwicklung, Expertise und eigene Verteidigungstechnologien investiert
Welche Konsequenzen werden genannt?
- Keine belastbaren Belege für die Prognosen über eine mögliche Auslöschung durch KI
- Gefahrenszenarien werden als Spekulation und überinterpretierte Zukunftsprojektionen eingeordnet
- Bessere Bewertung gesellschaftlicher wirtschaftlicher und politischer Auswirkungen als Voraussetzung für verlässliche Einschätzungen
- Fokusablenkung von anderen wichtigen Themen durch die Debatte über einen möglichen KI-Weltuntergang
- Forderung nach Haftungs- und Regulierungspflichten für KI-Konzerne bei riskanten Experimenten
- Verstärkter Fokus auf Cybersicherheit in Europa
- Investitionsbedarf in KI-Expertise und eigene Verteidigungstechnologien gegen potenziellen Missbrauch durch böswillige Akteure
Gibt es bereits eine Stellungnahme?
Ja. Marcel Salathé wird mit mehreren wörtlichen Aussagen zitiert („… sagte Salathé dem ‚Spiegel‘“).
- KI-Experte hält Warnungen vor Auslöschung für Spekulation - 19. September 2026
- Lottozahlen vom Samstag (19.09.2026) - 19. September 2026
- Pkw überschlägt sich auf Dalbergstraße in Fulda - 19. September 2026
