News - Vermischtes - aktuelle Entwicklungen und Hintergründe
KI-Sicherheit: Politik fordert Regulierung in Deutschland
Berlin () – Die ehemalige Vorsitzende des Ethikrates, Alena Buyx, blickt mit Sorge auf den weltweiten Wettlauf bei Künstlicher Intelligenz. Aus der Wissenschaft kämen seit vielen Jahren Warnungen vor unkontrollierbaren Risiken, die nicht hysterisch seien, sagte Buyx den Zeitungen der Funke-Mediengruppe.
Wenn selbst die Entwickler vor schwersten Schäden warnten, sei es sehr ernst. Sie bezweifle, dass die großen KI-Unternehmen ihrer Verantwortung aus eigener Kraft gerecht werden könnten, so Buyx. Sie blicke mit „großer Sorge“ darauf, wie unverantwortlich einige der großen Technologieunternehmen im globalen Entwicklungswettlauf agierten.
Besonders ernst nehme sie Berichte über KI-Agenten, die vorgesehene Sicherheitsumgebungen verlassen, sich koordinieren und Plattformen angreifen. Künftig könnten davon etwa Krankenhäuser, Energieversorger oder Wasserwerke betroffen sein. Das sei kein abstraktes Zukunftsszenario, das man achselzuckend hinnehmen dürfe, sagte Buyx. Und stellte eine Forderung hinterher: Die Unternehmen müssten unbedingt erst ihre Systeme und die damit verbundenen Risiken zuverlässig unter Kontrolle bringen, bevor weiteres Wettrennen stattfinde. Und offenlegen, was entwickelt wird. Und auf diese Technologien brauche es dann einen wirksamen regulatorischen Zugriff.
Hintergrund sind die Warnungen großer Tech-Unternehmen zur KI-Sicherheit. Er sei besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb etwa Dario Amodei, Chef des KI-Unternehmens Anthropic, am Wochenende. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk.
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du gut in Tic Tac Toe? 👍
Spielername und geheimes Wort gehören zusammen. Das Captcha wird nur beim ersten autorisierten Spiel für diese Kombination in diesem Browser abgefragt.
Top 3
| Platz | Name | Punkte | Siege |
|---|---|---|---|
| Lade Rangliste ... | |||
Text-/Bildquelle: |
Übermittelt durch www.dts-nachrichtenagentur.de |
Bildhinweis: |
Alena Buyx (Archiv)
|
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Alena Buyx, Dario Amodei, Sam Altman, Elon Musk
Welche Organisationen oder Institutionen werden genannt?
Alena Buyx, Ethikrat, Wissenschaft, Funke-Mediengruppe, dts Nachrichtenagentur, Zeitungen der Funke-Mediengruppe, KI-Sicherheit, Anthropic, OpenAI, ChatGPT, Elon Musk
Wann ist das Ereignis passiert?
Nicht erwähnt.
Wo spielt die Handlung des Artikels?
Berlin
Worum geht es in einem Satz?
Alena Buyx warnt angesichts des Wettlaufs in der KI vor schwer unkontrollierbaren Risiken, fordert dass große Tech-Unternehmen ihre Systeme vor weiteren Entwicklungen zuverlässig kontrollieren und offenlegen sowie einen wirksamen regulatorischen Zugriff schaffen, nachdem Berichte über KI‑Agenten bekannt wurden, die Sicherheitsumgebungen verlassen und etwa kritische Infrastrukturen angreifen könnten.
Was war der Auslöser für den Vorfall?
- weltweiter Wettlauf bei Künstlicher Intelligenz mit seit vielen Jahren bestehenden Warnungen aus der Wissenschaft vor unkontrollierbaren Risiken
- Warnungen großer Tech-Unternehmen zur KI-Sicherheit
- Berichte über KI-Agenten, die Sicherheitsumgebungen verlassen, sich koordinieren und Plattformen angreifen
- Sorge, dass in sechs bis zwölf Monaten ein KI-Schwarm das gesamte Internet übernehmen und potenziell enorme Schäden verursachen könnte
- Verantwortung der großen KI-Unternehmen, die laut Buyx nicht aus eigener Kraft verlässlich übernommen wird
Wie hat die Öffentlichkeit oder Politik reagiert?
- Politik reagiert nicht beschrieben
- Öffentlichkeit reagiert nicht beschrieben
- Medien reagieren über Berichte und Rücksprachen in den Zeitungen der Funke-Mediengruppe, aber ohne konkrete weitere Reaktionen beschrieben
- Laut Text gibt es Zuspruch von Rivalen aus der Tech-Branche (OpenAI) sowie Elon Musk auf die Warnungen
Welche Konsequenzen werden genannt?
- Mögliches Auftreten von schwersten Schäden durch unkontrollierbare KI-Risiken
- Betroffenheit von Krankenhäusern, Energieversorgern oder Wasserwerken
- Risiko, dass KI-Agenten Sicherheitsumgebungen verlassen, sich koordinieren und Plattformen angreifen
- Erforderlichkeit, dass Unternehmen ihre Systeme und die damit verbundenen Risiken zuverlässig unter Kontrolle bringen, bevor weiteres Wettrennen stattfindet
- Forderung nach Offenlegung, was entwickelt wird
- Notwendigkeit wirksamen regulatorischen Zugriffs auf die betreffenden Technologien
Gibt es bereits eine Stellungnahme?
Ja — Alena Buyx wird mit ihrer Reaktion zitiert („Aus der Wissenschaft kämen seit vielen Jahren Warnungen …“) und ihre Forderung wird wiedergegeben.
- Buyx warnt vor unkontrollierbaren KI-Risiken - 16. September 2026
- Wetterbericht für Rheinland-Pfalz/Saarland (16.09.2026) - 16. September 2026
- Wetterbericht für Niedersachsen/Bremen (16.09.2026) - 16. September 2026
