News - Wirtschaft - aktuelle Entwicklungen und Hintergründe
KI-Sicherheit und Regulierungen in San Francisco
San Francisco () – Das US-Unternehmen Anthropic hat sein neues KI-Modell vorläufig vom Markt genommen. Grund dafür seien Sicherheitsbedenken der US-Behörden, die nur wenige Tage nach der öffentlichen Vorstellung des Programms laut wurden, teilte der Konzern mit.
Wie das Unternehmen auf seiner Website schreibt, wurde es angewiesen, ausländischen Nutzern den Zugang zu Claude Fable 5 zu verwehren. Anthropic selbst hatte das Programm zuvor als „zu mächtig“ beschrieben. „Die Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden sofort abschalten müssen, um die Auflagen zu erfüllen“, hieß es in der Stellungnahme.
Bei Claude Fable 5 handelt es sich um eine Version des Programms Claude Mythos, das mit Diensten wie ChatGPT von OpenAI oder Gemini von Google konkurriert. Laut Anthropic haben die US-Sicherheitsbehörden keine konkreten Gefahren benannt. Man gehe jedoch davon aus, dass die Regierung von einer Methode erfahren habe, die Sicherheitsvorkehrungen von Fable 5 zu umgehen – ein Vorgang, der als „Jailbreaking“ bekannt ist.
Anthropic erklärte, man habe sich eine Vorführung dieser Methode angesehen, mit der eine Handvoll kleinerer, bereits bekannter Schwachstellen identifiziert worden seien. Diese Schwachstellen seien relativ simpel und könnten auch von anderen öffentlich zugänglichen KI-Modellen gefunden werden, ohne dass eine Umgehung der Sperren nötig sei.
Anthropic steht bereits seit längerem im Fokus der US-Regierung. Präsident Donald Trump hatte das Unternehmen öffentlich kritisiert, Verteidigungsminister Pete Hegseth stufte es später als „Lieferkettenrisiko“ ein – eine Bezeichnung, die zuvor noch nie für ein US-Unternehmen verwendet worden war. Diese Einstufung bedeutet, dass ein Produkt oder eine Dienstleistung als nicht sicher genug für den Einsatz in Regierungsbehörden gilt. Sie war bisher Unternehmen aus feindlich gesinnten Staaten vorbehalten. Anthropic hat daraufhin das Pentagon verklagt. Die Anordnung des Pentagons gilt seitdem als vorläufig ausgesetzt.
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du gut in Tic Tac Toe? 👍
Spielername und geheimes Wort gehören zusammen. Das Captcha wird nur beim ersten autorisierten Spiel für diese Kombination in diesem Browser abgefragt.
Top 3
| Platz | Name | Punkte | Siege |
|---|---|---|---|
| Lade Rangliste ... | |||
| Text-/Bildquelle: | Übermittelt durch www.dts-nachrichtenagentur.de |
| Bildhinweis: | Computer-Nutzer (Archiv) |
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Die vollständigen Namen von Personen im Artikel sind: Claude Fable, Donald Trump, Pete Hegseth.
Welche Organisationen oder Institutionen werden genannt?
Die genannten Organisationen, Parteien oder Institutionen sind:
Anthropic, US-Regierung, Präsident Donald Trump, Verteidigungsminister Pete Hegseth, Pentagon, US-Behörden, ChatGPT, OpenAI, Gemini, Google.
Wann ist das Ereignis passiert?
Nicht erwähnt.
Wo spielt die Handlung des Artikels?
San Francisco
Worum geht es in einem Satz?
Das US-Unternehmen Anthropic hat sein KI-Modell Claude Fable 5 aufgrund von Sicherheitsbedenken der US-Behörden vorläufig vom Markt genommen und den Zugang für ausländische Nutzer gesperrt, nachdem Bedenken hinsichtlich möglicher Sicherheitslücken aufgekommen waren.
Was war der Auslöser für den Vorfall?
- Sicherheitsbedenken der US-Behörden
- Anweisung, ausländischen Nutzern den Zugang zu verwehren
- Einschätzung von Anthropic, dass das Programm "zu mächtig" sei
- Annahme über Methode zur Umgehung von Sicherheitsvorkehrungen ("Jailbreaking")
- Vorführung identifizierter Schwachstellen
- Öffentliche Kritik durch Präsident Donald Trump
- Einstufung als "Lieferkettenrisiko" durch Verteidigungsminister Pete Hegseth
- Klage von Anthropic gegen das Pentagon
Wie hat die Öffentlichkeit oder Politik reagiert?
- Anthropic hat KI-Modell Claude Fable 5 vom Markt genommen wegen Sicherheitsbedenken US-Behörden
- Anweisung zur Sperrung des Zugangs für ausländische Nutzer
- Programm als "zu mächtig" beschrieben
- US-Sicherheitsbehörden nannten keine konkreten Gefahren
- Annahme, dass die Regierung von "Jailbreaking"-Methode erfahren hat
- Identifikation einfacher Schwachstellen
- Anthropic unter Regierungskritik seit längerem
- Trump kritisierte Unternehmen öffentlich
- Verteidigungsminister stufte Anthropic als "Lieferkettenrisiko" ein
- Einschätzung als unsicher für Regierungsbehörden
- Anthropic verklagte Pentagon, Anordnung wurde vorläufig ausgesetzt
Welche Konsequenzen werden genannt?
- Vorläufige Marktrücknahme des KI-Modells
- Verwehrung des Zugangs für ausländische Nutzer
- Sofortige Abschaltung von Fable 5 und Mythos 5
- Sicherheitsbehörden äußern keine konkreten Gefahren
- Identifikation einfacher Schwachstellen
- Unternehmen steht im Fokus der US-Regierung
- Einstufung als "Lieferkettenrisiko"
- Klage des Unternehmens gegen das Pentagon
- Vorläufige Aussetzung der Anordnung des Pentagons
Gibt es bereits eine Stellungnahme?
Ja, im Artikel wird eine Stellungnahme des Unternehmens Anthropic zitiert: "Die Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden sofort abschalten müssen, um die Auflagen zu erfüllen."
- Bund stockt "KI-Gigafactory"-Förderung auf eine Milliarde Euro auf - 7. August 2026
- EU-Abgeordnete pochen auf Touristenvisa-Einschränkungen für Russen - 7. August 2026
- CDU will zentrale Drohnenabwehr beim Innenministerium - 7. August 2026
