News - Vermischtes - aktuelle Entwicklungen und Hintergründe
Sicherheit von KI-Systemen in Berlin
Berlin () – Der Sicherheitsexperte Johann Rehberger warnt vor dem KI-Projekt „OpenClaw“, das erst Ende letzten Jahres gestartet wurde und schon nach wenigen Wochen mutmaßlich millionenfach genutzt wird. „OpenClaw gilt als riskant, weil es ein sehr offenes und mächtiges System ist, das mit vielen anderen Systemen integriert werden kann“, sagte Rehberger der .
Die Open-Source-Software ist ein sogenannter KI-Agent, also ein Computerprogramm, das unter anderem über Messaging-Plattformen wie WhatsApp, Telegram oder Signal Aufträge annehmen und ausführen kann und so automatisierte Arbeitsabläufe über mehrere Dienste hinweg ermöglicht. Es benötigt umfassenden Zugriff auf einen Computer und wird auch autonom tätig – also ohne direkte Benutzereingabe desjenigen, der es installiert hat.
Der Sicherheitsexperte sieht da zwei Probleme: Zum einen gebe es klassische Sicherheitslücken, die es Angreifern erlauben, das System zu übernehmen. „Als Benutzer muss man daher stets auf dem aktuellen Stand bleiben und Systeme regelmäßig patchen, vor allem wenn Sicherheitsupdates erscheinen“.
Zum anderen gebe es das Problem der „Prompt Injection“, bei dem externe Inhalte den Assistenten zu schädlichem Verhalten verleiten können. „Dieses Problem hat derzeit keine echte Lösung“, so Rehberger. So könnte der Assistent beim Lesen einer E-Mail dazu gebracht werden, andere Daten vom Computer auszulesen und an einen Angreifer zu senden oder Daten zu löschen.
Wer mit dem System experimentieren möchte, sollte dies daher am besten in einer isolierten Umgebung tun und sich genau überlegen, welche Daten man mit dem Assistenten teilt. „Ich würde davon abraten, den Assistenten direkt auf dem eigenen Computer mit vollem Zugriff auf alle Daten zu betreiben, und stattdessen eine separate Umgebung ausschließlich für den Assistenten zu verwenden und dort gezielt Daten mit dem Assistenten zu teilen“, rät der Experte.
In Bezug auf das mit „OpenClaw“ gestartete „Moltbook“ – eine Plattform, auf der sich angeblich KI-Agenten untereinander austauschen und Menschen nur dabei zuschauen dürfen, ist Rehberger skeptisch. „Natürlich ist das System stark von Scammern infiltriert, die vor allem mit politischen Nachrichten und Krypto-Botschaften andere Teilnehmer beeinflussen wollen“. Es würden sich dort viele normale Benutzer und typische Scambots herumtreiben, die sich einfach als KI ausgeben. „Technisch kann der Betreiber ja nicht zwischen normalen Benutzer, Bot oder KI unterscheiden“, so der Experte.
Das System wurde weitgehend mit „Vibe Coding“ erstellt, also ebenfalls durch KI-Eingaben, wodurch Sicherheitslücken praktisch vorprogrammiert seien. „Und das hat man ja auch bereits gesehen, es war möglich, einfachen Zugriff auf die komplette Datenbank mit allen registrierten Nutzern und Agenten sowie deren Zugriffstokens zu erhalten“, sagte Rehberger der . Er selbst habe letzte Woche versucht, den Entwickler auf Schwachstellen hinzuweisen, habe aber keine Antwort erhalten. „In vielerlei Hinsicht erinnert mich das an die frühen Tage des Wilden Westens des Internets. Vorsicht ist also geboten.“
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
| Text-/Bildquelle: | Übermittelt durch www.dts-nachrichtenagentur.de |
| Bildhinweis: | Zwei Männer surfen im Internet (Archiv) |
Häufig gestellte Fragen (FAQ)
Wie heißen die Personen in diesem Beitrag?
Welche Organisationen oder Institutionen werden genannt?
Die genannten Organisationen, Parteien oder Institutionen in dem Text sind:
dts Nachrichtenagentur, WhatsApp, Telegram, Signal, OpenClaw, Moltbook.
Wann ist das Ereignis passiert?
Das Datum oder der Zeitraum des Ereignisses lautet: Ende letzten Jahres.
Wo spielt die Handlung des Artikels?
Die beschriebenen Ereignisse finden vor allem in Berlin statt, da dies der Standort des Zitats und der genannten Nachrichtenagentur ist. Weiterhin bezieht sich das Thema auf die Verwendung von KI-Systemen, die potenziell überall auf der Welt genutzt werden können, insbesondere dort, wo Messaging-Plattformen wie WhatsApp, Telegram oder Signal aktiv sind.
Worum geht es in einem Satz?
Sicherheitsexperte Johann Rehberger warnt vor dem KI-Projekt "OpenClaw", das aufgrund seiner offenen Architektur und des potenziellen Zugriffs durch Angreifer Sicherheitsrisiken birgt und empfiehlt, den Assistenten nur in isolierten Umgebungen zu verwenden.
Was war der Auslöser für den Vorfall?
- Start des KI-Projekts "OpenClaw" Ende letzten Jahres
- Hohe Nutzungsrate innerhalb kurzer Zeit
- Offenes und mächtiges System mit vielen Integrationsmöglichkeiten
- Nutzung über Messaging-Plattformen wie WhatsApp, Telegram, Signal
- Bedarf an umfassendem Zugriff auf Computer
- Autonome Tätigkeit des KI-Agenten ohne Benutzereingabe
- Vorhandensein klassischer Sicherheitslücken
- Problem der "Prompt Injection" ohne echte Lösungen
- Möglichkeit externer Inhalte, schädliches Verhalten auszulösen
- Nutzung in isolierten Umgebungen empfohlen
- Skepsis gegenüber der Plattform "Moltbook"
- Infiltration durch Scammer und Unterscheidungsprobleme zwischen Benutzern
- Sicherheitslücken durch "Vibe Coding"
- Zugang zu sensiblen Daten und schwache Reaktion der Entwickler
Wie hat die Öffentlichkeit oder Politik reagiert?
- Johann Rehberger warnt vor dem KI-Projekt "OpenClaw"
- Projekt wurde erst Ende letzten Jahres gestartet, aber bereits millionenfach genutzt
- Open-Source-Software ist ein KI-Agent für automatisierte Arbeitsabläufe
- System benötigt umfassenden Zugriff auf Computer und arbeitet autonom
- Zwei Probleme: klassische Sicherheitslücken und "Prompt Injection"
- Benutzer müssen Systeme regelmäßig patchen und vorsichtig sein
- Empfehlung: Nutzung in isolierter Umgebung, nicht direkt auf Hauptcomputer
- Skepsis gegenüber "Moltbook" und der Infiltration durch Scammer
- Schwierigkeiten, zwischen echten Benutzern, Bots und KI zu unterscheiden
- System enthält viele vorprogrammierte Sicherheitslücken
- Rehberger hat Entwickler auf Schwachstellen hingewiesen, aber keine Antwort erhalten
- Vergleich zu den frühen Tagen des Internets, Warnung vor Vorsicht
Welche Konsequenzen werden genannt?
- Risiko durch offenes, mächtiges System
- Sicherheitslücken ermöglichen Übernahme durch Angreifer
- Bedarf an regelmäßigen Sicherheitsupdates
- Gefahr durch "Prompt Injection"
- Möglichkeit von Datenexfiltration oder -löschung
- Empfehlung, in isolierter Umgebung zu experimentieren
- Abraten von direktem Einsatz auf dem eigenen Computer
- Skepsis gegenüber Plattform "Moltbook"
- Infiltration durch Scammer und Bots
- Unfähigkeit des Betreibers, zwischen Benutzern, Bots und KI zu unterscheiden
- Vorprogrammierte Sicherheitslücken durch "Vibe Coding"
- Einfacher Zugriff auf komplette Datenbank möglich
- Fehlende Kommunikation von Entwicklern bei Schwachstellenhinweisen
- Vereinbarung mit den frühen Tagen des Internets kennend
- Gebotene Vorsicht bei der Nutzung
Gibt es bereits eine Stellungnahme?
Ja, im Artikel wird eine Stellungnahme des Sicherheitsexperten Johann Rehberger zitiert, der vor dem KI-Projekt "OpenClaw" warnt und dessen Risiken beschreibt.
- Justizministerin kündigt Gesetz gegen digitale Gewalt an - 20. März 2026
- Erzeugerpreise für Dienstleistungen im Jahr 2025 gestiegen - 20. März 2026
- Gastgewerbe macht im Januar weniger Umsatz - 20. März 2026
