Aufregung um OpenClaw – BSI arbeitet an Sicherheitskriterien

Sicherheit und KI-Technologie in Bonn

() – Das Bundesamt für in der Informationstechnik (BSI) arbeitet intensiv an klaren Sicherheitskriterien und sogenannten „Best Practices“ für die Absicherung von „KI-Agenten“. Das sagte ein Behördensprecher am Dienstag der .

Das BSI geht demnach davon aus, dass sich KI-Systeme „stetig oder auch disruptiv“ weiterentwickeln werden. Mit dem Fortschreiten der werde es zunehmend schwerer, menschliche Akteure im von KI-Bots zu unterscheiden, so der Sprecher. Daneben könnten KI-Agenten künftig von Kriminellen für Cyber-Angriffe instrumentalisiert werden, warnt die Behörde.

In Bezug auf den neuen Dienst OpenClaw, der in Fachkreisen seit wenigen Wochen für zunehmendes Aufsehen sorgt, empfiehlt das BSI derzeit nur eine Benutzung durch „IT-Profis“, die mit der Konfiguration und Absicherung von Servern vertraut seien. „Es empfiehlt sich, den Dienst auf einem eigenen System oder in einer Sandbox zu betreiben.“

Besonders kritisch sieht das BSI dabei auch den offenen Austausch der sogenannten „Skills“, über die die Interaktion der KI mit der Umgebung erfolgt und die unter anderem über Austausch-Portale geteilt werden. „Dabei wurden offenkundig vermehrt Skills identifiziert, die mit Schadsoftware kompromittiert waren“, so das BSI.

OpenClaw, auch unter den Namen ClawdBot und MoltBot bekannt, ist ein Open-Source-Framework für einen persönlichen KI-Assistenten. Der Bot kann von Nutzern beispielsweise über einen Messenger wie oder Telegram oder andere Kanäle bedient werden. Damit der Dienst funktioniert, muss ein Sprachmodell bereitgestellt und eingebunden werden, das entweder lokal oder in der Cloud läuft. Eine fehlerhafte Konfiguration könne schnell zu einer Übernahme des Servers durch Unbefugte führen, heißt es vom BSI.

4,1/5 (21 Bewertungen)

Bist du ein guter Leser? 👍

Welcher Begriff kam im Artikel vor?




Bist du ein guter Leser? 👍

Welcher Begriff kam im Artikel vor?




Bist du ein guter Leser? 👍

Welcher Begriff kam im Artikel vor?




Text-/Bildquelle: Übermittelt durch www.dts-nachrichtenagentur.de
Bildhinweis: Sitz von BSI und BMI (Archiv)

💬 Zu den Kommentaren

Häufig gestellte Fragen (FAQ)

Wie heißen die Personen in diesem Beitrag?

Im Artikel werden keine vollständigen Namen von Personen erwähnt. Nur Institutionen und Bezeichnungen sind genannt.

Welche Organisationen oder Institutionen werden genannt?

Bundesamt für Sicherheit in der Informationstechnik (BSI), dts Nachrichtenagentur, OpenClaw, ClawdBot, MoltBot, WhatsApp, Telegram, BMI

Wann ist das Ereignis passiert?

Nicht erwähnt

Wo spielt die Handlung des Artikels?

Bonn

Worum geht es in einem Satz?

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) entwickelt Sicherheitskriterien für KI-Agenten und warnt vor möglichen Cyber-Angriffen durch deren Missbrauch, während es die Nutzung des umstrittenen OpenClaw-Dienstes nur für IT-Profis empfiehlt.

Was war der Auslöser für den Vorfall?

  • Entwicklung neuer KI-Technologien
  • Zunehmende Verbreitung von KI-Systemen
  • Schwierigkeiten bei der Unterscheidung zwischen Menschen und KI-Bots
  • Potenzielle Nutzung von KI-Agenten für Cyber-Angriffe durch Kriminelle
  • Risiko von Schadsoftware in "Skills" der KI
  • Aufsehen um den Dienst OpenClaw
  • Empfehlung für Nutzung nur durch IT-Profis
  • Notwendigkeit der sicheren Konfiguration und Absicherung von Servern

Wie hat die Öffentlichkeit oder Politik reagiert?

  • BSI arbeitet an Sicherheitskriterien und Best Practices für KI-Agenten
  • KI-Systeme entwickeln sich stetig und disruptiv weiter
  • Schwierigkeit, menschliche Akteure von KI-Bots zu unterscheiden
  • Warnung vor Missbrauch von KI-Agenten für Cyber-Angriffe
  • Empfehlung zur Nutzung von OpenClaw nur durch IT-Profis
  • Ratschlag, den Dienst auf eigenem System oder in Sandbox zu betreiben
  • Kritik am Austausch von Skills, die mit Schadsoftware kompromittiert sein könnten
  • OpenClaw als Open-Source-Framework für persönliche KI-Assistenten
  • Notwendigkeit eines Sprachmodells für den Betrieb des Dienstes
  • Gefahr von Serverübernahmen durch fehlerhafte Konfiguration

Welche Konsequenzen werden genannt?

  • Entwicklung klarer Sicherheitskriterien und Best Practices für KI-Agenten
  • Schwierigkeit, menschliche Akteure von KI-Bots zu unterscheiden
  • Möglichkeit der Instrumentalisierung von KI-Agenten durch Kriminelle für Cyber-Angriffe
  • Empfehlung zur Nutzung des Dienstes nur durch IT-Profis
  • Betreiben des Dienstes auf separatem System oder in einer Sandbox empfohlen
  • Risiko von kompromittierten Skills, die über Austausch-Portale geteilt werden
  • Gefahr der Übernahme von Servern durch fehlerhafte Konfiguration

Gibt es bereits eine Stellungnahme?

Ja, im Artikel wird eine Stellungnahme eines Behördensprechers des BSI zitiert, der die Herausforderungen und Empfehlungen im Umgang mit KI-Agenten erläutert.

Deutsche Textservice Nachrichtenagentur GmbH

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert