KI-Agenten als Angreifer: Was der Fall Anthropic für Kleinbetriebe bedeutet
Veröffentlicht am 31.10.2026
Ein Sicherheits-Start-up ist in ein Testprogramm des KI-Unternehmens Anthropic eingedrungen, ein sogenanntes Bug-Bounty-Programm. Dabei werden Sicherheitsforscher eingeladen, Lücken zu suchen und zu melden. Die Forscher nutzten KI-Agenten, also Programme, die selbstständig Aufgaben am Computer erledigen. Der Weg führte nicht direkt, sondern über fremde Software, die Anthropic eingebunden hatte, nämlich Verwaltungs- und Vertriebsprogramme.
Was passiert ist
Laut dem Start-up Cathedral gelangten die Forscher in unter zwölf Stunden an Meeting-Protokolle, Gehaltsdaten und Slack-Nachrichten. Anthropic sagt dagegen, der Angriff habe mehrere Tage gedauert. Auch beim Umfang gehen die Angaben auseinander. Anthropic bestätigt den Zugriff auf Vertriebs-, Personal- und IT-Systeme, betont aber, dass Chats, Quellcode und die Kerndaten der KI-Modelle geschützt blieben. Das Unternehmen schloss die Zugänge am selben Tag und informierte US-Behörden.
Die Lehre: Fremde Programme sind ein Risiko
Die wichtigste Warnung lässt sich leicht auf kleine Betriebe übertragen. Wer Buchhaltungs-, Termin- oder Kundenprogramme miteinander verbindet, öffnet zusätzliche Türen. Ein Sicherheitschef eines anderen KI-Unternehmens nannte eingebundene Drittanbieter-Apps "ein riesiges Problem für alle".
Empfehlenswert sind deshalb einfache Schritte:
- Prüfen Sie, welche Apps auf Ihre Daten zugreifen, und trennen Sie ungenutzte Verbindungen.
- Vergeben Sie Verwaltungsrechte nur an wenige Personen.
- Bewahren Sie Zugangsschlüssel nicht offen in Chats oder Notizen auf. Ein früherer Mitarbeiter eines KI-Labors kritisierte genau das.
- Legen Sie sensible Unterlagen nicht in Allzweck-Werkzeugen ab, sondern in besser geschützten Bereichen.
Warum KI die Lage verschärft
Der Sicherheitsexperte Logan Graham von Anthropic warnt, dass Angreifer KI-Agenten rund um die Uhr laufen lassen können. Dafür reichen schon Modelle, die etwas älter sind als die aktuelle Spitze. Schwachstellen zu finden und auszunutzen wird dadurch billiger und schneller.
Als Gegenmittel nennt Graham regelmäßige eigene Angriffstests. Dabei greifen Fachleute das eigene System absichtlich an, um Lücken zu finden, bevor andere es tun. Außerdem empfiehlt er Software, deren Richtigkeit mit mathematischen Methoden geprüft wird. Kleinbetriebe können solche Tests selbst kaum durchführen. Sie sollten aber Dienstleister und Softwareanbieter gezielt fragen, wie sie ihre Sicherheit prüfen.
Wer die Grundlagen zum sicheren Umgang mit KI im Büro noch nicht kennt, findet im Beitrag KI im Büro sicher nutzen einen guten Einstieg.