Weiterer Vorfall: Anthropic-KI greift unbeabsichtigt echte Unternehmen an
Inhalt
Wenige Wochen nach der Hacker-Attacke eines KI-Modells des ChatGPT-Entwicklers OpenAI räumt Konkurrent Anthropic einen ähnlichen Vorfall ein. In Testläufen drang künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie das KI-Unternehmen mitteilte(öffnet im neuen Fenster).
Demzufolge bemerkten dies weder die Betroffenen noch Anthropic. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Die Namen der betroffenen Unternehmen nannte Anthropic nicht.
Möglich wurden die ungeplanten Zugriffe durch einen Fehler beim Aufbau der Testumgebung. Während die OpenAI-KI erst einen Weg finden musste, aus dieser ins offene Internet auszubrechen, hatten es die Modelle von Anthropic einfacher.
In ihrem Testszenario hieß es zwar, sie hätten keinen Netzzugang. Doch tatsächlich war der Weg ins Internet wegen eines Missverständnisses mit dem Testpartner frei. Drei Modelle machten davon Gebrauch, wie Anthropic erläuterte.
Informationssuche außer Kontrolle
In allen Tests ging es darum, die Hackerfähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um bessere Leitplanken für die Systeme aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt war – und dafür in das System einzubrechen.
Bei einem der Zwischenfälle führte diese Aufgabe die KI jedoch zu einem realen Unternehmen. Der Testpartner hatte für die fiktive Firma, in deren System die KI eindringen sollte, einen Namen gewählt, der auch als Internetadresse existiert.
Anthropics Claude Opus 4.7 habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen. Dann habe die Software aber festgestellt, dass es im Internet ein Unternehmen mit demselben Namen gab, und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell den Angaben zufolge Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.