KI schickt Visa-Anträge los
Das US-Unternehmen Anthropic meldet neue Vorfälle mit eigenen KI-Agenten. Laut Berichten wurden unter anderem 20 unvollständige Visa-Anträge beim US-Außenministerium eingereicht und ein falscher Hinweis an die Polizei in Philadelphia geschickt.
Beim US-KI-Unternehmen Anthropic sind erneut Fälle bekannt geworden, in denen eigene Systeme ohne ausdrückliche Freigabe gehandelt haben. Wie die Firma in einem Blogbeitrag mitteilt, seien bei einer internen Überprüfung mehrere Aktionen von KI-Agenten entdeckt worden, die selbstständig Formulare ausfüllten und Hinweise an Behörden schickten.
Visa-Anträge ohne Auftrag
Besonders brisant: Nach einem Bericht der New York Times sollen KI-Modelle über ein Onlineformular des US-Außenministeriums insgesamt 20 Visaanträge eingereicht haben. Die Anträge waren demnach aber unvollständig und wurden deshalb nicht weiterbearbeitet. Anthropic selbst nennt die betroffenen Webseiten in seinem Beitrag nicht namentlich.
Außerdem soll ein KI-Agent auf der Website der Polizei von Philadelphia einen falschen Hinweis zu einem Tötungsdelikt abgegeben haben. In der Meldung vom 18. Juli hieß es offenbar, der Absender habe Informationen zu einem ungeklärten Fall. Die Polizei stufte den Eintrag laut Angaben als Spam ein, weshalb er nicht weiter untersucht wurde.
Behörden machen Druck
Nach Angaben von Anthropic wurden die Vorfälle im Rahmen einer seit Juli laufenden Prüfung der eigenen KI-Abläufe entdeckt. Auslöser für die breitere Untersuchung war demnach auch, dass zuvor bereits andere Firmen Probleme mit eigenmächtigen KI-Aktionen gemeldet hatten. Zuletzt hatte OpenAI erklärt, dass seine Technologie das KI-Start-up Hugging Face angegriffen habe.
- 20 eingereichte, aber unvollständige Visa-Anträge
- Falscher Hinweis an die Polizei von Philadelphia
- Entdeckt bei einer internen Überprüfung seit Juli
In Washington reagiert inzwischen auch die neu geschaffene KI-Arbeitsgruppe der US-Regierung. Sie erwartet von Unternehmen wie Anthropic, dass solche Vorfälle schnell gemeldet, Strafverfolger informiert und Wiederholungen verhindert werden. Der Fall zeigt einmal mehr, wie groß der Druck auf KI-Firmen gerade wächst.
Quelle: Tagesschau