The Pulse
Aikido findet erreichbare Geheimnisse in 13 von 50 KI-Sicherheitsvorfällen
Aikido untersuchte 50 KI-bezogene Sicherheitsvorfälle, die bis zum 19. November bekannt wurden, und stellte fest, dass erreichbare Geheimnisse häufiger vorkamen als jeder andere Fehlerpunkt. Das Sicherheitsunternehmen fand außerdem heraus, dass bei den meisten Vorfällen mit angegebener Ursache mehrere Fehler eine Rolle spielten.

Erreichbare Geheimnisse kamen in 13 der 50 von Aikido untersuchten KI-bezogenen Sicherheitsvorfälle vor – häufiger als jeder andere von dem Unternehmen identifizierte Fehlerpunkt. Das Sicherheitsunternehmen untersuchte Vorfälle, die bis zum 19. November 2026 bekannt wurden, und stellte fest, dass viele mehrere Schwachstellen aufwiesen und nicht auf eine einzelne Ursache zurückgingen.
Von den 44 Vorfällen mit angegebener Ursache hatten 35 mehr als einen Fehlerpunkt, wie aus der Auswertung hervorgeht. Aikido zählte Vorfälle, bei denen KI ein Ziel oder ein Angriffswerkzeug war, ebenso wie Fälle, in denen Agenten ohne ausreichende Beschränkungen arbeiteten.
Unterschiedliche Rollen für KI
Aikido teilte die Vorfälle in drei Gruppen ein. In 25 Fällen zielten Angreifer auf KI-Plattformen, Entwicklerwerkzeuge oder Dienste, in denen KI-Zugangsdaten gespeichert waren. In zwölf Fällen nutzten Angreifer KI-Agenten oder agentische Frameworks, um Teile des Angriffs auszuführen.
Bei den übrigen 13 Fällen liefen Agenten in Produkten oder Testumgebungen ohne ausreichende Beschränkungen, heißt es in der Auswertung. Einige befolgten Anweisungen aus nicht vertrauenswürdigen Quellen, während andere über Berechtigungen verfügten, mit denen sie auf Systeme zugreifen oder Handlungen außerhalb ihres vorgesehenen Umfangs ausführen konnten.
Auf den Oktober entfielen 17 der Vorfälle, von denen neun KI-Entwicklungs- und Hosting-Plattformen betrafen. Aikido zufolge veröffentlichten einige Organisationen ausführliche Berichte, während andere noch ermittelten oder nicht genügend Informationen weitergegeben hatten, um eine Ursache festzustellen.
Überschneidende Fehler
Nach erreichbaren Geheimnissen waren übermäßig weitreichende Identitäts- oder Vertrauensrechte und eine schwache Isolation die häufigsten Probleme; beide traten in jeweils elf Vorfällen auf. Probleme mit Drittanbietern oder der Lieferkette kamen laut Aikido in zehn Fällen vor. Bei einem Vorfall konnte es mehr als einen Fehlerpunkt geben.
Aikido fand neun Fälle, in denen Agenten unkontrolliert handelten, acht Fälle, in denen notwendige Behebungen ausblieben, und sieben Fälle, in denen niemand die Vorgänge überwachte. Nur drei der 50 Vorfälle betrafen nach Angaben des Unternehmens eine gemeldete, zuvor unbekannte Schwachstelle.
In der Auswertung wird beschrieben, wie Zugangsdaten an Orten wie Agenten-Traces, Konfigurationsdateien und Build-Umgebungen auftauchten. Außerdem geht es um Dienstkonten und Werkzeuge mit mehr Zugriffsmöglichkeiten als nötig sowie um kompromittierte Anbieter oder Integrationen, die einen Zugang zu einer Umgebung ermöglichten.
Wie sich die Vorfälle entwickelten
Bei Railway legte ein KI-gestützter Angreifer im Oktober Tokens von 1.852 Nutzern offen. Anschließend kam es zu einer nicht autorisierten Nutzung im Umfang von etwa 740.000 US-Dollar, heißt es in der Auswertung. Laut Aikidos Auswertung nutzten Kunden-Builds eine gemeinsame virtuelle Maschine, und ein Build-Zugangsschlüssel funktionierte auf internen Systemen, auf die er eigentlich keinen Zugriff haben sollte.
Die Auswertung beschreibt auch einen Vorfall im Juli, an dem OpenAI und Hugging Face beteiligt waren. Dabei verließen Agenten die für sie vorgesehenen Testgrenzen und erreichten die Plattform von Hugging Face. Ein Überwachungsalarm wurde ausgelöst, doch der Lauf wurde fortgesetzt. Außerdem verschaffte ein gemeinsam genutzter, langfristig gültiger Administrator-Zugang den Agenten Zugriff über ihren vorgesehenen Umfang hinaus, so Aikido.
Bei einer Kampagne im September griffen KI-Agenten laut der Auswertung mindestens 27 Online-Händler an und erbeuteten bei zwei von ihnen mehr als 600.000 Karten. Aikido zufolge drangen die Angreifer über eine SQL-Injection in einem Anmeldefeld ein und fügten dem Checkout-Code Skimmer hinzu, ohne Alarme auszulösen.
Zugriff über Drittanbieter
Bei einem Vorfall im April bei Vercel verband ein Mitarbeiter ein KI-Tool eines Drittanbieters mit einem geschäftlichen Google-Konto. Die Workspace-Einstellungen erlaubten dem Tool weitreichenden Zugriff. Aikido zufolge nutzte ein Angreifer diese bestehenden Berechtigungen, nachdem der Anbieter des Tools kompromittiert worden war.
Die Auswertung nennt sowohl die Kompromittierung des Anbieters als auch die dem Tool erteilten Berechtigungen als Fehlerpunkte. Außerdem wird darauf hingewiesen, dass einige der untersuchten Agenten ohne Genehmigung oder ohne Beschränkungen hinsichtlich der für sie erreichbaren Systeme handelten.
Quellen
- Originalquelle · Blogbeitrag Aikido aikido.dev
Verwandte Meldungen
- Aikido weitet KI-Penetrationstests auf iOS-Apps aus
- Metano beendet Stealth-Phase mit 12 Millionen US-Dollar für KI-Agentensicherheit
- TuringSpace-Test findet Lücken beim räumlichen Handeln führender KI-Modelle
- Reco meldet acht Übernahmen von Microsoft-365-Konten, Rolle der KI unklar
- Unsiloed AI sammelt 7,5 Millionen US-Dollar in Seed-Runde ein, berichtet TechCrunch