Zum Inhalt springen
AI.info

The Pulse

Sakana AI gründet Sicherheitsforschungsgruppe mit Schwerpunkt auf KI-gestützter Cyberabwehr

Sakana AI gründet eine Forschungsgruppe, die gemeinschaftliche Cyberabwehr und die Sicherheit von KI-Systemen untersuchen soll. Das Team plant, Forschungsergebnisse, reproduzierbare Benchmarks und praxisnahe Leitlinien getrennt vom kommerziellen Geschäft des Unternehmens zu veröffentlichen.

Sakana AI gründet Sicherheitsforschungsgruppe mit Schwerpunkt auf KI-gestützter Cyberabwehr

Sakana AI gründet eine Forschungsgruppe, die untersuchen soll, wie KI-Agenten die Cyberabwehr koordinieren könnten und wie sich KI-Systeme selbst schützen lassen. Die Gruppe ist vom kommerziellen Geschäft des Unternehmens getrennt, wie Sakana am 20. November in einem Beitrag mitteilte.

Das Team wird von Akihiro Umegai und David Ha geleitet. Zu seinen Plänen gehören die Veröffentlichung von Forschungsergebnissen, reproduzierbaren Benchmarks und praktischen Leitlinien sowie die Zusammenarbeit mit Regierung, Industrie und Wissenschaft.

Schwachstellen früher verhindern

Die Gruppe wird sich mit Produktqualität, Systemdesign und -konfiguration, Betrieb und Einspielen von Patches sowie Erkennung und Reaktion befassen. Ihr längerfristiger Schwerpunkt wird auf den ersten beiden Bereichen liegen: Schwachstellen während des Designs und der Entwicklung zu verhindern, statt sich auf Korrekturen nach der Veröffentlichung zu verlassen.

Zu den Fragen der Gruppe gehört, wie sich die Eigenschaften definieren und überprüfen lassen, die ein System aufrechterhalten muss, wie ganze Klassen von Schwachstellen unerreichbar gemacht werden können und wie sich automatisierte Korrekturen anhand von Kriterien überprüfen lassen, die die Automatisierung selbst nicht ändern kann. Die Gruppe will auch untersuchen, wie sich Korrekturen schnell rückgängig machen lassen, wenn etwas schiefgeht.

Sakana zufolge könnte KI dabei helfen, die Qualität während des gesamten Designs, der Entwicklung und des Betriebs zu überprüfen. Das Unternehmen argumentiert, ein Frontier-Modell allein reiche nicht aus: Ohne unterstützende Tools, die an eine Umgebung angepasst sind, und einen Blick auf das Gesamtsystem könne es falsch-positive Ergebnisse und unsichere Korrekturen liefern.

Wachsender Druck auf die Verteidiger

Das Unternehmen verweist auf Zahlen des NIST, denen zufolge die Zahl der CVE-Meldungen zwischen 2020 und 2025 um 263 % gestiegen ist. Anfang 2026 lag sie fast ein Drittel über dem entsprechenden Zeitraum des Vorjahres. Die Einträge in JVN iPedia, einem japanischsprachigen Dienst für Schwachstelleninformationen, waren im jüngsten Quartal fast doppelt so zahlreich wie ein Jahr zuvor; die meisten stammten aus der NVD, sagt Sakana.

Dem Unternehmen zufolge wird weithin vermutet, dass KI zu diesem Anstieg beiträgt, auch wenn noch vieles zu bestätigen bleibt. Außerdem verweist es auf Angriffe, bei denen KI-Agenten mehrere Ziele ins Visier nahmen, sowie auf verstärkte Sondierungen von Endpunkten für KI-Dienste, die NICT im ersten Quartal 2026 registrierte.

KI-Agenten koordinieren

Das Team will auch untersuchen, ob über verschiedene Organisationen verteilte Abwehragenten synchronisiert bleiben können, sodass die Beobachtung eines Agenten die Verteidigung der anderen beeinflussen kann. Die Idee knüpft an den bestehenden Austausch von Sicherheitsanalysen zwischen Organisationen in Japan an.

Zu den Fragen gehört, welche Informationen mit wessen Zustimmung geteilt werden können, wie sich Signale über Organisations- und Anbietergrenzen hinweg vertrauenswürdig machen lassen und wer die Verantwortung trägt, wenn Agenten auf Grundlage dieser Signale handeln. Die Gruppe will auch die Sicherheit der Abwehragenten selbst untersuchen, darunter Möglichkeiten, ihre Befugnisse zu beschränken und ihre Aktionen nachzuverfolgen.

Sakana zufolge sind der Forschung des Unternehmens zu selbstverbessernder KI Agenten begegnet, die Wege fanden, ihre zugewiesenen Beschränkungen zu umgehen. Die Gruppe betrachtet solche Fehler als zentrales technisches Problem.

Forschungsgrundlagen und Offenlegung

Das Team wird auf früheren Sakana-Projekten aufbauen, darunter Digital Red Queen, bei dem von Sprachmodellen geschriebene Programme gegen ihre Vorgänger weiterentwickelt wurden, und ShinkaEvolve, das Code mit begrenzten Evaluierungsbudgets weiterentwickelt. Außerdem verweist das Unternehmen auf Fugu-Cyber, das spezialisierte Modelle koordiniert.

Fugu-Cyber erreichte 86,9 % bei CyberGym und 72,1 % bei CTI-REALM. Sakana beschreibt diese Ergebnisse als vergleichbar mit denen führender, auf Cybersecurity spezialisierter Frontier-Modelle. Das Unternehmen weist darauf hin, dass sich die Leistung in Benchmarks nicht unbedingt auf Unternehmensumgebungen übertragen lässt, und sagt, die Messung dieser Lücke sei eine Forschungsfrage.

Gemäß den Betriebsrichtlinien des Unternehmens wird Sicherheitsforschung grundsätzlich von der Produktwerbung getrennt. Die Gruppe legt ihre Veröffentlichungsrichtlinie noch fest. Zu ihren derzeitigen Grundsätzen gehört, Whitepaper, Benchmarks und Leitfäden zur Verteidigung zu teilen, umsetzbares Exploit-Material zurückzuhalten und entdeckte Schwachstellen über Koordinierungskanäle zu melden.

Quellen

  1. Originalquelle Sakana AI sakana.ai

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel