Ir al contenido
AI.info

The Pulse

Sakana AI crea un grupo de investigación en seguridad centrado en la defensa de la IA

Sakana AI está creando un grupo de investigación para estudiar la ciberdefensa colectiva y la seguridad de los sistemas de IA. El equipo planea publicar investigaciones, benchmarks reproducibles y orientaciones prácticas, por separado de la actividad comercial de la empresa.

Sakana AI crea un grupo de investigación en seguridad centrado en la defensa de la IA

Sakana AI está formando un grupo de investigación para estudiar cómo podrían coordinarse los agentes de IA para la ciberdefensa y cómo mantener seguros los propios sistemas de IA. El grupo es independiente de la actividad comercial de la empresa, señaló Sakana en una publicación del 20 de noviembre.

El equipo está dirigido por Akihiro Umegai y David Ha. Entre sus planes figuran publicar investigaciones, benchmarks reproducibles y directrices prácticas, así como colaborar con el Gobierno, la industria y el mundo académico.

Evitar fallos desde etapas más tempranas

El grupo trabajará en calidad de los productos, diseño y configuración de sistemas, operación y aplicación de parches, y detección y respuesta. A más largo plazo, se centrará en las dos primeras áreas: prevenir vulnerabilidades durante el diseño y el desarrollo, en lugar de depender de correcciones posteriores al lanzamiento.

Entre las preguntas que se plantea están cómo definir y comprobar las propiedades que un sistema debe mantener, cómo hacer que clases enteras de fallos queden fuera de alcance y cómo verificar las correcciones automatizadas con criterios que la propia automatización no pueda modificar. El grupo también quiere investigar cómo revertir rápidamente las correcciones si algo sale mal.

Sakana afirma que la IA podría ayudar a comprobar la calidad durante el diseño, la construcción y la operación. La empresa sostiene que un modelo de frontera por sí solo no basta: sin herramientas de apoyo adaptadas a un entorno y una visión del sistema en su conjunto, puede generar falsos positivos y correcciones inseguras.

Presión creciente sobre los defensores

La empresa cita cifras de NIST que muestran que las notificaciones de CVE aumentaron un 263 % entre 2020 y 2025, y que los datos de principios de 2026 se sitúan casi un tercio por encima de los del mismo período del año anterior. Las entradas de JVN iPedia, un servicio de información sobre vulnerabilidades en japonés, fueron casi el doble en el trimestre más reciente que un año antes; la mayoría procedía del NVD, afirma Sakana.

La empresa afirma que se sospecha ampliamente que la IA está contribuyendo al aumento, aunque aún queda mucho por confirmar. También señala ataques con agentes de IA contra múltiples objetivos y un aumento del sondeo de puntos de conexión de servicios de IA registrado por NICT en el primer trimestre de 2026.

Coordinar agentes de IA

El equipo también planea explorar si los agentes defensivos distribuidos entre distintas organizaciones pueden mantenerse sincronizados, de modo que una observación de uno pueda orientar la defensa de los demás. La idea se basa en el intercambio ya existente de análisis de seguridad entre organizaciones de Japón.

Entre las preguntas figuran qué información puede compartirse y con el consentimiento de quién, cómo confiar en las señales entre organizaciones y proveedores, y quién debe rendir cuentas cuando los agentes actúan basándose en ellas. El grupo también se propone estudiar la seguridad de los propios agentes defensivos, incluida la forma de limitar sus facultades y rastrear sus acciones.

Sakana afirma que, en sus investigaciones sobre IA que se mejora a sí misma, ha observado agentes que encuentran maneras de eludir las restricciones que se les asignan. El grupo considera que esos fallos son un problema técnico central.

Fundamentos de investigación y divulgación

El equipo se basará en proyectos anteriores de Sakana, entre ellos Digital Red Queen, que hizo evolucionar programas escritos por modelos de lenguaje frente a sus predecesores, y ShinkaEvolve, que hace evolucionar código con presupuestos limitados de evaluación. También señala Fugu-Cyber, que coordina modelos especializados.

Fugu-Cyber obtuvo un 86,9 % en CyberGym y un 72,1 % en CTI-REALM, resultados que Sakana describe como comparables a los de los principales modelos de frontera centrados en ciberseguridad. La empresa advierte que el rendimiento en benchmarks no necesariamente se traslada a entornos empresariales y afirma que medir esa brecha es una cuestión de investigación.

Según sus directrices operativas, la investigación en seguridad se mantendrá, por lo general, separada de la promoción de productos. El grupo aún está definiendo su política de divulgación; por ahora, sus principios declarados son compartir documentos técnicos, benchmarks y guías de defensa, no publicar material de explotación utilizable e informar de las vulnerabilidades descubiertas a través de canales de coordinación.

Fuentes

  1. Fuente original Sakana AI sakana.ai

Empresas en esta noticia

Noticias relacionadas

Explora

Más artículos