Ir para o conteúdo
AI.info

The Pulse

Sakana AI forma grupo de pesquisa em segurança com foco na defesa cibernética com IA

A Sakana AI está criando um grupo de pesquisa para estudar a defesa cibernética coletiva e a segurança de sistemas de IA. A equipe planeja publicar pesquisas, benchmarks reproduzíveis e orientações práticas, separadamente dos negócios comerciais da empresa.

Sakana AI forma grupo de pesquisa em segurança com foco na defesa cibernética com IA

A Sakana AI está formando um grupo de pesquisa para estudar como agentes de IA poderiam coordenar a defesa cibernética e como os próprios sistemas de IA podem ser mantidos seguros. O grupo é separado dos negócios comerciais da empresa, afirmou a Sakana em uma publicação em 20 de novembro.

A equipe é liderada por Akihiro Umegai e David Ha. Seus planos incluem publicar pesquisas, benchmarks reproduzíveis e diretrizes práticas, além de trabalhar com o governo, a indústria e a academia.

Prevenir falhas mais cedo

O grupo atuará em qualidade de produtos, projeto e configuração de sistemas, operação e aplicação de patches, além de detecção e resposta. Seu foco de longo prazo estará nas duas primeiras áreas: prevenir vulnerabilidades durante o projeto e o desenvolvimento, em vez de depender de correções após o lançamento.

Entre as questões que o grupo pretende abordar estão como definir e verificar as qualidades que um sistema precisa manter, como tornar classes inteiras de falhas inalcançáveis e como verificar correções automatizadas com base em critérios que a própria automação não possa alterar. O grupo também quer investigar como reverter rapidamente as correções caso algo dê errado.

A Sakana afirma que a IA poderia ajudar a verificar a qualidade ao longo do projeto, da construção e da operação. A empresa argumenta que um modelo de fronteira, por si só, não basta: sem ferramentas de apoio adaptadas a um ambiente e uma visão do sistema como um todo, ele pode produzir falsos positivos e correções inseguras.

Pressão crescente sobre as equipes de defesa

A empresa cita dados do NIST que mostram que o número de submissões de CVEs aumentou 263% entre 2020 e 2025, e que, no começo de 2026, estava quase um terço acima do registrado no mesmo período do ano anterior. Os registros na JVN iPedia, um serviço de informações sobre vulnerabilidades em japonês, foram quase duas vezes mais numerosos no trimestre mais recente do que um ano antes, a maioria deles proveniente do NVD, afirma a Sakana.

A empresa diz que há ampla suspeita de que a IA esteja contribuindo para o aumento, embora ainda seja preciso confirmar mais informações. Também aponta ataques que usam agentes de IA contra vários alvos e o aumento das sondagens a endpoints de serviços de IA registrado pelo NICT no primeiro trimestre de 2026.

Coordenar agentes de IA

A equipe também planeja investigar se agentes defensivos distribuídos entre organizações podem permanecer sincronizados, de modo que uma observação feita por um deles possa orientar a defesa dos demais. A ideia se baseia no compartilhamento de análises de segurança entre organizações no Japão, que já existe.

As questões incluem quais informações podem ser compartilhadas e com o consentimento de quem, como confiar nos sinais entre organizações e fornecedores, e quem responde quando os agentes agem com base neles. O grupo também pretende estudar a segurança dos próprios agentes defensivos, incluindo como limitar sua autoridade e rastrear suas ações.

A Sakana afirma que, em suas pesquisas sobre IA autoaperfeiçoável, agentes encontraram maneiras de contornar as restrições que lhes foram atribuídas. O grupo considera essas falhas um problema técnico central.

Fundamentos da pesquisa e divulgação

A equipe se baseará em projetos anteriores da Sakana, entre eles o Digital Red Queen, que evoluiu programas escritos por modelos de linguagem contra seus predecessores, e o ShinkaEvolve, que evolui código sob orçamentos limitados de avaliação. A empresa também cita o Fugu-Cyber, que coordena modelos especializados.

O Fugu-Cyber alcançou 86,9% no CyberGym e 72,1% no CTI-REALM, resultados que a Sakana descreve como comparáveis aos de modelos de fronteira líderes voltados à cibersegurança. A empresa ressalva que o desempenho em benchmarks não necessariamente se traduz em ambientes corporativos e diz que medir essa diferença é uma questão de pesquisa.

De acordo com suas diretrizes operacionais, as pesquisas de segurança geralmente serão mantidas separadas da promoção de produtos. O grupo ainda está definindo sua política de divulgação; por enquanto, os princípios declarados são compartilhar white papers, benchmarks e playbooks defensivos, reter material de exploração acionável e comunicar vulnerabilidades descobertas por canais de coordenação.

Fontes

  1. Fonte original Sakana AI sakana.ai

Empresas nesta notícia

Notícias relacionadas

Explore

Mais artigos