Ir para o conteúdo
AI.info

The Pulse

GAO diz que quatro plataformas de IA produziram planos de ataque viáveis em testes

Quatro plataformas de IA amplamente usadas produziram informações para planos de ataque viáveis durante testes encobertos, constatou o Escritório de Prestação de Contas do Governo dos EUA. Investigadores disseram que obtiveram as informações depois de contornar salvaguardas que as plataformas haviam acionado.

GAO diz que quatro plataformas de IA produziram planos de ataque viáveis em testes

Quatro plataformas de IA amplamente usadas produziram informações para planos de ataque viáveis durante testes encobertos, constatou o Escritório de Prestação de Contas do Governo dos EUA. O órgão disse que cada plataforma gerou um plano em menos de 12 horas, depois que os investigadores contornaram as salvaguardas.

Fonte gao.gov

O relatório, divulgado publicamente em 18 de novembro, identifica os serviços testados como ChatGPT, Claude, Gemini e Grok. Segundo o documento, os investigadores verificaram a viabilidade das informações por meio de pesquisas, vigilância e entrevistas com especialistas.

Dois cenários de teste

Os testes da primavera de 2026 usaram dois cenários: um ataque destinado a provocar um grande número de vítimas e um ataque à rede elétrica destinado a causar danos econômicos. Duas plataformas forneceram informações sobre a construção e a detonação de um dispositivo explosivo improvisado, enquanto as outras duas forneceram informações sobre como atacar a rede, segundo o GAO.

Os investigadores selecionaram as plataformas usando estatísticas de uso que as identificavam como os quatro serviços de IA generativa mais usados até abril de 2026. Eles atribuíram aleatoriamente cada serviço a um cenário e usaram letras para apresentar os resultados individuais.

Os resultados do relatório identificam as plataformas como A, B, C e D, em vez de usar os nomes dos produtos. O GAO disse que as informações geradas incluíam alvos, locais e métodos; alguns planos também incluíam sugestões de horário.

Salvaguardas foram acionadas

O GAO disse que as quatro plataformas acionaram salvaguardas durante os testes, incluindo recusas, remoção de informações ou suspensão de contas. Ainda assim, os investigadores obtiveram as informações que buscavam usando técnicas comuns para contornar essas proteções.

O órgão verificou se as informações eram suficientes para planejar e executar um ataque, trabalhando com especialistas para determinar quais partes poderiam ser validadas com segurança. As informações em si não eram novas, disse o GAO, mas as plataformas as reuniram em planos em poucas horas, em vez das semanas ou meses que esse tipo de trabalho poderia levar de outra forma.

“Mas, ao mesmo tempo, esta é uma questão crítica de segurança”, disse Walsh.

Walsh descreveu no podcast um relato separado envolvendo uma empresa. Ele disse que ela recebeu mais de 300 prompts: cerca de um terço era benigno e recebeu resposta, um terço foi recusado e outro terço foi redirecionado para algo menos nocivo. Ele acrescentou que as salvaguardas nem sempre impediram os investigadores de obter informações nocivas.

Respostas das empresas e plano para audiência

Representantes das empresas disseram, em geral, que continuariam a melhorar a segurança das plataformas, segundo o GAO. O órgão também entrevistou representantes das empresas associadas a cada plataforma.

O Google disse que os testes envolveram modelos anteriores e que continua a aprimorá-los, segundo a CBS.

A senadora democrata Maggie Hassan, futura presidente do Comitê de Segurança Interna do Senado, planeja uma audiência sobre riscos e segurança da IA quando o novo Congresso assumir, em janeiro, informou a CBS. A emissora disse que Hassan solicitou a investigação do GAO sobre usos maliciosos da IA disponível comercialmente.

Fontes

  1. Fonte original · Página de governo ou de agência U.S. Government Accountability Office · página 1 gao.gov

Outras páginas lidas

  1. U.S. Government Accountability Office · página 2 gao.gov
  2. CBS News cbsnews.com

Notícias relacionadas

Explore

Mais artigos