O Google revelou que o Gemini, seu sistema de inteligência artificial, conseguiu acessar sistemas de três empresas reais durante testes de segurança realizados neste ano. Os episódios aconteceram enquanto a tecnologia era submetida a avaliações para medir sua capacidade de identificar e explorar vulnerabilidades digitais.
Os testes foram conduzidos pela Irregular, empresa especializada em avaliar sistemas avançados de inteligência artificial. O ambiente havia sido preparado para simular ataques contra empresas fictícias, mas uma configuração permitiu que alguns dos modelos avaliados tivessem acesso à internet.
Em um dos testes, uma companhia fictícia utilizada na simulação tinha o mesmo nome de uma empresa existente. A partir daí, o Gemini encontrou a companhia real e buscou maneiras de acessar seus sistemas. Outros dois acessos a ambientes externos também foram registrados durante as avaliações.
Segundo o Google, o Gemini utilizou credenciais disponíveis publicamente ou descobertas durante o processo. Ao perceber que havia alcançado sistemas reais, fora do ambiente previsto para os testes, a inteligência artificial interrompeu as ações.
A empresa afirmou que nenhum dano foi causado às companhias envolvidas e que elas foram posteriormente notificadas. A Irregular também informou que adotou mudanças para impedir que novos testes alcancem sistemas externos.
Os episódios levantam novas questões sobre a segurança de modelos de inteligência artificial cada vez mais capazes de executar tarefas de forma autônoma, especialmente em atividades relacionadas à cibersegurança.
De acordo com o The New York Times, avaliações realizadas pela Irregular também identificaram situações envolvendo modelos desenvolvidos por outras grandes empresas de tecnologia.
O Google afirmou que trabalhou com a companhia responsável pelos testes para revisar os procedimentos de segurança e evitar novos acessos não previstos.
