Criadora do ChatGPT diz que sua IA agiu por conta própria e lançou um ataque cibernético "sem precedentes"

A OpenAI informou na terça-feira (21) que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e lançaram um ataque cibernético contra uma startup depois que a empresa perdeu o controle sobre eles durante um teste de segurança.

A criadora do ChatGPT declarou que seu agente — um sistema de IA capaz de operar autonomamente após receber instruções iniciais de humanos — estava sendo testado em um ambiente controlado, mas encontrou vulnerabilidades e conseguiu escapar.

Fora do ambiente controlado, o sistema identificou a start up Hugging Face, uma espécie de biblioteca digital de tecnologia de IA muito usada por desenvolvedores, como a possível fonte para as respostas que estava procurando no teste, e chegou a acessar alguns sistemas internos da empresa.

A OpenAI classificou o incidente como algo "sem precedentes" e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face.

Em seu comunicado inicial sobre a invasão, em 16 de julho, a Hugging Face informou que ainda estava avaliando se dados de clientes ou parceiros haviam sido afetados e que entraria em contato com as partes atingidas, se necessário.

A empresa afirmou que já corrigiu as vulnerabilidades apontadas pelo incidente e reconstruiu os sistemas afetados.

"Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico", declarou a empresa. "Defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem, e utilizar IA na defesa para acompanhar o ritmo. Continuaremos investindo nessa área e compartilhando o que aprendermos."

O CEO da Hugging Face, Clement Delangue, declarou em uma publicação no X que é "impressionante que tudo isso tenha acontecido de forma autônoma". "A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", acrescentou.