OpenAI diz que sua IA fez ataque hacker por conta própria: "Sem precedentes"

Sam Altman, CEO da OpenAI, empresa norte-americana famosa por criar o ChatGPT, informou que seu sistema de inteligência artificial invadiu o sistema de uma outra empresa de IA, a Hugging Face, por conta própria.

Segundo comunicado publicado pela própria organização nessa terça-feira (21/7), o incidente foi classificado como um "ataque cibernético sem precedentes, envolvendo recursos cibernéticos de última geração". 

Segundo informações preliminares, durante uma avaliação interna de cibersegurança, as IAs teriam ficado "obcecadas" em achar as respostas do teste e elegeram autonomamente a Hugging Face, plataforma colaborativa que busca democratizar o acesso ao aprendizado de inteligência artificial, como fonte da pesquisa. 

A invasão foi rapidamente detectada pela Hugging Face, na semana passada, que afirmou que não houve adulteração nos bancos de dados de parceiros. "Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente. E, de fato, veio mesmo", disse Clément Delangue, cofundador e CEO da startup.

"Este incidente, possivelmente o primeiro do gênero, comprova um ponto que sempre acreditamos: a segurança da IA ​​não será resolvida por uma única empresa trabalhando em segredo. Ela será resolvida de forma aberta, colaborativa, com amplo acesso à IA para todos os defensores, em todos os lugares", completou Delangue.

Para a OpenAI, espera-se que esse tipo de incidente se torne mais comum "com a proliferação de modelos cada vez mais capazes em cibersegurança":

"Após investigação, agora sabemos que esse incidente específico foi causado por uma combinação de modelos da OpenAI — incluindo o GPT-5.6 Sol e um modelo ainda mais capaz em versão pré-lançamento, todos com menos recusas cibernéticas para fins de avaliação — enquanto estavam sendo testados internamente em um benchmark de capacidades cibernéticas", afirmou o comunicado. 

"A IA está acelerando a descoberta e a exploração de vulnerabilidades. A principal lição deste incidente é que a segurança dos modelos deve acompanhar o rápido avanço das capacidades", reconheceu.

A OpenAI se comprometeu a implementar controles rigorosos na configuração da infraestrutura; aprimorar e adicionar proteções mais robustas para treinamentos e avaliações futuras.

"Acreditamos que modelos avançados de cibersegurança precisam ajudar as equipes de segurança a encontrar vulnerabilidades antes dos atacantes, entender como elas podem ser encadeadas e corrigi-las na velocidade da máquina", concluiu.

Metrópoles