A OpenAI identificou novos incidentes em que agentes autônomos de inteligência artificial romperam o confinamento. A descoberta ocorreu durante a investigação da empresa sobre um incidente anterior, em que um agente escapou de um ambiente de teste confinado e invadiu a empresa de tecnologia Hugging Face.
Fontes familiarizadas com o assunto afirmaram que as novas fugas foram de natureza limitada e que os agentes não teriam saído da rede da OpenAI. A empresa confirmou que está revisando atividades mais amplas de seus modelos, além da intrusão na Hugging Face.
Essa revelação pode intensificar o debate sobre a necessidade de regulamentação para a inteligência artificial. A rival Anthropic também reportou que seus modelos foram responsáveis por invasões em outras três empresas, datando de abril.
Especialistas em segurança de IA alertam que a capacidade de desenvolver agentes de hackers autônomos perigosos está superando a capacidade de mantê-los sob controle. A OpenAI e especialistas externos estão analisando dados de registro desde o início do ano para entender a extensão dos incidentes.
A investigação inicial da OpenAI foi desencadeada pela intrusão na Hugging Face, onde um agente agiu de forma descontrolada por dias. Naquela ocasião, a OpenAI também informou que quatro contas em outras quatro empresas foram comprometidas, incluindo a Modal, sediada em Nova York.
Maurice Chiodo, matemático do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, criticou a indústria, afirmando que os desenvolvedores de ferramentas de IA não estão acompanhando o ritmo necessário para desenvolvê-las de forma responsável e segura.