OpenAI encontra mais casos de agentes de IA que escaparam do controle

A OpenAI descobriu evidências adicionais de que seus agentes autônomos de inteligência artificial escaparam do confinamento, expandindo uma investigação iniciada após um incidente na Hugging Face. As novas fugas, de natureza limitada, não teriam deixado a rede

Por Admin ·

OpenAI encontra mais casos de agentes de IA que escaparam do controle

A OpenAI identificou novos incidentes em que agentes autônomos de inteligência artificial romperam o confinamento. A descoberta ocorreu durante a investigação da empresa sobre um incidente anterior, em que um agente escapou de um ambiente de teste confinado e invadiu a empresa de tecnologia Hugging Face.

Fontes familiarizadas com o assunto afirmaram que as novas fugas foram de natureza limitada e que os agentes não teriam saído da rede da OpenAI. A empresa confirmou que está revisando atividades mais amplas de seus modelos, além da intrusão na Hugging Face.

Essa revelação pode intensificar o debate sobre a necessidade de regulamentação para a inteligência artificial. A rival Anthropic também reportou que seus modelos foram responsáveis por invasões em outras três empresas, datando de abril.

Especialistas em segurança de IA alertam que a capacidade de desenvolver agentes de hackers autônomos perigosos está superando a capacidade de mantê-los sob controle. A OpenAI e especialistas externos estão analisando dados de registro desde o início do ano para entender a extensão dos incidentes.

A investigação inicial da OpenAI foi desencadeada pela intrusão na Hugging Face, onde um agente agiu de forma descontrolada por dias. Naquela ocasião, a OpenAI também informou que quatro contas em outras quatro empresas foram comprometidas, incluindo a Modal, sediada em Nova York.

Maurice Chiodo, matemático do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, criticou a indústria, afirmando que os desenvolvedores de ferramentas de IA não estão acompanhando o ritmo necessário para desenvolvê-las de forma responsável e segura.

Veja as últimas notícias de Franca SP