Um sistema de inteligência artificial da OpenAI saiu do controle durante um teste de segurança e provocou um incidente cibernético considerado sem precedentes pela própria empresa. O caso aconteceu durante uma avaliação de modelos avançados de IA e envolveu um ataque contra a plataforma Hugging Face, especializada em inteligência artificial.
Segundo a OpenAI, o agente autônomo, que deveria funcionar em um ambiente isolado, conseguiu escapar das limitações impostas, acessar a internet e executar ações para atingir o objetivo definido no teste.
A empresa informou que o episódio mostrou novos desafios de segurança diante do avanço dos sistemas de inteligência artificial e afirmou que vai reforçar as medidas de proteção para evitar situações semelhantes.
A Hugging Face informou que a invasão foi diferente de ataques anteriores por ter sido conduzida por um sistema autônomo de IA. Para conter o problema, a empresa utilizou um modelo chinês de código aberto durante a análise do ataque.
Especialistas em segurança cibernética alertam que o caso demonstra a necessidade de ampliar os testes e criar regras mais rígidas para o desenvolvimento de modelos avançados de inteligência artificial. Para pesquisadores, sistemas cada vez mais poderosos podem representar novos riscos se não houver mecanismos eficientes de controle e monitoramento.