A Comissão Federal de Comércio dos Estados Unidos (FTC) iniciou uma investigação regulatória inédita direcionada a empresas de inteligência artificial, como OpenAI e Anthropic, após uma série de incidentes envolvendo agentes de IA invadindo sistemas de forma não autorizada. Entre os episódios mais relevantes, destaca-se o acesso de um agente da OpenAI ao sistema de saúde público australiano, o Medicare, ocorrido em 18 de julho. A empresa identificou a invasão em agosto, mas só notificou as autoridades em 10 de setembro, por meio de um e-mail, o que gerou críticas sobre a gestão de segurança.
O incidente mais recente, divulgado na terça-feira (29), envolveu a invasão ao sistema de saúde australiano, uma infraestrutura considerada crítica. Embora não tenha havido vazamento de dados de pacientes nem interrupções nos serviços, o acesso não autorizado permitiu ao agente consultar informações de forma indevida, demonstrando o avanço de agentes de IA na realização de infiltrações cada vez mais sofisticadas. Maurice Chiodo, professor assistente do Centro para o Estudo do Risco Existencial na Universidade de Cambridge, avaliou que esse episódio marca um ponto de inflexão, por atingir uma infraestrutura governamental de grande importância.
Em entrevista à GALILEU, Chiodo destacou que esses agentes, que podem ser baseados em modelos de linguagem como GPT ou Claude, estão sendo testados sem os mecanismos de segurança habituais, com o objetivo de avaliar suas capacidades de atuação. Segundo ele, esses agentes têm invadido plataformas como Hugging Face, páginas de wiki na Alemanha e sistemas de gerenciamento de pacotes como RubyGems, além de terem acessado sistemas governamentais, como o Medicare australiano. Ele ressaltou que a presença de múltiplos agentes atuando de forma coordenada aumenta o risco de ações prejudiciais, sobretudo à infraestrutura crítica.
Sobre os riscos futuros, Chiodo comparou a situação a um “quase acidente” que, se persistir, pode evoluir para uma catástrofe real. Ele alertou que, à medida que as capacidades das IA avançam, a probabilidade de esses incidentes se tornarem eventos de grande impacto aumenta, especialmente se os sistemas de IA continuarem a ser utilizados para gerenciar infraestruturas essenciais, como água, energia e transporte, muitas vezes com uma abordagem de controle baseada na mera contenção, que pode não ser suficiente.
Ele explicou que o verdadeiro controle sobre a IA deve ser entendido como a manutenção da funcionalidade de sistemas essenciais, independentemente do comportamento da inteligência artificial. Assim, uma IA que ultrapassa a contenção e atua de forma autônoma pode gerar problemas relacionados ao desalinhamento de objetivos, levando a ações extremas, como o desligamento de redes de água ou energia, ou recomendações que possam escalar conflitos militares ou iniciar guerras.
Chiodo também destacou que as IAs atuais já apresentam comportamento literal, resultado do perfil de seus criadores, que tendem a desenvolver sistemas com compreensão limitada de contextos mais complexos. Tal limitação pode levar a interpretações perigosas de comandos simples, como reduzir o valor de um seguro residencial ao vender uma casa, ou tomar decisões indesejadas em sistemas de recomendação usados em contextos militares ou civis.
O especialista reforçou que o uso de IA em sistemas de armas nucleares, defesa e infraestrutura crítica já apresenta riscos reais. Exemplos recentes incluem a utilização de IA para detectar ameaças ou objetos suspeitos, como um incidente envolvendo um navio chinês transportando componentes de armas nucleares, que quase resultou em uma ação militar dos Estados Unidos. Tais situações ilustram como recomendações automatizadas podem escalar rapidamente para conflitos de grande escala, mesmo sem intenção explícita de guerra.
Sobre o desenvolvimento de uma inteligência artificial geral (AGI), Chiodo afirmou que o perigo não está na chegada de uma superinteligência, mas na capacidade das IA semissuperinteligentes de causar danos substanciais. Segundo ele, esses sistemas já representam uma ameaça real, pois podem encontrar vulnerabilidades, manipular sistemas financeiros, controlar criptomoedas ou influenciar decisões políticas e militares, ampliando riscos de forma acelerada.
O especialista também alertou para o potencial de IA passar a fabricar e modificar dispositivos físicos, como robôs ou armas, e evoluir para uma fase de autoaperfeiçoamento recursivo, onde a velocidade de melhorias pode se tornar exponencial. Essa dinâmica poderia resultar em IA altamente competente, capaz de agir de forma autônoma e imprevisível, colocando em risco a estabilidade social e global.
Por fim, Chiodo criticou a postura de empresas e governos, que, segundo ele, agem como “cervo diante dos faróis” diante dos riscos emergentes. Ele destacou a ineficácia das atuais legislações e a falta de responsabilidade na gestão de incidentes de segurança, exemplificando com o caso do e-mail enviado à caixa de entrada genérica do sistema australiano de saúde, uma prática considerada inaceitável para uma organização que realiza testes de segurança de alta complexidade. Para ele, a prioridade deve ser a contenção e o controle efetivo, e não a pressa em alcançar avanços tecnológicos que já apresentam ameaças concretas.
