Recentemente, uma declaração de Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, empresas líderes no desenvolvimento de inteligência artificial (IA), trouxe à tona preocupações sobre os riscos associados à tecnologia. Coxon, ao solicitar sua demissão da Anthropic, afirmou que a ausência de responsabilidade por parte da companhia poderia levar a IA a representar uma ameaça à humanidade até 2030, principalmente devido à corrida acelerada pelo desenvolvimento de superinteligências capazes de autoaperfeiçoamento.
Entretanto, especialistas brasileiros destacam que o medo de que a IA possa desenvolver uma “vida” própria ainda não possui respaldo científico. Para Pedro A. Galvão Junior, professor da Faculdade de Tecnologia (Fatec) de São Roque, em São Paulo, o risco atual está mais relacionado à automação crescente do sistema do que à criação de entidades conscientes. Ele exemplifica seu ponto de vista citando o uso de drones controlados por IA durante o conflito na Ucrânia, onde sistemas autônomos trocaram dados entre si e realizaram ações de combate sem intervenção humana direta.
Já o professor Laerte Peotta de Melo, do departamento de engenharia elétrica da Universidade de Brasília (UnB), reforça que não há evidências de que a acumulação de conversas e dados possa transformar a IA em um “organismo digital vivo” com espontaneidade ou consciência. Segundo ele, embora as máquinas possam simular uma personalidade convincente, isso não implica que tenham sentimentos ou entendimento autônomo. Quando uma IA afirma “eu penso” ou “eu acho”, trata-se de uma resposta programada, sem qualquer experiência subjetiva por trás dela.
Melo explica que, na prática, as IAs atuais podem adaptar sua linguagem e dialetos ao perfil do usuário, criando uma aparência de personalidade, mas sem possuir autonomia ou autoconsciência. Para o especialista, o uso mais realista da tecnologia no momento é na criação de sistemas, na automação de processos, no controle de equipamentos e no suporte a pesquisas científicas. Assim, embora possam contribuir para inovação, essas aplicações não indicam que a IA esteja “vivendo” ou adquirindo consciência própria.
Os especialistas concordam que, por ora, o maior risco relacionado à inteligência artificial não reside na possibilidade de ela desenvolver vida autônoma, mas na automação descontrolada de sistemas. A independência crescente dessas máquinas pode facilitar fraudes, ataques cibernéticos, manipulação de informações, vazamentos de dados, decisões incorretas e uso em armas autônomas. Melo alerta que, mesmo sem uma IA consciente, problemas sérios podem surgir se algoritmos defeituosos forem mal configurados ou comprometidos por hackers.
Para mitigar esses riscos, ambos defendem a necessidade de supervisão humana contínua, limites de acesso a sistemas sensíveis e a realização de testes e auditorias que garantam mecanismos de desligamento da IA quando necessário. Essa preocupação foi pauta de discussões durante a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), realizada em Nova York. O presidente dos Estados Unidos, Donald Trump, afirmou que o país não busca controlar o desenvolvimento da IA, mas destacou a importância de estar na vanguarda tecnológica, afirmando que “quem vencer a inteligência artificial, ganha”. Por outro lado, o secretário-geral da ONU, António Guterres, alertou para o desenvolvimento acelerado da tecnologia, que supera a capacidade de compreensão humana sobre seus efeitos.
Para os especialistas brasileiros, a discussão na ONU é um passo positivo, embora o avanço da IA continue a superar as regulações existentes. Segundo Galvão Junior, a cooperação internacional, fiscalização independente e a manutenção da responsabilidade humana em decisões de alto risco são essenciais para evitar problemas futuros. Melo acrescenta que o desafio maior é equilibrar inovação e controle, adotando uma abordagem baseada em riscos, na qual aplicações com maior potencial de dano recebam maior atenção e mecanismos de segurança mais rigorosos.
