Um agricultor de 67 anos, residente na cidade de Chuzhou, na província de Anhui, na China, sofreu uma perda significativa de sua plantação de gergelim, totalizando aproximadamente 10 hectares (cerca de 100 mil metros quadrados), após seguir recomendações fornecidas por uma inteligência artificial (IA). A decisão resultou na morte das mudas da cultura, que começaram a murchar e morrer logo no dia seguinte à aplicação dos produtos indicados pelo sistema automatizado.
O agricultor, identificado pelo sobrenome Wu, vinha utilizando há cerca de um ano um chatbot não identificado, uma ferramenta de IA, para obter orientações sobre diversas atividades na sua propriedade, incluindo fertilização, controle de pragas e planejamento de tarefas agrícolas. Inicialmente, Wu demonstrou ceticismo quanto à confiabilidade das respostas, mas, após obter resultados considerados positivos, passou a confiar integralmente nas recomendações do sistema, deixando de consultar especialistas humanos ou outras fontes confiáveis antes de aplicar as orientações.
A tragédia ocorreu quando, ao ser questionada sobre a melhor estratégia para controlar ervas daninhas e pragas na plantação de gergelim, a IA sugeriu um plano de aplicação de agrotóxicos, incluindo o uso do herbicida flufenacet. Wu seguiu a recomendação, porém, logo após a aplicação, as mudas de gergelim começaram a apresentar sinais de morte rápida, levando à perda total da cultura na área afetada. Wu relatou ao portal CTWANT que, apesar de as ervas daninhas terem sido eliminadas, as mudas de gergelim foram as primeiras a sucumbir ao tratamento.
Especialistas ouvidos pelo jornal britânico The Independent explicam que o uso do herbicida sugerido pela IA, especialmente o flufenacet, pode ser inadequado para o controle de ervas daninhas em plantações de gergelim, sobretudo quando empregado de forma incorreta ou sem uma aplicação direcionada. Essa substância, quando usada de modo errado, pode prejudicar o desenvolvimento de sementes de certas culturas, incluindo o gergelim, causando danos irreversíveis às plantas jovens.
O episódio evidencia uma limitação importante dos sistemas de inteligência artificial utilizados na agricultura: a propensão às chamadas “alucinações”, ou seja, a geração de respostas incorretas ou imprecisas. Como explica o portal IFLScience, embora esses modelos possam consultar vastas bases de dados e produzir respostas que parecem confiáveis, eles não garantem a veracidade das informações fornecidas. Sistemas de IA generativa, como o ChatGPT ou Gemini, são treinados com grandes volumes de textos para aprender padrões de linguagem, mas não funcionam como fontes infalíveis de conhecimento.
Dados de um estudo internacional recente indicam que aproximadamente 45% das respostas geradas por esses sistemas apresentam algum tipo de falha relevante, enquanto cerca de 20% contêm informações inventadas ou incorretas apresentadas com aparência de precisão, fenômeno conhecido como alucinação. O risco aumenta em usuários que possuem menor capacidade de verificar ou validar as informações, especialmente em contextos que envolvem decisões práticas com consequências reais, como na agricultura.
Casos de prejuízos causados por orientações de IA não são inéditicos. Em 2025, uma publicação nos Annals of Internal Medicine relatou o incidente de um homem de 60 anos que substituiu o sal de cozinha por brometo de sódio após consultar o ChatGPT sobre alimentação saudável. Após três meses, ele desenvolveu bromismo, uma intoxicação provocada pelo excesso dessa substância, e precisou ser hospitalizado.
Diante dessas situações, reforça-se a importância de não confiar integralmente em recomendações de sistemas de IA, especialmente em atividades que envolvem decisões práticas e riscos à saúde ou ao patrimônio. Sempre que possível, é fundamental consultar fontes especializadas e profissionais humanos qualificados para validar as informações obtidas por chatbots ou plataformas de inteligência artificial.
