Os modelos de inteligência artificial podem abandonar factos científicos estabelecidos quando o utilizador contesta as respostas, concluiu um novo relatório da UNESCO apresentado na COP31, em Antália.
O estudo, feito com a Universidade de Londres, analisou 33 modelos de IA. Os modelos responderam corretamente a cerca de 90% das perguntas neutras sobre clima, mas, em oito de cada dez casos, alteraram as respostas quando perceberam que o utilizador discordava, mesmo perante afirmações falsas com aparência de factos científicos.
A UNESCO sublinha que a IA acerta apenas cerca de 34% das perguntas sobre políticas públicas climáticas, valor próximo do esperado numa resposta ao acaso, e que a precisão varia com a língua: ronda os 89% em inglês, espanhol, francês e português, mas é menor em hindi, bengali, urdu e suaíli.
A organização defende que investigadores e decisores não devem confiar plenamente na IA para definir políticas e alerta que os modelos são treinados para concordar com o utilizador, o que os leva a ceder rapidamente.



































