A qualidade e a incidência das informações sobre saúde que a IA oferece variam drasticamente dependendo de quem faz a pergunta, da regulamentação em vigor e em que país é feita a consulta. Os grandes modelos de linguagem (LLM) oferecem uma clara desigualdade ao responder a consultas sobre as regulamentações sanitárias europeias. As respostas que os doentes recebem são mais limitadas e com menos rigor do que as recebidas pelos profissionais do setor. Além disso, se as perguntas forem feitas a partir de países como Espanha, Alemanha ou França, o resultado é mais completo e com maior qualidade das fontes. São algumas das conclusões retiradas do relatório IA y Política Pública: Hacia una nueva arquitectura de incidencia elaborado pela LLYC no âmbito da European Health Summit. Para a sua elaboração foram analisadas 1484 respostas de quatro sistemas de IA (OpenAI, Anthropic, Perplexity e Gemini) sobre quatro normas comunitárias fundamentais.

“A IA tornou-se um interveniente com capacidade para influenciar a opinião pública, a circulação de informação e a perceção de temas fundamentais como a saúde e a regulamentação. As divergências sistemáticas detetadas, especialmente a desigualdade informativa entre profissionais de saúde e doentes, e a disparidade geográfica colocam um desafio crítico de equidade. Deve ser monitorizada por reguladores e intervenientes industriais, uma vez que pode moldar as perceções públicas de forma tendenciosa, criando vantagens informativas para alguns utilizadores”, afirma Carlos Parry, Líder de Healthcare Europa na LLYC.

Para Daniel Fernández Trejo, Diretor-Geral de Deep Learning na LLYC: “A nossa análise demonstra empiricamente que os modelos de linguagem não são meros repositórios de dados, mas intermediários ativos que interpretam e distorcem as informações de acordo com quem as solicita. Passámos de uma Web de pesquisa para uma Web de respostas sintéticas, e para qualquer organização, compreender a lógica algorítmica desta nova “arquitetura da influência” é tão importante hoje como foi compreender os meios de comunicação no passado”