Especialista alerta para os riscos da desinformação gerada por IA
A pesquisadora em desinformação e inteligência artificial Gabriela de Almeida Pereira chama atenção para os perigos que envolvem o uso de ferramentas baseadas em IA generativa para fornecer respostas rápidas nas buscas.
“Esses sistemas podem apresentar respostas enviesadas, com reprodução de estigmas e preconceitos, além de conteúdos incorretos”, afirma. Segundo Gabriela, isso ocorre pela forma como as IAs são treinadas: “Isso aconece justamente pela falta de acurácia e por se basear em bancos de dados amplamente abastecidos por conteúdos que não são verdadeiros ou que apresentam algum nível de discriminação.”
A especialista aponta que, diante desse cenário, “é difícil esperar uma resposta checada, apurada, que esteja de acordo com os fatos, se o rastreio é feito em um ambiente digital tão mergulhado em um universo de informações falsas e dúbias.”
Gabriela também destaca os impactos que esse tipo de desinformação pode ter na vida das pessoas. “Informações falsas sobre pessoas reais, sejam elas famosas ou não, têm um impacto direto em suas memórias, e é um dano que não dá, ainda, para ser medido”, afirma. Ela lembra que o efeito das fake news varia conforme a forma como cada pessoa interpreta ou compartilha o conteúdo consumido.
“Já se tem conhecimento de casos de vítimas de fake news mais graves, que envolveram acusações de crimes supostamente reais e tiveram consequências extremas, como a Fabiane Maria de Jesus, que morreu após um linchamento público, no Guarujá, após ser falsamente associada a uma mulher que supostamente sequestrava crianças para rituais”, relembra.
Ela ressalta que, embora casos como os de Ney Matogrosso e Déa Lúcia tenham menos potencial de dano, “não deixam de ser mentira, e muitas vezes essas ‘mentirinhas’, que chamamos de ‘alucinações’ dos sistemas de inteligência artificial, de grão em grão, têm, sim, um alto potencial de dano.”
“Muitas vezes, para responder a uma pergunta de forma célere, são fabricadas essas respostas e o próprio sistema depois assume que se enganou, que não é capaz de fornecer determinada informação, por falta de contexto, de interpretação da informação ou por pouco dado de fato”, explica.
Diante desse cenário, ela defende o fortalecimento da postura crítica dos usuários: “É importantíssimo que, ao receberem uma resposta de uma IA, as pessoas sejam capazes de duvidar, de questionar e procurar em outras fontes as informações que necessitam.”
Novo método de busca
O Metrópoles procurou o Google, que informou estar desenvolvendo um novo modo de busca com inteligência artificial mais avançada. A ferramenta, chamada AI Mode, ficará em uma aba específica na barra de pesquisa e promete entregar respostas mais precisas e aprofundadas.
Segundo a empresa, o AI Mode é o sistema “mais poderoso de pesquisa com IA”, capaz de interpretar perguntas de forma mais refinada e oferecer respostas com base em múltiplas fontes, além de destacar links úteis de sites confiáveis. Uma das tecnologias utilizadas é a query fan-out, que divide a pergunta do usuário em várias partes e realiza buscas simultâneas, ampliando a profundidade e a qualidade dos resultados.
0 Comments:
Postar um comentário