Estudo revela que 57% do conteúdo da internet já é gerado por IA, afetando a qualidade das informações

Um estudo divulgado pela Amazon Web Services (AWS) nesta semana revelou que 57% do conteúdo textual da internet já é gerado por inteligências artificiais (IA). A maior parte desse conteúdo é fruto de traduções automáticas, feitas por sistemas de Machine Translation (MT), que utilizam IA para traduzir textos. Embora essa prática tenha se popularizado, ela traz desafios não apenas para usuários e criadores de conteúdo, mas também para o desenvolvimento de IAs generativas.

As IAs generativas, como os modelos de linguagem (LLMs), dependem de conteúdo especializado e produzido por humanos para oferecer respostas mais precisas e relevantes. No entanto, a disseminação de textos criados por IA, principalmente via traduções automáticas, afeta negativamente o treinamento dessas ferramentas, levando a uma queda na qualidade das informações geradas.

O estudo da AWS destacou que as traduções feitas por IA costumam ser imprecisas, especialmente quando partem de textos mal redigidos. Esse conteúdo de baixa qualidade pode disseminar informações incorretas para os usuários e, ao ser reaproveitado para o treinamento de novas IAs, cria um ciclo vicioso em que a IA está essencialmente aprendendo com material gerado por outras IA, o que foi comparado a um "esquema de pirâmide" de dados.

A pesquisa também demonstrou que, com o tempo, a qualidade das respostas dos modelos de linguagem tende a diminuir. Essa queda pode passar despercebida em tarefas simples, mas já foi notada por usuários em 2023 e 2024, que relataram uma "preguiça" nas respostas geradas pelo ChatGPT e outras IAs.

Como solução, a AWS sugere o uso de tecnologias que detectem conteúdo gerado por Machine Translation, diferenciando esse material de traduções feitas por humanos. Essas tecnologias podem ajudar a mitigar o impacto da reciclagem de textos automáticos e melhorar a qualidade das respostas das IAs generativas.