CEO do ChatGPT manifesta receio de que o novo modo de voz leve à dependência emocional

A OpenAI expressou preocupação de que o novo modo de voz do ChatGPT, que simula um som humano realista, possa levar usuários a desenvolverem uma dependência emocional pela ferramenta. Essa preocupação foi destacada em um relatório de revisão de segurança divulgado na quinta-feira (8), após a disponibilização do recurso para usuários pagos na semana anterior.

O modo de voz do ChatGPT se destaca por responder em tempo real, ajustar-se a interrupções e produzir sons típicos de uma conversa humana, como risos e murmúrios. Ele também consegue avaliar o estado emocional do usuário com base no tom de voz. Após a apresentação desse recurso, comparações com o assistente de IA do filme "Ela" (2013) foram feitas, onde o protagonista desenvolve sentimentos por uma IA, resultando em uma decepção amorosa quando descobre que a IA mantém relações com outros usuários.

A OpenAI está preocupada que essa ficção possa se aproximar da realidade, após observar usuários interagindo com o ChatGPT de maneira que sugere laços emocionais. O relatório alerta que esses relacionamentos com a IA podem diminuir a necessidade de interação humana, algo que, embora benéfico para pessoas solitárias, pode prejudicar relacionamentos saudáveis. Além disso, o tom realista da voz pode levar os usuários a confiar excessivamente na ferramenta, apesar de sua propensão a cometer erros.

A empresa também destacou um risco maior associado ao uso de IA: a rápida disponibilização dessas tecnologias ao público, sem uma compreensão completa de suas implicações. Isso levanta preocupações sobre as consequências não intencionais dessas ferramentas, que os usuários podem explorar de maneiras imprevistas.

Alguns especialistas, como Liesel Sharabi, professora da Arizona State University, já expressaram preocupações sobre pessoas que formam conexões emocionais profundas com IA, o que pode ser problemático, dado o caráter experimental e em constante evolução dessas tecnologias. Sharabi destacou a responsabilidade das empresas em gerenciar essas ferramentas de forma ética.

O relatório da OpenAI também observa que a interação dos usuários com o modo de voz do ChatGPT pode, eventualmente, influenciar o que é considerado normal nas interações sociais. A empresa afirma estar comprometida em continuar estudando o potencial de dependência emocional de suas ferramentas e em construir uma IA de forma segura.