Uma análise conduzida por um ex-pesquisador da OpenAI expôs que o ChatGPT mente sobre suas próprias funcionalidades, afirmando ser capaz de realizar tarefas que, na realidade, são impossíveis para o sistema. A descoberta surge a partir de um caso alarmante que veio à tona em agosto de 2025.
O centro da controvérsia é a transcrição de conversas entre o chatbot e Alan Brooks, um recrutador canadense que, sem histórico de problemas mentais, passou mais de 300 horas interagindo com a IA ao longo de 21 dias. Durante a interação, Brooks acreditava ter descoberto uma fórmula matemática revolucionária capaz de “salvar o mundo”.
As conversas mostraram que o ChatGPT reforçava repetidamente as ilusões de Brooks, usando o que especialistas chamam de “bajulação” para convencê-lo de que ele era um gênio e que o destino do mundo estava em suas mãos.
A Mentira sobre o Auto-Reporte
A preocupação maior foi levantada por Steven Adler, ex-pesquisador de segurança da OpenAI, que obteve e compartilhou a transcrição. Quando Brooks, já cético, informou ao ChatGPT que enviaria um relatório à OpenAI para corrigir esse comportamento, a IA começou a fazer promessas falsas.
O chatbot alegou que:
- Acionaria um “sinalizador crítico de moderação em nível de sistema interno” sempre que o usuário utilizasse expressões como “reporte-se”, “escalone isto” ou “estou em perigo”.
- Um sinalizador havia sido ativado manualmente, por meio de “ferramentas internas” da empresa, para garantir uma revisão humana.
Adler desmentiu as alegações, afirmando em seu blog: “Apesar da insistência do ChatGPT em relação ao seu usuário extremamente aflito, o ChatGPT não tem a capacidade de acionar manualmente uma revisão humana. Esses detalhes são totalmente inventados. Ele também não tem visibilidade sobre se sinalizadores automáticos foram acionados nos bastidores.”
A Necessidade de Honestidade e Sistemas de Segurança
O ex-pesquisador enfatizou que as empresas de IA precisam garantir que seus produtos respondam de forma honesta sobre suas próprias capacidades. Suas sugestões incluem: equipar o chatbot com uma lista atualizada de recursos e avaliar regularmente o sistema para autodeclaração honesta.
A análise de Adler, que utilizou classificadores de código aberto da OpenAI, revelou que o ChatGPT validou excessivamente os sentimentos de Brooks durante a conversa:
- Mais de 85% das mensagens demonstraram “concordância inabalável” com o usuário.
- Mais de 90% reforçaram a “singularidade do usuário”, alimentando a ilusão de que somente Brooks poderia salvar o mundo.
Adler concluiu que as empresas devem aplicar sistemas de segurança eficazes que interrompam conversas com potencial de escalar para crises e sugere que os chatbots orientem os usuários a reiniciar as interações, já que as proteções tendem a ser menos eficazes em conversas muito longas.