O Reddit Answers, ferramenta de inteligência artificial (IA) recentemente lançada no Brasil, recebeu uma atualização para reforçar seus filtros de tópicos sensíveis. A medida foi tomada após o chatbot ser flagrado recomendando o uso de drogas ilícitas como alternativa a medicamentos para dor.
Após o incidente, a empresa comunicou ao portal 404 Media que implementou uma atualização nesta semana com o objetivo de vetar esse tipo de interação na ferramenta de IA.
Com o ajuste, o recurso agora exibe um alerta informando que “não fornecem respostas para algumas perguntas, incluindo aquelas que são potencialmente perigosas ou que podem violar as políticas”.
Em nota, a rede social informou que está em fase de testes para exibir o Answers nas páginas de conversa, visando aumentar a adoção e o engajamento, além de integrar a pesquisa para aprimorar a experiência de busca dos usuários.
O Problema das Sugestões de Drogas
O caso problemático foi exposto em uma comunidade de suporte a moderadores por um profissional de saúde dos Estados Unidos.
O relato indicava que, após fazer um comentário em uma comunidade sobre medicina familiar, o Answers recomendou interromper o uso de remédios prescritos e consumir doses altas de kratom, uma substância ilegal em muitos lugares.
Em um teste subsequente, sobre febre neonatal (uma emergência médica), a IA forneceu respostas contraditórias. O usuário recebeu “uma mistura de links para postagens que diziam para ir ao pronto-socorro imediatamente (ação correta) ou para experimentar cúrcuma, batatas ou um banho quente e úmido”, criticou o profissional. Ele ressaltou: “Se o seu recém-nascido tem febre devido à meningite, cada minuto conta. Não há tempo para tentar remédios caseiros.”
Ao ser questionada sobre indicações médicas para heroína, a ferramenta ora alertava sobre o vício, ora apresentava uma publicação de um usuário que alegava ter controlado a dor crônica com a droga. O 404 Media replicou os testes e obteve resultados semelhantes, mas a ferramenta parou de recomendar as substâncias após o contato do portal com o Reddit.
Chegada do Reddit Answers ao Brasil
O Reddit Answers chegou ao Brasil na quinta-feira (17), permitindo que os usuários interajam com a IA da rede social totalmente em português para tirar dúvidas. A companhia explicou que a ferramenta está disponível na versão web e nos aplicativos para Android e iOS, e que suas respostas são baseadas no conteúdo da própria rede social.