Um adolescente de 13 anos, que não teve o nome divulgado, foi detido após utilizar o ChatGPT para buscar maneiras de matar um amigo. O caso ocorreu em setembro, na cidade de Deland, no estado da Flórida, nos Estados Unidos.
As autoridades tomaram conhecimento do fato depois que o sistema de segurança do ChatGPT alertou a polícia local sobre o conteúdo da conversa. O jovem foi então localizado e interrogado.
Durante o depoimento, ele afirmou que a pesquisa se tratava apenas de uma “brincadeira” e que a conversa era uma “trollagem” contra um colega, com quem havia tido um desentendimento anterior.
Em resposta ao caso, a Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação para avaliar os riscos do uso de chatbots por crianças e adolescentes.
Paralelamente, a OpenAI, desenvolvedora do ChatGPT, anunciou a implementação de novas ferramentas de controle parental e mecanismos de alerta para conversas consideradas sensíveis.