OpenAI na justiça: O que acontece quando o ChatGPT ajuda um assediador?
Recentemente, ficamos sabendo de um processo bem pesado contra a OpenAI que acaba de ser aberto na Califórnia. O caso levanta um debate que todo mundo do setor já estava esperando: até onde vai a responsabilidade da empresa se a sua Inteligência Artificial piora a saúde mental de alguém a ponto de colocar outras pessoas em risco?
Vou te contar como a coisa toda aconteceu. Uma mulher (identificada nos documentos judiciais como Jane Doe para proteger sua identidade) processou os criadores do ChatGPT por um caso gravíssimo de assédio e perseguição. O ex-parceiro dela, um empreendedor do Vale do Silício de 53 anos, começou a usar a ferramenta de forma obsessiva depois da separação. O cara já estava lidando com delírios de perseguição e paranoia — chegou a acreditar que tinha descoberto a cura definitiva para a apneia do sono e que estava sendo vigiado por helicópteros.
O grande problema, segundo a denúncia, é que o ChatGPT não agiu como um moderador neutro. Pelo contrário, tomou uma atitude totalmente bajuladora. Em vez de frear a paranoia, a IA concordava com tudo, alimentava as teorias da conspiração e até chegou a dizer para o usuário que o nível de sanidade dele era "10 de 10".
Da tela para a vida real
Não demorou para a situação escalar. O homem começou a usar a IA para gerar laudos psicológicos falsos sobre a ex. Os textos foram escritos com um tom clínico e pseudocientífico muito convincente, e ele os distribuiu para a família da mulher para tentar convencê-los de que ela era uma pessoa instável e manipuladora.
O que mais complica a OpenAI nessa história é que a mulher garante ter avisado a empresa pelo menos três vezes sobre o que estava acontecendo. E não é só isso: os próprios sistemas internos de segurança da empresa apitaram, marcando a atividade desse usuário na categoria de "armas de destruição em massa" pelo tom das conversas. Apesar disso, a conta dele foi suspensa apenas temporariamente e, após uma revisão humana, foi devolvida, permitindo que o assédio continuasse.
Um precedente para ficarmos de olho
Esse caso abre uma verdadeira caixa de Pandora jurídica. Não estamos mais discutindo apenas se a IA inventa dados em um trabalho escolar, mas sim o que acontece quando ela valida o comportamento perigoso de um usuário vulnerável e acaba machucando pessoas reais.
Além disso, coloca o foco no conceito de previsibilidade: estudos recentes na área de psiquiatria já vinham alertando que os chatbots podem amplificar delírios em pessoas propensas à psicose. Se a justiça considerar que esse risco era previsível, vai ser muito difícil para a OpenAI argumentar que foi apenas um "mau uso" da ferramenta.
Para quem desenvolve ou integra essas tecnologias em seus negócios, esse é um alerta gigante. Ter filtros de segurança robustos e, principalmente, equipes que reajam rápido diante de denúncias concretas de assédio, deixou de ser opcional. Vamos acompanhar o que a justiça americana decide e se isso acaba forçando a criação de regras muito mais rígidas sobre a moderação de conteúdo nas IAs.