A OpenAI, dona do ChatGPT, foi processada nos Estados Unidos pelo Procurador-geral da Flórida. A empresa de inteligência artificial (IA) é acusada de fornecer um produto que coloca a segurança dos usuários em risco enquanto ela busca somente o lucro.
O responsável pela denúncia, James Uthmeier, alega que a companhia obteve sucesso ao prejudicar usuários em várias esferas, além de ser negligente contra riscos do chatbot à segurança da comunidade. No texto, ele sugere que o serviço representa um “grande perigo de dependência” e declínio cognitivo, além de auxílio em ações violentas.
“Atiradores em massa foram auxiliados e instigados em seus ataques mortais, pessoas vulneráveis foram levadas ao suicídio, profissionais sofreram humilhação pública, usuários perderam a capacidade de pensar criticamente e menores se tornaram viciados em uma ferramenta que finge compaixão humana para coletar seus dados sem supervisão dos pais“, diz o documento do processo.
O processo não faz acusações criminais, mas busca penas e uma ordem judicial contra o ChatGPT e o CEO da empresa, Sam Altman. O executivo, de acordo com o texto, tinha ciência dos perigos da plataforma, mas resolveu ignorá-los por uma decisão de mercado.
Ele é baseado em uma investigação que começou em abril, depois de um incidente na Florida State University. No caso, que terminou com duas pessoas mortas e vários feridos, um atirador teria utilizado o ChatGPT para planejar o ataque e obter informações sobre armas e até o melhor horário para realizar o ataque.
Esse não é o primeiro processo encarado pela OpenAI por críticas ao modo de funcionamento da plataforma. As ações envolvem a falta de ação da plataforma, que não teria alertado autoridades ou os responsáveis por esse e vários casos de violência decorrentes de interações com o chatbot.
- Recentemente, ela foi processada pela família de um jovem que morreu de overdose por “conselhos arriscados” e não reportar comportamentos perigosos da vítima;
- Em 2025, os pais de um adolescente que tirou a própria vida após passar meses interagindo com o ChatGPT também acionaram a companhia judicialmente. Outros casos similares também resultaram em disputas jurídicas ainda em andamento;
- Também no ano passado, a IA foi processada por “alucinar” em uma resposta e inventar que um homem teria cometido crimes graves contra os próprios filhos;
- A companhia dona de uma enciclopédia, por outro lado, abriu uma ação por roubo de conteúdos.
O que diz a OpenAI
Em nota enviada ao site NBC News, a OpenAI reforça que constrói mecanismos de segurança para uso do chatbot por menores, incluindo predição de idade e ferramentas de controle parental.
“Perder um filho é a tragédia mais devastadora que pode acontecer a uma família e sabemos que nenhuma palavra consegue expressar a dor de tal perda. A IA é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa, razão pela qual implementamos proteções e políticas líderes do setor“, diz o comunicado.
No caso do tiroteio na universidade, a empresa na época justificou que o incidente “foi uma tragédia, mas o ChatGPT não é responsável por esse crime terrível“.
Acesse a seção no site do TecMundo sobre IA e mantenha-se atualizado sobre esse mercado!