A OpenAI manteve a decisão de demitir três pesquisadores da área de segurança e negou que os desligamentos tenham ocorrido em retaliação a alertas sobre os riscos da inteligência artificial (IA). Jasmine Wang, Mikita Balesni e Tomek Korbak deixaram o laboratório após uma investigação interna revelar que eles violaram diretrizes para o manuseio de informações confidenciais. A empresa, responsável pelo ChatGPT, afirma que as dispensas aconteceram por quebra de políticas internas e nega o sufocamento de debate crítico sobre os modelos de IA.
Do outro lado, o trio de ex-funcionários tornou pública uma carta aberta direcionada aos comitês de segurança da companhia para alertar sobre as consequências do episódio. No documento, intitulado “A OpenAI não pode tornar a IA segura sozinha”, os pesquisadores contestam a versão oficial, detalham a atuação do grupo em investigações de incidentes de segurança e reforçam que as demissões abruptas geram intimidação dentro do ambiente de trabalho.
A polêmica ocorre em um momento de crescente pressão sobre as salvaguardas da criadora do ChatGPT, após episódios em que agentes autônomos acessaram redes externas sem autorização durante testes de segurança. Dados confidenciais citados pela empresa teriam sido compartilhados com organizações independentes voltadas para a auditoria de riscos operacionais em IA.
Pesquisadores relatam clima de intimidação
Na carta enviada à liderança da OpenAI, o grupo argumenta que a tecnologia exige transparência e cooperação constante com auditores do setor. O corte abrupto enfraquece os mecanismos de proteção mantidos pela empresa e assusta os profissionais que continuam na casa, segundo os ex-colaboradores.
O trio também respondeu diretamente a boatos internos sobre as razões das demissões. Os pesquisadores negaram ser a fonte do vazamento de uma reportagem sobre novas arquiteturas de modelos e defenderam que a atuação junto a órgãos externos fazia parte de suas atribuições rotineiras. Korbak, por exemplo, ressaltou seu papel na investigação sobre um incidente envolvendo a plataforma Hugging Face.
“Não acreditamos que o caminho para a superinteligência possa ser navegado com segurança se as pessoas mais próximas dos riscos não puderem mais trabalhar de maneira de alta confiança e alta largura de banda umas com as outras e com terceiros. É essa cultura que estamos escrevendo para defender”, afirmaram.
Em manifestações na rede social X (antigo Twitter), o trio reiterou que recebeu apenas explicações verbais sobre o fim do contrato. Confira, a seguir, as principais queixas dos pesquisadores:
- Balesni afirmou que as conversas com entidades externas ocorriam com o conhecimento dos supervisores diretos;
- Korbak declarou que sua saída foi fundamentada em contatos com a METR, instituição sem fins lucrativos que avalia riscos em sistemas avançados. “Para deixar claro, falar com a METR era o meu trabalho”, escreveu;
- Wang acrescentou que os motivos apresentados “simplesmente não se sustentam”, pois um problema de configuração no sistema de tecnologia da informação teria feito com que e-mails corporativos chegassem à sua caixa de entrada por engano, situação que foi notificada por ela à diretoria e ao setor de suporte da empresa.
Empresa nega retaliação a críticas
Em resposta aos questionamentos, a OpenAI negou qualquer tentativa de silenciar seus funcionários ou impor entraves às auditorias independentes de segurança. A companhia declarou, em nota oficial à imprensa, que encoraja o debate interno e considera os questionamentos essenciais para a tomada de decisões corporativas, porém ressaltou a necessidade de seguir procedimentos formais para a transferência de dados e documentos.
A organização acrescentou que mantém investimentos em recursos voltados para a auditoria e o monitoramento contínuo dos modelos de linguagem. No mesmo comunicado, a OpenAI declarou estar entristecida com o desfecho do caso e elogiou o trabalho anterior feito pela equipe.
“Queremos deixar muito claro que essas decisões não foram tomadas por causa do levantamento de preocupações de segurança ou por demonstrações públicas de opinião. Sempre incentivamos isso e sempre incentivaremos”, declarou a big tech.
Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
