Funcionários do Google enviaram uma carta ao CEO da empresa, Sundar Pichai, solicitando a ele que não disponibilize as ferramentas de IA da big tech para o Pentágono usar em operações confidenciais. Detalhes do documento foram divulgados pelo jornal The Washington Post nesta segunda-feira (27).
O pedido se baseia em uma reportagem do início do mês, do site The Information, na qual é dito que a gigante de Mountain View negocia com o Departamento de Defesa dos Estados Unidos o fornecimento de inteligência artificial para atividades militares. O contrato seria semelhante ao firmado com a OpenAI.
“Queremos ver a IA beneficiar a humanidade”
Na carta com mais de 600 assinaturas, incluindo pesquisadores do laboratório de IA DeepMind, os funcionários argumentam que a parceria dará ao órgão liberdade para usar a tecnologia como quiser. Isso incluiria missões secretas, impedindo terceiros de avaliarem as ações.
- Ressaltando que a tecnologia foi criada para ser usada de maneira benéfica, os signatários apontaram que não querem ver a IA contribuindo para ações “desumanas ou extremamente prejudiciais”;
- Os trabalhadores mencionaram preocupações quanto ao uso de recursos inteligentes em armas autônomas letais e vigilância em massa;
- “Vidas humanas já estão sendo perdidas e liberdades civis estão em risco, tanto no país quanto no exterior, devido ao uso indevido da tecnologia que estamos ajudando a construir”, escreveu o grupo;
- Eles comentam, ainda, que a única maneira de garantir que a marca não se associe a eventos do tipo é rejeitando qualquer acordo que inclua cargas de trabalho confidenciais.
“Caso contrário, tais usos podem ocorrer sem nosso conhecimento ou poder para impedi-los”, segue o texto, que surge dois meses após embates entre a rival, Anthropic, e o Pentágono. O motivo foi o mesmo comentado agora.
Na ocasião, a desenvolvedora do bot Claude solicitou ao governo dos EUA que não utilizasse sua tecnologia em trabalhos militares secretos. Em resposta, o Departamento de Defesa dispensou os serviços da startup e aplicou uma sanção a ela.
Protesto em 2018 provocou mudanças
O uso militar da IA tem gerado debates internos no Google há anos. Em 2018, queixas parecidas de funcionários levaram a gigante das buscas a abandonar o Projeto Maven, que ajudou a desenvolver.
A iniciativa incluía a integração de recursos inteligentes ao software de reconhecimento de objetos em imagens feitas por drones. A partir da petição, a empresa se comprometeu a não usar IA em armas e sistemas de vigilância, mas as restrições foram removidas para um novo acordo com o Pentágono.
Por enquanto, Pichai não respondeu à carta assinada pelos funcionários. Procurado, o Google também não se manifestou, até o momento.
Siga no TecMundo e descubra como funciona o Projeto Maven, que passou por atualizações e tem apoiado os EUA na guerra moderna.