A Anthropic acredita que seria uma boa ideia interromper o desenvolvimento de inteligência artificial. A empresa acredita que a evolução dos modelos caminha em um ritmo muito maior que os estudos acerca de seus riscos.
O apelo foi feito na publicação “When AI builds itself” (“Quando IA constrói a si mesma”, em tradução livre) da empresa, assinada pela chefe do The Anthropic Institute, Marina Favaro, e pelo co-fundador da Anthropic, Jack Clark. “Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, afirmaram no artigo.
Para essa pausa ser realmente efetiva, desenvolvedoras de IAs avançadas internacionais deveriam respeitá-la. Além disso, seria necessário que os laboratórios pudessem verificar que o fluxo de desenvolvimento de seus concorrentes realmente parou.
Em entrevista à CNN, Clark comparou a medida com as restrições acerca do desenvolvimento de armas nucleares. “Nós já fizemos isso antes. No auge da Guerra Fria, em situações de grande tensão entre países rivais, encontraram maneiras de estabilizar aspectos da corrida armamentista nuclear. Tudo isso já foi feito em outros domínios, e talvez seja algo que precisemos fazer também no domínio da IA”, argumentou.
IA pode escapar do controle dos humanos, acredita Anthropic
A preocupação da Anthropic envolve principalmente o “autoaperfeiçoamento recursivo completo” de grandes modelos generativos (LLMs). Trata-se da capacidade dos modelos de melhorarem a si mesmos, sem depender de intervenção humana, e que deve se tornar cada vez mais viável ao longo do tempo.
“O aprimoramento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, afirmou a empresa. “Se os sistemas forem capazes de construir completamente seus próprios sucessores, as maneiras como protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes”, complementou.
Nos próximos meses, a Anthropic pretende articular com legisladores, pesquisadores, a sociedade civil e outras empresas de IA sobre como essa contenção funcionaria. “Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas”, argumentaram no artigo.
Por outro lado, executivos norte-americanos acreditam que a desaceleração do desenvolvimento de IA nos EUA poderia dar vantagem à China, que não necessariamente seguiria os mesmos critérios.
Anthropic se prepara para lançar IA ‘superpoderosa’
Dentro de algumas semanas, a Anthropic vai lançar uma família de modelos generativos do Claude Mythos, uma IA que foi lançada de forma restrita somente para membros do Project Glasswing devido a seu potencial de encontrar e explorar vulnerabilidades em softwares.
Recentemente, a empresa expandiu o Project Glasswing para mais 150 companhias, dentre elas algumas de setores críticos, como água, saúde e energia.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre Anthropic, inteligência artificial e segurança de IA.
