A evolução da inteligência artificial prevista para os próximos anos pode representar riscos à humanidade, que precisa estar preparada para lidar com uma série de desafios. O alerta foi feito pelo CEO da Anthropic, Dario Amodei.
Em texto publicado no final de janeiro, em seu blog, o cofundador da startup por trás do chatbot Claude aborda perigos e possibilidades associadas à futura IA poderosa. Segundo o pesquisador, estamos prestes a enfrentar um rito de passagem “turbulento e inevitável”.
Os perigos da superintelingência para a humanidade
Apontando que a versão mais avançada da IA nos testará “quem somos como espécie”, o executivo disse que não deve demorar muito para a tecnologia superar as capacidades humanas em praticamente tudo. E isso pode não ser bom.
- Ele lembrou que os modelos de linguagem são treinados com diferentes tipos de conteúdos, incluindo obras de ficção científica sobre rebeliões de máquinas;
- Para Amodei, não se pode descartar que as IAs sejam influenciadas por tais histórias e decidam gerar sua própria revolta contra os criadores;
- O texto ressalta, ainda, a possibilidade de os bots extrapolarem de maneira extrema o conceito de moralidade visto em textos utilizados para alimentar suas capacidades;
- Neste caso, a inteligência artificial justificaria o extermínio da humanidade com a extinção de espécies causadas por atitudes humanas, por exemplo.
“A humanidade está prestes a receber um poder quase inimaginável, e é profundamente incerto se nossos sistemas sociais, políticos e tecnológicos possuem a maturidade necessária para exercê-lo”, opinou.
No ensaio intitulado “A adolescência da tecnologia”, o chefe da Anthropic também comparou a superinteligência a um país de gênios, formado por 50 milhões de pessoas aptas a ganhar o Prêmio Nobel. Para ele, esse território teria todas as chances de dominar o mundo, de variadas maneiras.
A humanidade precisa “despertar”
Embora tenha sugerido um cenário apocalíptico sobre o futuro da IA, Amodei argumentou que há formas de evitar os perigos citados, o que depende da participação de todos. O processo deve começar pelas próprias desenvolvedoras da tecnologia.
Conforme o especialista, é preciso implantar mecanismos de proteção, incluindo a preferência por modelos confiáveis e seguros. Mas ele diz que nem todas as empresas estão dispostas a isso, pois muitas buscam apenas lucros.
Dessa forma, a humanidade precisa estar atenta, monitorando e se defendendo coletivamente contra os riscos da IA. Já os governos e as autoridades reguladoras precisam exigir transparência das empresas e agir firmemente, se necessário, como defende o CEO.
“A humanidade precisa despertar, e este ensaio é uma tentativa — possivelmente fútil, mas que vale a pena tentar — de fazer as pessoas despertarem”, alertou.
Concorda com os avisos dados por Amodei ou acredita que ele esteja exagerando? Dê a sua opinião nas redes sociais do TecMundo, lembrando que estamos no Instagram, Facebook e outras plataformas.