Criadores da IA alertam que tecnologia pode exterminar humanidade

A inteligência artificial (IA) representa um sério “risco de extinção” para a humanidade, podendo causar catástrofes como guerra nuclear ou pandemia. Essas são as conclusões de um grupo de 350 executivos, pesquisadores e engenheiros especialistas nessa tecnologia, em uma carta aberta de apenas 22 palavras publicada nesta terça-feira (30), pela organização sem fins lucrativos Center for AI Security. 

“Mitigar o risco de extinção [para a humanidade] da IA deve ser uma prioridade global junto com outros riscos em escala social, como pandemias e guerra nuclear”, cita a declaração, que foi assinada também por altos executivos de três grandes empresas de inteligência artificial: Sam Altman(CEO da OpenAI), Demis Hassabis (Google DeepMind) e Dario Amodei (Anthropic). Também entre os signatários estão os pesquisadores Geoffrey Hinton e Yoshua Bengio, considerados padrinhos do movimento moderno de IA. Hinton, que ocupava a vice-presidência do Google, inclusive, deixou o cargo no mês passado, declarando acreditar que essa tecnologia pode levar ao fim da civilização em questão de anos.

VEJA MAIS

A declaração em carta aberta ocorre num momento de crescente preocupação com o setor da IA. O rápido desenvolvimento e e a dificuldade de regulamentar o setor são os principais desafios que o mundo enfrenta neste momento. O próprio Sam Altman, criador do Chat GPT e CEO da Open AI, já havia se manifestado sobre o assunto durante debate no Senado dos Estados Unidos, quando reconheceu a importância de regulamentar a inteligência artificial generativa. 

“Meu maior medo é que essa tecnologia dê errado. E se der errado, pode dar muito errado”, disse ele há apenas duas semanas, durante a primeira audiência sobre Inteligência Artificial realizada no Capitólio. O CEO da OpenAI acrescentou que entendeu que “as pessoas estão ansiosas sobre como a IA pode mudar a forma como vivemos”, e que por isso é necessário “trabalhar em conjunto para identificar e gerir as possíveis desvantagens para que todos possamos usufruir das enormes vantagens”. 

Não foi a primeira vez que um dos empresários mais envolvidos com essa tecnologia fez declarações dessa magnitude sobre o futuro da IA. Em março, mais de mil intelectuais, pesquisadores e empresários haviam assinado outra carta aberta na qual pediam para parar por “pelo menos seis meses o desenvolvimento de sistemas de IA mais poderosos que o GPT4”., a versão mais recente do ChatGPT. Na carta, os signatários alertaram que a ferramenta OpenAI já é capaz de competir com humanos em um número cada vez maior de tarefas, podendo ser usada para destruir empregos e espalhar desinformação. 

“Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, apesar do fato de que nos últimos meses os laboratórios de IA entraram em uma corrida desenfreada para desenvolver e implantar mentes digitais cada vez mais poderosas do que qualquer um, nem mesmo seus criadores, eles podem entender, prever com segurança ou controle”, dizia a carta, que também foi assinada pelo magnata Elon Musk, fundador da Tesla e da SpaceX e dono do Twitter, que também é um dos fundadores da OpenAI.