Google, Microsoft e OpenAI falam em risco de extinção humana pela IA
Diversos cientistas especialistas em Inteligência Artificial (IA), executivos, acadêmicos e outras figuras públicas assinaram uma curta mensagem destacando a necessidade de reduzir o “risco de extinção” da humanidade a partir da IA. O comunicado foi divulgado pelo Center for AI Safety (CAIS), organização cuja missão é “reduzir os riscos em escala social da inteligência artificial”, conforme descrição em seu site.
O mais notável é que entre os signatários da mensagem está Sam Altman, CEO da OpenAI, desenvolvedora do ChatGPT, chatbot de IA generativa lançado em novembro passado e responsável pelo boom de atenção que a tecnologia ganhou nos últimos meses.
A mensagem também é assinada por Demis Hassabis, CEO do Google DeepMind, empresa focada no desenvolvimento de máquinas com IA, Daris Amodei, CEO da Anthropic, startup que recentemente recebeu aporte do Google, e executivos da Microsoft.
O curto comunicado tem os seguintes dizeres:
“Mitigar o risco de extinção a partir da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear.”
Segundo o CAIS, apesar de jornalistas, especialistas, políticos e as pessoas em geral estarem discutindo sobre os avanços e os eventuais riscos da IA, a mensagem tem o objetivo de mostrar que tem crescido o número de figuras públicas preocupadas com os “severos riscos da IA avançada”.
A nota segue manifestações semelhantes já divulgadas a respeito do desenvolvimento de tecnologias avançadas em IA. Em março, um grupo composto por mais de mil especialistas na área de ciência e tecnologia, acadêmicos e executivos editou uma carta pedindo uma pausa de seis meses nas pesquisas e nos treinamentos de aplicações de IA.
Pouco depois, foi a vez de legisladores europeus pedirem regras mais rígidas para a tecnologia. Na semana passada, foi a vez do presidente da Microsoft, Brad Smith, expressar, por meio de um artigo, que é preciso garantir que a IA não escape do controle dos humanos.
No universo das telecomunicações, o presidente e CEO do Grupo Telefónica, José María Álvarez-Pallete, já expressou preocupações com a possibilidade de soluções com base em IA ganharem autonomia, classificando a situação como ameaça de “risco existencial”.
