Carta contra IA: por que a inteligência artificial preocupa o mundo?

Em documento, Musk, Wozniak, Harari e milhares de acadêmicos pedem que experimentos sejam interrompidos por seis meses; entenda quais são as apreensões relacionados à IA
Carta assinada por especialistas em ciência, tecnologia e negócios pede que experimentos em IA sejam pausados por seis meses
Carta pede que experimentos em IA sejam pausados por seis meses (crédito: Freepik)

Um grupo que inclui mais de mil especialistas em ciência, tecnologia e negócios publicou uma carta, na quarta-feira, 29, pedindo uma pausa de seis meses no desenvolvimento de sistemas com base em Inteligência Artificial (IA).

No apelo, nomes como Elon Musk (dono do Twitter, fundador da SpaceX e CEO da Tesla), Steve Wozniak (cofundador da Apple) e Yuval Noah Harari (professor e autor de Sapiens – uma breve história da humanidade) pedem que treinamentos de soluções mais poderosas do que o GPT-4, versão mais atualizada do ChatGPT, sejam imediatamente interrompidos.

A carta, endossada pelo Future of Life Institute, também tem o apoio de diversos acadêmicos de algumas das mais respeitadas universidades do mundo, como Princeton, MIT e Harvard.

“Essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, afirma trecho do documento.

Quais são os riscos?

Os signatários alegam que a IA avançada pode “representar uma mudança profunda na história da vida na Terra” e, por isso, “deve ser planejada e gerenciada com cuidado”.

“Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”, sustenta o documento.

Além disso, o grupo afirma que os sistemas com base em IA estão se tornando competitivos em tarefas gerais. Desse modo, a humanidade deveria se perguntar se cabe entregar às máquinas os canais de informação e a automatização de todos os trabalhos. “Devemos arriscar perder o controle de nossa civilização?”, questiona a carta.

Sendo assim, o grupo defende que “decisões desse tipo não devem ser delegadas a líderes tecnológicos não eleitos”.

Os assinantes da carta ainda reforçam esse entendimento dizendo que “sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis”.

Vale destacar que um recente estudo da Universidade da Pensilvânia e da OpenAI, empresa responsável pelo ChatGPT, aponta que 80% dos trabalhadores nos Estados Unidos terão tarefas profissionais impactadas por soluções de IA generativas. O relatório também indicou as profissões mais expostas ao avanço da inteligência artificial, com destaque para atividades como as de matemático, contador e analista financeiro.

O que deve ser feito?

Durante a eventual pausa de seis meses, os proponentes indicam que os laboratórios de IA e especialistas que atuam de forma independente deveriam desenvolver e implementar um conjunto de protocolos de segurança compartilhados para IA avançada. As regras, consequentemente, deveriam ser auditadas e supervisionadas por especialistas externos independentes.

Paralelamente, desenvolvedores de IA e políticos devem acelerar a elaboração de sistemas robustos de governança para esta tecnologia. O grupo argumenta a favor das seguintes diretrizes:

• instituição de autoridades regulatórios dedicadas à IA;
• supervisão e rastreamento de sistemas de IA altamente capazes;
• sistemas de proveniência e marca d’água para ajudar a distinguir o real do sintético e rastrear vazamento de modelos;
• ecossistema robusto de auditoria e certificação;
• responsabilização por danos causados pela IA;
• financiamento público robusto para pesquisa técnica de segurança de IA;
• e instituições com bons recursos para lidar com as dramáticas perturbações econômicas e políticas, especialmente relacionadas à democracia, que a IA causará.

A carta do Future of Life pode ser assinada por simpatizantes da argumentação.

Avatar photo

Eduardo Vasconcelos

Jornalista e Economista

Artigos: 728