“Devemos garantir que IA permaneça sob controle humano”, diz presidente da Microsoft
O presidente da Microsoft, Brad Smith, fez um apelo para que a Inteligência Artificial (IA) permaneça sob controle humano. O executivo, em um texto publicado em um blog, nesta quinta-feira, 25, destacou que as empresas que desenvolvem soluções com essa tecnologia precisam partir do princípio da responsabilidade ao projetar novas aplicações.
“Quando nós da Microsoft adotamos nossos seis princípios éticos para IA em 2018, notamos que um princípio era a base para todo o resto – responsabilidade”, diz Smith, em trecho do artigo intitulado “Como governamos melhor a IA?”.
“Esta é a necessidade fundamental: garantir que as máquinas permaneçam sujeitas a uma supervisão eficaz das pessoas e que as pessoas que projetam e operam as máquinas sejam responsáveis perante todos os outros”, acrescenta o executivo.
A Microsoft é parceira da OpenAI, startup responsável pelo ChatGPT e suas versões mais poderosas, como o GPT-4. Desde o seu lançamento, em novembro do ano passado, o chatbot inteligente, exemplo mais famoso de IA generativa até aqui, foi incorporado em diversos serviços e plataformas da gigante de tecnologia.
Observando o desenvolvimento de outras aplicações com base em IA, Smith afirma, no mesmo texto, que “devemos sempre garantir que a IA permaneça sob controle humano”. Em sua avaliação, o controle sobre tais soluções tecnológicas deve ser “uma prioridade de primeira ordem para empresas de tecnologia e governos”.
Nesse sentido, o presidente da Microsoft argumenta que governos precisam editar regulações no que diz respeito à IA, de modo que empresas e desenvolvedores possam ser responsabilizados sobre seus atos.
“Em uma sociedade democrática, um de nossos princípios fundamentais é que ninguém está acima da lei. Nenhum governo está acima da lei. Nenhuma empresa está acima da lei e nenhum produto ou tecnologia deve estar acima da lei. Isso leva a uma conclusão crítica: as pessoas que projetam e operam sistemas de IA não podem ser responsabilizadas, a menos que suas decisões e ações estejam sujeitas ao Estado de Direito”, pontua Smith.
Para o executivo, a garantia de que a tecnologia fique sob controle humano “está no cerne do desenvolvimento da política de IA e do debate regulatório”.
Smith não é o primeiro executivo a manifestar preocupações com os avanços em IA. Em março, um grupo que inclui mais de mil especialistas em tecnologia, acadêmicos e empresários publicou uma carta pedindo uma pausa de seis meses no desenvolvimento de aplicações mais poderosas do que o GPT-4.
No mês seguinte, legisladores europeus fizeram um apelo para que uma eventual lei de IA aplicada no território da União Europeia (UE) seja “centrada no ser humano”. No Brasil, no início deste mês, o presidente do Senado, Rodrigo Pacheco, apresentou um projeto de lei para regular a tecnologia no Brasil. A proposta é bancada por uma comissão de juristas.
Artigos sugeridos
Presidente da Telefónica afirma que, sem controle, desenvolvimento de IA gera risco existencial
IA generativa deve ser usada como “copiloto” nas empresas, diz Microsoft
Regulação de IA tem de garantir inovação, proteção e aderência global, diz IBM
Senacon: ‘Vou defender que 70% do atendimento seja humano’
