Presidente da Microsoft quer leis para regular uso de reconhecimento facial
O presidente da Microsoft acredita que tecnologias de reconhecimento facial tenham um grande potencial. Mas também acredita que podem ser usadas para o mal. Por isso, está cobrando dos governos a criação de leis específicas para regular a tecnologia.
Em um texto publicado no blog da companhia, Brad Smith afirma que a única forma de evitar que o Estado use a tecnologia de forma abusiva é editando leis que limitem como a tecnologia será usada.
“É nisso que acredito atualmente: em uma iniciativa do governo para regular o uso adequado da tecnologia de reconhecimento facial, a partir de orientação de uma comissão plural e de especialistas”, escreveu.
Ele publicou o texto como resposta às críticas que a Microsoft tem recebido, inclusive por parte de funcionários, por supostamente ter vendido à ICE serviços usados na separação de pais imigrantes dos filhos no governo Trump. ICE é o órgão responsável por vigiar as fronteiras dos Estados Unidos.
O executivo da Microsoft nega que o contrato com o órgão tenha relação com as recentes notícias de separação de pais dos filhos. Mas diz que, para evitar que a tecnologia seja usada para atos semelhantes, é preciso regulamentar seu uso.
Para ele, o consumidor está exigindo que as empresas de alta tecnologia tomem estas decisões de impacto público, optando por fornecer ou não serviços, quando isso deveria ser decidido pelos governos. “É mais coerente pedir que um governo eleito defina as regras para regular companhias, do que pedir para companhias que não são eleitas regularem o governo”, observa.
Smith diz que, apesar de soar estranho uma empresa pedir para ser regulada, não será a primeira vez que toma essa atitude. “Nós cobramos por uma política nacional de privacidade em 2005 nos EUA e apoiamos o desenvolvimento da GDPR na União Europeia”, lembra.
Ameaças
Segundo ele, sem uma regulação clara, poderá haver todo tipo de abuso. Entre os quais, definições arbitrárias sobre que cidadãos os sistemas vão vigiar, investigar ou mandar prender. “Governos podem monitorar o exercício de atividades públicas ou políticas de maneira conflitante com práticas toleradas por sociedades democráticas, reduzindo a vontade de manifestação ou mesmo as liberdades de livre reunião e expressão”, alerta.
Ao mesmo tempo, empresas pode usar o reconhecimento facial para criar sistemas autônomos que decidam quem pode ou não ter crédito, empregos ou realizar uma compra.
O que regular
Smith diz que uma regulação precisa responder a inúmeras perguntas:
- O reconhecimento facial autônomo precisa de supervisão e controle humano?
- É preciso restringir o uso do reconhecimento facial autônomo como evidência de culpa ou inocência em um crime?
- O governo deve prestar contas e oferecer ferramentas para que a população possa conferir se há práticas de abuso no uso da tecnologia?
- Como evitar que o reconhecimento facial faça o perfilamento racial das pessoas ou outras práticas que violam direitos?
- Deve haver um nível mínimo de acurácia da tecnologia?
- Ambientes privados de grande circulação (como lojas) devem deixar claro que usam tecnologia de reconhecimento facial?
- As empresas precisam obter consentimento antes de fazer o reconhecimento? Como obter tal consentimento?
- O cidadão ou a cidadã deve ter o direito de poder ver que fotos foram coletadas e identificadas como sendo ele ou ela?
- É preciso criar procedimentos para que pessoas questionem uma identificação errônea de um sistema de reconhecimento facial?
Por fim, ele defende que o setor de tecnologia não espere passivamente, mas desenvolva formas de evitar que a tecnologia tenha viés ideológico. E diz que a Microsoft está criando uma cartilha de princípios que vai orientar o desenvolvimento, daqui em diante, de sua tecnologia de reconhecimento facial.
O texto completo de Smith, em inglês, pode ser lido aqui.
