Governos estão usando IA sem estabelecer regras, diz estudo

Tudo sobre Inteligência Artificial

Governos ao redor do mundo estão usando ferramentas de IA sem estabelecer regras claras e, na maioria das vezes, sem informar à população. É isso que mostra um estudo conjunto entre pesquisadores de diferentes universidades, descrito em artigo no The Conversation.

O trabalho descobriu mais de 260 casos de uso de inteligência artificial, envolvendo serviços administrativos, assistência médica, segurança pública e outras áreas. Muitos deles não tinham regras.

Governos estão usando IA sem regras

O artigo lembrou de um caso emblemático: em 2017, a cidade de Roterdã, na Holanda, implantou um sistema de IA capaz de prever a probabilidade de beneficiários de assistência social cometerem fraude. No entanto, a tecnologia tinha vieses e estabeleceu que mulheres jovens, com filhos e de baixa proficiência na língua holandesa tinham “alto risco” de serem fraudadoras.

O sistema foi suspenso em 2021, mas, segundo os pesquisadores, mostram o que pode dar errado quando um governo adota IA sem supervisão adequada.

O estudo atual analisou 170 governos locais ao redor do mundo que usam IA em diferentes funções. Eles descobriram que foram 262 casos de adoção. As principais aplicações foram:

• Serviços administrativos. Um exemplo é o chatbot de turismo VisitMadridGPT, que oferece recomendações personalizadas e apoio em tempo real para turistas conhecerem Madri, na Espanha;
• Assistência médica. Um exemplo é um chatbot lançado durante a pandemia de Covid-19 pelo gabinete do prefeito de Boston, nos Estados Unidos, para entrega de alimentos sem contato;
• Transporte e planejamento urbano. Um exemplo é um sistema em tempo real que mantém usuários informados sobre vagas de estacionamento livres, situações de trânsito e rotas personalizadas em Austin, na Austrália;
• Gestão ambiental. Um exemplo é um sistema de IA em Hangzhou, na China, que está sendo usado para classificar resíduos de maneira eficiente e aumentar as taxas de reciclagem;
• Segurança e aplicação da lei. Um exemplo aconteceu em Chicago, nos EUA, onde uma IA foi usada para classificar supostos pontos de crime e evitar a violência armada. Nesse caso, no entanto, os limites éticos e os vieses da IA foram um problema.

IA pode ajudar governos, mas tem problemas éticos

A IA pode ser útil, como você viu nos casos de uso acima. No entanto, o estudo descobriu que, dos mais de 260 casos, apenas 26 tinham um conjunto de regras e políticas publicado até maio deste ano. Isso é menos de 16% do total. A pesquisa alertou que, na maioria dos casos, os governos estão implementando sistemas poderosos sem supervisão e responsabilização pública com preconceitos, privacidade de dados e limites éticos.

No caso dos governos que estabeleceram regras, houve colaboração com as partes interessadas, como conscientização entre funcionários e cidadãos sobre a transparência da tecnologia.

Leia mais:

Outro problema identificado é a falta de conhecimento dos moradores sobre o uso de IA pelos próprios governos. 75% dos entrevistados não estava ciente do uso da tecnologia. Metade não sabia que os governos estavam usando IA para serviços públicos, o que também levanta questões de comunicação institucional e engajamento com os cidadãos.

Os autores do artigo revelaram que, atualmente, estão trabalhando com governos da Austrália, Estados Unidos, Espanha, Hong Kong e Arábia Saudita para a criação de princípios orientadores que guiem o uso de IA. A expectativa é que isso esteja pronto até o final de 2025.