Inteligência Artificial nas empresas não leva ética a sério

As propagandas que as empresas fazem não se refletem nas práticas internas.
[Imagem: Gerd Altmann/Pixabay]

Ética da inteligência artificial

Já foram feitos vários alertas de que os algoritmos de aprendizado de máquina que fundamentam todos os progressos recentes no campo da inteligência artificial discriminam grupos historicamente marginalizados. Isto ocorre porque esses programas "aprendem" com os dados do passado, o que os torna particularmente suscetíveis a preconceitos que vigoraram no passado ou são expressos por grupos de ódio nas redes sociais.

Para contestar essas críticas, muitas empresas se comprometeram a garantir que seus produtos seriam justos, transparentes e responsáveis.

Mas essas promessas têm-se mostrado uma mera "lavagem ética", diz a pesquisadora Sanna Ali, da Universidade de Stanford, que comparou as promessas das empresas com os resultados de seus algoritmos: "Existe uma preocupação de que essas empresas falam o que falam, mas não cumprem o que prometem."

Depois de entrevistar profissionais de ética e de IA de algumas das maiores empresas do setor, Ali e seus colegas constataram que iniciativas e intervenções éticas são difíceis de implementar no ambiente da indústria de tecnologia.

Especificamente, as equipes que deveriam fazer esse trabalho nas empresas têm poucos recursos e pouco apoio da diretoria, além de não terem autoridade para agir sobre os problemas que identificam.

"Sem o endosso da chefia, os trabalhadores individuais têm que empregar habilidades persuasivas e estratégias interpessoais para fazer qualquer progresso," contou Ali.

O resultado: A equipe de ética consegue atuar junto a algumas equipes, mas não com todas, e muitas vezes seus membros são chamados para uma consulta muito perto das datas de lançamento do produto e sem autoridade para exigir correções éticas importantes.

"É improvável que essas empresas mudem sua prioridade de lançar novos produtos com frequência," disse Ali. "Mas, pelo menos elas poderiam fornecer incentivos para que a ética possa fazer parte dessa conversa desde o início [do desenvolvimento dos produtos]."