Estudo mostra que o governo da capital, Washington, utiliza quase 30 algoritmos que tomam decisões sobre a vida dos residentes
Um novo relatório da ONG Electronic Privacy Information Center (EPIC), mostra que a vida dos quase 700 mil residentes de Washington, capital dos Estados Unidos, é moldada, ao menos parcialmente, por 29 algoritmos usados pelo governo da cidade para automatizar decisões.
Questões como selecionar candidatos à moradia, prever reincidência criminal, identificar fraudes de assistência alimentar, determinar se um estudante do ensino médio irá abandonar a escola e muitas outras decisões da esfera pública estão sob a tutela da tecnologia na cidade.
Os pesquisadores dizem ainda que é provável que mais sistemas do tipo – não identificados pelo estudo – estejam sendo usados pelos governantes. Uma análise da Universidade de Stanford, ainda em 2020, mostrou que metade das agências federais do país utilizam algum sistema de tomada de decisão automática.
As agências governamentais geralmente recorrem à automação na esperança de ganhar mais eficiência ou objetividade.
O problema é que, além de que os cidadãos muitas vezes não têm ciência que estão sendo monitorados pelos algoritmos, alguns episódios já mostraram que os sistemas acabam discriminando cidadãos ao analisar situações friamente por meio de números.
Em Michigan, por exemplo, um algoritmo de detecção de fraudes ao seguro desemprego que teve 93% de erro causou cerca de 40 mil acusações indevidas de desvio.
Segundo Ben Winter, conselheiro da EPIC, apesar deste tipo de sistema ser popular em muitas cidades norte americanas, Washington foi escolhida por contar com quase metade da população de negros. “Isso porque sistemas de tomada de decisão automática tem impactos negativos desproporcionais em populações negras”.
