Segundo pesquisa, 55% dos riscos relacionados à IA à decorrem do uso de ferramentas desenvolvidas por terceiros

Segundo uma pesquisa feita pelo MIT Sloan Management Review (MIT SMR) e pelo Boston Consulting Group (BCG), 70% das organizações estão empreendendo esforços para não sofrerem riscos pelo uso de ferramentas de inteligência artificial. 

No entanto, a pesquisa também sugere que elas podem estar mais próximas dos riscos do que imaginam. De acordo com os dados levantados, 55% de todas as falhas relacionadas à IA decorrem do uso de ferramentas de terceiros. O estudo também descobriu que 53% das organizações dependem exclusivamente desses fornecedores, sem nenhuma IA desenvolvida internamente. 

Foram entrevistadas 1240 pessoas, em organizações de 59 setores, em 87 países.

“Nossa pesquisa reafirma a necessidade urgente de as organizações serem responsáveis, investindo e ampliando seus programas de IA para abordando treinamentos sobre os usos e riscos crescentes da tecnologia.”, explica Elizabeth M. Renieris, editora convidada do MIT SMR e coautora do relatório, em comunicado à imprensa.

O estudo mostra que, ainda que de forma não exclusiva, 78% das organizações pesquisadas são altamente dependentes da IA de terceiros. Isso as expõe a uma série de riscos, como: danos à reputação, perda de confiança do cliente, perdas financeiras, penalidades regulatórias, desafios de conformidade e litígios. 

Para as empresas que não conseguem abrir mão do uso de IA de terceiros no momento, o relatório sugere empregar uma ampla variedade de abordagens e métodos para avaliar essas ferramentas e mitigar riscos. Segundo a pesquisa, as organizações que empregam sete métodos diferentes têm duas vezes mais chances de descobrir lapsos do que aquelas que usam apenas três. 

Essas abordagens incluem linguagem contratual que exige adesão aos princípios, pré-certificação e auditorias de fornecedores, revisões internas em nível de produto e adesão a requisitos regulatórios relevantes e padrões do setor.

O relatório também aponta que a liderança tem um papel fundamental na afirmação do compromisso de uma organização com a IA e na manutenção dos investimentos necessários nela. Segundo a pesquisa, empresas com um CEO que assume um papel prático nos esforços de IA relatam 58% mais benefícios para os negócios do que organizações com um CEO menos prático. Exemplos desses esforços são: envolver-se em decisões de contratação relacionadas à IA, discussões em nível de produto ou estabelecendo metas de desempenho vinculadas à IA.

Quer saber o que as empresas estão fazendo para treinar e capacitar suas equipes?

A biblioteca de cases da Think Work conta com diversos projetos de sucesso que relatam todo o processo desde a concepção da iniciativa, até a implementação e os resultados. Acesse nossa área exclusiva para assinantes e confira.