Apesar das falhas nas salvaguardas da IA, a confiança na IA generativa está a aumentar globalmente. E as organizações que criam uma IA confiável têm 60% mais de hipóteses de duplicar o ROI em projetos de IA, destacando, no entanto, o alto custo de ignorar práticas responsáveis. A conclusão é do "IDC Data and AI Impact Report: The Trust Imperative", do SAS.
Este trabalho explora a utilização, impacto e a confiabilidade da IA mostra que apenas 40% das organizações estão a investir para tornar os sistemas de IA confiáveis através de governança, explicabilidade e salvaguardas éticas, embora as organizações que priorizam a IA confiável tenham 60% mais chances de dobrar o ROI de projetos de IA.
Paradoxalmente, entre aquelas que relataram o menor investimento em sistemas de IA confiáveis, a GenAI (como o ChatGPT) foi considerada 200% mais confiável do que a IA tradicional (é o caso do machine learning), apesar de esta última ser a forma de IA mais consolidada, confiável e explicável.
"A nossa pesquisa mostra uma contradição: formas de IA com interatividade semelhante à humana e familiaridade social parecem estimular a maior confiança, independentemente da confiabilidade ou precisão reais. Como fornecedores, profissionais e utilizadores individuais de IA, devemos questionar: a IA generativa é confiável, mas será sempre confiável? E estarão os líderes a seguir as proteções e práticas de governança de IA necessárias a esta tecnologia emergente?", refere Kathy Lange, diretora de Pesquisa da Prática de IA e Automação do IDC.
A pesquisa baseia-se numa pesquisa global com 2.375 entrevistados, realizada na América do Norte, América Latina, Europa, Médio Oriente e África e Ásia-Pacífico. Os participantes incluem uma mistura equilibrada de profissionais de TI e líderes de linha de negócios, oferecendo perspetivas tanto de tecnologia quanto de funções de negócios.
No geral, o estudo constata que as implementações de IA mais confiáveis foram as de tecnologias emergentes, como IA generativa e IA agêntica, em comparação com formas mais estabelecidas de IA. Quase metade dos entrevistados (48%) relatou "confiança total" na IA generativa, enquanto um terço disse o mesmo para a IA agêntica (33%). A forma de IA menos confiável é a IA tradicional - menos de um em cada cinco (18%) indicou confiança total.
Mas mesmo relatando alta confiança na IA generativa e na IA agêntica, os entrevistados expressaram algumas preocupações, nomeadamente na privacidade de dados (62%), transparência e explicabilidade (57%) e uso ético (56%).
A IA quântica está também a ganhar confiança rapidamente, mesmo que a tecnologia para executar a maioria dos casos de uso ainda não tenha sido totalmente desenvolvida. Quase um terço dos decisores globais afirmam estar familiarizados com a quantum AI e 26% relatam total confiança na tecnologia, apesar das aplicações no mundo real ainda estarem em estágios iniciais.
À medida que os sistemas de IA se tornam mais autónomos e profundamente integrados aos processos críticos, as bases de dados também se tornam mais importantes. A qualidade, a diversidade e a governança dos dados influenciam diretamente os resultados da IA, tornando estratégias de dados inteligentes essenciais para a obtenção de benefícios (por exemplo, ROI, ganhos de produtividade) e a mitigação de riscos.
O estudo identificou três grandes obstáculos que impedem o sucesso das implementações de IA: infraestrutura de dados fraca, governança inadequada e falta de competências em IA. Quase metade (49%) das organizações cita bases de dados que não são centralizadas ou ambientes de dados em nuvem não otimizados como uma grande barreira. Esta principal preocupação foi seguida pela falta de processos de governança de dados suficientes (44%) e pela escassez de especialistas qualificados nas suas organizações (41%).
Os entrevistados relataram que o principal problema com a gestão dos dados usados em implementações de IA é a dificuldade de acesso a fontes de dados relevantes (58%). Outras preocupações importantes incluíram questões de privacidade e conformidade de dados (49%) e qualidade dos dados (46%).
"Para o bem da sociedade, das empresas e dos colaboradores, a confiança na IA é fundamental. Para conseguir isto, a indústria de IA deve aumentar a taxa de sucesso das implementações, os humanos devem analisar criticamente os resultados da IA e a liderança deve capacitar a força de trabalho com IA", destaca Bryan Harris, diretor de Tecnologia do SAS.
