Como podemos confiar na Inteligência Artificial? Esta é uma as questões mais urgentes da transformação digital e foi objeto de debate entre Renato Gomes, Telco & Utilities, da Google Cloud Portugal, conversa com João Ferreira, Director Innovation Services da NOS, numa Live Talk realizada no Congresso APDC.

Quando as empresas estão a evoluir rapidamente da utilização de chatbots para sistemas autónomos e agentes de IA capazes de executar tarefas, aceder a dados e tomar decisões, a questão central já não é apenas o potencial da tecnologia, mas até que ponto podemos confiar nela?

Renato Gomes destaca que estamos a entrar numa nova fase da IA empresarial, onde conceitos como controlo, rastreabilidade e explicabilidade se tornam fundamentais para a adoção em escala. E para João Ferreira, a IA funciona como um amplificador organizacional: "Amplifica as pessoas, amplifica os processos, amplifica também os erros."

Para a NOS, a construção de confiança passa não apenas pela tecnologia, mas pelos processos, governance e capacitação humana. Um dos pontos mais relevantes é a importância da formação contínua das equipas para compreender e supervisionar os sistemas de IA.

O responsável da NOS alerta também para um fenómeno crescente nos modelos generativos: "Existe uma tendência por parte dos modelos, ou um certo viés, para agradar ao utilizador. E, muitas vezes, até fabricar ou moldar um bocadinho a realidade."

A conversa aborda ainda temas como a soberania e regulação da IA,  guardrails e mitigação de risco, agentes autónomos, fine-tuning de modelos e o futuro do trabalho humano. 

A NOS até já introduz princípios culturais e éticos nos seus agentes de IA: "Os agentes têm também esse onboarding." A ideia é garantir que os sistemas compreendem o contexto, os valores e a forma de comunicação da organização.

O episódio termina com uma reflexão sobre o papel futuro dos humanos num ecossistema cada vez mais automatizado. Em vez de substituição total, a visão apresentada aponta para uma colaboração crescente entre humanos e agentes inteligentes, onde supervisão, pensamento crítico e capacidade de decisão continuarão a ser essenciais.

Esta conversa mostra que a verdadeira discussão sobre IA já não é tecnológica: é uma discussão sobre confiança, responsabilidade e o futuro das organizações.