O relatório NTT DATA Technology Foresight 2026 coloca esta questão no centro da terceira macrotendência: Intelligence we trust. Mais do que uma questão técnica, trata-se de uma questão estratégica: podemos confiar na inteligência que estamos a implementar?
Há duas décadas, a cibersegurança focava-se sobretudo na proteção do perímetro. Hoje, assume um papel determinante: permite promover a inovação, sustenta a reputação e influencia diretamente a continuidade do negócio. A inteligência artificial segue uma evolução semelhante, mas num intervalo de tempo muito mais curto.
O debate sobre IA deixou rapidamente de se centrar apenas na capacidade. Continua a ser importante avaliar se um modelo funciona, se é suficientemente preciso e que casos de uso consegue resolver. No entanto, o debate evoluiu. À medida que os sistemas de IA ganham autonomia, se interligam e passam a integrar operações críticas, torna-se essencial saber se essa inteligência é explicável, verificável, governável e auditável.
Esta é a nova fronteira da cibersegurança: proteger a própria inteligência, incluindo os dados que alimentam os modelos, os modelos face a manipulação, os resultados face a erros sistemáticos e os agentes face a comportamentos indesejados.
Garantia contínua: do controlo periódico à confiança em tempo real
As organizações estão habituadas a validar os seus sistemas em ciclos, através de auditorias anuais, revisões periódicas ou testes antes da entrada em produção. Este modelo foi concebido para ambientes mais estáticos. No entanto, os modelos de IA não são estáticos. À medida que os dados do mundo real evoluem, os modelos aprendem, ajustam-se e podem passar a comportar-se de formas não previstas.
O Technology Foresight 2026 introduz o conceito de garantia contínua da IA: integrar explicabilidade, monitorização de drift, linhagem de dados, evidência automatizada e controlos de governança diretamente nos pipelines, em vez de os tratar como mecanismos externos avaliados apenas no final. A confiança deixa de ser validada de forma pontual e passa a ser continuamente monitorizada e reforçada ao longo da operação, em tempo real.
Na prática, isto implica que uma organização madura não só conhece, por exemplo, a taxa de precisão de um modelo de crédito, como também compreende os dados utilizados no seu treino. Desta forma, consegue identificar variações de comportamento, justificar decisões perante reguladores e dispor de mecanismos para rever ou reverter decisões automatizadas quando necessário.
O mercado já está a responder
A urgência não é apenas conceptual. O mercado de gestão de confiança, risco e segurança em IA (AI TRiSM) atingiu 2,34 mil milhões de dólares em 2024 e deverá alcançar 6,22 mil milhões de dólares em 2029, com uma taxa de crescimento anual de 21,6%.
De acordo com o Technology Foresight 2026, 90% das organizações irão adotar enquadramentos de governança para agentes de IA nos próximos 18 meses e, até 2028, 85% dos produtos de dados incluirão um AI Bill of Materials, documentando a origem, tratamento e preparação dos dados.
Na prática, estamos perante uma transformação da forma como as organizações demonstram que a sua IA é fiável e adequada à utilização.
O papel da governança e do trust by design
Um dos erros mais frequentes nas organizações consiste em tratar a governança da IA como uma responsabilidade exclusiva das equipas de dados ou como uma extensão da conformidade. O relatório Technology Foresight 2026 evidencia que uma IA fiável exige uma governança transversal, capaz de articular segurança, conformidade, arquitetura, ética, operações e estratégia.
Isto implica criar uma linguagem comum entre áreas que historicamente operaram de forma isolada. Um CISO precisa de compreender o significado de baixa explicabilidade de um modelo. Um CDO deve avaliar as implicações de governança associadas ao uso de dados de terceiros. Um CEO deve ser capaz de explicar quais os processos críticos automatizados e em que condições podem falhar.
As organizações mais maduras irão integrar a confiança desde a origem: modelos explicáveis desde a conceção, dados rastreáveis desde a ingestão, controlos automatizados nos pipelines, testes adversariais antes da implementação e autenticação contínua durante a execução.
Uma IA fiável permite acelerar a tomada de decisão, uma vez que as equipas delegam com maior confiança. Permite personalizar com segurança, assegurando rastreabilidade dos dados. Contribui para reduzir o risco de fraude e reforça a capacidade de inovar de forma mais rápida, ao assegurar mecanismos de controlo e reversão.
Na era da inteligência em escala, a confiança é mais do que um princípio — é uma infraestrutura essencial. As organizações que a desenvolverem mais cedo e de forma consistente estarão melhor posicionadas para operar com agilidade quando a exigência de rigor for crítica para o negócio.