A inteligência artificial (IA) está a revolucionar o mundo empresarial, prometendo inovação e eficiência sem precedentes. Segundo o relatório Global GenAI da NTT DATA, 95% dos líderes de topo reconhecem que a GenAI está a impulsionar a inovação nas suas organizações. Contudo, esta evolução tecnológica exige uma abordagem equilibrada entre o potencial transformador e os riscos emergentes, especialmente no domínio da cibersegurança.
Oportunidades da IA em Cyber
A inteligência artificial proporciona vantagens estratégicas para o fortalecimento da cibersegurança. Soluções apoiadas por IA possibilitam a automação de processos como a deteção de phishing, a análise de ameaças e a resposta a incidentes, tornando a identificação e mitigação de riscos mais ágil e eficiente. Sistemas avançados, incluindo agentes de IA, identificam, avaliam e reagem autonomamente a ataques em tempo real, ajustando-se de forma dinâmica às novas metodologias empregadas por agentes maliciosos melhorando a salvaguarda de dados sensíveis. Organizações que integram GenAI reportam melhorias significativas em segurança, mostrando maior resiliência e eficácia diante do cenário crescente de ameaças sofisticadas.
Além disso, a inteligência artificial ao permitir automatização de tarefas quotidianas, até agora executadas por especialistas de cibersegurança, liberta-os para se focarem em desafios mais complexos e estratégicos, endereçando, em parte, a escassez de recursos humanos, sistémica, que se tem verificado nesta área.
Desafios da IA em Cyber
Apesar das oportunidades, a integração da IA no negócio das organizações apresenta desafios complexos. O aumento da superfície de ataque, vulnerabilidades em modelos de IA e a possibilidade de ataques adversariais e envenenamento de dados exigem atenção redobrada.
Apenas 24% dos CISOs, de acordo com o estudo realizado pela NTT DATA, afirmam ter uma estrutura robusta para equilibrar risco e valor na implementação de GenAI. A falta de políticas claras, a escassez de competências especializadas e a ausência de regulamentação específica dificultam a gestão dos riscos. Estes fatores obrigam as organizações a investir em estratégias proativas para proteger os seus ativos digitais.
Um outro desafio emergente derivado dos avanços significativos que temos visto na IA é que os próprios atacantes estão a utilizar IA para automatizar ataques, criar campanhas de phishing altamente convincentes e explorar vulnerabilidades de forma mais rápida e eficaz. Estes ataques tornam-se mais evasivos e difíceis de detetar, aumentando o risco para as organizações.
Estratégias para Mitigar Riscos
A mitigação deve considerar duas vertentes complementares, segurança para a IA, e IA para a segurança:
Na primeira vertente, é essencial inventariar e monitorizar ativos de IA, criar políticas de segurança flexíveis, incorporar medidas de proteção desde o design (controlo de acesso, encriptação, anonimização), realizar testes e validações regulares e adotar frameworks internacionais como o AI RMF do NIST e a ISO/IEC 42001:2023, bem como o cumprimento de requisitos legais, como o AI Act na Europa. A educação dos colaboradores sobre riscos e boas práticas é fundamental para criar uma cultura de segurança.
Na segunda vertente, a IA deve ser usada como aliada na deteção e resposta a ameaças, através de monitorização contínua, análise comportamental e automação de processos em centros de operações de segurança. Utilização de agentes de IA, permitem reduzir o alert fatigue, acelerar a triagem e melhorar a resiliência contra ataques sofisticados. Esta integração transforma a IA numa força multiplicadora para proteger infraestruturas críticas e dados sensíveis.
Equilíbrio entre inovação e segurança O equilíbrio entre inovação e segurança é o grande desafio da era da IA. Cabe aos CISOs e à liderança promover uma cultura que valorize tanto o potencial transformador da IA quanto a proteção dos ativos digitais. Só assim será possível aproveitar as oportunidades da IA de forma segura e sustentável.