A crise de responsabilidade da IA: razão pela qual a liderança executiva tem de agir já | NTT DATA

qua, 12 fevereiro 2025

A crise de responsabilidade da IA: razão pela qual a liderança executiva tem de agir já

A IA atingiu o seu auge. É talvez a tecnologia mais divulgada e disruptiva deste milénio, apesar de ainda estar na sua infância. Está a transformar indústrias de uma forma que não poderia ter sido antecipada, mudando a forma como as organizações operam, criando novas economias e mudando a forma de trabalhar.  

Isto explica o porquê de mais de 60% das organizações inquiridas no Relatório Global de GenAI da NTT DATA acreditarem que a GenAI vai ser um fator de mudança dentro de dois anos, e quase 70% estarem otimistas em relação à tecnologia. Além disso, quase dois terços dos participantes planeiam investir significativamente em GenAI entre 2025-26, provando que o seu crescimento não está a abrandar.

No que diz respeito específico aos membros dos conselhos de administração, 64% dos executivos esperam uma transformação significativa dos seus setores de atividade em 2025, motivada pelos grandes investimentos em GenAI. Isto é um dado significativo porque o compromisso dos líderes com a IA e a GenAI vai determinar o sucesso da tecnologia, na medida em que a crença no seu poder se estende a toda a organização, desenhando a forma como é adotada, integrada e dimensionada como uma prioridade estratégica. 

Em suma, a GenAI - e a IA de forma mais ampla - está a transformar o ADN das principais estratégias organizacionais e a forçar a maioria das empresas a reavaliar profundamente as suas oportunidades tecnológicas. Após um período de testes e ideação à volta da IA por parte das organizações, este ano veremos um foco crescente na identificação de casos de sucesso tangíveis da GenAI que podem evoluir para produção.

Não há progresso sem risco

Mas as tecnologias transformadoras compreendem sempre riscos. Com demasiada frequência, ignoramos os modelos de governança a favor da inovação rápida, o que conduz a uma crise de responsabilidade - e a IA não é exceção. A sua vertiginosa velocidade de crescimento ultrapassou a liderança, e os executivos estão a lutar para equilibrar a inovação com responsabilidade. Isto coloca-nos num caminho perigoso de inovação estagnada se os esforços de responsabilidade não acelararem  

Na NTT DATA, chamamos a esta crise o fosso da responsabilidade, que diz respeito ao desfasamento entre a velocidade da inovação e os quadros de responsabilidade em matéria de ética, segurança, sustentabilidade e inclusão.  

A nossa mais recente análise, The AI Responsibility Gap: Why Leadership Is the Missing Link, aprofunda esta realidade gritante e descreve em pormenor o papel fundamental da liderança para colmatar este fosso.

Equilíbrar inovação e responsabilidade

Com base nas respostas de mais de 2.300 líderes seniores em diversas funções e indústrias, em 35 países, a nossa análise apresenta dados concretos que mostram a necessidade urgente de um mandato conduzido pelas lideranças para alinhar a inovação em IA com a responsabilidade ética. Sem isso, comprometemos a segurança, introduzimos preconceitos éticos e perdemos oportunidades de aumentar a sustentabilidade da IA.  

Embora 1 em cada 3 membros dos conselhos de administração diga que a responsabilidade é mais importante do que a inovação quando se trata de IA e GenAI, quase o mesmo número diz que a inovação é mais importante - e os restantes acreditam que a inovação e a responsabilidade são igualmente importantes. Isto mostra que os executivos estão em desacordo consigo próprios quanto ao equilíbrio entre inovação e responsabilidade. No entanto, uma tendência é evidente: à medida que o investimento em GenAI aumenta, o fosso alarga-se.

A nossa análise explora os pontos de vista dos diretores executivos sobre a extensão do fosso e o seu impacto na sociedade e nas empresas, bem como as principais razões para as organizações se inclinarem mais para a inovação do que para a responsabilidade e vice-versa. Há também a necessidade crescente de formar a população ativa à medida que o investimento aumenta - uma evolução contínua que exige uma gestão constante.

As conclusões representam um claro apelo à ação para a comunidade empresarial: está mais do que na hora de agir. Incorporar a responsabilidade nas bases da IA. Desbloquear todo o seu potencial. Tornar-se parte da solução.