A evolução da IA generativa
Os avanços tecnológicos com recurso a Inteligência Artificial (IA) estão cada vez mais integrados na vida quotidiana, transformando a forma como vivemos, trabalhamos e interagimos. Esta realidade oferece inúmeras vantagens para os cidadãos, para a sociedade e para as empresas. Isto tornou-se bem evidente no último ano e meio com a evolução vertiginosa das soluções de generative AI, suportadas por Large Language Models, ou LLM’s, como o ChatGPT, o Microsoft Copilot ou o Gemini da Google, apenas para citar alguns exemplos. No entanto, para além destes benefícios, há também desafios significativos que devem ser abordados com ética e transparência.
IA pode gerar vantagens em múltiplas áreas: saúde, educação e ambiente são alguns exemplos
Para os cidadãos, a IA traz melhorias consideráveis em várias áreas. No setor da saúde, por exemplo, as soluções de IA são capazes de efetuar diagnósticos mais rápidos que podem levar a tratamentos mais eficazes. Na educação, existem ferramentas de IA que personalizam os conteúdos e os adaptam aos interesses e ritmos do formando, o que pode melhorar significativamente os resultados na aprendizagem. Para a sociedade em geral, a IA pode ser utilizada na resolução de problemas complexos de forma mais eficiente, como por exemplo otimizar a utilização de recursos naturais, contribuir para a mitigação das mudanças climáticas e melhorar a gestão urbana através de cidades inteligentes.
A análise de grandes volumes de dados, a identificação de padrões e tendências são algumas das vantagens da IA
No contexto empresarial, a IA proporciona uma vantagem competitiva significativa. As empresas podem utilizar sistemas de IA para analisar grandes volumes de dados, identificar padrões, prever tendências de mercado e assim adaptar as suas decisões estratégicas. Adicionalmente, a automação de processos operacionais reduz custos e aumenta a eficiência, potenciando o crescimento e a inovação.
Apesar dos benefícios, a IA também apresenta desafios importantes que se podem materializar em riscos relacionados com a privacidade de dados, a confidencialidade da informação, disrupções no mercado de trabalho, injustiça, descriminação, entre outros. Desta forma, é fundamental, não só, ter em atenção os viés dos algoritmos, a clareza dos processos de tomada de decisão, a dependência tecnológica, mas também as matérias de cibersegurança, eventuais prejuízos à saúde humana e a ética.
Estes riscos evidenciam a necessidade de um marco regulatório que garanta que a IA é desenvolvida e utilizada de forma ética e responsável, protegendo os direitos dos indivíduos e promovendo a confiança nestas tecnologias.
O ‘EU AI Act’ ou Regulamento Europeu para a Inteligência Artificial
A União Europeia está a trabalhar num quadro legislativo que pretende proporcionar uma base jurídica sólida e uma abordagem coordenada para a conceção, desenvolvimento e utilização de sistemas de IA transparentes, éticos e confiáveis, através da publicação do Regulamento Europeu para a Inteligência Artificial – o EU AI Act – que é o primeiro do género em todo o mundo.
Este regulamento tem como principais objetivos assegurar a ética, garantir a proteção dos cidadãos, estabelecer responsabilidade legal, criar normas harmonizadas, assegurar a transversalidade e proteger os dados.
A classificação dos sistemas de IA em diferentes categorias de risco – desde risco mínimo até risco inaceitável está na base deste regulamento. Esta classificação foca-se sobretudo nos objetivos dos sistemas de IA e no seu modo de utilização. No entanto, são também utilizados outros critérios de classificação, como o número de pessoas potencialmente afetadas, a relação entre o impacto e a irreversibilidade dos danos, a adoção de medidas eficazes para prevenir ou minimizar esses riscos, entre outros.
Assim, para garantir que estes sistemas de IA são desenvolvidos e implementados de maneira segura, ética, e responsável, o documento estabelece que as organizações devem:
- Assegurar a identificação e inventariação de todos os sistemas de IA;
- Garantir a classificação e categorização dos respetivos sistemas de AI, de acordo com o seu nível de risco;
- Implementar medidas de mitigação para responder aos riscos identificados, de acordo com os os requisitos estabelicidos no regulamento;
- Criar e manter atualizada a documentação técnica do funcionamento do sistema de IA;
- Definir e implementar um modelo de governo para as práticas de IA, estabelecendo funções e responsabilidades para o efeito;
- Promover ações de gestão da mudança, com foco na capacitação e formação interna em matérias de IA e compliance.
A IA oferece um futuro promissor, contudo também impõe desafios significativos que devem ser enfrentados com uma abordagem ética e transparente. A classificação e regulamentação adequada dos sistemas de IA é essencial para proteger os direitos e liberdades individuais e, tudo indica, que o caminho encontrado pela União Europeia vai garantir que a IA contribui para um progresso inclusivo e justo para todos os cidadãos, empresas e sociedade.