Conselho e o Parlamento Europeu chegaram a um acordo provisório sobre o Regulamento Inteligência Artificial (IA)
No passado dia 9 de dezembro, o Conselho e o Parlamento Europeu chegaram a um acordo provisório sobre o Regulamento Inteligência Artificial (IA), proposta relativa às primeiras regras em matéria de IA no mundo.
Este regulamento visa garantir que os sistemas de IA colocados no mercado europeu e utilizados na UE são seguros e respeitam os direitos fundamentais e os valores comunitários. Adicionalmente, a proposta tem como objetivos estimular o investimento e inovação no domínio da IA na Europa.
Em primeiro lugar, este acordo harmoniza a definição de um sistema de IA com a abordagem proposta pela Organização para a Cooperação e Desenvolvimento Económico (OCDE), de forma a assegurar critérios claros de distinção entre IA e sistemas de software mais simples.
Quanto ao âmbito de aplicação, é salientado que o regulamento não deve afetar, em caso algum, as competências dos Estados-Membros em matéria de segurança nacional, não sendo aplicável a sistemas utilizados exclusivamente para fins militares ou de defesa.
Está, também, previsto que o regulamento não seja aplicável aos sistemas de IA utilizados unicamente para fins de investigação e inovação ou à utilização de IA por razões não profissionais.
De forma geral, a IA é regulamentada com base no risco que a mesma representa, ou seja, quanto maior o risco de lesão à sociedade, mais rigorosas são as regras aplicáveis.
Os sistemas de IA que representem um risco limitado ficam sujeitos a obrigações de transparência ligeiras, tendo de divulgar que os conteúdos foram gerados por IA. Por outro lado, certas utilizações da IA são proibidas, nomeadamente:
Adicionalmente, foram acordadas várias alterações à proposta inicial da Comissão no que refere à utilização de sistemas de IA para efeitos de aplicação da lei pelas autoridades responsáveis. Estas alterações incluem um procedimento de emergência que permite às autoridades policiais implantar uma ferramenta de IA de risco elevado que não tenha sido devidamente aprovada, em situações excecionais.
Foram, ainda, definidas regras para os modelos de base, ou seja, grandes sistemas capazes de executar um vasto conjunto de tarefas diferentes como, por exemplo, a geração de vídeo, texto e imagens e a geração de códigos informáticos. Estes modelos ficam sujeitos a obrigações de transparência específicas antes de poderem ser colocados no mercado.
Para além disso, é criado um Gabinete de IA encarregado de supervisionar os modelos de IA mais avançados, promover normas e práticas de ensaio e garantir a aplicação das regras comuns em todos os Estados-Membros.
Este Gabinete será aconselhado por um painel científico de peritos independentes, nomeadamente, no que refere à emergência de modelos de base de “grande impacto” (modelos de base treinados com uma grande quantidade de dados e com desempenho acima da média) e à monotorização dos respetivos riscos de segurança.
O Comité para a IA continuará a funcionar como uma plataforma de coordenação e um órgão consultivo da Comissão. Finalmente, está prevista a criação de um fórum consultivo para as partes interessadas (por exemplo, representantes de indústria, pequenas e médias empresas e o meio académico) tendo em vista a prestação de conhecimentos técnicos ao Comité.
No que diz respeito à matéria de sanções, a violação do regulamento está sujeita a coimas fixadas numa percentagem do volume de negócios anual a nível mundial da empresa infratora, relativo ao exercício financeiro anterior ou a um montante predeterminado, consoante o valor que for mais elevado.
Após este acordo provisório, o diploma tem, agora, de ser apresentado aos representantes dos Estados-Membros para aprovação. Está previsto que o Regulamento IA seja aplicável dois anos após a sua entrada em vigor, excetuando algumas disposições.