Pular para o conteúdo

Inteligência Artificial recebe regulamentação na União Europeia

inteligência artificial
Inteligência Artificial recebe regulamentação na União Europeia

O parlamento europeu aprovou o conjunto de normas que regulamentam a inteligência artificial (AI Act), o documento teve como base uma metodologia de análise de riscos. Sendo uma legislação pioneira em muitos aspectos, a sua aprovação teve como objetivo principal promover a adoção confiável de inteligência artificial, garantir alto nível de proteção dos direitos fundamentais, mitigar riscos, apoiar a inovação e fomentar o uso seguro da inteligência artificial. Dessa maneira, ​​foi concebida para complementar a legislação existente, como o Regulamento Geral de Proteção de Dados da UE (GDPR).

A legislação define claramente o que é considerado inteligência artificial e estabelece requisitos específicos para sistemas de inteligência artificial de alto risco, como avaliação, documentação técnica e de usuário, registro de conformidade e garantias de transparência. Também proíbe certas práticas, como a manipulação de comportamentos humanos, e impõe obrigações de conformidade, governança e avaliação de impacto.

Índice

De acordo com o documento publicado, essa regulamentação classifica os sistemas de inteligência artificial em diferentes níveis de risco, como inaceitáveis, elevados, altos, limitados ou mínimos, o que define os limites para seu uso e aplicação. Logo, é necessário realizar os seguintes procedimentos na implementação de inteligência artificial:

Identificação de Riscos: Identificar os potenciais riscos que os sistemas de IA podem apresentar, como viés, falta de transparência, danos à privacidade, segurança e confiabilidade.

Classificação de Riscos: Classificar os riscos identificados em diferentes níveis, como riscos inaceitáveis, elevados, altos, limitados ou mínimos, com base em sua gravidade e impacto.

Determinação do Escopo: Definir quais sistemas de IA serão abrangidos pela regulamentação com base em sua classificação de risco. Por exemplo, sistemas de IA de alto risco podem exigir medidas mais rigorosas do que sistemas de baixo risco.

Desenvolvimento de Requisitos Regulatórios: Estabelecer requisitos específicos para os sistemas de IA de alto risco, como avaliação de impacto, documentação técnica e de usuário, registro de conformidade e garantias de transparência.

Implementação e Monitoramento: Implementar e monitorar o cumprimento dos requisitos regulatórios por parte dos desenvolvedores, fornecedores e usuários de sistemas de IA.

Revisão e Atualização: Revisar periodicamente a regulamentação para garantir que continue relevante e eficaz diante do rápido avanço da tecnologia de IA e das mudanças nas necessidades e expectativas da sociedade.

Essa regulamentação visa equilibrar a promoção da inovação e o desenvolvimento da inteligência artificial com a proteção dos direitos fundamentais, a mitigação dos riscos e a garantia da segurança e confiabilidade dos sistemas de inteligência artificial.

A legislação tem como base os seguintes princípios: iniciativa e supervisão por humanos; solidez técnica e segurança; privacidade e governação dos dados; transparência; diversidade, não discriminação e equidade; bem-estar social e ambiental e responsabilização.

O cronograma de implementação está previsto no artigo 85 da lei e o texto entrará em vigor 20 dias após sua publicação e será plenamente aplicável 24 meses após esse momento. As multas previstas podem variar de acordo com a gravidade da infração, com valores que variam entre 7,5 milhões de euros e 35 milhões de euros.

O AI Act possui efeitos extraterritoriais, aplicando-se a sistemas de inteligência artificial que impactem o mercado ou cidadãos da UE, mesmo que operem fora da UE. Além disso, é esperado que sirva de base para outras legislações ao redor do mundo, incluindo a brasileira.

Devido a aprovação do AI Act, espera-se que o Brasil e outros países acelerem a regulação da IA. Empresas brasileiras que lidam com IA devem se preparar para maior regulação, adotando boas práticas de governança e conformidade com as leis existentes.

Por enquanto o Brasil ainda não possui legislação específica sobre o tema, mas existe a proposta de regulamentação da inteligência artificial (PL 2.338/2023) que foi apresentada pelo senador Rodrigo Pacheco (PSD-MG), a partir de outros projetos que tratam da regulação da tecnologia no Brasil e do trabalho de uma comissão de juristas formada em 2022. A expectativa é que o marco regulatório seja votado pelo Senado no primeiro semestre de 2024.

De forma simultânea, o Brasil já regulamentou o uso da inteligência artificial no âmbito eleitoral. O Tribunal Superior Eleitoral (TSE) aprovou, pela primeira vez, no direito eleitoral brasileiro, a regulamentação do uso da inteligência artificial (IA) na propaganda eleitoral para as Eleições Municipais de 2024. As novas regras estabelecidas são oriundas do resultado de 12 resoluções aprovadas que foram apresentadas pela relatoria da vice-presidente do TSE, ministra Cármen Lúcia, e têm como objetivo disciplinar o processo eleitoral deste ano de maneira abrangente e moderna.

Sem dúvidas uma das mudanças mais significativas é a proibição do uso de deepfakes para as propagandas eleitorais. É importante saber que Deepfake é uma técnica de inteligência artificial (IA) que permite a criação de vídeos ou áudios falsos, nos quais uma pessoa aparenta dizer ou fazer algo que nunca disse ou fez.

Essa tecnologia utiliza algoritmos avançados de aprendizado profundo (deep learning) para mapear e substituir o rosto de uma pessoa em um vídeo, por exemplo, por outro rosto de forma convincente. Na prática, a utilização dessa ferramenta cria uma série de fake news que podem comprometer a democracia do processo eleitoral. Além disso, a regulamentação exige que qualquer conteúdo gerado por IA na propaganda eleitoral seja claramente identificado como tal, assim é garantido a transparência aos eleitores.

Outra restrição importante é em relação ao uso de chatbots e avatares, que é uma ferramenta que usa inteligência artificial para simular uma conversa humana em um chat, como se estivesse interagindo com uma pessoa real. A resolução aprovada informa que estes não poderão ser utilizados para intermediar a comunicação com os eleitores. Essa é mais uma medida que visa evitar a disseminação de informações falsas ou manipuladas durante a campanha eleitoral.

Fontes:

https://www.conjur.com.br/2024-mar-14/ai-act-projeto-de-estrutura-regulatoria-de-ia-na-uniao-europeia/

https://www.migalhas.com.br/depeso/399513/entendendo-o-eu-ai-act-uma-nova-era-na-regulamentacao-da-ia-na-europa

https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_PT.html

https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_PT.pdf

Time BL Consultoria
Time BL Consultoria
Time BL Consultoria Digital - Direito Digital e Análise Regulatória

Posts Relacionados

Fale Conosco

    Categorias

    Assine nossa Newsletter

    Open chat
    Olá, tudo bem? Como podemos te ajudar?
    Olá! Como podemos ajudar?