Nesse texto trataremos sobre os Aspectos Regulatórios que envolvem a utilização de novas tecnologias, incluindo Inteligência Artificial, Internet das Coisas e uso e processamento de dados (Big Data). Vamos lá!
Introdução – Transformação Digital e Aspectos Regulatórios
É fato que a transformação digital atinge todas as áreas da sociedade. Desta forma, o universo jurídico, por ter sua natureza advinda de fatos sociais, é atingido pela evolução e desenvolvimento tecnológico. Após a Revolução Industrial, assistimos ao nascimento da Sociedade da Informação a partir da invenção dos grandes veículos de comunicação, atingindo seu ápice com a criação da Internet, transformando a sociedade em uma grande aldeia global.
Verificamos, ainda, o surgimento de uma nova economia, pautada em dados que alimentam as bases de dados utilizadas por algoritmos. Estes últimos podem ser entendidos como um conjunto de instruções, sequência de regras ou ainda diretrizes seguidas por uma máquina, que aplicada a um número de dados, permite a solução de determinados problemas.
Como reflexo da hiperconectividade proporcionada a partir do desenvolvimento e disseminação de dispositivos IoT [1], que trocam dados e informações entre si, há um aumento significativo de dados produzidos contribuindo para a formação do que chamamos de Big Data. Desta forma, no contexto em que cada vez mais decisões são tomadas com base em dados, é de fundamental importância garantir a veracidade dessas informações.
Aspectos Regulatórios para proteção de dados
A combinação entre objetos inteligentes e Big Data pode alterar e impactar, ainda mais, a forma como vivemos em sociedade, trazendo, com isto, novos desafios, principalmente para o judiciário.
Ao passo que a hiperconexão tem o potencial de facilitar a vida, sendo infraestrutura basilar na construção de cidades inteligentes, capaz de auxiliar na solução de problemas como poluição, congestionamentos, criminalidade, etc., há também a probabilidade de ficarmos imersos em sistemas de monitoramento e vigilância indiscriminada, afetando diretamente a dignidade humana dos cidadãos-usuários.
Constatamos, desta forma, a complexidade de se regular juridicamente as novas Coisas [2] inteligentes, vivenciamos, portanto, uma autorregulação do próprio mercado e, ainda, uma regulação realizada através do design dessas novas tecnologias, denominada por alguns como tecnorregulação.
A utilização de sistemas utilizando algoritmos e Inteligência Artificial já é realidade em inúmeros setores da sociedade, dentre eles o judiciário. Sobre esta questão, destaca-se o exemplo prático do ocorrido na cidade de Nova Iorque que aprovou um Projeto de Lei voltado às agências governamentais que usam algoritmos para auxiliar em processos judiciais, sendo considerado um projeto de lei de responsabilidade algorítmica onde estabelece uma força-tarefa para estudar como os algoritmos estão sendo utilizados pelas agências da cidade para tomar decisões que afetam diretamente os cidadão de Nova Iorque, objetivando com isto dirimir potenciais problemas causados por algoritmos enviesados e/ou modelos discriminatórios, sendo o primeiro do tipo na regulação legislativa norte-americana, segundo explica Eduardo Magrani.
No cenário brasileiro, assistimos à instituição do Plano Nacional de Internet das Coisas, através do Decreto 9.854/2019, tendo como objetivo o fomento do desenvolvimento e implementação da Internet das Coisas no país. No entanto, é imperioso uma análise de como este Plano será colocado em prática, qual a governança que haverá sobre o que for produzido a partir de então, principalmente, no que tange à utilização de IoT, dotados de Inteligência Artificial, para tomadas de decisões erga omnes.
Ainda sobre aspectos regulatórios, verificamos a elaboração do Projeto de Lei 5.051/2019 que estabelece princípios para a utilização de Inteligência Artificial no país. No que concerne a tomada de decisão baseada em aplicações de IA, destaca-se o art. 4 do referido projeto, o qual prevê que “os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana, além de estabelecer a responsabilização do seu supervisor por quaisquer danos decorrentes de sua utilização”.
Destaco aqui o disposto nos artigos 2º, 4º e 6º do Projeto de Lei 5.051/2019 que objetiva estabelecer os princípios para uso de IA no Brasil. Vejamos.
Art. 2º A disciplina do uso da Inteligência Artificial no Brasil tem como fundamento o reconhecimento de que se trata de tecnologia desenvolvida para servir as pessoas com a finalidade de melhorar o bem estar humano em geral, bem como:
I – o respeito à dignidade humana, à liberdade, à democracia e à igualdade;
II – o respeito aos direitos humanos, à pluralidade e à diversidade;
III – a garantia da proteção da privacidade e dos dados pessoais;
IV – a transparência, a confiabilidade e a possibilidade de auditoria dos sistemas;
V – a supervisão humana.
Art. 4º Os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana.
§ 1º A forma de supervisão humana exigida será compatível com o tipo, a gravidade e as implicações da decisão submetida aos sistemas de Inteligência Artificial.
Art. 6º As aplicações de Inteligência Artificial de entes do Poder Público buscarão a qualidade e a eficiência dos serviços oferecidos à população.
No entanto, algumas críticas pairam sobre o projeto uma vez que sob o aspecto da responsabilidade, sabe-se que esta é apenas uma das possibilidades de responsabilização quando falamos em IA, além de que o projeto não pressupõe que algoritmos criem outros algoritmos autônomos, podendo estes criarem outros algoritmos, fugindo totalmente do controle humano sendo, muitas vezes, impossível compreender as decisões tomadas por estes últimos.
Outro ponto de vulnerabilidade quando falamos em IoT e IA refere-se à segurança da informação, sendo um dos principais pilares para o desenvolvimento dessas aplicações. Neste sentido, destacam-se os diplomas vigentes que podem ter aplicação neste setor: Marco Civil da Internet (MCI), Código de Defesa do Consumidor (CDC) e a Lei Geral de Proteção de Dados (LGPD). No entanto, é sabido que para a garantia dos direitos básicos do cidadão no mundo de IoT e IA, esses diplomas são considerados falhos. Isto porque no caso do MCI, não traz definições conceituais importantes para coibir a coleta, tratamento abusivo e monetização de dados, além de ser aplicável apenas aos ambientes online. Já a LGPD, não protege o cidadão contra decisões automatizadas, uma vez que a previsão trazida pelo texto original foi vetada.
Como forma de alinhar os interesses e perspectivas dos diversos atores da sociedade que potencialmente serão impactados pela utilização massiva da Inteligência Artificial, o MCTIC lançou nesta semana a consulta pública para a Estratégia Brasileira de Inteligência Artificial cujo objetivo é propiciar aos cidadãos direcionarem uma política que potencialize os benefícios da IA no Brasil, além de possibilitar a contribuição sobre temas que incluem: educação, força de trabalho, legislação e governança.
Inúmeros são os desafios quando tratamos de governança de algoritmos. Dentre eles, Magrani (2019, p. 227) destaca o fato de que o comportamento de uma IA pode não ser totalmente previsível e “seu comportamento pode ser resultado da interação entre diversos agentes humanos e não humanos que compõe o sistema sociotécnico e até mesmo de processos de self-learning” tornando difícil encontrar o nexo causal entre o dano gerado e a ação de um ser humano ou pessoa jurídica. O autor destaca ainda que
No caso da Inteligência Artificial, é essencial que se trave um amplo debate acerca das diretrizes éticas que deverão guiar a construção dessas máquinas. Afinal, vê-se um crescimento muito forte desse segmento da pesquisa científica, inclusive no cenário regulatório, sem que se tenha definido parâmetros claros de como se deve conduzir esse estudo, sob o ponto de vista da ética. A necessidade de se construir um framework regulatório para esse tipo de tecnologia vem sendo destacada por algumas iniciativas. (MAGRANI, 2019: 230)
Isto posto, em janeiro de 2017 ocorreu a Conferência em Asilomar, CA, com o objetivo de definir uma série de princípios para que o desenvolvimento de programas de Inteligência Artificial se dê de forma benéfica para a sociedade. Elencou 23 princípios e dentre eles destacamos o 8o, vejamos:
8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority
Destaca-se, ainda, a iniciativa do Parlamento Europeu que em 2018, por meio de seu grupo de peritos de alto nível sobre inteligência artificial, propôs o guia ético [4] para utilização quando da concepção de sistemas de IA.
Por fim, importante verificarmos como se dará a aplicabilidade das previsões trazidas pela norma jurídica em contraponto à tecnorregulação, que segundo Jacques Ellul [5], tornam-se ineficazes e ineficientes num cenário de desenvolvimento técnico, passando a doutrina a ser meramente explicativa e justificativa uma vez que o fim é definido pela operação autônoma das técnicas. Desta forma, o critério de ação da norma consistiria em saber se a técnica foi ou não utilizada corretamente, ou seja, estaríamos diante da preponderância de normas principiológicas.
Referências – Aspectos Regulatórios
[1] “A Internet das Coisas é a expressão que busca designar todo o conjunto de novos serviços e dispositivos que reúnem ao menos três pontos elementares: conectividade, uso de sensores e capacidade computacional de processamento e armazenamento de dados.” Magrani, Eduardo. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2a Ed. Porto Alegre: Arquipélago Editorial, 2019, p. 19.
[2] Segundo o Decreto 9.854/19, que instituiu o Plano Nacional de IoT, coisas são “objetos no mundo físico ou no mundo digital, capazes de serem identificados e integrados pelas redes de comunicação”.
[3]http://www.mctic.gov.br/mctic/opencms/salaImprensa/noticias/arquivos/2019/12/MCTIC_lanca_consulta_publica_para_a_Estrategia_Brasileira_de_Inteligencia_Artificial.html Acesso em 17.12.2019.
[4] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai Acesso em 17.12.2019
[5] ELLUL, Jacques. The Technological Society. New York: Vintage Books, 1954.
Para Assessoria Jurídica e Adequação às leis de Proteção de Dados (Consultoria LGPD), contate agora os nossos Advogados
Para mais informações ou se tiver dúvidas sobre Direito Digital, em especial acerca dos temas: Proteção de Dados (Consultoria LGPD), Aspectos Regulatórios e Compliance de novas tecnologias, entre em contato pelo e-mail [email protected] ou fale com um Advogado online agora.
BL Consultoria e Advocacia Digital
Escritório jurídico voltado para o mundo conectado que busca auxiliar empresas e startups a desenvolverem seus projetos (Pesquisa, Desenvolvimento e Inovação) de forma ética e eficiente com atuação especializada em Direito Digital e Análise Regulatória para novas tecnologias. Estamos localizado em dois endereços: em São Paulo-SP, na Av. Paulista, 575 – conjunto 1903 – Bela Vista, CEP 01311-911 e em Campinas-SP, na Rua Antônio Lapa, 280 – 6o andar, Cambuí. Para mais informações ou consultoria jurídica com nossos advogados, agende uma reunião pelo link ou ligue +55 11 3090 5979.
