A Autoridade Nacional de Proteção de Dados (ANPD) publicou análise preliminar com comentários aos principais pontos de discussão do PL nº 2338/2023 (PL). O projeto de lei dispõe sobre o uso da Inteligência Artificial no país, e conforme consta na justificativa do PL, a proposta estabelece uma regulação baseada em riscos e uma modelagem regulatória baseada em direitos.
A ANPD desenhou ainda uma análise paralela que apresenta os principais pontos de comparação entre o PL.2338/2023 e a Lei Geral de Proteção de Dados Pessoais (LGPD), destacando possíveis nichos de interação, ou de lacuna, principalmente no que diz respeito à tutela de direitos, à classificação de sistemas de IA de alto-risco e aos mecanismos de governança que devem ser implementados para o uso responsável da tecnologia.
Segundo a análise da ANPD: “… existem três campos de correspondência entre o PL e a LGPD que devem ser destacados, dada a possibilidade de eventuais convergências, sobreposições e conflitos com as atribuições legais da ANPD quando os sistemas de IA realizarem tratamento de dados pessoais: (i) direitos da pessoa afetada por sistema de IA e os direitos dos titulares; (ii) a correlação entre sistemas de IA de alto risco e o tratamento de dados pessoais; e (iii) mecanismos de governança”.
Para a Autoridade o PL 2338/2023 ressalta a necessidade da observância obrigatória aos direitos à informação, à explicação, e à contestação e de solicitar revisão quando da disponibilização da tecnologia da inteligência artificial. Esses direitos, segundo a ANPD, precisam ser assegurados às pessoas naturais afetadas pelos sistemas de IA tendo em vista que, tais garantias também estão diretamente relacionadas aos princípios e direitos elencados na LGPD.
Considerando a autodeterminação informativa para o alcance de uma regulação responsável, a proposta legislativa estabelece que à pessoa afetada devem ser asseguradas informações claras e adequadas, previamente à contratação e/ou utilização do sistema de IA, sobre uma série de aspectos, tais como: (i) o caráter automatizado da interação com o sistema, (ii) sua descrição geral, e (iii) os tipos de decisões, recomendações ou previsões que se destina a fazer e as consequências da utilização da IA para a pessoa natural.
Ainda, informações adicionais também devem ser disponibilizadas ao titular dos dados, previamente à utilização da tecnologia de IA, tais como, a identificação dos operadores do sistema de IA e informação sobre medidas de governança adotadas no desenvolvimento e emprego do sistema, o que sem dúvida, proporcionará um fortalecimento do processo decisório da pessoa natural, eventualmente afetada pelo sistema de IA.
No contexto de desafios no uso da tecnologia, a ANPD traz à tona os recentes casos de investigação de aplicações baseadas em IA generativa (por exemplo, os grandes modelos de linguagem – large language models, como o ChatGPT) por autoridades de proteção de dados como a italiana, a espanhola e a canadense, e a importância de se assegurar acesso a informações adequadas para o exercício de direitos do titular cujos dados pessoais são objeto de tratamento por tais sistemas de IA. A Rede Iberoamericana de Proteção de Dados também iniciou, em maio deste ano, uma ação coordenada para garantir a proteção de direitos e liberdades de indivíduos afetados pelo ChatGPT.
A ANPD considerou o PL em discussão, semelhante ao AI Act europeu, no tocante as classificações de risco excessivo e risco alto, uma vez que delimita a regulação consoante os desdobramentos de risco da tecnologia e considera que diferentes níveis de risco justificam diferentes níveis de restrições, garantias e salvaguardas proporcionais, uma vez que no PL, em determinadas circunstâncias os riscos podem ser tão altos que, por precaução, pode ser necessário proibir o desenvolvimento ou uso de aplicativos dessas tecnologias, o que levou a diferenciação no texto legislativo para diferentes conceitos de riscos, principalmente aqueles que são excessivos, e portanto, inaceitável pelo legislador.
A Autoridade reputa a IA como uma tecnologia estratégica, que oferece muitos benefícios econômicos e sociais. Contudo, entende que existe uma preocupação regulatória especial com os efeitos desses sistemas de IA para os direitos fundamentais não apenas de seus usuários imediatos, mas de indivíduos e grupos que eventualmente estejam sujeitos às decisões desses sistemas. Direitos como a não discriminação, a privacidade, a proteção de dados pessoais e até mesmo o acesso a determinados benefícios sociais que podem ser afetados por essas decisões automatizadas, se não houver o uso responsável dessa tecnologia.
Conforme menção trazida pela própria ANPD para ilustrar o potencial negativo do mal uso de IA no âmbito de dados pessoais, foi citado o exemplo da Amazon que em 2018 lançou um sistema de reconhecimento facial chamado Rekognition, usado por algumas autoridades policiais nos Estados Unidos. Como resultado, estudos mostraram que o sistema apresentava uma taxa de erro maior para identificar rostos de pessoas negras, especialmente mulheres, o que poderia ter culminado em pelo menos 28 falsas acusações e prisões injustas de vítimas da discriminação algorítmica.
A decisão do PL de trazer seção específica sobre a possibilidade de implementação de sandboxes regulatórios, embora apoiada pela ANPD como fomento à inovação de inteligência artificial, a Autoridade considera que o PL precisará estabelecer, ainda, as regras específicas sobre esse tema, para que os diversos reguladores proponham seus projetos de sandbox, de forma que iniciativas distintas possam ser fomentadas de acordo com o setor regulado (por exemplo, na saúde ou nas telecomunicações).
A ANPD entende que sua competência na proteção dos direitos de titulares de dados deve ser respeitada no âmbito da regulação da IA. Nesse sentido, a ANPD concluiu que: “A consolidação da ANPD como a autoridade-chave em matéria de IA e proteção de dados pessoais permitirá garantir essa consistência e a harmonia regulatória necessária para o fomento à inovação responsável e, principalmente, para a proteção dos dados pessoais e de outros direitos e liberdades fundamentais do titular”.
Por fim, a ANPD se coloca à disposição para o debate público e conta com a colaboração dos esforços multissetoriais para garantir a sua relevância na proteção da privacidade e da proteção de dados pessoais, inclusive nos contextos de tratamento por sistemas de IA.
Acesse abaixo o documento completo da ANPD com a Análise preliminar do Projeto de Lei nº 2338/2023, que dispõe sobre o uso da Inteligência Artificial.
