Fonte: Jota
Nesta semana foi aprovado, depois de anos de debates, o Regulamento Europeu para Inteligência Artificial. Trata-se do primeiro movimento internacional de peso a tentar regular essa nova tecnologia disruptiva, que já movimenta muitas paixões e muitos recursos. O texto baseia-se na noção de risco como fundamento básico de orientação para as soluções normativas ali estabelecidas, destacando alguns riscos já identificados e reunindo um conjunto expressivo de dispositivos que proíbem, condicionam ou limitam o desenvolvimento e o uso de inteligência artificial que podem ter impactos sobre a saúde.
O objetivo geral declarado do regulamento é o de melhorar o funcionamento do mercado destas tecnologias, estabelecendo um quadro jurídico uniforme, em especial para o desenvolvimento, a colocação no mercado, a entrada em serviço e a utilização de sistemas de inteligência artificial no território da União Europeia (UE). As novas regras visam alinhar esses produtos aos valores da UE, no sentido de promover a adoção de uma IA centrada no ser humano e viável, assegurando simultaneamente um elevado nível de proteção da saúde, de segurança e dos direitos fundamentais.
O Parlamento Europeu parte do pressuposto de que a IA é formada por uma família de tecnologias em rápida evolução, que contribui para uma vasta gama de benefícios econômicos, ambientais e sociais em todo o espectro de indústrias e atividades sociais. A utilização da IA pode proporcionar vantagens competitivas fundamentais às empresas e apoiar resultados social e ambientalmente benéficos, por exemplo nos cuidados de saúde, na medida em que possui o potencial de melhorar a previsão, otimizar a gestão e a destinação de recursos e personalizar as soluções digitais disponíveis para indivíduos e organizações.
O braço Legislativo da UE destaca a necessidade de se criar e desenvolver um quadro jurídico com regras claras e harmonizadas em matéria de IA, capaz de promover o desenvolvimento, a utilização e a adoção da IA no mercado e que, ao mesmo tempo, capaz de proteger interesses públicos, como os da saúde, da segurança e da proteção dos direitos fundamentais, incluindo ainda interesses relacionados à proteção da democracia, do Estado de direito e do meio ambiente, tal como reconhecidos e protegidos pelo direito internacional e da UE.
Letramento em saúde
Uma das principais estratégias de regulação adotadas pelo novo texto foi a de estabelecer regras para garantir o letramento em saúde. De acordo com o novo regulamento, para se obter os maiores benefícios dos sistemas de IA, protegendo simultaneamente os direitos fundamentais, a saúde e a segurança, e para permitir o controle democrático, o letramento em IA deve dotar os fornecedores, os implantadores e as pessoas afetadas com as noções necessárias para tomar decisões informadas relativamente aos sistemas de IA.
As noções sobre letramento podem variar consoante o contexto e podem incluir:
1 a compreensão da aplicação correta dos elementos técnicos durante a fase de desenvolvimento do sistema de IA;
2 as medidas a aplicar durante a sua utilização;
3 as formas adequadas de interpretação dos resultados do sistema de IA e;
4 no caso das pessoas afetadas, o conhecimento necessário para compreender como as decisões tomadas com a ajuda da IA terão impacto sobre elas.
Nesse sentido, o letramento em IA deverá fornecer a todos os intervenientes relevantes na cadeia de valor da IA os conhecimentos necessários para garantir o seu funcionamento adequado e a sua aplicação correta. Além disso, a implementação generalizada de medidas de letramento em IA e a introdução de ações de acompanhamento adequadas poderão contribuir para melhorar as condições de trabalho e, em última análise, sustentar a consolidação e o caminho de inovação de uma IA segura, confiável, de qualidade e eficaz.
Proibições
Um outro ponto importante que o Regulamento trata refere-se às proibições. O novo regulamento proíbe expressamente técnicas de manipulação baseadas na IA que sejam utilizadas para induzir comportamentos indesejados ou para enganar as pessoas, incitando-as a tomar decisões que subvertam e prejudiquem a sua autonomia, a sua tomada de decisões e as suas escolhas.
Está expressamente vedada a colocação no mercado, a entrada em serviço ou a utilização de determinados sistemas de IA com o objetivo ou o efeito de distorcer materialmente o comportamento humano, por meio dos quais se possa causar danos significativos. Ficam proibidos, em particular, os sistemas de IA que possam causar impactos adversos suficientemente importantes na saúde física, psicológica ou financeira. Estes sistemas de IA são considerados particularmente perigosos e estão, portanto, proibidos no território europeu.
IA de alto risco
Também foi dado um tratamento rigoroso para as IAs consideradas de alto risco pelo regulamento, que só deverão ser colocados no mercado ou utilizados se cumprirem determinados requisitos obrigatórios, que garantam que tais tecnologias não representem riscos inaceitáveis para os interesses públicos estabelecidos pela legislação europeia e demais documentos normativos de proteção de direitos fundamentais.
Os sistemas de IA identificados como de alto risco são aqueles que têm um impacto prejudicial significativo na saúde, na segurança e nos direitos fundamentais das pessoas. Um exemplo de tecnologia considerada de alto risco pelo Regulamento é o dos robôs cada vez mais autônomos na produção industrial e na prestação de serviços, especialmente no contexto da assistência médica e nos cuidados pessoais. Estes robôs deverão ser capazes de operar e desempenhar as suas funções com segurança em ambientes complexos, sendo que, no setor da saúde, onde os riscos para a vida e a saúde são particularmente elevados, os sistemas de apoio às decisões humanas sobre diagnóstico e tratamento de saúde devem ser fiáveis e precisos.
O impacto adverso que pode ser causado pelo sistema de IA nos direitos fundamentais é de particular relevância para classificar um sistema de IA como de alto risco. Esses direitos incluem o direito à dignidade humana, o respeito pela vida privada e familiar, a proteção dos dados pessoais, a liberdade de expressão e de informação, a liberdade de reunião e de associação e a não discriminação, o direito à educação, a proteção do consumidor, os direitos dos trabalhadores, os direitos das pessoas com deficiência, igualdade de género, direitos de propriedade intelectual, direito a um recurso efetivo e a um julgamento justo, direito de defesa e presunção de inocência, direito a uma boa administração.
Uso da IA para acesso a serviços essenciais
Outra área em que a utilização de sistemas de IA merece atenção especial é seu uso para mediar o acesso e usufruto de determinados serviços e benefícios públicos e privados essenciais, necessários para que as pessoas participem plenamente na sociedade ou melhorem o seu nível de vida. Em particular, as pessoas que solicitam ou recebem prestações e serviços essenciais de assistência das autoridades públicas, nomeadamente serviços de saúde e/ou prestações de segurança social, são normalmente dependentes desses benefícios e serviços e estão numa posição vulnerável em relação às autoridades responsáveis.
Com as novas regras estabelecidas, serão classificados de alto risco os sistemas de IA que forem utilizados para determinar se tais benefícios e serviços devem ser concedidos, negados, reduzidos, revogados ou reclamados pelas autoridades, incluindo se os beneficiários têm legitimamente direito a tais benefícios ou serviços. O regulamento entende que esses sistemas podem ter um impacto significativo na subsistência das pessoas e podem violar os seus direitos fundamentais, como o direito à proteção social, à não discriminação, à dignidade humana ou a um recurso efetivo, pelo que devem ser classificados como de alto risco.
O regulamento faz a ressalva de que, embora classificados como de alto risco, não é objetivo da nova norma impedir o desenvolvimento e a utilização de abordagens inovadoras na administração pública. Neste aspecto, o Parlamento Europeu faz o alerta de que os sistemas de IA utilizados para esses fins podem conduzir à discriminação entre pessoas ou grupos e perpetuar padrões históricos de discriminação, como os baseados na origem racial ou étnica, no gênero, na deficiência, na idade ou na orientação sexual, ou podem criar novas formas de impactos discriminatórios.
Além disso, o novo regulamento alerta que os sistemas de IA destinados a serem utilizados para avaliação de riscos e fixação de preços em relação a pessoas para seguros de saúde e de vida também podem ter um impacto significativo na subsistência das pessoas. Tais sistemas devem ser concebidos, desenvolvidos e utilizados de forma a evitar violações de direitos fundamentais que afetem gravemente a vida e a saúde das pessoas, incluindo a exclusão financeira e a discriminação.
IA para chamadas de emergência
O regulamento também dedica dispositivos para regular os sistemas de IA utilizados na avaliação e classificação de chamadas de emergência efetuadas por pessoas, ou ainda para enviar ou estabelecer prioridade no envio de serviços de primeira resposta de emergência. As emergências expressamente mencionadas pelo Regulamento referem-se aos serviços públicos de segurança pública, de bombeiros e de saúde (socorro médico).
Os serviços de sistemas de triagem de doentes de cuidados de saúde de emergência também são classificados como de alto risco, pois tomam decisões em situações muito críticas para a vida e a saúde das pessoas e de seus bens.
Início de um longo processo
Outras inovações regulatórias sobre IA na área da saúde estão previstas no novo regulamento europeu e serão detalhadas nas próximas.
O que já se pode dizer, desde já, é que este documento representa um enorme avanço na compreensão do que são essas novas tecnologias e seus potenciais riscos, bem como na escolha de quais destas inovações de IA deverão ser tratadas com mais rigor pelos Estados. E a saúde aparece, sem sombra de dúvida, como um dos campos mais sensíveis em termos de riscos associados.
O processo de introdução concreta das novas regras do Regulamento da UE será lento e longo. Muitos conceitos ainda são abertos, e haverá uma margem discricionária relativamente ampla para que cada Estado-membro da União Europeia faça as suas regulações específicas de acordo com as novas diretrizes fixadas.
O Brasil, com seu Sistema Único de Saúde (SUS), com suas enormes bases de dados de saúde e com seu enorme potencial de uso da IA na saúde digital, deve acompanhar atentamente o que se passa na Europa e ser capaz de desenvolver uma estrutura regulatória clara para a IA e a saúde digital no país, adequada aos direitos fundamentais de nossa Constituição, às nossas realidades socioeconômicas e às nossas necessidades de saúde.
