Governança da Inteligência Artificial na saúde: analisando os desafios éticos, regulatórios, jurídicos e legislativos à luz do PL nº 2.338/2023.

Abstract

A inteligência artificial (IA) aplicada à saúde desponta como uma das mais promissoras frentes de inovação tecnológica, ao mesmo tempo em que impõe complexos desafios éticos, regulatórios e institucionais. Essa ambivalência é ainda mais sensível em contextos nos quais a tomada de decisão automatizada pode impactar diretamente direitos fundamentais, como a vida, a saúde, a privacidade e a não discriminação. Partindo dessa premissa, a presente dissertação tem por objetivo geral avaliar criticamente a proposta normativa contida no PL 2.338/2023, especialmente no que se refere à classificação de risco e à ausência de mecanismos regulatórios adequados à realidade do setor da saúde. Como objetivos específicos, o trabalho propõe-se a: (i) analisar o panorama regulatório e institucional do setor de saúde no Brasil e os impactos da transformação digital; (ii) examinar os fundamentos éticos e jurídicos do uso de IA; (iii) explorar modelos de governança e responsabilidade aplicáveis à IA; e (iv) avaliar criticamente o PL nº 2.338/2023, sugerindo diretrizes de aprimoramento regulatório. A metodologia utilizada é qualitativa, com base em revisão bibliográfica, análise documental e exame crítico de proposições normativas e estratégicas nacionais e internacionais. O problema central investigado diz respeito à suficiência do PL nº 2.338/2023 em garantir um equilíbrio entre a promoção da inovação e a proteção de direitos fundamentais, com a hipótese de que o texto, apesar de representar avanço, ainda carece de ajustes técnicos, institucionais e setoriais para ser eficaz. A fundamentação teórica abrange autores como Luciano Floridi, Virginia Dignum, Mireille Hildebrandt, Danilo Doneda, Laura Schertel Mendes, Ronaldo Lemos e Jacques Demorgon, além de documentos internacionais da OCDE, ONU, UNESCO, Conselho da Europa e União Europeia (AI Act). Os principais resultados indicam que o projeto legislativo brasileiro ainda não contempla, de forma adequada, critérios objetivos para a classificação de risco, nem mecanismos específicos de responsabilização e governança para setores sensíveis como o da saúde. Constatou-se, ainda, que há uma fragilidade na articulação do PL com a Lei Geral de Proteção de Dados (LGPD), bem como uma ausência de coordenação institucional entre órgãos reguladores setoriais. Como conclusão, defende-se a necessidade de aperfeiçoamento técnico e normativo do PL nº 2.338/2023, por meio da previsão de obrigações claras para sistemas de alto risco, da criação de instrumentos de supervisão e transparência, da articulação com marcos legais já existentes e da consideração explícita das especificidades do setor da saúde. A pesquisa insere-se na linha de Direito, Tecnologia e Inovação do mestrado profissional, com forte conexão entre a prática jurídica e o aprimoramento institucional. O estudo visa contribuir com o debate legislativo e acadêmico sobre a governança responsável da IA no Brasil.

Artificial intelligence (AI) applied to healthcare emerges as one of the most promising fronts of technological innovation, while simultaneously presenting complex ethical, regulatory, and institutional challenges. This ambivalence becomes particularly sensitive in contexts where automated decision-making can directly affect fundamental rights such as life, health, privacy, and non-discrimination. Based on this premise, the present dissertation aims to critically assess the regulatory proposal contained in Bill No. 2,338/2023, especially regarding risk classification and the lack of regulatory mechanisms suited to the healthcare sector. The specific objectives are: (i) to analyze the regulatory and institutional landscape of the Brazilian healthcare system and the impacts of digital transformation; (ii) to examine the ethical and legal foundations of AI use in healthcare, with emphasis on the protection of sensitive data; (iii) to explore models of governance and accountability applicable to AI in healthcare; and (iv) to critically evaluate Bill No. 2,338/2023, proposing guidelines for regulatory improvement. The methodology is qualitative, based on bibliographic review, documentary analysis, and critical examination of national and international normative and strategic documents. The central research problem concerns whether Bill No. 2,338/2023 is sufficient to ensure a balance between promoting innovation and protecting fundamental rights. The hypothesis is that, despite being a significant step forward, the current draft still lacks the technical, institutional, and sector-specific adjustments necessary for regulatory effectiveness. The theoretical framework includes authors such as Luciano Floridi, Virginia Dignum, Mireille Hildebrandt, Danilo Doneda, Laura Schertel Mendes, Ronaldo Lemos, and Jacques Demorgon, as well as international documents from the OECD, UN, UNESCO, Council of Europe, and the European Union (AI Act). The main findings indicate that the proposed Brazilian legislation does not adequately address objective criteria for risk classification, nor does it provide specific accountability and governance mechanisms for high-risk sectors such as healthcare. Furthermore, it lacks proper articulation with the Brazilian General Data Protection Law (LGPD) and coordination among sectoral regulatory authorities. As a conclusion, this research advocates for the technical and normative enhancement of Bill No. 2,338/2023 through the inclusion of clear obligations for high-risk AI systems, the implementation of oversight and transparency instruments, alignment with existing legal frameworks, and explicit consideration of the specificities of the healthcare sector. This study is part of the “Law, Technology and Innovation” track of the professional master's program and reflects a strong connection between legal practice and institutional improvement. It aims to contribute to both academic and legislative debates on responsible AI governance in Brazil.