A transparência dos processos de inteligência artificial (IA) no setor de saúde suplementar: garantias e possíveis violações de direitos fundamentais pela opacidade dos algoritmos de IA nas análises preditivas dos indivíduos

Abstract

O presente estudo objetiva discutir a transparência nos processos de inteligência artificial (IA) no setor de saúde suplementar. Para tanto, expõe a historicidade da IA e o mundo da vida em rede; aborda a IA aplicada à saúde suplementar; explica a opacidade gerada pelos algoritmos de IA nas análises preditivas dos dados de clientes de operadoras de saúde suplementar; e discute a importância da transparência nas análises preditivas feitas por operadoras de saúde suplementar. A metodologia empregada foi a pesquisa bibliográfica em legislações e doutrinas nacionais e internacionais que se dedicam ao estudo da Inteligência Artificial aplicada à saúde permitindo-se concluir que mister se faz proteger a autonomia do paciente, observar o seu consentimento, o que precisa ser equacionado com o eventual uso da IA para fins decisórios. Além disso, ao paciente deve ser assegurada a autodeterminação informativa, com adequada proteção dos seus dados pessoais e sensíveis; a igualdade no acesso ao melhor tratamento médico disponível e de forma ampla, a transparência.

This study aims to discuss transparency in artificial intelligence (AI) processes in the supplementary health sector. Therefore, it exposes the historicity of AI and the world of networked life; addresses AI applied to supplementary health; explains the opacity generated by AI algorithms in predictive analytics of supplementary health care provider customer data; and discusses the importance of transparency in predictive analytics performed by health care providers. The methodology used was the bibliographic research on national and international laws and doctrines that are dedicated to the study of Artificial Intelligence applied to health, allowing the conclusion that it is necessary to protect the patient's autonomy, observe their consent, which needs to be equated with the eventual use of AI for decision-making purposes. In addition, the patient must be assured of informative self-determination, with adequate protection of their personal and sensitive data, equal access to the best available medical treatment and, broadly, transparency.