Use este identificador para citar ou linkar para este item: https://repositorio.idp.edu.br//handle/123456789/5071
Título: Explorando os limites da responsabilidade civil: o impacto do desenvolvimento tecnológico dos procedimentos cirúrgicos robóticos.
Autor(es): Pereira, Thais Paranhos Capistrano
Orientador(es): Rosenvald, Nelson
Palavras-chave: Responsabilidade Civil;Inteligência Artificial;Cirurgia Robótica;Accountability
Editor: Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa
Citação: PEREIRA, Thais Paranhos Capistrano. Explorando os limites da responsabilidade civil: o impacto do desenvolvimento tecnológico dos procedimentos cirúrgicos robóticos. 2024. 126 f. Dissertação (Mestrado Acadêmico em Direito Constitucional) - Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa, Brasília, 2024.
Resumo: A presente dissertação aborda a responsabilidade civil no contexto da crescente autonomia das inteligências artificiais (IA), com foco específico nas cirurgias robóticas. Atualmente a implementação de robôs cirurgiões, apesar da eficiência e precisão nos procedimentos cirúrgicos, também levanta questões éticas e legais significativas. A necessidade de alinhar a programação dos robôs com os valores humanos é fundamental para garantir que tais sistemas operem para o benefício da sociedade, minimizando, assim, os riscos e consequências indesejadas. Nesse contexto, objetivo central dessa pesquisa foi compreender os desafios éticos e jurídicos relacionados ao Código Civil (CC) e ao Código de Defesa do Consumidor (CDC) no contexto da inteligência artificial autônoma, em especial, dos cirurgiões robóticos. A metodologia utilizada foi qualitativa e exploratória, envolvendo análise comparativa de normativas dos Estados Unidos da América (EUA) e da União Europeia (UE), além da análise da legislação brasileira sob a ótica dos riscos da IA. Como resultado, foi possível perceber as diferenças nos marcos regulatórios entre EUA e UE, que refletem as diversas abordagens políticas e éticas, exigindo um diálogo contínuo entre desenvolvedores de tecnologia, legisladores e o público para a formação de um consenso global. O que pode ser observado é que a União Europeia tem sido mais proativa e firme em suas recomendações e regulamentações sobre a IA, embora muitas dessas normas sejam consideradas soft laws. A UE foca mais em regulamentações específicas para IA de alto risco, enquanto os EUA favorecem uma governança mais abrangente que exige ações específicas das empresas de tecnologia. No que tange a legislação brasileira, a LGPD adiciona uma camada de complexidade ao garantir a proteção de dados pessoais dos pacientes, enfatizando a necessidade de transparência e accountability por parte dos operadores desses sistemas. Na mesma linha, a Resolução n.º 2.311/2022 do Conselho Federal de Medicina (CFM) aponta que é fundamental os pacientes receberem todas as informações necessárias sobre os riscos, benefícios e alternativas às cirurgias robóticas. Assim, a responsabilidade civil pode ser envolvida se o consentimento informado não for adequadamente obtido. Ademais, esse estudo destacou que os fabricantes e desenvolvedores de sistemas inteligentes podem ser responsabilizados, mesmo se eles empregarem a tecnologia mais avançada disponível a época, e que, inicialmente, não apresentava defeitos evidentes, isso ao lançar o produto no mercado. Ressalta-se a importância da explicabilidade e da accountability em sistemas de IA, com um olhar detalhado sobre a cirurgia robótica. Como considerações finais, essa pesquisa aponta que, embora as legislações brasileiras atuais ofereçam alguma proteção, existe necessidade de ajustes e maior clareza nas responsabilidades por meio da accountability e explicabilidade para garantir a segurança no uso de IA autônoma na medicina, bem como a redução do quantum indenizatório na medida em que o agente tenha investido em compliance para evitar as consequências indesejadas e prestado a devida accountability
Abstract:The present dissertation addresses civil liability in the context of the increasing autonomy of artificial intelligence (AI), with a specific focus on robotic surgeries. Currently, the implementation of surgical robots, despite their efficiency and precision in surgical procedures, also raises significant ethical and legal issues. The need to align the programming of robots with human values is fundamental to ensure that such systems operate for the benefit of society, thereby minimizing risks and undesirable consequences. In this context, the central objective of this research was to understand the ethical and legal challenges related to the Civil Code (CC) and the Consumer Protection Code (CDC) in the context of autonomous artificial intelligence, particularly robotic surgeons. The methodology used was qualitative and exploratory, involving a comparative analysis of regulations from the United States of America (USA) and the European Union (EU), in addition to analyzing Brazilian legislation from the perspective of AI risks. As a result, it was possible to perceive the differences in regulatory frameworks between the USA and the EU, which reflect diverse political and ethical approaches, requiring ongoing dialogue between technology developers, legislators, and the public to form a global consensus. It was observed that the European Union has been more proactive and firm in its recommendations and regulations regarding AI, although many of these norms are considered soft laws. The EU focuses more on specific regulations for high-risk AI, while the USA favors broader governance that requires specific actions from technology companies. Regarding Brazilian legislation, the General Data Protection Law (LGPD) adds a layer of complexity by ensuring the protection of patients' personal data, emphasizing the need for transparency and accountability by operators of these systems. Similarly, Resolution No. 2.311/2022 of the Federal Council of Medicine (CFM) states that it is essential for patients to receive all necessary information about the risks, benefits, and alternatives to robotic surgeries. Thus, civil liability may be involved if informed consent is not adequately obtained. Furthermore, this study highlighted that manufacturers and developers of intelligent systems can be held liable, even if they employ the most advanced technology available at the time, which initially showed no evident defects upon market launch. The importance of explainability and accountability in AI systems, with a detailed look at robotic surgery, is emphasized. As final considerations, this research indicates that, although current Brazilian legislation offers some protection, there is a need for adjustments and greater clarity in responsibilities through accountability and explainability to ensure the safe use of autonomous AI in medicine. Additionally, it points to the reduction of compensation amounts to the extent that the agent has invested in compliance to avoid undesirable consequences and provided due accountability.
Descrição: Dissertação de Mestrado apresentada como requisito parcial para obtenção do título de Mestre em Direito Constitucional pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP).
URI: https://repositorio.idp.edu.br//handle/123456789/5071
Aparece nas coleções:Mestrado Acadêmico em Direito Constitucional

Arquivos associados a este item:
Arquivo Descrição TamanhoFormato 
DISSERTACAO_THAIS PARANHOS CAPISTRANO PEREIRA_MESTR_ACAD_2024.pdf690.11 kBAdobe PDFVisualizar/Abrir


Os itens no repositório estão protegidos por copyright, com todos os direitos reservados, salvo quando é indicado o contrário.