Inteligência artificial e sistema de precedentes brasileiro: explicabilidade e interpretabilidade como mecanismos de adequação dos modelos algorítmicos aos princípios do contraditório e do devido processo legal

Abstract

Esta pesquisa tem como objetivo principal investigar se há incompatibilidade com os princípios do devido processo legal e do contraditório no uso de tecnologia baseada em inteligência artificial com a finalidade de aprimorar o sistema brasileiro de precedentes. Em caso positivo, buscará verificar quais seriam as condições necessárias para que a gestão dos precedentes qualificados mediante o uso de inteligência artificial seja legitimada democraticamente, ou seja, para que seu uso no curso do procedimento decisório observe e respeite o devido processo legal e o contraditório, direitos processuais fundamentais garantidos na Carta de 1988. A primeira hipótese vislumbrada é a de que a opacidade inerente às ferramentas de inteligência artificial impediria o conhecimento, a contestação e auditabilidade dos resultados fornecidos pelos modelos algorítmicos, em prejuízo aos princípios do devido processo legal e do contraditório, o que tornaria alarmante a sua incorporação no âmbito da gestão de precedentes, porque poderia resultar em assimetria de poder e, consequentemente, em déficit democrático de impacto multitudinário. Já a segunda hipótese, caso a primeira se confirme, buscará averiguar se a adoção de aplicações algorítmicas explicáveis e interpretáveis, bem como a adaptação da arquitetura processual ao contexto tecnológico, associada a uma releitura do devido processo legal e contraditório, se apresentariam como solução para a garantia da legitimidade democrática dessas decisões, oportunizando informação, accountability e abertura dialógica para os atores processuais na formação e na aplicação de precedentes mediante modelos algorítmicos. O presente trabalho buscará, enfim, investigar se há e como mitigar eventual assimetria de poder gerada pela incorporação de ferramentas de inteligência artificial com a finalidade de aprimorar o sistema brasileiro de precedentes no âmbito do Judiciário.

This research's main objective is to investigate whether there is incompatibility with the principles of due legal process and adversarial proceedings in the use of technology based on artificial intelligence with the purpose of improving the brazilian precedents system. If so, it will seek to verify what conditions would be necessary for the management of qualified precedents through the use of artificial intelligence to be democratically legitimized, that is, for its use in the course of the decision-making procedure to observe and respect due legal and adversarial process, fundamental procedural rights guaranteed in the 1988’s Federal Constitution. The first hypothesis envisaged is that the opacity inherent to artificial intelligence tools would prevent the knowledge, contestation and auditability of the results provided by algorithmic models, to the detriment of the principles of due legal process and of the contradictory, which would make its incorporation within the scope of precedent management alarming, because it could result in an asymmetry of power and, consequently, in a democratic deficit with a multitudinous impact. The second hypothesis, if the first is confirmed, will seek to determine whether the adoption of explainable and interpretable algorithmic applications, as well as the adaptation of the procedural architecture to the technological context, associated with a reinterpretation of due legal and contradictory process, would present themselves as a solution to guaranteeing the democratic legitimacy of these decisions, providing information, accountability and dialogic openness for procedural actors in the formation and application of precedents through algorithmic models. This work will ultimately seek to investigate whether there is and how to mitigate any asymmetry of power generated by the incorporation of artificial intelligence tools with the purpose of improving the Brazilian system of precedents within the Judiciary.