O sistema Victor e a abertura institucional do Supremo Tribunal Federal em relação à sua explicabilidade

Abstract

O objetivo principal deste trabalho é analisar a implementação e o desenvolvimento do Sistema Victor, um sistema de inteligência artificial pioneiro implementado pelo Supremo Tribunal Federal (STF) do Brasil. O estudo busca entender como o STF tem lidado com a transparência e a explicabilidade do sistema Victor, especialmente no contexto da repercussão geral, um mecanismo processual que visa garantir a eficiência e a celeridade na análise de recursos extraordinários. A pesquisa foi conduzida utilizando uma abordagem multidisciplinar, combinando métodos qualitativos e quantitativos. Foram realizadas análises documentais, entrevistas com especialistas e questionários direcionados aos servidores do STF que operam o sistema Victor. A metodologia incluiu a coleta e análise de dados empíricos, bem como a revisão da literatura acadêmica sobre inteligência artificial e direito. O estudo também se baseou em um questionário com 11 perguntas enviado ao STF, cujas respostas foram analisadas para avaliar os ganhos de eficiência e as deficiências performativas do sistema Victor. O estudo conclui que, embora o sistema Victor tenha trazido ganhos significativos de eficiência e celeridade para o STF, há uma falta de transparência e explicabilidade em relação ao seu funcionamento. As respostas ao questionário indicam que o sistema é amplamente controlado por uma equipe multidisciplinar interna, e as inferências feitas pelo sistema não são publicamente divulgadas. Isso levanta questões sobre a necessidade de maior transparência e accountability para garantir que o sistema opere de maneira justa e equitativa. A pesquisa sugere que a implementação de medidas de transparência algorítmica e a publicação de relatórios detalhados sobre o funcionamento do sistema poderiam melhorar a confiança pública e a legitimidade do uso de inteligência artificial no judiciário.

The main objective of this work is to analyze the implementation and development of the Victor System, a pioneering artificial intelligence system implemented by the Supreme Federal Court (STF) of Brazil. The study aims to understand how the STF has dealt with the transparency and explainability of the Victor system, especially in the context of general repercussion, a procedural mechanism that aims to ensure efficiency and speed in the analysis of extraordinary appeals. The research was conducted using a multidisciplinary approach, combining qualitative and quantitative methods. Document analysis, interviews with experts, and questionnaires directed at STF employees who operate the Victor system were carried out. The methodology included the collection and analysis of empirical data, as well as a review of the academic literature on artificial intelligence and law. The study also relied on an 11-question questionnaire sent to the STF, whose responses were analyzed to assess the efficiency gains and performance deficiencies of the Victor system. The study concludes that, although the Victor system has brought significant efficiency and speed gains to the STF, there is a lack of transparency and explainability regarding its operation. The questionnaire responses indicate that the system is largely controlled by an internal multidisciplinary team, and the inferences made by the system are not publicly disclosed. This raises questions about the need for greater transparency and accountability to ensure that the system operates fairly and equitably. The research suggests that the implementation of algorithmic transparency measures and the publication of detailed reports on the system's operation could improve public trust and the legitimacy of the use of artificial intelligence in the judiciary.