Decisões automatizadas nos sistemas de pontuação de crédito e o direito à explicação algorítmica do titular de dados pessoais

Abstract

O tratamento de dados pessoais constituimatéria relevante neste início de século XXI, em que a chamada “era digital” tem suscitado discussões em torno dos parâmetros legais e políticos da privacidade e da proteção dos dados pessoais, em face do desenvolvimento e implementação de novas tecnologias que baseiam em dados para a tomada de decisões. Nesse contexto, esta dissertação tem como objeto de estudo a crescente utilização da tecnologia da informação para o processamento dos dados pessoais com propósito de atingir a máxima eficiência nos processos de diversas áreas. O objetivo nucleardeste trabalho consiste em examinar, à luz do Direito, em que medida as noções de transparência e direito de resposta são contempladas em decisões automatizadas utilizadas nos processos de análise de pontuação de crédito pelos bureausde crédito existentes no Brasil. Para tanto, lança-se mão de metodologia pautada na concatenação entre pesquisa bibliográfica e documental, análise jurisprudencial e cotejamento entre as legislações nacional e estrangeira para investigar, a partir das políticas de privacidade, a jornada do titular quando do tratamento de dados pessoais, tomando-se como exemplo de caso concreto a Serasa Experian. Como resultado desta pesquisa, constatou-se a influência da utilização de robôs na formação do perfil de crédito, bem como a necessidade de mais observância ao devido processo legal e mais produtividade em face do grande volume de dados manuseados através do Big Data. Some-se a isso a escassez de recursos e políticas públicas para garantir a transparência e o direito à explicação aos titulares de dados pessoais. Pôde-se observar que os principais problemas no tratamento automatizado para formação do credit score enfrentados pelos titulares são vinculados à falta de transparência quanto aos critérios utilizados nos sistemas de classificação e avaliação. Além de prejuízos no âmbito econômico por obstruir o acesso ao crédito, a obscuridade nos processos automatizados implica, entre outros atentados à dignidade da pessoa humana, possibilidades de discriminação social, etária, étnica e de gênero. Para minorar essa condição desfavorável ao cidadão, propõe-se à Autoridade Nacional de Proteção de Dados Pessoais a adoção de melhores práticas para maior controle, previsibilidade e explicabilidade nos processos automatizados que formam o credit score.

The treatment of personal data is a relevant matter in the beginning of the 21st century, in which the so-called “digital age” has sparked discussions around the legal and political parameters of privacy and the protection of personal data, in view of the development and implementation of new technologies. that rely on data for decision making. In this context, this dissertation has as its object of study the growing use of information technology for the processing of personal data in order to achieve maximum efficiency in the processes of different areas. The main objective of this work is to examine, in the light of the Law, the extent to which the notions of transparency and right of reply are contemplated in automated decisions used in the credit score analysis processes by credit bureaus existing in Brazil. To this end, we use a methodology based on the concatenation between bibliographic and documentary research, jurisprudential analysis and comparison between national and foreign legislation to investigate, from the privacy policies, the holder's journey when processing personal data, taking Serasa Experian is an example of a specific case. As a result of this research, it was found the influence of the use of robots in the formation of the credit profile, as well as the need for more compliance with the due legal process and more productivity in face of the large volume of data handled through Big Data. Add to that the scarcity of resources and public policies to guarantee transparency and the right to explanation for holders of personal data. It was observed that the main problems in the automated treatment for the formation of credit score faced by cardholders are linked to the lack of transparency regarding the criteria used in the classification and evaluation systems. In addition to losses in the economic sphere by obstructing access to credit, the obscurity in automated processes implies, among other attacks on the dignity of the human person, possibilities of social, age, ethnic and gender discrimination. To alleviate this unfavorable condition for citizens, we propose the National Authority for the Protection of Personal Data to adopt betterpractices for greater control, predictability and explanability in the automated processes that make up the credit score.