Viéses algorítmicos

paradigma ético e responsabilização no tratamento de dados no direito brasileiro

Autores

  • Gustavo da Silva Melo Universidade Federal do Rio Grande do Sul

DOI:

https://doi.org/10.29327/238407.6.2-4

Palavras-chave:

Responsabilidade civil, Novas tecnologias, Ética, Discriminação algorítmica

Resumo

O presente artigo tem como objeto a análise dos riscos causados pela discriminação algorítmica, com enfoque no seu paradigma ético e nas melhores alternativas para a reparação por eventuais danos causados no tratamento de dados. Para essa análise, o trabalho será dividido em três pontos: na primeira parte, serão vistos os aspectos gerais a respeito do algoritmo. Após será abordada a questão do seu paradigma ético. Por fim, serão examinadas as possibilidades de reparação por danos causados em função da discriminação algorítmica, analisando a responsabilidade civil no tratamento de dados.  Através do estudo feito, será visto que a atividade algorítmica, pela ausência de um paradigma ético, deve ser realizada observando os deveres de segurança, a fim de se evitar a ocorrência de decisões discriminatórias.

Referências

BBC. Algorithm spots 'Covid cough' inaudible to humans. Disponível em: https://www.bbc.com/news/technology-54780460. Acesso em: 26 de dez. 2020.

BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019. E-book.

BODIN DE MORAES, Maria Celina. QUINELATO DE QUEIROZ, João. Autodeterminação informativa e responsabilização proativa: novos instrumentos de tutela da pessoa humana na LGPD. In: Cadernos Adenauer XX, nº 3. Proteção de dados pessoais: privacidade versus avanço tecnológico. Rio de Janeiro: Fundação Konrad Adenauer, 2019.

BRASIL. Projeto de Lei n. 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: < https://www.camara.leg.br/propostas-legislativas/2236340>. Acesso em: 25/08/2020.

CALABRICH, Bruno Freire de Carvalho. Discriminação algorítmica e transparência na Lei Geral de Proteção de Dados Pessoais. Revista de Direito e as Novas Tecnologias, v. 8, jul.-set. 2020.

CHANDER, Anupam. The racist algorithm? Michigan Law Review, vol. 115:1023, p. 1023/1045, 2017.

DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec, 2017. E-book.

DONEDA, Danilo et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar - Revista de Ciências Jurídicas, v. 23, p. 1-17, 2018.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei geral de proteção de dados. 1. ed. São Paulo: Thomson Reuters Brasil, 2019. E-book.

DRESCH, Rafael de Freitas Valle. A especial responsabilidade civil na Lei Geral de Proteção de Dados. Disponível em: https://migalhas.uol.com.br/coluna/migalhas-de-responsabilidade-civil/330019/a-especial-responsabilidade-civil-na-lei-geral-de-protecao-de-dados. Acesso em: 13 de dez. 2020.

DRESCH, Rafael de Freitas Valle. Fundamentos da responsabilidade civil pelo fato do produto e do serviço: um debate jurídico-filosófico entre o formalismo. Porto Alegre: Livraria do Advogado Editora, 2009.

DRESCH, Rafael de Freitas Valle. Fundamentos do Direito Privado: uma Teoria da Justiça e da Dignidade Humana. 2ª Ed. Revista e Ampliada. Rio de Janeiro: Processo, 2018.

DRESCH, Rafael de Freitas Valle; FALEIROS JUNIOR, José Luiz de Moura. Reflexões sobre a responsabilidade civil na Lei Geral de Proteção de Dados (Lei nº 13.709/2018). Responsabilidade civil: novos riscos. Organizado por Nelson Rosenvald, Rafael de Freitas Valle Dresch e Tula Wesendonck. Indaiatuba, SP. Editora Foco, 2019.

FACCHINI NETO, Eugênio; COLOMBO, Cristiano. “Corpo Elettronico” como vítima de ofensas em matéria de responsabilidade civil por danos à luz da Lei Geral de Proteção de Dados Pessoais Brasileira e a viabilidade da aplicação da noção de dano estético ao mundo digital. Responsabilidade civil: novos riscos. Organizado por Nelson Rosenvald, Rafael de Freitas Valle Dresch e Tula Wesendonck. Indaiatuba, SP. Editora Foco, 2019.

FERRY, Luc. Kant: une lecture de trois critiques. Paris: Editions Bernards Grasset, 2006.

GORDLEY, James. The moral foundations os Private Law. The American Journal of Jurisprudence, v. 47, 2002.

GRUPO DE TRABALHO DO ARTIGO 29º PARA A PROTEÇÃO DE DADOS. Orientações sobre as decisões individuais automatizadas e a definição de perfis para efeitos do Regulamento (UE) 2016/679. Disponível em: https://www.cnpd.pt/home/rgpd/docs/wp251rev01_pt.pdf. Acesso em: 04 de out. de 2020.

GUEDES, Gisela Sampaio da Cruz. Regime de responsabilidade civil pela lei de proteção de dados brasileira. Caderno especial LGPD. São Paulo: RT, novembro 2019, pp. 167-182.

KANT, Immanuel. Fundamentação da metafísica dos costumes. Lisboa: Edições 70, 2007.

MAGRANI, Eduardo. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2 ed. Porto Alegre: Arquipélago Editorial, 2019.

MATTIUZZO, Marcela. Discriminação algorítmica: reflexões no contexto da Lei Geral de Proteção de Dados Pessoais. In: CUEVA, Ricardo Villas Bôas; DONEDA, Danilo; MENDES, Laura Schertel. Lei Geral de Proteção de Dados (Lei nº 13.709/2018), a caminho da efetividade: contribuições para a implementação da LGPD. 1. ed. São Paulo: Thomson Reuters Brasil, 2020. E-book.

MEDON, Filipe. Inteligência artificial e responsabilidade civil: autonomia, riscos e solidariedade. Salvador: Editora JusPodivm, 2020.

MENDES, Laura Schertel; DONEDA, Danilo. Reflexões iniciais sobre a nova Lei Geral de Proteção de Dados. Revista de Direito do Consumidor, São Paulo, v. 27, n. 120, p. 469-483, nov./dez. 2018.

MENDES, Laura Schertel; MATIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. RDU, Porto Alegre, Volume 16, n. 90, 2019, 39-64, nov-dez 2019.

MIRAGEM, Bruno. A Lei Geral de Proteção de Dados (Lei 13.709/2018) e o direito do consumidor. In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson (Coords.) Responsabilidade civil e novas tecnologias. Indaiatuba, SP. Editora Foco, 2020. E-book.

MULHOLLAND, Caitlin. Responsabilidade civil por danos causados pela violação de dados sensíveis e a Lei Geral de Proteção de Dados Pessoais. (Lei 13.709/2018). In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson (Coords.). Responsabilidade civil e novas tecnologias. Indaiatuba, SP. Editora Foco, 2020. E-book.

PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Harvard University Press, 2015.

RAWLS, John. Uma teoria da justiça. 2. ed. São Paulo: Martins Fontes, 2002.

RODOTÀ, Stefano. El derecho a tener derechos. Madrid: Editorial Trotta, 2014.

SANDEL, Michael J. Justiça – O que é fazer a coisa certa? 13ª ed. Rio de Janeiro: Civilização Brasileira, 2014.

SCHREIBER, Anderson. Responsabilidade civil na Lei Geral de Proteção de Dados Pessoais. In: DONEDA, Danilo et al. Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2020.

SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração entre proteção e autonomia. 1. ed. São Paulo: Thomson Reuters Brasil, 2020. E-book.

TASSO, Fernando Antônio. A responsabilidade civil na Lei Geral de Proteção de Dados e sua interface com o Código Civil e o Código de Defesa do Consumidor. In: Cadernos Jurídicos, ano 21, nº 53. São Paulo: Escola Paulista da Magistratura, jan-mar/2020. pp. 97-115.

THE SUN. Motorists fork out £1,000 more to insure their cars if their name is Mohammed. Disponível em: https://www.thesun.co.uk/motors/5393978/insurance-race-row-john-mohammed/. Acesso em: 15 set. 2020.

ZANATTA, Rafael A. F. Perfilização, discriminação e direitos: do Código de Defesa do Consumidor à Lei Geral de Proteção de Dados Pessoais. In: Researchgate, p. 1-26, fev. 2019. Disponível em: https://www.researchgate.net/publication/331287708_Perfilizacao_Discriminacao_e_Direitos_do_Codigo_de_Defesa_do_Consumidor_a_Lei_Geral_de_Protecao_de_Dados_Pessoais. Acesso em: 04 de out. 2020.

Publicado

22.10.2021

Como Citar

DA SILVA MELO, G. Viéses algorítmicos: paradigma ético e responsabilização no tratamento de dados no direito brasileiro. Jus Scriptum - Revista Jurídica do NELB, [S. l.], v. 6, n. 2, p. 67–88, 2021. DOI: 10.29327/238407.6.2-4. Disponível em: https://jusscritum.pt/index.php/revista/article/view/83. Acesso em: 28 nov. 2021.