Publicação: Entre riscos e algoritmos: uma proposta ética e prospectiva para os possíveis danos provocados por sistemas de inteligência artificial e perspectivas regulatórias
Carregando...
Arquivos
Tipo do documento
Data
Direito de acesso
Coleções
Área do conhecimento
CNPQ::CIENCIAS SOCIAIS APLICADAS::DIREITO::DIREITOS ESPECIAIS
Título da Revista
ISSN da Revista
Título de Volume
Autores
Orientador
Coorientador
Resumo
Sistemas de inteligência artificial, dotados de mecanismos de autoaprendizagem e redes neurais
de aprendizado profundo, principalmente após a popularização de sistemas generativos, estão
dominando searas cada vez mais diversas do trabalho, saúde, lazer e desenvolvimento humano.
Partindo de determinados dados de entrada, os algoritmos ditam as regras de aprendizagem e
interação com o meio e, daí em diante, pode não mais ser possível controlar dados de saída e
eventuais riscos que o sistema apresentará. Além disso, os sistemas de inteligência artificial são
dotados de mecanismos de autoaperfeiçoamento contínuo e nesse ponto reside mesmo a questão
sobre a qual o presente trabalho se debruça: seria possível aplicar os riscos do desenvolvimento
aos defeitos apresentados por sistemas de inteligência artificial? Haveria a possibilidade de
responsabilização de fornecedores de sistemas de inteligência artificial por riscos ainda não
conhecidos decorrentes das características de autoaprendizagem (machine learning) e
aprendizado profundo (deep learning) desses sistemas? A hipótese da pesquisa parte do
princípio da segurança como um valor essencial para qualquer sociedade e baliza do sistema de
responsabilização previsto pelo Código de Defesa do Consumidor, garantindo-se uma base
mais sólida de confiança e redução de complexidades no campo do direito dos danos. Em um
caminho marcado pela empolgação excessiva em torno da automatização e da aceleração de
processos, bem como pela otimização algorítmica de resultados lucrativos, é imperioso pensar
sobre a responsabilização de danos. Assim, parte-se de um panorama sobre a inteligência
artificial e sua relevância na era da Quarta Revolução Industrial, para se mapear algumas
práticas abusivas e possíveis danos injustos que justificariam a necessidade de defesa dos
consumidores na era da inteligência artificial seguida por riscos e incertezas e então proceder à
análise da teoria do risco do desenvolvimento e sua relação com os sistemas autônomos dotados
de inteligência artificial. O objetivo geral da pesquisa é enfocar as possíveis violações de
direitos fundamentais provocadas pelos sistemas de inteligência artificial dotados de modelos
de autoaprendizagem e analisar a viabilidade da aplicação de institutos jurídicos já disponíveis
no sistema pátrio para coibir danos injustos, e, mais especificamente explora-se a
sustentabilidade de um modelo de responsabilidade proativo e de gerenciamento de riscos. A
pesquisa se serve do método hipotético-dedutivo e se vale da investigação teórico-bibliográfica.
Ao final, as considerações finais apresentarão um panorama geral da investigação, oportunidade
na qual se pretenderá explicitar os resultados alcançados com o caminho percorrido pelo
trabalho.
Abstract
Artificial intelligence systems equipped with self-learning mechanisms and deep learning neural networks, especially after the popularization of generative systems, have been increasingly dominating diverse spheres of work, health, leisure, and human development. Based on specific input data, algorithms dictate the rules of learning and interaction with the environment and, from that point onward, it may no longer be possible to control output data or the potential risks the system may present. Moreover, artificial intelligence systems are endowed with mechanisms of continuous self-improvement, and it is precisely at this point that the central question of this work arises: would it be possible to apply the notion of development risks to defects displayed by artificial intelligence systems? Could suppliers of artificial intelligence systems be held liable for risks not yet known, arising from the self-learning (machine learning) and deep learning characteristics of these systems? The research hypothesis is grounded on the principle of safety as an essential value for any society and as a cornerstone of the liability framework established by the Brazilian Consumer Defense Code, thereby ensuring a more solid basis of trust and reducing complexities in the field of tort law. In a context marked by excessive enthusiasm surrounding automation and the acceleration of processes, as well as the algorithmic optimization of profitable outcomes, it is imperative to reflect on liability for damages. Accordingly, this study begins with an overview of artificial intelligence and its relevance in the era of the Fourth Industrial Revolution, in order to map certain abusive practices and possible unjust harms that justify the need to protect consumers in an era of artificial intelligence characterized by risks and uncertainties. It then proceeds to analyze the theory of development risk and its relationship with autonomous systems endowed with artificial intelligence. The general objective of the research is to focus on potential violations of fundamental rights caused by artificial intelligence systems equipped with self-learning models, and to analyze the feasibility of applying legal instruments already available in the Brazilian legal system to prevent unjust harm. More specifically, it explores the sustainability of a proactive liability model and risk management approach. The research employs the hypothetical-deductive method and theoretical-bibliographic investigation. In the end, the concluding remarks will present an overall panorama of the investigation, at which point the study aims to clarify the results achieved through the path taken by the research.
Palavras-chave
Sistemas de inteligência artificial, Artificial intelligence systems, Risco, Risk, Responsabilidade civil, Civil liability, Precaução, Precaution, Governança, Governance
Citação
BORGES, Grazielly Almeida. Entre riscos e algoritmos: uma proposta ética e prospectiva para os possíveis danos provocados por sistemas de inteligência artificial e perspectivas regulatórias. 2026. 124 f. Dissertação (Mestrado em Direito) - Universidade Federal de Uberlândia, 2026. DOI http://doi.org/10.14393/ufu.di.2026.316