Autor: Delmo Mattos da Silva

Resumo:

Este artigo tem como objetivo reavaliar a conexão tradicional entre autonomia e responsabilidade moral, demonstrando sua inadequação para sistemas de IA avançados e contextos humanos complexos. A análise parte das críticas de Oshana à noção idealizada de autodeterminação e da problematização de Matthias sobre a lacuna de responsabilidade para agentes artificiais. A hipótese central é que a solução para os danos causados por sistemas autônomos não reside na tentativa de atribuir culpa individual a agentes não humanos. Em vez disso, propõe-se que a justiça e a segurança exigem o desenvolvimento de estruturas normativas alternativas. Como resultado, o estudo defende a substituição da busca por culpados por um modelo pragmático de governança coletiva. Para tanto, propõe a implementação de mecanismos como corresponsabilidade institucional, seguros obrigatórios e regulação baseada em risco, adaptando as instituições sociais para gerir tecnologias que, embora funcionalmente autônomas, carecem de agência moral.

Abstract:

This article aims to reassess the traditional connection between autonomy and moral responsibility, demonstrating its inadequacy for advanced AI systems and complex human contexts. The analysis draws from Oshana's critiques of the idealized notion of self-determination and Matthias's problematization of the responsibility gap for artificial agents. The central hypothesis is that the solution for damages caused by autonomous systems does not lie in attempting to attribute individual blame to non-human agents. Instead, it is proposed that justice and safety require the development of alternative normative frameworks. As a result, the study advocates for replacing the search for culprits with a pragmatic model of collective governance. To this end, it proposes the implementation of mechanisms such as institutional co-responsibility, mandatory insurance, and risk-based regulation, adapting social institutions to manage technologies that, while functionally autonomous, lack moral agency.

ISSN: 0103-4332

DOI: 10.20911/21769389v52n164p631/2025

Texto Completo: https://www.faje.edu.br/periodicos/index.php/Sintese/article/view/6071/5574

Palavras-Chave: Autonomia. Responsabilidade. Tecnologia. Liberdade. Controle