Autor: Marco Aurélio Sousa Alves; Ariel Ribeiro Tolentino

Resumo:

Dentre os vários desenvolvimentos recentes da Inteligência Artificial, iremos nos concentrar nos companheiros artificiais na forma de chatbots. Destacamos dois problemas principais relacionados a esse produto. O primeiro diz respeito à atribuição de uma “capacidade empática”, característica que supostamente lhes capacita a atuarem como agentes relacionais e íntimos com seres humanos. Analisamos as limitações atuais de sua arquitetura afetiva e apontamos as ambiguidades existentes no campo da computação afetiva. O segundo problema, de caráter ético, surge como consequência do primeiro. Uma vez que suas limitações são explicitadas, revela-se um desalinhamento entre seu design altamente antropomórfico, com amplo escopo de ação, e suas capacidades reais de operar de forma ética e responsável no espaço relacional íntimo. Finalmente, argumentamos que as características desses dispositivos incentivam a projeção de status moral e agência aos chatbots, o que acarreta riscos e danos aos usuários.

Abstract:

Among the many recent developments in Artificial Intelligence, we focus our attention on chatbots as artificial companions. We highlight two main issues related to this product. The first concerns the attribution of an “empathic capacity”, a characteristic that supposedly enables them to function as an intimate relational agent towards humans. We analyze the current limitations of their affective architecture and point out the ambiguities within the field of affective computing. The second issue, with a direct ethical import, arises as a consequence of the first. Once their limitations are made explicit, it is revealed that there is a misalignment between their highly anthropomorphic design, which exhibits a broad scope of action, and their actual capabilities to operate ethically and responsibly in intimate relationships. We finally argue that the characteristics of such devices encourage the projection of moral status and agency onto chatbots, which incur risks and harm to users.

ISSN: 0103-4332

DOI: 10.20911/21769389v52n164p583/2025

Texto Completo: https://www.faje.edu.br/periodicos/index.php/Sintese/article/view/6196/5572

Palavras-Chave: Inteligência Artificial. Computação afetiva. Companheiros artificiais. Capacidade empática. Status moral.