Cadre déclaratif modulaire d'évaluation d'actions selon différents principes éthiques

Résumé : Cet article examine l'utilisation de langages de haut niveau dans la conception d'agents autonomes éthiques. Il propose un cadre logique nouveau et modulaire pour représenter et raisonner sur une variété de théories éthiques, sur la base d'une version modifiée du calcul des évènements, implémentée en Answer Set Programming. Le processus de prise de décision éthique est conçu comme une procédure en plusieurs étapes, capturée par quatre types de mo-dèles interdépendants qui permettent à l'agent d'évaluer son environnement, de raisonner sur sa responsabilité et de faire des choix éthiquement informés. Notre ambition est double. Tout d'abord, elle est de permettre la représentation systématique d'un nombre illimité de processus de raisonnements éthiques, à travers un cadre adaptable et extensible. Deuxièmement, elle est d'éviter l'écueil trop courant d'intégrer directement l'information morale dans l'engin de rai-sonnement général sans l'expliciter, alimentant ainsi les agents avec des réponses atomiques qui ne représentent pas la dynamique sous-jacente. Nous visons à déplacer de manière globale le processus de raisonnement moral du programmeur vers le programme lui-même. ABSTRACT. This paper investigates the use of high-level action languages for designing ethical autonomous agents. It proposes a novel and modular logic-based framework for representing and reasoning over a variety of ethical theories, based on a modified version of the Event Calculus and implemented in Answer Set Programming. The ethical decision-making process is conceived of as a multi-step procedure captured by four types of interdependent models which allow the agent to assess its environment, reason over its accountability and make ethically informed choices. The overarching ambition of the presented research is twofold. First, to allow the systematic representation of an unbounded number of ethical reasoning processes, through a framework that is adaptable and extensible. Second, to avoid the common pitfall of too readily embedding moral information within computational engines, thereby feeding agents with atomic answers that fail to truly represent underlying dynamics. We aim instead to comprehensively displace the burden of moral reasoning from the programmer to the program itself. MOTS-CLÉS : éthique computationelle, answer set programming, calcul d'évènements, raisonne-ment sur l'action et le changement.
Complete list of metadatas

Cited literature [13 references]  Display  Hide  Download

https://hal.archives-ouvertes.fr/hal-01982109
Contributor : Fiona Berreby <>
Submitted on : Saturday, January 26, 2019 - 1:28:01 PM
Last modification on : Friday, July 5, 2019 - 3:26:03 PM
Long-term archiving on : Saturday, April 27, 2019 - 12:28:44 PM

File

IAF_FINAL.pdf
Files produced by the author(s)

Identifiers

Citation

Fiona Berreby, Gauvain Bourgne, Jean-Gabriel Ganascia. Cadre déclaratif modulaire d'évaluation d'actions selon différents principes éthiques. Revue des Sciences et Technologies de l'Information - Série RIA : Revue d'Intelligence Artificielle, Lavoisier, 2018, 32 (4), pp.479-518. ⟨https://ria.revuesonline.com/article.jsp?articleId=40000⟩. ⟨10.3166/RIA.32.479-518⟩. ⟨hal-01982109⟩

Share

Metrics

Record views

68

Files downloads

56