Cadre déclaratif modulaire d'évaluation d'actions selon différents principes éthiques - Archive ouverte HAL Accéder directement au contenu
Article Dans Une Revue Revue des Sciences et Technologies de l'Information - Série RIA : Revue d'Intelligence Artificielle Année : 2018

Cadre déclaratif modulaire d'évaluation d'actions selon différents principes éthiques

Résumé

Cet article examine l'utilisation de langages de haut niveau dans la conception d'agents autonomes éthiques. Il propose un cadre logique nouveau et modulaire pour représenter et raisonner sur une variété de théories éthiques, sur la base d'une version modifiée du calcul des évènements, implémentée en Answer Set Programming. Le processus de prise de décision éthique est conçu comme une procédure en plusieurs étapes, capturée par quatre types de mo-dèles interdépendants qui permettent à l'agent d'évaluer son environnement, de raisonner sur sa responsabilité et de faire des choix éthiquement informés. Notre ambition est double. Tout d'abord, elle est de permettre la représentation systématique d'un nombre illimité de processus de raisonnements éthiques, à travers un cadre adaptable et extensible. Deuxièmement, elle est d'éviter l'écueil trop courant d'intégrer directement l'information morale dans l'engin de rai-sonnement général sans l'expliciter, alimentant ainsi les agents avec des réponses atomiques qui ne représentent pas la dynamique sous-jacente. Nous visons à déplacer de manière globale le processus de raisonnement moral du programmeur vers le programme lui-même. ABSTRACT. This paper investigates the use of high-level action languages for designing ethical autonomous agents. It proposes a novel and modular logic-based framework for representing and reasoning over a variety of ethical theories, based on a modified version of the Event Calculus and implemented in Answer Set Programming. The ethical decision-making process is conceived of as a multi-step procedure captured by four types of interdependent models which allow the agent to assess its environment, reason over its accountability and make ethically informed choices. The overarching ambition of the presented research is twofold. First, to allow the systematic representation of an unbounded number of ethical reasoning processes, through a framework that is adaptable and extensible. Second, to avoid the common pitfall of too readily embedding moral information within computational engines, thereby feeding agents with atomic answers that fail to truly represent underlying dynamics. We aim instead to comprehensively displace the burden of moral reasoning from the programmer to the program itself. MOTS-CLÉS : éthique computationelle, answer set programming, calcul d'évènements, raisonne-ment sur l'action et le changement.
Fichier principal
Vignette du fichier
IAF_FINAL.pdf (276.4 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-01982109 , version 1 (26-01-2019)

Identifiants

Citer

Fiona Berreby, Gauvain Bourgne, Jean-Gabriel Ganascia. Cadre déclaratif modulaire d'évaluation d'actions selon différents principes éthiques. Revue des Sciences et Technologies de l'Information - Série RIA : Revue d'Intelligence Artificielle, 2018, 32 (4), pp.479-518. ⟨10.3166/RIA.32.479-518⟩. ⟨hal-01982109⟩
205 Consultations
236 Téléchargements

Altmetric

Partager

Gmail Facebook X LinkedIn More