Practical reasoning as a generalized decision making problem

Henri Prade (1, 2) , Leila Amgoud (1, 2)

1 IRIT-ADRIA - Argumentation, Décision, Raisonnement, Incertitude et Apprentissage
2 CNRS - Centre National de la Recherche Scientifique

Decision making, often viewed as a form of reasoning toward action, has been considered from different points of view. Classical decision theory, as developed by economists, has focused mainly on identifying criteria such as expected utility for comparing different alternatives. The inputs of this approach are a set of feasible atomic actions, and a function that assesses the value of their consequences when the actions are performed in a given state. One of the main practical limitation of this approach is the fact that it reduces the whole decision problem to the availability of two functions: a probability distribution and a utility function. This is why some researchers in AI have advocated the need for a different approach in which all the aspects that may be involved in a decision problem (such as the desires of an agent, the feasibility of actions, etc) are explicitly represented. Hence, BDI architectures have been developed. They take their inspiration in the work of philosophers who have advocated practical reasoning. Practical reasoning mainly deals with the adoption, filling in, and reconsideration of intentions. However, these approaches suffer from a lack of a clear formulation of decision rules that combine the above qualitative concepts to decide which action to perform. In this paper, we argue that practical reasoning is a generalized decision making problem. The basic idea is that instead of comparing atomic actions, one has to compare sets of actions. The preferred set of actions becomes the intentions of the agent. The paper presents a unified setting that benefits from the advantages of the three above-mentioned approaches (classical decision, 15 BDI, practical reasoning). More precisely, we propose a formal framework that takes as input a set of beliefs, a set of conditional desires, and a set of rules stating how desires can be achieved, and returns a consistent subset of desires as well as ways/actions for achieving them. Such actions are called intentions. Indeed, we show that these intentions are generated via some decision rules. Thus, depending on whether the agent has an optimistic or a pessimistic attitude, the set of intentions may not be the same.

La prise de décision, souvent vue comme une forme de raisonnement sur les actions, a été considérée de différents points de vue. La théorie classique de la décision, développée principalement par des économistes, s’est concentrée sur l’identification et la justification de critères, tels que l’utilité espérée, pour comparer différentes alternatives. Cette approche prend en entrée un ensemble d’actions qui sont atomiques faisables, et une fonction qui évalue les conséquences de chaque action. Un trait remarquable mais aussi une limitation de cette approche est la réduction du problème de décision à la disponibilité de deux fonctions : une fonction de distribution de probabilité et une fonction d’utilité. C’est pourquoi certains chercheurs en IA ont préconisé le besoin d’une approche dans laquelle tous les aspects qui interviennent dans un problème de décision(tels que les désirs d’un agent, la faisabilité desactions, etc..) sont explicitement représentés. Dans cette perspective, des architectures BDI (Beliefs, Desires, Intentions) ont été proposées. Elles prennent leur inspiration dans le travail de philosophes sur ce que les anglo-saxons nomment practical reasoning ou le "raisonnement pratique". Le raisonnement pratique traite principalement de la pertinence au contexte, de la faisabilité et finalement des intentions retenues et exécutables. Cependant, ces approches souffrent d’un manque de formulation claire de règles de décision qui combinent les considérations ci-dessus pour décider quelle action exécuter. Dans cet article, nous montrons que le raisonnement pratique est un problème de la prise de décision généralisé. L’idée fondamentale est qu’au lieu de comparer des actions atomiques, on compare des ensembles d’actions. L’ensemble préféré d’actions devient les intentions retenues par l’un agent. Le papier présente un cadre unifié qui bénéficie des avantages des trois approches (décision classique, architectures BDI, l’idée générales du raisonnement pratique). Plus précisément, nous proposons un cadre formel qui prend en entrée un ensemble de croyances, un ensemble de désirs conditionnels, et un ensemble de règles précisant comment des désirs peuvent être réalisés, et renvoie en sortie un sous-ensemble cohérent de désirs ainsi que les actions pour les réaliser. De telles actions s’appellent les intentions. En effet,nous montrons que ces intentions sont choisies par l’intermédiaire de quelques règles de décision. Ainsi, selon que l’agent ait une attitude optimiste ou pessimiste, l’ensemble des intentions peut ne pas être le même.

Mots clés: Argumentation theory; Practical reasoning; Decision making

Mots clés: Raisonnement pratique; Théorie de la décision; Argumentation

Domaines: Complexité [cs.CC]; Recherche opérationnelle [math.OC]

Henri Prade, Leila Amgoud. Practical reasoning as a generalized decision making problem. 4èmes Journées francophones sur les modèles formels de l'interaction (MFI 2007), 2007, Toulouse, France. pp.1-10. ⟨hal-00187521⟩