Éthique et agents autonomes
Résumé
A l'heure actuelle, les machines et les logiciels (agents) deviennent de plus en plus autonomes et agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. C'est pourquoi, la question de doter ces agents autonomes de comportements éthiques se pose. L'objectif du projet ETHICAA est de définir ce que devrait être un système composé d'un ou plusieurs agents et capable de gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif. Enjeux et objectifs. La plupart des contributions à ce jour ont proposé des recommandations ou l'implantation de principes éthiques directement dans les agents. Cependant il y a toujours des verrous scientifiques majeurs. En premier lieu, les théories éthiques sont difficiles à mettre en oeuvre sous forme de principes éthiques opérationnels. En second lieu, ces principes éthiques opérationnels sont eux-même difficiles à implanter en raison de limitations d'évaluation de situation automatisée. En effet, les règles générales ne parviennent pas à évaluer une situation et une évaluation contextuelle doit être faite pour chaque situation particulière. En troisième lieu, d'un point de vue philosophique, il existe de nombreux principes éthiques et aucun d'eux n'est meilleur que les autres, rendant ainsi difficile de choisir celui à mettre en oeuvre. Enfin, les systèmes informatisés sont de plus en plus ouverts et décentralisés, c'est-à-dire impliquant des agents artificiels autonomes en interaction avec d'autres agents, des opérateurs ou des utilisateurs humains. Dans ces circonstances, la gestion des conflits éthiques entre les différents agents devient une question cruciale. C'est pourquoi des méthodes originales sont nécessaires pour répondre à la prise de décision éthique contextuelle en situation d'ouverture et de décentralisation. Méthodes et approches. Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de " bonne " manière de les résoudre et les décision des agents doivent être fondées sur l'évaluation des arguments qui les soutiennent et des conséquences qu'elles produisent. Ainsi, trois éléments servent à définir un cadre de gestion de conflits éthiques dans les systèmes d'agents : (1) la définition d'un cadre de raisonnement éthique permettant la représentation de plusieurs principes éthiques et de plusieurs modèles d'évaluation ; (2) la Définition de méthodes de détection des conflits éthiques prenant en compte les situations où les agents raisonnent individuellement ou collectivement ; (3) la définition de plusieurs modèles de prise de décision éthique combiner intelligemment différents principes éthiques dans un cadre de prise de décision éthique multi-point-de-vue. De plus, comme l'éthique est une notion individuelle construite sur une culture, un contexte et des expériences personnelles, la prise de décision éthique ne peut faire sens qu'au travers des applications particulières. Pour cette raison, le projet ETHICAA propose d'instancier le cadre ainsi obtenu sur deux domaines d'application : la robotique et la gestion de la vie privée. Ces deux domaines ont été choisis pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre ETHICAA sera utilisé pour gérer les conflits éthiques qui peuvent survenir lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains au sein d'un réseau social où des agents éthiques artificiels contrôlent et gèrent les politiques de vie privées de leurs utilisateurs humains.