The Artificial Intelligence Revolution in Autonomy

La révolution de l'Intelligence artificielle (IA) en autonomie

Jean-Gabriel Ganascia (1)

1 ACASA - Agents Cognitifs et Apprentissage Symbolique Automatique

The adjective autonomous is increasingly used in the engineering sector to refer to machines whose behaviour is both unpredictable and efficient. For example, we now talk about cars, robots, weapons, or even autonomous agents. These are regularly in the news because of their novelty and, above all, because of the anxiety they arouse: it is feared that they will emancipate themselves from the guardianship of the men who created them and turn against them. As an illustration, we read in the newspapers that autonomous cars will likely be programmed to sacrifice the lives of their passengers in order to save the lives of the more numerous passers-by who cross at the green light. In a similar but even more worrying vein, open letters signed by tens of thousands of people are calling for a moratorium on autonomous weapons, which are considered to be the third great revolution in the art of warfare after gunpowder and the atomic bomb; in response to this fear, on 12 September 2018 the European Parliament passed a resolution calling on the European governments to take a common position to regulate, or even ban, autonomous weapons. All this leads to clarifying what the concept of autonomy means in the technology and in philosophy.

L'adjectif autonome est de plus en plus souvent employé dans le secteur de l'ingénierie pour désigner des machines dont le comportement se révèle à la fois imprédictible et efficace. Ainsi, parle-ton aujourd'hui de voitures, de robots, d'armes ou même d'agents autonomes. Ceux-ci défraient régulièrement la chronique par leur nouveauté et surtout par l'inquiétude qu'ils suscitent : on craint qu'ils s'émancipent de la tutelle des hommes qui les ont créés et se retournent contre eux. À titre d'illustration, on lit dans les journaux que les voitures autonomes seront vraisemblablement programmées pour sacrifier la vie de leurs passagers afin de sauver celles des passants, plus nombreux, qui traversent malencontreusement au feu vert. Dans un ordre d'idées analogue, mais plus inquiétant encore, des lettres ouvertes signées par des dizaines de milliers de personnes demandent un moratoire sur les armes autonomes considérées comme la troisième grande révolution dans l'art de la guerre après la poudre à canon et la bombe atomique ; faisant suite à cette crainte, le Parlement européen a voté, le 12 septembre 2018, une résolution demandant aux gouvernements européens de prendre une position commune pour réguler, voire interdire, les armes autonomes. Tout cela conduit à préciser ce que signifie le concept d'autonomie dans le contexte technologique actuel et dans le contexte philosophique.

Domaines: Intelligence artificielle [cs.AI]; Philosophie; Littératures; Apprentissage [cs.LG]

Jean-Gabriel Ganascia. La révolution de l'Intelligence artificielle (IA) en autonomie. Revue Défense Nationale, 2019. ⟨hal-02503378⟩