Les robots aussi veulent jouer au poker
Je propose ici quelques notes suite à mon intervention le 24 janvier 2017 au Lycée Pierre d'Ailly de Compiègne en classe de philosophie sur la thématique de l'intelligence artificielle. L'objectif sera d'articuler une présentation générale des enjeux de l'IA avec ceux de la littératie numérique.
Je complète ces notes par une illustration d'actualité qui me semble proposer un fil conducteur intéressant : après avoir battu les humains aux échecs, puis au go, c'est à présent le poker qui est tombé, il y a quelques jours.
« C'est la première fois qu'une IA a été capable de battre les meilleurs joueurs humains au Heads-Up No-Limit Texas Hold'em. De manière générale, cela montre que l'habilité de la meilleure IA à faire des raisonnements stratégiques en ayant une information imparfaite a surpassé celle des meilleurs joueurs humains. »
Même si le poker comporte une composante fondamentalement statistique, il est symboliquement attaché à la notion de bluff, de faire croire, de feindre, de tromper. Alan Turing avait dès 1950 associé l'intelligence artificielle avec la capacité de se faire passer pour un humain, de tromper des humains.
« Dans ce jeu du chat et de la souris, parades et contournements deviennent de plus en plus complexes. Pour jouer de façon autonome, un bot doit faire plus que prendre des décisions : il doit aussi savoir reconnaître les cartes affichées par le logiciel de poker, ou interagir avec ce dernier de façon naturelle. Les clients des grands noms du secteur intègrent par exemple tous des algorithmes d'analyse du mouvement du pointeur de la souris, pour repérer tout ce qui pourrait ressembler à un modèle prédéfini. De l'autre côté, il faut donc programmer les déplacements de façon à reproduire le plus fidèlement possible un comportement humain. »
Dans ce second article on apprend que les robots n'ont pas le droit de jouer au poker dans les salles de jeu numériques. On y apprend également que non contents de tromper les humains dans le jeu lui-même, ils s'ingénient à les tromper également en se faisant passer pour des humains, afin de contourner l'interdiction qui leur est faite.
Préambule 1 : I & A
McCarthy et Asimov
On apprend en général à l'université que l'IA a été fondée par John McCarthy et ses confrères chercheurs lors de la conférence du Dartmouth College en 1956 (USA).
On pourrait aussi faire une histoire de l'IA qui débuterait plutôt avec Isaac Asimov et Philippe K. Dick, sur certains aspects, les seconds ont été plus visionnaires que les premiers.
Les Robots (1950) : le terme de robotique a été inventé par Isaac Asimov.
Second Variety (1953) : construction de robots par des robots.
2001, A Space Odyssey (1968) : Hal 9000, figure emblématique de l'IA s'autonomisant.
Blade Runner, Do Androids Dream of Electric Sheep ? (1968) : Qu'est ce qu'un humain, qu'est ce qu'un android ?
Wargames (1983) : le calculateur WOPR sert à la fois à jouer aux échecs et à simuler une guerre nucléaire.
Tron (1982) : MCP (Master Control Program) est un programme d'échec qui a évolué, s'est autonomisé et cherche ensuite à manipuler les humains comme les autres programmes.
Neuromancer (1984) : Wintermute (Muetdhiver) est une IA manipulatrice également, on y retrouve le thème du transhumanisme.
Le successeur de Pierre (1999) : post-humanisme, Le successeur est le prolongement de la conscience dans le minéral, théorisé dans Totalement Inhumaine (Truong, 2003[1])
Les intelligences artificielles dans la science-fiction
Les trois lois de la robotique (Asimov)
Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Un exemple (légendaire) introductif
« The spirit is willing, but the flesh is weak »
aurait été traduit en russe puis de nouveau en anglais et aurait donné :
« The vodka is good, but the meat is rotten »
Quel est le problème ?
L'ensemble des connaissances et des contextes qu'il est nécessaire de mobiliser pour bien comprendre cette phrase est immense.
Comment le problème peut-il être résolu ?
En ajoutant toutes ces connaissances manquantes au système... mais cela suppose qu'on peut les représenter (question algorithmique, approche formaliste, cognitivisme)
En introduisant la solution à ce cas particulier... mais cela suppose une très grande quantité de cas particuliers (question des données, approche statistique, connexionnisme)
Quelles questions posent l'IA ?
I : qu'est ce que penser ?
A : qu'est ce qu'une machine ?
S'interroger sur l'IA, c'est s'interroger sur l'Intelligence et sur l'Artificiel (que nous appellerons plutôt la Technique), sur la constitution du sens et sur la construction des machines.
En prologue on va également s'interroger sur l'ordinateur, le "substrat" de l'IA.
Préambule 2 : La figure d'Alan Turing
Alan Turing, figure emblématique de l'informatique en général et de l'IA en particulier.
Nous aurons trois occasions de croiser Alan Turing au cours de cet exposé :
La machine de Turing universelle
Le test de Turing
La Bombe (machine de cryptanalyse à laquelle Turing a contribué)
Premier "usage" de Turing
Pourquoi ce sont les ordinateurs qui sont candidats à l'Intelligence Artificielle, et pas les marteaux ou même les calculatrices ?
Parce que les ordinateurs sont des machines universelles
Une machine de Turing universelle est une machine de Turing qui représente une machine de Turing : on peut donc tout faire avec une telle machine, il suffit de changer le programme.
Or un marteau ne peut pas être (facilement) reprogrammé en tournevis, une calculatrice ne permet pas de prendre des photos ou de consulter son compte Facebook (une calculatrice non programmable est une machine de Turing, mais pas universelle).
La même machine sert à fabriquer des cafés, à calculer des théorèmes, à corriger des fautes, à transcrire des messages vocaux, à faire des traductions, à faire des démonstrations mathématiques, à écrire de la philosophie ou inventer des programmes originaux...
C'est ce qui est nouveau avec l'ordinateur, c'est un objet technique qui peut être adapté à toutes les tâches humaines... voire qui peut s'y adapter seul ? (il peut modifier son propre programme) voire à des tâches non humaines ?
Le I de IA : qu'est ce que penser ?
Le test de Turing (1950)
Origine : un jeu dans lequel un homme et une femme cherche tous les deux à se faire passer pour une femme (Imitation Game qui a donné son titre au film de 2014 sur Turing)
Plusieurs versions (interprétations) :
l'ordinateur prend la place de l'homme dans le jeu de l'imitation (et doit se faire passer pour une femme aussi souvent qu'un homme)
l'homme et la femme sont remplacés par un humain et un ordinateur (qui doit se faire passer pour un humain)
il y a seulement une machine qui doit se faire passer pour un humain
Une certaine vision de l'intelligence : la conversation ? la tromperie ?
La chambre chinoise
Searle
Y a-t-il une différence entre penser (approche essentialiste) et donner une impression parfaite de penser (approche phénoméniste) ?
Si un ordinateur se comporte en tous points comme un homme, en quoi est-il différent ?
Blade Runner : Do Androids Dream of Electric Sheep, 1968 P. K. Dick : Qu'est ce que l'humanité ? (Test d'empathie ?)
Est-ce que l'intelligence c'est imiter l'homme ?
Un sous-marin sait-il nager ? (Dijkstra)
Complément
Un sous-marin sait-il nager ? (en Russe, oui)
L’intelligence biologique c'est agir dans son environnement, pas seulement raisonner (cortex vs cerveau reptilien).
Notion de cognition située (intelligence dans son environnement), les symboles purs n'ont pas de sens, ils sont des codes du monde.
Question de niveau, de langage, de définitions, d'environnements, d'interactions...
Le modèle cognitivisme et la mécanisation du raisonnement logique
Modèle de la connaissance basée sur le formalisme et le calcul (Leibniz, Cercle de Vienne, Gödel)
Exemple Prolog
Problème du contexte
« Est-ce que le patient mange ? »
Exemple de T. Winograd cité par B. Bachimont (2007)
Complément
Est-ce qu'il mange en ce moment (est-ce que je peux aller le voir) ?
Est-ce qu'il mange bien (il est en forme) ?
Est-ce qu'il peut à nouveau manger (s'il a subit une opération de la bouche) ?
...
Problème des significations auto-référentielles
« Tous les Crétois sont des menteurs »
Complément
Hofstadter, théorème d'incomplétude de Gödel, paradoxe d'Épiménide.
La modèle connexionnisme et la classification des formes
Réseaux de neurones (métaphore biologique), approche statistique.
Hofstadter : exemple des caractères d'imprimerie, qu'est ce qu'un "a" ? Ce n'est pas une connaissance formalisée, c'est une connaissance entraînée.
Les travaux en deep learning ont montré qu'avec une grande masse de données (et des algorithmes simples) on pouvait (bien) résoudre des problèmes qu'on peinait à (mal) résoudre avec des algorithmes complexes.
Comment disposer de masses de données sur ce que l'on veut traiter ?
Il suffit de demander...
Complément
Comment créer de gigantesque descriptions ? De gigantesques graphes ? banques de photos ? de vidéos ?
Il faudrait que chacun accepte gratuitement de travailler à sa propre formalisation un peu toute la journée...
Il faudrait simplifier la réalité à ce qui est représentable (ami, aimer, activité... : ces mots peuvent être redéfinis en fonction de ce qui est compréhensible par des algorithmes simples)...
Utiliser Facebook ou Google c'est programmer des IA (dont l'objectif est de vendre de la publicité). Vous travaillez gratuitement pour eux (vous voyez, quand vous voulez !).
Le captcha : Un test de Turing inversé qui sert à entraîner les machines (gratuitement).
Le A de IA : qu'est ce qu'une machine ?
La Bombe de Bletchley Park est-elle une machine intelligente ?
Elle réalise une activité intellectuelle (cryptanalyser, calculer) à un niveau que l'homme de sait pas atteindre.
Complément
Un ordinateur qui bat un champion aux échecs, au go, au poker ?
Un moteur de recherche qui vous renvoie l'information que vous cherchez ?
Un site de vente qui vous recommande des produits adaptés à vos envies ?
Un assistant artificiel qui répond quand vous lui demandez de vous guider vers le restaurant le plus proche ?
Un logiciel de photo qui reconnaît le visage d'un ami ?
Un programme qui démontre un théorème d'une façon originale ?
Un programme qui écrit un roman ?
Un programme qui aurait 12 au bac en philo ?
Exemple d'applications concrêtes de l'IA
Véhicules autonomes
Reconnaissance vocale
Jeux
Anti-spam
Robotique
Traduction
Trading
...
La technique est-elle autonome ?
Complément
L'homme est de moins en moins indispensable physiquement pour construire des machines, les machines sont au contraire indispensables : aucun homme ne peut produire un ordinateur moderne, seul un autre ordinateur le peut.
Si je vous demande de construire un marteau, en partant de rien, c'est compliqué, long, mais pas impossible ; et le marteau ne sait pas faire un autre marteau.
Au contraire si je demande au meilleur ingénieur du monde de construire un ordinateur moderne, c'est impossible sans les générations précédentes de machines ; et au contraire une chaîne automatisée sait produire des machines en série (se reproduire).
Que sont les machines ?
Des constructions humaines ? Des objets produits, décidés, contrôlés par l'homme ?
Des systèmes artificiels qui se développent de façon autonome avec l'homme comme un des vecteurs de son développement, voire qui utilisent l'homme ?
L'homme est-il autonome ?
Complément
On croit que l'I n'est que du côté homme et le A côté machine, mais la machine construit l'homme, participe à le déterminer.
Êtes-vous les mêmes sans votre suppléance informatique permanente ? et certaines opérations intellectuelles (trouver la réponse à une question simple) sont plus réalisées aujourd'hui par des machines et plus par des hommes. Pouvais-je faire ce cours sans ordinateur ?
L'intelligence est "dans" un complexe humain-machine ?
Nous sommes tous déjà des androïdes depuis le premier silex...
Thèse TAC (UTC) : Technologie Anthropologiquement Constitutive
La technique comme produit de l'intelligence humaine
La technique comme constituante de l'intelligence humaine
Complément
La technique construit l'homme (Leroi-Gourhan)
Notion de prothèse cognitive (artificialisation des intelligences ?) (Stiegler)
La technique, c'est ce qui prolonge l'action de l'homme, voire ce qui fait à la place.
Machine intelligentes et technologies de l'intellect
Technologies de l'intellect (Goody)
Des machines qui pensent aux machines qui donnent à penser (Bachimont)
Complément
Raison graphique (Goody) : les livres sont des technologies de l'intellect.
Raison computationnelle (Bachimont) : penser avec des ordinateurs, c'est penser différemment.
Rechercher une information, construire un savoir, c'est prolonger par les livres, les bibliothèques, qui seraient en ce sens déjà des IA ?
A fortiori un moteur de recherche : on ne lui délègue pas seulement l'accès (la mémoire), mais également la sélection, de plus en plus le raisonnement. Les moteur servent moins à présenter des documents (accès) qu'à directement répondre aux questions (titres, descriptions courtes, cartouches, composition de pages-réponses).
Épilogue 1 : Littératie numérique (Comment savoir si on doit laisser les robots jouer au poker ?)
Littératie numérique
Comprendre ce qu'on peut faire avec des ordinateurs, mais surtout ce que les ordinateurs nous font, comprendre pour pouvoir choisir.
Complément
Enjeu d'une littératie numérique, comprendre comment ça fonctionne pour être partie prenante, agir, pas être un simple esclave.
Ne surtout pas être un simple utilisateur.
Facebook est plus fort que ma volonté
« Ouais, je suis faible. J'ai, encore aujourd'hui, le réflexe « je clique sur facebook entre deux trucs à faire ». [...] Cinq minutes plus tard, je finis dans état de semi zombie, à scroller de la mollette en voyant mon mur défiler des informations devant mes yeux hypnotisés. Je finis par faire ce qu'on attend de moi [...] Ce n'est pas que je manque de volonté : c'est juste que Facebook (et ses collègues de bureau) m'ont bien étudié. »
Quand vous utilisez Facebook, vous utilisez un système pour lequel des centaines (des milliers) d'ingénieurs et d'ordinateurs travaillent en permanence dans l'unique objectif de vous maintenir captif du système.
Facebook a un projet, celui de vous maintenir connecté en permanence, pour recueillir des données et les revendre à d'autres acteurs qui en ont besoin. À vous de comprendre comment cela fonctionne, pourquoi, et de décider si vous voulez ou non participer à ce complexe homme-machine là, ou à un autre.
Épilogue 2 : Transhumanisme (Comment ne pas laisser les robots jouer au poker ?)
Dualisme (Platon, Descartes) versus matérialisme (Epicure, Gassendi)
Le corps et l'esprit sont-ils séparés ? Y-a-t il une autre réalité que celle physique, que celle l'on perçoit ?
Si l'esprit est une émanation de la matière, alors il est possible de créer de la matière dont émanerait de l'esprit, donc on peut créer de l'esprit.
Si l'esprit est quelque chose d'immatériel (tout de même localisé dans le cerveau ?) alors, on peut transplanter ou copier un cerveau, sinon on ne peut pas extraire un esprit de son corps...
Transhumanisme (Neuromancer) et post-humanisme (Le successeur de Pierre).
Quel est l'importance du substrat biologique ? On pourrait/pourra coder un ordinateur sur du matériaux biologique, on peut intégrer de la mécanique dans de l'homme (c'est déjà le cas avec de nombreux implants, pacemakers...).