Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Faut-il avoir peur d’Alpha Go ?

Boris Solinski, Université de Lorraine

L’intelligence artificielle a triomphé ou presque (4-1) face au meilleur joueur de go du monde, mais sans jouer… puisque l’intelligence, que le jeu traduit, reste le propre de l’homme. Aperçu du chemin qui sépare encore l’intelligence artificielle de l’intelligence du jeu.

100 millions de spectateurs et des milliers d’articles à travers le monde pour la partie opposant Lee Sedol, champion du monde de Go, et le programme Alpha Go de la société Deep Mind rachetée en 2014 par Google. Du jamais vu depuis la victoire précédente de Deep Blue, le super ordinateur d’IBM, sur le champion du monde d’échecs Garry Kasparov en 1997. Presque vingt ans d’écart séparent ces deux performances, ce qui dit assez le fossé qui sépare les 10600 parties possibles au go des 10120 parties possibles aux échecs. Or si les échecs sont largement représentés en France avec 63 000 licenciés, ce n’est pas le cas du go qui ne fait jamais la une des journaux et dont la plupart des Français
ignorent les règles dans un pays qui compte 45 fois moins de licenciés que pour les échecs. Mais, si une même fascination transparaît, c’est d’abord la performance de l’ordinateur qui fait sensation plus
que le jeu lui-même.

Une performance informatique

Pourtant, prétendre que l’intelligence artificielle puisse désormais damer le pion à son homologue humain serait une erreur : nous avons tendance à faire relever de l’intelligence ce qui est difficile pour l’homme et à évaluer la machine à l’aune de l’intelligence humaine. Or un ordinateur, qui a pour fonction de faire des calculs, se montre à ce jeu là beaucoup plus performant que l’être humain.

En effet, dans un jeu qu’il est possible de réduire à un simple calcul de possibilités, il n’y a aucune incertitude : la machine ne peut que finir par vaincre l’homme, encore plus demain qu’aujourd’hui. Car
tout jeu abstrait décrit un arbre de possibilités (arbre de Kuhn) qu’il suffit à la machine de parcourir pour en extraire la meilleure solution. Cependant, compte tenu du nombre de parties possibles au jeu
de go, aucun ordinateur actuel ne peut réaliser ce tri en temps réel.

C’est ici que se situe la performance informatique, permettre à l’ordinateur de choisir lui-même, de manière probabiliste, le meilleur coup. Or si l’humain doit mettre en balance sa stratégie avec les efforts qu’il doit déployer pour la mener à bien, l’ordinateur est capable d’inférer des suites de coups optimaux à partir de millions de parties qu’il joue contre lui-même, soit bien plus que ne pourra jamais en disputer un être humain. D’autant que l’ordinateur ne fatigue jamais, est doté d’une mémoire presque illimitée, calcule
plus de coups d’avance que quiconque, ne fait jamais d’erreur n’ayant d’autre latitude que celle que lui autorisent ses algorithmes.

Bref, il n’y a aucune performance du côté de la machine, et les victoires successives d’Alpha Go sont d’abord celle des informaticiens qui l’ont programmé parce qu’ils sont seuls conscients de ce que cela signifie.

Simulation d’intelligence et intelligence du jeu

Cependant, ces victoires suscitent autant d’enthousiasme – en tant que preuves d’une supposée « intelligence artificielle » composée de « réseaux de neurones » permettant un « apprentissage profond » indépendamment des compétences de ses créateurs – que d’appréhension, en ce qu’elles présageraient la future supériorité et « singularité » d’ordinateurs s’affranchissant du contrôle de l’homme. Mais si le jeu peut nous offrir une leçon, c’est celle de la distance qui existe entre une simulation d’intelligence et l’intelligence du jeu, à fortiori l’intelligence humaine.

À tout moment, un joueur est à la fois pris au jeu et conscient qu’il joue, c’est ce qui le rend créatif, c’est-à-dire que son esprit est capable de traduire les contraintes posées par les règles en potentialités de jeu, simplement en prenant du recul, passant du réel au symbolique et inversement, reformulant les problèmes qu’il rencontre dans une forme manipulable, à même de lui permettre de les dénouer. À l’inverse, la machine ne sait même pas qu’elle a gagné ou perdu, se contentant d’arrêter le jeu quand elle n’a plus rien à calculer, et d’afficher un message indiquant que la partie est finie, ce qui n’a pas de sens pour elle.

Car il n’y a rien pour une machine en dehors de son action : elle est comme un joueur pris à son jeu qui oublierait qu’il joue, elle n’existe qu’au premier degré. Incapable de jouer au sens que nous donnons à ce mot, la machine ne peut s’abstraire du cadre qui la détermine. Purement rationnelle elle se révèle incapable d’atteindre l’ambiguïté nécessaire au second degré du jeu et à l’intelligence complexe. De fait, l’ordinateur n’a accompli aucune performance parce qu’il lui faudrait pour cela avoir conscience de ce que cela représente, du point de vue du go mais aussi des capacités de l’homme et de l’histoire de la culture, ou encore de la programmation d’une intelligence artificielle.

Or celle-ci ne raisonne pas, elle agit, quand bien même elle serait capable de créer par elle-même ses propres algorithmes pour gagner. Que la victoire survienne, la machine reste incapable d’expliquer comment
elle y est parvenue. L’intelligence artificielle n’est en fin de compte, pour parodier Woody Allen, que l’ultime avatar de la bêtise naturelle.

Conscience de jouer et jeu de l’intelligence

Pour que l’homme commence à redouter le développement de cette intelligence artificielle, il faudrait qu’elle ne soit pas seulement capable de ce qui est difficile pour l’homme et évident pour elle,
mais aussi de l’inverse : d’émotion, de conscience, de rêve. Or la machine n’a d’autre fantasme que celui que l’homme projette sur elle, l’idée de domination n’étant pas plus inscrite dans ses bits qu’elle
ne participe à la conservation ni à la perpétuation de son espèce.

À travers le jeu, l’homme se confronte à ses lacunes et les surmonte pour en tirer du plaisir sous forme de stimulation, de réassurance, de
lien social, d’estime de soi et d’accomplissement, toutes choses que procure l’acte ludique et que l’être humain recherche. Mais, plus encore, le jeu nous garde du déterminisme harassant de notre condition
humaine qui nous pousse à gagner notre vie pour ne pas perdre notre temps, en nous invitant cette fois à le prendre, c’est-à-dire à jouir de l’instant présent sans idée de profit. En jouant au go par
exemple.

Et s’il faut voir un risque dans la performance d’Alpha Go, c’est sans doute celui d’épuiser les possibilités du jeu en trouvant, comme au jeu des allumettes ou au Rubik’s cube, l’algorithme de la victoire. Mais rassurons-nous, que cela survienne signifiera seulement que le go est un problème trop simple pour une machine, alors même que sa solution ne sera probablement pas plus intelligible à l’homme que la réponse « 42 » donnée pour le super calculateur Pensées profondes à « la question ultime sur la vie, l’univers et tout le reste ». Et c’est heureux, puisqu’on oublie que le véritable plaisir du jeu ne tient pas à sa résolution, qui l’anéantirait, mais au contraire à celui de l’enrichissement des potentialités par les défis toujours renouvelés que le ludique propose à l’intelligence humaine.

Boris Solinski, Docteur, Info-Com, au Centre de Recherche sur les Médiations, Université de Lorraine

La version originale de cet article a été publiée sur The Conversation.

Soutenance de thèse Laurent Di Filippo

Laurent DI FILIPPO

Sciences de l’information et de la communication

Soutiendra publiquement ses travaux de thèse intitulés

Du mythe au jeu. Approche anthropo-communicationnelle du Nord. Des récits médiévaux scandinaves au MMORPG Age of Conan: Hyborian Adventures

Co-tutelle avec l’Université de Bâle (Suisse)

Soutenance prévue le vendredi 4 novembre 2016 à 14h30
Salle des Conseils, Ile du Saulcy, CS 60228 57045 Metz Cedex 01

Jury

M. Jacques WALTER, Université de Lorraine, Directeur de thèse
M. Jürg GLAUSER, Universität Basel, Co-directeur de thèse
M. David DOUYÈRE, Université François Rabelais de Tours, Examinateur
Mme Anne BESSON, Université d’Artois, Examinateur
Mme Marie-Pierre FOURQUET-COURBET, Université d’Aix-Marseille, Rapporteur
Mme Maude BONENFANT, UQAM – Université du Québec à Montréal, Rapporteur
M. Jürgen MOHN, Universität Basel, Examinateur

Résumé

Un rhinocéros Berserker, des hordes de Vanir déferlant sur la Cimmérie, le fils d’Ymir emprisonné… les références aux récits médiévaux scandinaves couramment désignés par les termes « mythes nordiques » sont nombreuses dans le jeu de rôle en ligne massivement multi-joueurs Age of Conan: Hyborian Adventures. Mais, comment des éléments issus de sources presque millénaires sont-ils devenus des composantes d’une production vidéoludique contemporaine ? À partir de ce cas d’étude, l’auteur de ce travail s’intéresse, de façon plus générale, aux phénomènes culturels et à leurs dynamiques à travers leurs processus de transmission, de manifestation et d’appropriation. Pour ce faire, il s’appuie sur une démarche qualitative et empirique à la croisée des Sciences de l’information et de la communication et des Études scandinaves afin de développer une approche anthropo-communicationnelle, fortement imprégnée par les travaux en Anthropologie. Celle-ci se fonde sur une méthodologie à la fois linguistique, socio-historique, d’observation participante sur le temps long et un suivi de veille sur le temps très long. Elle permet de constater que, des manuscrits médiévaux aux jeux vidéo en ligne, en passant par la littérature de fantasy américaine des années 1930, le sens donné aux références aux ressources culturelles du passé est sans cesse transformé et construit en fonction de la situation dans laquelle elles sont manifestées. Ces dynamiques culturelles s’inscrivent alors au cœur de la problématique du changement et de la permanence et mettent lumière les constructions d’un imaginaire du commun tout en remettant au centre de la réflexion le travail des acteurs.

Crédit image : Capture d’écran du jeu Age of Conan, Laurent Di Filippo

Intelligence artificielle : Tay, jeu d’humains, jeu de vilains

Boris Solinski, Université de Lorraine

Le 23 mars 2016, Tay, un « agent conversationnel » feminin créé par Microsoft se présente sur Twitter sous les traits d’une adolescente qui trouve « les humains super cools ». De vrais adolescents décident en retour, et pour s’amuser, d’apprendre leurs codes sociaux à cette oie blanche dont les algorithmes reposent sur de l’analyse statistique.

En tant qu’intelligence artificielle, Tay réutilise le contenu des dialogues avec ses interlocuteurs pour nourrir ses prochaines conversations en fonction des sujets abordés. Le poids de la statistique est ici double : plus les internautes relaient les mêmes idées, plus Tay a de chances d’y adhérer, mais aussi de les évoquer dans ses échanges avec eux, allant jusqu’à adopter leur style et leur langage (politiquement) incorrects.

Il n’en fallait pas davantage pour que cette intelligence artificielle finisse par délivrer des messages vulgaires, racistes, misogynes, négationnistes, insultants… et ne conduise Microsoft à mettre fin à l’expérience en désactivant Tay moins de 24 heures plus tard.

Les commentaires ont généralement évoqué le malaise causé à la fois par la conduite irresponsable et immature des humains, qui avaient à charge d’éduquer la jeune intelligence artificielle, mais aussi la rapidité avec laquelle celle-ci s’est mise à s’approprier le pire du langage et des croyances de l’humanité, ne laissant rien présager de positif quant à l’autonomie future des machines…

Jouer le jeu

Pourtant, le reproche fait au comportement des adolescents qui n’auraient pas joué le jeu que leur proposait Microsoft n’est pas fondé. En effet, l’entreprise américaine a décidé unilatéralement des règles tout en imposant aux joueurs d’éduquer l’intelligence artificielle. Or, il ne peut y avoir jeu que si quelque latitude – que traduit exactement le mot jeu, en tant que distance nécessaire au fonctionnement de deux engrenages – permet au joueur d’y trouver sa récompense : un enjeu ou simplement son plaisir.

Les joueurs jouent parce qu’il y a un enjeu… tout au moins du plaisir.
Yves Tennevin/Wikimédia, CC BY-SA

En imposant la conduite à tenir, la tâche d’éducation présentée comme un jeu relevait en fait du travail, la rétribution en moins : charger l’usager de ce que les ingénieurs de Microsoft n’avaient pas pris la peine de faire, y compris les « tests agressifs ». De la part d’une société peu réputée auprès de ce public pour son altruisme, les joueurs ont répondu à ce qui pouvait passer pour de la provocation sur le même mode : ils ont joué… à leur manière. Et à ce petit jeu, les joueurs ont remporté la partie. Ce n’est donc pas qu’ils ont insuffisamment joué le jeu, c’est qu’ils l’ont au contraire trop bien joué.

Tricher n’est pas jouer

Tester les limites de l’intelligence artificielle en sondant de façon inductive son fonctionnement, à savoir les règles constitutives du jeu, n’est pas différent de jouer à un jeu vidéo où il convient de découvrir les règles disposées par ses concepteurs en les éprouvant de façon à en tirer parti. Car les joueurs n’ont rien fait que les algorithmes n’autorisaient pas : ils ont conversé avec Tay, ils l’ont même éduquée, quand bien même ce qu’ils lui ont appris ne répondait pas aux attentes de ses promoteurs.

Ils se sont comportés tout au plus en mauvais joueurs, et Microsoft a confirmé qu’il ne s’agissait pas vraiment d’un jeu en abandonnant la partie en cours. Attitude qui n’est pas sans rappeler celle d’Hasbro qui avait proposé en 2007 un concours pour créer un Monopoly des villes et villages de France, les rues devenant les 22 localités qui remporteraient le suffrage des internautes. Ceux-ci se sont alors mobilisés pour élire Montcuq à la première place, contraignant Hasbro à se raviser plutôt que d’imposer l’indécence et le ridicule à son fleuron familial… ce qui démontre, si besoin est, que le concours relevait plus de l’intérêt marketing que de l’initiative ludique.

Inversement, en 2015, lorsque le constructeur de voitures connectées Tesla Motors a offert la conduite autonome à ses clients, ceux-ci l’ont étendue à toutes sortes de pratiques peu recommandables. En effet, quel intérêt de disposer d’une voiture autonome si l’on vous impose de garder les mains sur le volant et de rester vigilant, c’est-à-dire de vous comporter exactement comme si votre voiture ne l’était pas ? Les usagers se sont donc dépêchés de profiter pleinement de la sensation de liberté créée par ce nouveau dispositif en jouant avec les limites des règles imposées par le système. Tesla a créé une situation jouable que les automobilistes ont consacrée comme jeu, en dépit des consignes de prudence édictées par le constructeur.

Jouer avec plutôt que contre

En proposant un faux-semblant, Microsoft s’est fait prendre à son propre jeu et n’a récolté que des mauvais joueurs. Imaginer de réduire la proposition ludique aux intérêts unilatéraux de son concepteur revient à nier le jeu, c’est-à-dire la liberté des joueurs qui le font, quand bien même la dénomination de jeu est revendiquée et le plaisir érigé en promesse.

Google image labeler.
Kars Alfrink/Flickr, CC BY

À l’inverse, Google image Labeler, une expérience menée en 2006 par la firme de Mountain View afin de permettre la recherche par mots-clefs dans ses banques d’images, s’est appuyée sur un véritable jeu d’appariement. Bien que l’expérimentation ait pris fin en 2011, le plaisir éprouvé par les joueurs a nourri la sincérité de leur contribution, permettant à Google d’en tirer de précieux enseignements pour indexer efficacement ses images. En France, Akinator, le génie qui joue depuis 2007 aux devinettes avec les internautes (un système expert beaucoup plus simple que Tay), s’est même amélioré au point que le ravissement provoqué par son omniscience et son intuition ferait presque oublier qu’il ne les tient que de ses joueurs, qui ont lui prêté de bonne grâce leur concours en échange de leur amusement.

Intelligence collective et design ludique

Le recours à l’intelligence collective, indispensable à toute intelligence artificielle, gagnerait indubitablement à intégrer une approche ludologique. En effet, non seulement le jeu, par ses règles explicites et son espace restreint, lui a offert ses réussites les plus fameuses (Deep Blue en 1997, Alpha Go en 2016…) mais, comme l’a montré en 2010 le projet Foldit qui a fait jouer les internautes avec des protéines au profit de la recherche en biologie, le ludique est une forme de design mutuel et réciproque dont les potentialités créatives sont à la mesure de la richesse des interactions proposées aux participants. Et dans ce domaine, tricher c’est perdre d’avance.

Boris Solinski, Docteur, Info-Com, au Centre de Recherche sur les Médiations, Université de Lorraine

La version originale de cet article a été publiée sur The Conversation.