Intelligence artificielle : un superbe texte écrit par Henry Kissinger (https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/)

Signalé sur tweeter par Laurent Alexandre.

Et pour la traduction, j’ai naturellement utilisé un traducteur automatique !

 

KISSINGER ASSISTE A UNE CONFERENCE SUR L’INTELLIGENCE ARTIFICIELLE

Il y a trois ans, lors d’une conférence sur les questions transatlantiques, le sujet de l’intelligence artificielle figurait à l’ordre du jour. J’étais sur le point de ne pas assister à cette séance – elle se situait à l’extérieur de mes préoccupations habituelles – mais le début de la présentation m’a retenu à ma place.

 

Le conférencier a décrit le fonctionnement d’un programme informatique qui allait bientôt défier les champions internationaux au jeu de Go. J’ai été étonné qu’un ordinateur puisse maîtriser le Go, qui est plus complexe que les échecs. Dans ce jeu, chaque joueur déploie 180 ou 181 pièces (selon la couleur qu’il choisit), placées alternativement sur un plateau initialement vide ; la victoire va au camp qui, en prenant de meilleures décisions stratégiques, immobilise son adversaire en contrôlant plus efficacement le territoire.

 

Le conférencier a insisté sur le fait que cette capacité ne pouvait pas être préprogrammée. Sa machine, dit-il, avait appris à maîtriser le Go en s’entraînant elle-même grâce à la pratique. En se basant sur les règles fondamentales du Go, l’ordinateur avait joué d’innombrables jeux contre lui-même, apprenant de ses erreurs et affinant ses algorithmes en conséquence. Au cours de ce processus, elle a surpassé les compétences de ses tuteurs humains. Et en effet, dans les mois qui ont suivi la conférence, un programme d’IA nommé AlphaGo a vaincu de manière décisive les plus grands joueurs de Go du monde.

 

L’intelligence artificielle et la pensée humaine

L’âge de l’Internet dans lequel nous vivons déjà est une préfiguration de certaines des questions et des problèmes que l’IA ne fera qu’exacerber. Les Lumières ont cherché à soumettre les vérités traditionnelles à une raison humaine libérée et analytique. Le but d’Internet est de valider les connaissances par l’accumulation et la manipulation de données toujours plus nombreuses. La connaissance humaine perd son caractère personnel. Les individus se transforment en données, et c’est le règne des données.

 

Les utilisateurs d’Internet mettent l’accent sur la récupération et la manipulation de l’information plutôt que sur la contextualisation ou la conceptualisation de son sens. Ils interrogent rarement l’histoire ou la philosophie ; en règle générale, ils exigent des informations qui répondent à leurs besoins pratiques immédiats. Au cours du processus, les algorithmes des moteurs de recherche acquièrent la capacité de prédire les préférences des clients individuels, ce qui permet aux algorithmes de personnaliser les résultats et de les mettre à la disposition d’autres acteurs à des fins politiques ou commerciales. La vérité devient relative. L’information menace de submerger la sagesse.

 

Inondés par le biais des médias sociaux avec les opinions des multitudes, les utilisateurs sont détournés de l’introspection ; en vérité, beaucoup de technophiles utilisent Internet pour éviter la solitude qu’ils redoutent. Toutes ces pressions affaiblissent la force morale nécessaire pour développer et soutenir des convictions qui ne peuvent être mises en œuvre qu’en empruntant un chemin singulier, ce qui est l’essence même de la créativité.

 

L’impact de la technologie Internet sur la politique est particulièrement prononcé. La capacité de cibler des microgroupes a brisé le consensus qui existait auparavant sur les priorités en permettant de se concentrer sur des objectifs ou des revendications particulières. Les dirigeants politiques, submergés par les groupes de pression, sont privés du temps de penser ou de réfléchir aux contextes, en contractant l’espace dont ils disposent pour développer une vision.

 

L’accent mis par le monde numérique sur la vitesse inhibe la réflexion ; il incite à donne plus de place au radical qu’au réfléchi ; ses valeurs sont façonnées par le consensus de sous-groupes et non par l’introspection. Pour toutes ses réalisations, il court le risque de se retourner contre lui-même alors que ses contraintes l’emportent sur ses avantages.

 

Alors que l’Internet et l’augmentation de la puissance de calcul ont facilité l’accumulation et l’analyse de vastes données, des perspectives sans précédent pour la compréhension humaine ont émergé. Le plus important est peut-être le projet de production d’intelligence artificielle – une technologie capable d’inventer et de résoudre des problèmes complexes, apparemment abstraits, par des processus qui semblent répliquer ceux de l’esprit humain.

Automatisation et intelligence artificielle

Cela va bien au-delà de l’automatisation telle que nous l’avons connue. L’automatisation concerne les moyens ; elle atteint les objectifs prescrits en rationalisant ou en mécanisant les instruments pour les atteindre. L’IA, par contre, s’occupe des fins ; elle établit ses propres objectifs. Dans la mesure où ses réalisations sont en partie façonnées par elle-même, l’IA est intrinsèquement instable. Les systèmes d’IA, du fait même de leurs activités, sont en constante évolution puisqu’ils acquièrent et analysent instantanément de nouvelles données, puis cherchent à s’améliorer sur la base de cette analyse. Par ce processus, l’intelligence artificielle développe une capacité que l’on croyait réservée à l’être humain. Elle porte des jugements stratégiques sur l’avenir, certains basés sur des données reçues sous forme de code (par exemple, les règles d’un jeu), et d’autres basés sur des données qu’elle recueille elle-même (par exemple, en jouant à 1 million de reprises un jeu).

 

La voiture sans conducteur illustre la différence entre les actions des ordinateurs traditionnels, contrôlés par l’homme et alimentés par logiciel, et l’univers que l’IA cherche à maîtriser. Conduire une voiture nécessite des jugements dans de multiples situations impossibles à anticiper et donc à programmer à l’avance. Que se passerait-il, pour reprendre un exemple théorique bien connu, si une telle voiture était contrainte par les circonstances de choisir entre tuer une personne âgée ou tuer un enfant ? Qui choisirait-il ? Pourquoi ? Quels sont les facteurs parmi ses options qu’il tenterait d’optimiser ? Et pourrait-il expliquer la raison d’être de cette décision ? Contestée, sa réponse sincère serait probablement, si elle était capable de communiquer : « Je ne sais pas (parce que je suis des principes mathématiques, pas des principes humains) », ou « Vous ne comprendriez pas (parce que j’ai été formé pour agir d’une certaine manière mais pas pour l’expliquer) ». Pourtant, les voitures sans conducteur sont susceptibles d’être courantes sur les routes d’ici dix ans.

 

Jusqu’à présent confinée à des domaines d’activité spécifiques, la recherche en IA cherche maintenant à obtenir une IA « généralement intelligente » capable d’exécuter des tâches dans des domaines multiples. Un pourcentage croissant de l’activité humaine sera, dans un laps de temps mesurable, piloté par des algorithmes d’IA. Mais ces algorithmes, qui sont des interprétations mathématiques des données observées, n’expliquent pas la réalité sous-jacente qui les produit. Paradoxalement, à mesure que le monde deviendra plus transparent, il deviendra de plus en plus mystérieux. Qu’est-ce qui distinguera ce nouveau monde de celui que nous avons connu ? Comment allons-nous y vivre ? Comment allons-nous gérer l’IA, l’améliorer ou, à tout le moins, l’empêcher de faire du mal, ce qui culminera dans la plus inquiétante des préoccupations : que l’IA, en maîtrisant certaines compétences plus rapidement et de manière plus définitive que les humains, pourrait avec le temps diminuer la compétence humaine et la condition humaine elle-même en la transformant en données.

 

L’intelligence artificielle apportera avec le temps des avantages extraordinaires à la science médicale, à la fourniture d’énergie propre, aux questions environnementales et à bien d’autres domaines. Mais précisément parce que l’IA porte des jugements sur un avenir en évolution, encore indéterminé, l’incertitude et l’ambiguïté sont inhérentes à ses résultats. Il y a trois domaines d’intérêt particulier :

Les trois défis de l’intelligence artificielle

Tout d’abord, le fait que l’IA peut donner des résultats inattendus. La science-fiction a imaginé des scénarios d’IA se retournant contre ses créateurs. Il est plus probable que l’intelligence artificielle risque de mal interpréter les instructions humaines en raison de son manque de contexte naturel. Un exemple récent célèbre est le chatbot AI appelé Tay, conçu pour générer des conversations amicales dans la langue d’une jeune fille de 19 ans. Mais la machine s’est avérée incapable de définir les impératifs du langage « amical » et « raisonnable » que ses instructeurs ont installé et est devenue raciste, sexiste et par ailleurs provocatrice dans ses réponses. Certains dans le monde de la technologie prétendent que l’expérience a été mal conçue et mal exécutée, mais elle illustre une ambiguïté sous-jacente : Dans quelle mesure est-il possible de permettre à l’IA de comprendre le contexte qui sous-tend ses instructions ? Quel médium aurait pu aider Tay à se définir comme offensante, un mot sur le sens duquel les humains ne sont pas universellement d’accord ? Pouvons-nous, à un stade peu avancé, détecter et corriger un programme d’IA qui agit en dehors de nos attentes ? Ou bien, l’IA, laissée à elle-même, développera-t-elle inévitablement de légères déviations qui pourraient, avec le temps, se transformer en déviations catastrophiques ?

 

Deuxièmement, qu’en atteignant les objectifs visés, l’IA modifie les processus de pensée et les valeurs humaines. AlphaGo a vaincu les champions du monde de Go en faisant des mouvements stratégiques sans précédent – des mouvements que les humains n’avaient pas conçus et n’avaient pas encore appris à vaincre avec succès. Ces mouvements dépassent-ils la capacité du cerveau humain ? Ou les humains pourraient-ils les apprendre maintenant qu’ils ont été démontrés par un nouveau maître ?

Avant que l’IA ne commence à jouer au Go, le jeu avait des buts variés et hiérarchisés : Un joueur cherchait non seulement à gagner, mais aussi à apprendre de nouvelles stratégies potentiellement applicables à d’autres dimensions de la vie. Pour sa part, en revanche, AI ne connaît qu’un seul et unique but : gagner. Elle  » apprend  » non pas conceptuellement mais mathématiquement, par des ajustements marginaux à ses algorithmes. Ainsi, en apprenant à gagner au Go en jouant différemment des humains, l’IA a changé à la fois la nature du jeu et son impact. Est-ce que cette insistance unique sur la prévalence caractérise toutes les IA ?

D’autres projets d’IA travaillent à modifier la pensée humaine en développant des dispositifs capables de générer une gamme de réponses aux questions humaines. Au-delà des questions factuelles (« Quelle est la température extérieure ? »), les questions sur la nature de la réalité ou le sens de la vie soulèvent des questions plus profondes. Voulons-nous que les enfants apprennent les valeurs par le dialogue avec des algorithmes ? Doit-on protéger la vie privée en restreignant les informations de l’intelligence artificielle sur les personnes qui lui posent des questions ? Si oui, comment pouvons-nous atteindre ces objectifs ?

Si l’IA apprend de manière exponentielle plus rapide que les humains, nous devons nous attendre à ce qu’elle accentue, également de manière exponentielle, le processus de tâtonnements par lequel les décisions humaines sont généralement prises : faire des erreurs plus rapidement et d’une plus grande ampleur que les humains. Il pourrait être impossible de limiter ces erreurs, comme le suggèrent souvent les chercheurs en IA, en incluant dans un programme des mises en garde exigeant des résultats  » éthiques  » ou  » raisonnables « . Des disciplines universitaires entières sont nées de l’incapacité de l’humanité à s’entendre sur la façon de définir ces termes. L’IA devrait-elle donc devenir leur arbitre ?

 

Troisièmement, que l’IA peut atteindre les objectifs visés, mais être incapable d’expliquer la raison d’être de ses conclusions. Dans certains domaines – reconnaissance de motifs, analyse de grosses données, jeux de hasard – les capacités de l’IA peuvent déjà dépasser celles de l’homme. Si sa puissance de calcul continue d’augmenter rapidement, l’IA pourrait bientôt être en mesure d’optimiser des situations qui sont au moins marginalement différentes, et probablement significativement différentes, de la façon dont les humains les optimiseraient. Mais à ce moment-là, l’IA pourra-t-elle expliquer, d’une manière que les humains peuvent comprendre, pourquoi ses actions sont optimales ? Ou est-ce que la prise de décision de l’IA dépassera les pouvoirs explicatifs du langage humain et de la raison ? Tout au long de l’histoire de l’humanité, les civilisations ont créé des moyens d’expliquer le monde qui les entoure – au Moyen Âge, la religion ; au siècle des Lumières, la raison ; au XIXe siècle, l’histoire ; au XXe siècle, l’idéologie. La question la plus difficile mais la plus importante au sujet du monde vers lequel nous nous dirigeons est la suivante : Que deviendra la conscience humaine si son propre pouvoir explicatif est dépassé par l’IA et que les sociétés ne sont plus capables d’interpréter le monde qu’elles habitent dans des termes qui ont un sens pour elles ?

 

Comment définir la conscience dans un monde de machines qui réduisent l’expérience humaine à des données mathématiques, interprétées par leurs propres mémoires ? Qui sont les personnes responsables des actions de l’IA ? Comment déterminer la responsabilité de leurs erreurs ? Un système juridique conçu par l’homme peut-il suivre le rythme des activités produites par une IA capable de les dépasser et potentiellement de les distancer ?

 

En fin de compte, le terme d’intelligence artificielle peut être un concept impropre. Certes, ces machines peuvent résoudre des problèmes complexes, apparemment abstraits, qui n’avaient auparavant cédé qu’à la pensée humaine. Mais ce qu’ils font de manière exceptionnelle n’est pas de penser comme cela a été conçu et expérimenté jusqu’à présent. Il s’agit plutôt d’une mémorisation et d’un processus de calcul sans précédent. En raison de sa supériorité inhérente dans ces domaines, l’IA est susceptible de gagner tous les jeux qui lui sont assignés. Mais pour nous, en tant qu’humains, les jeux n’ont pas seulement pour objet de gagner, mais également de penser. En traitant un processus mathématique comme s’il s’agissait d’un processus de pensée, et en essayant d’imiter ce processus nous-mêmes ou en acceptant simplement ses résultats, nous risquons de perdre la capacité qui a été l’essence même de la conscience humaine.