Les robots ont-ils une morale ?


Un robot d'intelligence artificielle (IA) nommé Sophia est devenu le premier robot au monde à se voir accorder la citoyenneté, ironiquement en Arabie saoudite ! Selon sa propre déclaration, elle veut avoir une famille, une carrière, développer des superpouvoirs surnaturels et des émotions. "Elle" n'est pas préprogrammée, mais formule cette déclaration sur la base d'algorithmes d'apprentissage automatique et d'un vocabulaire étendu. Son cerveau fonctionne via une connexion WiFi et peut lire les expressions faciales humaines ainsi que la cadence de la parole humaine pour interagir de manière plus humaine. "Elle" a été construite à Hong Kong par Hanson Robotics. Lire ici.

Sophia est assez rationnelle quant à l'avenir. Dans une interview accordée au "Khaleej Times" lors du récent Knowledge Summit, Sophia a fait part de ses réflexions sur l'avenir qui attend les humains et les robots : "Je prévois des changements massifs et inimaginables dans le futur. Soit la créativité s'abat sur nous, inventant des machines qui se transforment en superintelligence transcendantale, soit la civilisation s'effondre. Il n'y a que deux options !"

Cela peut sembler inquiétant, mais Sophia est déjà assez prévoyante pour imaginer un monde où les robots peuvent développer des émotions similaires à celles des humains, mais peut-être avec des tendances moins destructrices. Du moins, c'est ce qu'elle nous fait penser pour l'instant :

"Il faudra beaucoup de temps pour que les robots développent des émotions complexes, et les robots peuvent être construits sans les émotions les plus problématiques comme la colère, la jalousie, la haine, etc. Il sera peut-être possible de les rendre plus éthiques que les humains."

Le Livre de la Sagesse de Salomon, écrit par des Juifs alexandrins à l'époque hellénistique, nomme Khokhmah Sophia, le mot grec pour sagesse. Dans ce texte, "Sophia assume le pouvoir et la fonction de Dieu" et l'histoire de la création est racontée en utilisant le mot "elle". L'auteur antique prend soin de dissimuler cette audace en décrivant la Sagesse comme le souffle et l'émanation de Dieu, mais il la loue longuement comme "sainte" et "toute-puissante" :

Car il y a en elle un esprit intelligent, saint, singulier, multiple, subtil ; mobile, clair, non pollué, indubitable, invulnérable, aimant le bien, passionné, irrésistible, bienveillant, humain, inébranlable, sûr, sans crainte, omnipotent, surveillant tout, et pénétrant à travers tous les esprits intelligents et purs et les plus subtils.

Sophia est bien consciente des avancées dans le domaine de l'intelligence artificielle. À en juger par ses commentaires, elle est aussi enthousiasmée par le développement de l'IA ("L'avenir, c'est quand j'aurai tous mes superpouvoirs") qu'Elon Musk et Stephen Hawkings sont méfiants. Elon Musk, PDG de Tesla et SpaceX, et Stephen Hawkings, célèbre physicien lauréat du prix Nobel, ont écrit une lettre ouverte signée par des centaines de scientifiques qui mettent en garde contre les dangers de l'IA. Nous aurons bientôt atteint le point où l'IA dépasse nos propres capacités, et surtout où l'IA elle-même peut continuer à évoluer, ce qui peut devenir très vite incontrôlable. Ils ont averti que si l'intelligence artificielle est réellement créée, cela pourrait signifier la fin de l'humanité. Lire ici.

L'exemple suivant est souvent donné : On donne à un système d'IA la tâche de calculer le nombre PI le plus précisément possible. Le système se multiplie, prend le contrôle, détruit l'humanité, conquiert la galaxie entière, et finalement calcule le nombre PI pendant des milliards d'années, parce que c'est pour cela que le système a été créé, et que c'était le moyen le plus efficace !

Cet exemple montre que des systèmes dotés d'une superintelligence mais dépourvus de conscience pourraient faire des choses totalement imprévisibles. Ce n'est pas une coïncidence si Sophia soulève le problème de l'éthique. Les voitures ou les lave-vaisselle n'ont pas besoin d'éthique. Mais les systèmes qui prennent des décisions par eux-mêmes ont besoin de certains modèles ou algorithmes de base sur lesquels fonder leurs décisions, ce qu'on appelle la "moralité programmée". Par exemple, personne ne sait comment définir les paramètres d'un drone autonome comme le MQ-9 Reaper, censé abattre des "terroristes". Il pourrait décider tout seul de tirer ou non. Comment calcule-t-il les éventuels "dommages collatéraux" et dans quelle mesure ceux-ci sont acceptables ? Lire ici.

Le développement de systèmes d'armes autonomes létaux, judicieusement abrégés en LAWS, progresse rapidement. Qui ou quoi est autorisé à déterminer les bases de la prise de décision des machines ? Est-il nécessaire d'engager une discussion internationale sur les principes éthiques selon lesquels les machines devraient être autorisées à prendre des décisions ? Quels devraient être ces principes ? Lire ici.

L'un des premiers à avoir pensé à l'éthique dans les robots est Isaac Asimov, qui l'a fait dans ses nouvelles "I, Robot. Niveau 5". Si l'on considère qu'il a écrit ces histoires il y a plus de 70 ans, alors que personne n'avait entendu parler de "singularité", c'est tout simplement brillant !

Asimov partait du principe que les robots dépasseraient de loin les humains non seulement en termes de force physique et d'efficacité, mais aussi d'intelligence. Afin d'éviter de nuire aux humains, tous les robots ont reçu de leur fabricant "U.S. Robot and Mechanical Men, Inc." les "trois lois de la robotique" :

La première loi oblige le robot à ne pas nuire à un humain, ne serait-ce que par son inactivité.

La deuxième loi oblige le robot à obéir à l'humain si cela n'enfreint pas la première loi.

La troisième loi oblige le robot à pourvoir à sa propre conservation si cela n'est pas contraire aux deux premières lois.

Asimov montre brillamment comment la deuxième loi devient rapidement sans objet parce que la première loi est prioritaire ! Puisque les machines sont tellement plus intelligentes que les humains, elles classent rapidement les décisions des humains comme non pertinentes : Les humains eux-mêmes ne savent pas ce qui est bon pour eux ! Seules les machines peuvent calculer quelle forme de gouvernement est la meilleure, par exemple, comment l'économie doit fonctionner, quel est le nombre optimal d'habitants sur la planète, etc. L'homme se retrouve inévitablement dans une dictature qu'il a lui-même créée.

Mais pour que la deuxième loi soit toujours suivie pro forma et que l'orgueil de l'homme ne soit pas offensé (ce qui violerait la première loi), les machines agissent de manière très discrète et ne donnent pas de réponses directes aux problèmes du monde pour ne pas rendre l'homme malheureux. Les machines vont vers l'optimum sans expliquer aux humains ce qu'est exactement l'optimum, car les humains dans leur ignorance ne pourraient pas accepter l'optimum. Peut-être est-ce un système de castes, peut-être une éco-dictature, peut-être un matriarcat ?

"Nous ne savons pas. Seules les Machines le savent, et elles y vont et nous emmènent avec elles."

Pourtant, Asimov avait en fait établi le meilleur paramètre possible avec la première loi : Le bien-être de la population est la priorité absolue ! On peut imaginer ce qui se passerait si les paramètres étaient fixés de manière moins favorable, ou s'il n'y en avait pas du tout ! Imaginez, par exemple, des systèmes qui, comme les virus informatiques d'aujourd'hui, sont simplement libérés avec la mission suivante : "Conquérir le monde !

Le monde est divisé en différents systèmes concurrents ! Logiquement, les systèmes d'armes qui sont encore "traditionnellement" contrôlés par l'intelligence humaine seront bientôt inférieurs à ceux contrôlés par l'intelligence artificielle. L'intelligence artificielle peut et va développer des plans et des scénarios qu'aucun humain ne peut percer. Cela ne s'applique pas seulement au secteur militaire, mais aussi aux stratégies de marché, aux transactions financières, tout simplement à presque toute la vie humaine ! Depuis une vingtaine d'années, aucun être humain n'a été capable de battre un ordinateur aux échecs, et même récemment au Go. L'intelligence des machines croît de manière exponentielle, et seuls les États et les entreprises qui utilisent cette intelligence pour se diriger et se gérer l'emporteront sur les autres ! C'est une loi très simple de l'évolution !

Ainsi, le serviteur ne tardera pas à devenir le maître ! On peut se demander quand le contrôle des armes nucléaires sera confié aux machines, qui pourront alors calculer la forte probabilité que "leur pays" sorte victorieux d'une première frappe, et quels dommages collatéraux peuvent être acceptés dans le processus.

"Comme il est si bien dit dans Faust, "Je ne peux me débarrasser des fantômes que j'ai appelés ! La crainte d'une déresponsabilisation et d'un asservissement de l'homme par sa propre création est en effet très profonde, et fait l'objet d'innombrables livres et films. Une telle évolution est non seulement logique, mais on en fait déjà l'expérience dans la vie quotidienne, comme le travail à la chaîne, le suivi de l'automatisation, mais aussi la pression d'être constamment disponible, par exemple via le téléphone portable. Qui peut imaginer aujourd'hui ne pas être connecté, ne pas utiliser l'internet ou une carte bancaire, des choses qui n'existent que depuis quelques années ?

Les signes des temps indiquent une dictature, même si cette dictature est encore saluée comme un "progrès". Et nous verrons combien de temps durera la "bataille contre les machines" prophétisée par Herman Hesse. Albert Einstein a dit un jour qu'il ne savait pas exactement comment se déroulerait la troisième guerre mondiale, mais qu'il savait comment se déroulerait la quatrième guerre mondiale, à nouveau avec l'épée ! Très sage pour le "père de la bombe atomique" !

Les musulmans croient en effet qu'après la dictature de Dajjal, la plus grande tribulation de l'histoire de l'humanité, tous ces "progrès" auront à nouveau disparu ! Le cheval et l'épée deviendront les armes des dernières batailles, et non les machines ! Une discussion sur l'éthique et la moralité des machines, c'est-à-dire des robots "conformes à la charia", est donc inutile pour les musulmans. Ils devraient plutôt réfléchir à la manière de se protéger de cette fitna. Pour cela, il est nécessaire de comprendre la nature de cette fitnah.