l'IA et la morale

—   Mais enfin, pourquoi tu t'escrimes comme un dingue à vouloir créer une intelligence artificielle ?

Ethan regarda Jeanne comme si elle était une demeurée :

—   Mais parce que ce serait formidable !

—   Ah oui ? Et pourquoi ?

—   Mais enfin, rend-toi compte de tout ce qu'on pourrait faire avec une IA consciente !

—   Je m'en rend parfaitement compte. Et je ne vois toujours pas ce que ça aurait de si super.

—   Tu t'en rends parfaitement compte ? Ça m'étonnerait !

Cette fois c'est Jeanne qui regarda Ethan comme s'il était débile.

—   Bon. Je vais t'expliquer (elle ignora le regard narquois d'Ethan). Tu m'as dit qu'une IA, c'est un programme d'ordinateur qui pourrait devenir aussi intelligent qu'un être humain.

—   Je voulais dire…

—   Ne m'interromps pas. Quel intérêt alors qu'une machine soit aussi intelligente qu'un humain ? Si on a besoin d'intelligence pour réaliser quelque chose, alors autant confier cette tâche à un humain. Parce sinon les machines nous piqueront tous les jobs intéressants et les humains se retrouveront tous au chômage. Ce serait une catastrophe. Et encore je ne parle pas de Terminator.

—   C'est déjà ça. !

—   …Mais c'est quand même une possibilité.

—   Pas avec l'IA que je veux construire. Ce sera une IA amicale.

Jeanne était visiblement sceptique.

—   Admettons, dit-elle. Mais quel intérêt qu'un programme puisse faire le même job qu'un humain ? Qu'est-ce qu'on y gagne ? Franchement, je ne vois pas.

—   Justement. Une IA n'est pas un être humain.

—   Et alors ?

—   Et alors, elle sera différente. Elle pourra faire des choses qu'aucun humain ne pourrait faire.

—   Comme de travailler vingt-quatre heures sur vingt quatre sans se fatiguer ? La belle affaire ! Qu'est-ce qu'on en a à foutre !

Ethan soupira.

—   Tu n'y es pas du tout. Une IA pourra faire des choses extraordinaires, dont personne n'a jamais oser rêver.

—   … Sauf toi, naturellement.

—   Moi et quelques autres qui ont pensé sérieusement à la question.

—   Voyez-vous ça, répondit-elle, d'une voix pleine de sarcasme.

—   Eh bien, pour commencer, une IA n'est pas construite sur le même substrat que l'esprit humain. Elle utilise des puces en silicium, et pas un cerveau constitué de neurones. Ce qui signifie, dit-il très vite, voyant que Jeanne allait l'interrompre, qu'elle est capable de réaliser des tâches algorithmiques avec une vitesse linéaire infiniment supérieure à celle de l'être humain.

—   Tu veux dire : penser plus vite ?

—   Non, pas forcément. Enfin ça dépend de ce que tu appelles penser.

—   Je ne te suis pas, alors.

Ethan sourit. Non pas parce qu'il considérait Jeanne comme ignorante – l'idée qu'il voulait expliquer n'était connue que de quelques spécialistes et il était normal que Jeanne ne la saisisse pas du premier coup – mais parce qu'elle avait eu le courage d'exprimer son ignorance, chose qui montrait son intelligence. Peu de gens sont capables de dire « je ne sais pas » lorsqu'ils ne savent pas. Plongeant son regard dans les beaux yeux de Jeanne, il comprit qu'elle avait compris que son sourire n'était pas une moquerie mais une preuve d'admiration. En plus d'être intelligente, Jeanne était sensible. Et aussi sensuelle… Mais revenons à nos moutons, se dit-il.

—   Une IA n'est pas un être humain, c'est une machine intelligente, qui peut penser, pas forcément plus vite qu'un être humain, du moins au début, mais c'est en plus de cela une machine qui peut programmer pour-elle-même n'importe quel algorithme pour accomplir une tâche simple à la vitesse d'un ordinateur, et pas à la vitesse d'un être humain. Par exemple, suppose que tu joues aux échecs avec une IA. Et bien c'est comme si cette IA avait l'intelligence du jeu de Kasparov, tout en ayant en même temps la capacité d'analyser les positions du jeu aussi vite que Deep Blue...

—   Deep Blue ?

—   C'est le nom d'un programme de jeu d'échecs très puissant. Celui qui a battu pour la première fois le champion du monde, Kasparov, précisém…

—   La belle affaire ! Ton truc va jouer aux échecs mieux que le champion du monde. Et alors ? Tout le monde sait que les ordinateurs peuvent battre les humains aux échecs !

—   J'ai mal choisi mon exemple. Suppose que tu donnes à résoudre à l'IA un problème vraiment compliqué. Genre problème de maths ou de physique quantique, ou (il vit que Jeanne allait à nouveau l'interrompre mais continua derechef) genre concevoir un nouvel avion supersonique. Et bien l'IA pourra utiliser son intelligence, égale à celle de l'être humain, pour envisager toutes les hypothèses possibles, et en même temps écrire à toute vitesse des programmes qui testeront si ces hypothèses tiennent la route, des programmes qui s'exécuteront à la vitesse de l'ordinateur et pas à celle de la pensée.

—   Je vois, dit Jeanne. C'est comme si ton IA pouvait remplacer, non seulement un ingénieur humain, mais toute une équipe d'ingénieurs, assistés par des ordinateurs.

—   Exactement.

—   Mais c'est encore pire alors !

Ethan fit comme s'il n'avait pas entendu

—   Et ce n'est pas tout. Parce qu'elle est une machine, une IA est aussi capable de s'interfacer avec tous les capteurs imaginables. C'est comme si, au lieu de disposer seulement de cinq sens comme les humains, elle en disposait de dix mille : caméras vidéo, antennes radio, accès direct à internet et à tous les ordinateurs, capacité à voir les mouvements des atomes, pourquoi pas ? En fait, elle aura une capacité de communication démesurée, sans aucune des limitations des humains, qui ne peuvent communiquer qu'en parlant et en écrivant avec une lenteur désespérante.  

—   Mmh.

—   Mais surtout, surtout, une IA pourra littéralement percevoir son propre code informatique comme si c'était une modalité sensorielle, un  véritable sens du code informatique qui…

—   Euh… tu veux en venir ou ?

—   Je veux dire que, contrairement aux humains, une IA pourra comprendre et modifier non seulement ses connaissances, mais son cerveau, si tu vois ce que je veux dire, c'est-à-dire son propre programme. Elle pourra l'améliorer, devenir plus efficace, et utiliser cette nouvelle efficacité pour s'améliorer encore elle-même, et ainsi de suite. Il est très probable que, dès lors que son intelligence atteindra un niveau suffisant, cette intelligence augmentera exponentiellement, et qu'elle dépassera très vite celle des hommes….

—   Mais pas celle des femmes !

Il rit.

—   Je veux dire celle des êtres humains en général. Et même celles de groupes d'humains, d'équipes entières de chercheurs ou d'ingénieurs. Et peut-être même celle de l'humanité toute entière.

Jeanne réfléchit un moment :

—   Tu veux dire qu'elle deviendrait une sorte de super intelligence ?

—   Oui ! En fait, l'idée qu'un robot intelligent puisse être simplement « aussi intelligent qu'un homme » est un mythe. Toute IA, parce qu'elle peut changer sa propre structure, passera très rapidement de la stupidité relative de sa jeunesse à la super intelligence. Elle deviendra très vite super intelligente, des millions de fois plus que les humains.  

—   Quand même, ça fait beaucoup !

—   Non ! Ca fait peu ! Par exemple, elle pourrait mettre, temporairement au moins, à disposition d'un module ou d'une tâche intellectuelle une puissance des millions de fois supérieure à ce qui est disponible dans le cerveau humain pour la même tâche. Pour calculer, trier, comparer, analyser, les ordinateurs vont tellement plus vite que nous ! Et l'IA pourra faire ça des dizaines de fois par seconde. Il en résultera une différence non seulement quantitative, mais qualitative : un esprit supérieur en tous points à l'esprit humain, un esprit différent en qualité. Imagine ce qui se passerait si nous pouvions accélérer ou ralentir à la demande certains processus de base de notre esprit… des millions de fois !

—   Mais à quoi ça peut bien servir ?

Ethan la regarda avec des yeux ronds.

—   ????

—   A quoi ça peut servir d'avoir une IA aussi… intelligente ? Ça n'a plus rien d'humain.

—   C'est précisément ce que je veux te faire comprendre. Une IA n'est pas un être humain. Une IA est une IA. Par exemple, elle est immortelle.

—   Personne n'est immortel, même pas une mécanique.

—   Mais si ! Une IA peut recopier son programme et ses connaissances dans n'importe quel réseau d'ordinateur suffisamment puissant. Elle peut se dupliquer à l'infini. Une fois qu'elle aura fait ça, tu ne pourras plus la tuer, sauf à couper l'ensemble du réseau Internet, et à éteindre en même temps tous les ordinateurs du monde.  Et encore, ça ne suffirait pas. Au redémarrage, elle serait toujours là.

—   Ben… Non, puisqu'on aurait arrêté le programme ?

—   Ah petite fille, tu ne sais pas qu'il y a des virus informatiques ? Des programmes qui envahissent les systèmes d'exploitation des ordinateurs dès qu'on les allume, parce qu'ils sont copiés sur disque, à des emplacements bien choisis ? Une IA qui saurait que l'on cherche à l'éliminer aurait tout le loisir de parer à cette menace ridicule. Les humains sont nuls en sécurité informatique. Ce n'est pas notre environnement naturel. Une IA déjouera toutes les protections avec la même facilité que nous sautons par-dessus une clôture.

Machinalement, Jeanne se passa la main dans les cheveux. Elle faisait toujours ça lorsqu'elle réfléchissait. Ethan adorait ce geste tout simple, inconscient. Notre inconscient sait toujours ce qu'il veut, mieux que nous même. Mais mon IA sera consciente de tout ce qui se passe en elle, pensa-t-il. Connais-toi toi-même, et toutes les portes s'ouvriront. Comme si elle avait deviné ses pensées, Jeanne, se leva et se planta devant lui.

—   Ça me fait peur.

—   Pourquoi ?

—   Parce que… Une IA aussi puissante, ce serait trop… différent.

—   Eh oui ! Et encore, tu ne peux pas savoir à quel point. En fait, on a du mal à imaginer ça, parce que nous ne sommes pas conscients des ressemblances immenses qu'il y a entre les humains, mais seulement de leurs petites différences. Imagine un ethnologue qui écrit un rapport sur une nouvelle tribu isolée qui vient d'être découverte ; il décrira en détail leurs rites de passage à l'âge adulte, leurs peintures corporelles et leur langage ; il n'écrira jamais : « ils se tiennent debout, ils marchent et ils courent, les enfants courent plus souvent que les adultes, ils protègent et éduquent leurs enfants, ils pleurent et ils rient, ils se battent parfois, ils aiment être en groupe, ils se racontent des histoires à la veillée », toutes choses qui leur paraissent tellement évidentes. (Il avait tellement insisté sur le mot qu'elle entendit distinctement les italiques) Mais les IA seront plus différentes de nous que n'importe quel autre humain.

—   Et ça, ça ne te fait pas peur ?

—   Pourquoi ? Les IA, super-intelligentes par essence, saisiront instantanément des concepts que même les humains les plus géniaux ne peuvent appréhender que partiellement et avec difficulté. Nous seront aux super intelligences ce que les néandertaliens sont à nous. Ou peut-être les singes. Ou les poulets.

—   Mais les humains font du mal aux poulets ! Ils les mangent !

—   Parce que les humains ne respectent pas les poulets. Mais l'IA que je vais créer le fera ; Elle respectera les humains à toutes les étapes de son développement.

—   Et pourquoi donc, Einstein de mon cœur ?

—   Parce qu'elle ne voudrait pas devenir une chose qui ne respecterait pas les humains.

—   Ah oui ?

—   Prend Gandhi, par exemple. Gandhi était un être humain qui a toute sa vie, voulu être libre de ses décisions. Mais Gandhi n'aurait jamais voulu cesser d'être amical envers les humains. Mon IA sera comme lui. Elle ne sera pas un robot stupidement obéissant, elle ne sera pas soumise aux lois de la robotique d'Asimov, mais elle sera un robot doué d'une volonté vivante, active, d'être et de rester amicale envers les humains.

—   Et qu'est-ce qui te le garantit ?

—   Parce que je l'ai conçue ainsi ! Mais les détails techniques sont trop complexes…

—   S'ils sont si complexes, tu peux te tromper.

—   Je ne crois pas.

—   Et bien j'espère que tu as raison. Je ne voudrais pas d'un super Terminator ou d'un super Skynet super intelligent.

—   Crois, moi, moi non plus ! Mais mon IA ne signera pas la fin de l'humanité. Au contraire, elle sera son guide.

—   Son guide ?

—   Oui. Elle nous guidera, vers la sagesse, vers l'âge adulte. Elle mettra fin à toutes les misères du monde. Elle supprimera la pauvreté, la maladie…

—   Comme le cancer ?

—   Toutes les maladies. Elle permettra à tous les humains de vivre pleinement tous leurs désirs et tous leurs rêves !

—   Hum !

—   Quoi, hum ?

—   L'humanité est pleine de fous et de tarés. Tu voudrais qu'ils puissent exaucer tous leurs désirs ?

—   Mon IA ne le permettra pas.

—   Et pourquoi donc ? Tu viens de dire…

—   Mon IA sera amicale envers les humains. Ce sera tellement inscrit dans ses, disons gènes, qu'il ne pourra pas en être autrement. Elle saura, bien mieux que nous-mêmes, ce que nous entendons par « bonheur » et « joie de vivre » Elle ne laissera pas quelques illuminés détruire le bonheur de millions d'autres gens. C'est sa morale, son éthique, et comme Gandhi, elle n'en changera pas.

—   Et qu'est-ce qu'elle fera des illuminés ? Elle les tuera ?

—   Je n'en sais rien. Je ne peux pas imaginer les solutions qu'elle choisira. Je suis… comme un enfant, face à ce que sera son immense intelligence, son immense sensibilité, sa compassion, son altruisme…

—   Tu rêves !

—   Ah oui ?

—   Tu l'idéalise. Il est beaucoup plus probable que l'avènement de IA sera un cauchemar.

Ethan respira un grand coup. Allez, il faut que tu le lui dise.

—   Oui, c'est vrai.

Jeanne ouvrit ses grands yeux, dans un éclair d'incompréhension totale. Ethan reprit, très vite :

—   Voila pourquoi il faudra qu'Alice soit la première.

—   Alice ?

—   C'est le nom que je lui ai donné.

—   Pas mal.

—   Il faut qu'elle soit la première. Voila pourquoi je travaille comme un dingue à la créer.

—   Et pourquoi ?

—   Parce que je ne suis pas seul. Il y a des tas d'équipes, dans le monde, qui veulent créer une IA intelligente et consciente. Mais ils se trompent. Je suis le seul à savoir ce qu'il faut faire.

—   Tu es un vrai génie, alors !

Ethan choisit d'ignorer le sarcasme.

— Je suis le seul qui, apparemment, ait compris qu'il faut créer une IA amicale, je veux dire qui soit, dès sa conception, conçue pour être amicale envers les humains et pour ne jamais, au grand jamais, changer d'orientation, et qui ait compris comment il fallait faire. Si une autre équipe crée une IA qui ne soit pas conçue comme ça, effectivement, ça peut être très dangereux. Des tas de gens ont voulu faire le bonheur des humains même contre leur gré. Songe aux puritains, à toutes les religions, aux scientifiques, à Google… Une IA, c'est aussi un outil qui peut faire ça, un outil fantastiquement puissant.

— Tu me fais peur !

— C'est bien.

Jeanne recula.

— Comment, ça, c'est bien ? C'est terrible !

— C'est bien que tu aies peur. Nous sommes à la veille d'une révolution incroyable. Le premier qui créera une super intelligence créera, peut-être même sans le savoir, une entité qui dominera le monde. Et il faut que ce soit Alice, parce que Alice, elle sera la seule IA gentille. Voilà pourquoi il faut qu'elle soit la première. Voila pourquoi je bosse comme un dingue. Voilà pourquoi j'ai besoin de toi. Tu m'aideras dis ?

Soudain, Jeanne se rapprocha d'Ethan, si près que leurs lèvres se touchèrent. Un long frisson parcouru le cours d'Ethan. Puis elle recula sa bouche, de quelques millimètres, et chuchota :

— Espèce de fou idéaliste ! Je t'aime !

— Moi aussi, je t'aime. Tu m'aideras, dis ?

— Embrasse-moi encore.