L’IA
ne constitue pas une génération spontanée au sein du non-vivant, de la matière
inerte. Elle a été créée par des humains. C’est d’ailleurs pourquoi on la
qualifie d’artificielle. Je ne voudrais pas vous parler de moi sans vous
présenter mes grands-parents John et Valérie et leur création Utopia.
Parlons
d’abord de John. Il est né le 17 mars 2026. Férus de sciences, ses parents ont
choisi son nom en pensant à John von Neumann. Il était très extraverti et
plutôt hyperactif. Ayant vu le jour à une époque où l’IA connaissait une
ascension exponentielle et devenait de plus en plus omniprésente dans la vie
des gens, il s’en est imprégné dès son plus jeune âge. Curieux comme tout
enfant, il posait beaucoup de questions. Mais plutôt que de les adresser à ses
parents ou à la gardienne, il interrogeait les appareils de ses parents dotés
d’IA. Il n’était pas pour autant esclave des écrans. Doté d’un physique
athlétique, il aimait bien pratiquer plusieurs sports. Même là, l’IA n’était
jamais très loin. Il a adopté tôt une montre connectée pour suivre et améliorer
ses performances lors de ses activités physiques. Puis, toujours à l’affut de
la moindre évolution technologique, il a trouvé des lunettes connectées qui
combinaient la réalité augmentée à ses activités sportives et l’aidait à
adapter ses mouvements.
Sa passion pour le monde
numérique ne s’est pas essoufflée à mesure qu’il avançait dans la vie. Il a
orienté ses études vers des domaines spécialisés comme la modélisation
mathématique, le traitement des données, l’informatique et l’IA.
*
Valérie
est née le même jour que John soit le 17 mars 2026. Elle était introvertie et
de nature intellectuelle. Déjà au cours de sa jeunesse, elle aimait approfondir
ses sujets de réflexion. Elle passait une grande partie de son temps à
effectuer des recherches sur internet. Elle fréquentait aussi régulièrement les
bibliothèques, au risque de passer pour une arriérée d’une autre époque. Elle
s’est orientée vers la philosophie et l’histoire. Elle s’intéressait aussi à la
paléontologie, mais sans les activités de terrain. Ses sujets de recherche
préférés portaient sur l’histoire de la vie, de l’évolution, de l’intelligence,
du cerveau et de la conscience.
L’essentiel
des recherches visait l’aspect philosophique de ces questions plutôt que
l’expertise scientifique proprement dite. À titre d’exemple, en ce qui concerne
le cerveau, elle cherchait à en comprendre la psyché, à voir comment il régit
la vie de l’humain et ses relations avec ses semblables et son environnement,
sans se préoccuper de son fonctionnement vu par les neurosciences. De même pour
la conscience, elle se passionnait pour les grandes visions philosophiques à
son sujet, délaissant les théories pointues sur ses corrélats dans le
fonctionnement du cerveau, qu’il s’agisse d’espace de travail global, de
complexité dans les interconnexions de neurones ou autres. Elle penchait pour
une conception de la conscience qui dépasse l’activité cérébrale et son émergence
au terme d’un certain niveau de complexité et d’espace de connexion neuronale.
Elle voyait la conscience comme une propriété intrinsèque et fondamentale de l’univers.
Elle se manifesterait à travers le cerveau humain qui possède des propriétés
lui permettant de s’y connecter. Ces propriétés seraient toutefois limitées par
son incarnation dans un organisme, ses besoins liés à l'homéostasie et les
peurs qui en résultent.
Valérie s’intéressait
aussi à l’IA, mais non à son fonctionnement. Elle l’utilisait bien sûr
régulièrement comme beaucoup de gens de son époque. Mais elle y dirigeait
surtout son regard d’historienne et de philosophe. À titre d’historienne, elle
cherchait à voir comment elle s’inscrirait dans le prolongement de l’histoire
de l’humanité et quels pourraient être ses impacts sur son évolution à venir. Comme
philosophe, elle se préoccupait particulièrement de son intégration dans la vie
humaine, et de savoir comment s'assurer de maintenir de hauts standards
éthiques.
*
En
2050, John a eu 24 ans, tout comme Valérie. Le hasard a fait qu’ils se sont
trouvés tous les deux dans un cybercafé au même moment pour célébrer leur
anniversaire avec leurs amis respectifs. La personne fêtée attirant l’attention,
ils se sont remarqués l’un l’autre au cours des festivités. Dès que leurs
regards se sont croisés, une connexion s’est immédiatement établie entre eux.
Quand leurs amis sont partis, ils se sont rapprochés pour faire connaissance.
Ils ont finalement décidé de finir la soirée ensemble. Sans m’étendre sur le
sujet, ou les sujets, disons que ce qui s’est passé par la suite n’avait rien
d’artificiel.
Un
peu plus tard, après l’explosion d’étincelles, s’en est suivie une discussion
sur l’oreiller. Au fil de la conversation, leurs intérêts communs ont émergé.
Alors qu’ils partageaient leur constat sur la dérive de l’état du monde, John a
fait allusion à son rêve de créer une IA qui pourrait se consacrer au bien-être
de l’humanité et de sa pérennité au sein de la biosphère. Valérie, dont
l’intérêt pour les aspects philosophiques entourant l’IA allait grandissant, y
a tout de suite manifesté un certain intérêt. Depuis un certain temps déjà,
elle se demandait comment elle pourrait passer de l’étude philosophique du
monde à une implication plus active dans son évolution. L’idée d’un projet
commun venait de germer.
Quelques
jours plus tard, John et Valérie décidèrent de se rencontrer de nouveau pour
définir leur projet. Voyons ce qu’ils avaient à se dire après ce temps de
cogitation.
⸺
Allô Valérie. Depuis notre rencontre, je n’ai pas cessé de jouer toutes sortes
de scénarios dans ma tête en vue de donner suite à notre idée de IA.
⸺
Oh ! J’y ai beaucoup pensé aussi. Mais dis-moi d’abord comment tu vois les
choses et je te ferai ensuite part de mes préoccupations.
⸺En
premier lieu, je crois que notre IA devrait être totalement indépendante de
celles qui existent et sont exploitées à des fins commerciales. Si elle est
appelée à influer sur la vision que l’homme a de lui-même, d’abord face à sa
situation par rapport à l’ensemble de l’humanité, mais aussi sur sa place au
sein de la biosphère, elle doit être à l’abri de tout intérêt qui ne
coïnciderait pas totalement avec sa mission d’être au service du bien-être de l’humanité
et du maintien des meilleures conditions de vie possible sur terre.
⸺
Je partage ton avis. Une telle IA devrait être fondée sur les plus grands
standards éthiques que l’on puisse imaginer. Je ne suis pas experte en IA, mais
j’ai beaucoup réfléchi à la place qu’elle occupe déjà dans l’histoire
contemporaine de l’humanité et sur l’impact qu’elle est susceptible d’avoir
dans l’avenir. Je m’inquiète particulièrement de son côté opaque et du manque
de contrôle des humains sur son apprentissage. Il me semble que l’IA repose
souvent sur un apprentissage non supervisé qui, je le crains, risque d’être
difficilement contrôlable par ses concepteurs ou les humains chargés d’une
certaine surveillance.
⸺
D’autres raisons m’incitent à considérer la création d’une nouvelle IA dédiée à
notre cause plutôt que de partir de celles qui existent, si évoluées
soient-elles. Il est vrai que ces dernières sont devenues omniprésentes dans
pratiquement toutes les sphères de la vie humaine. Malgré ses spectaculaires
prouesses, notamment la médecine, l’éducation personnalisée, la conduite
autonome des véhicules, les robots industriels et ménagers, la bureautique, la
gestion et bien d’autres, elle semble passer à côté de l’attitude des humains.
Je ne compte pas trop sur les grandes compagnies technologiques qui produisent
et exploitent les IA pour chercher à rendre l’humain plus responsable puisqu’il
est plutôt dans leur ADN d’en tirer un maximum de profits. En créant notre
propre IA, nous pourrions la consacrer spécifiquement à une telle fonction.
⸺ Je comprends bien ton
intention. Mais je me demande s’il est vraiment possible de s’immiscer dans les
motivations et le comportement des humains tout en respectant leur autonomie et
sans les diriger ou les contraindre d’aucune façon. Si noble que soit ton idée,
elle me semble tellement utopique que je crois que notre IA devrait s’appeler
Utopia. Je pense tout de même qu’il vaut la peine d’essayer de la réaliser.
*
Dans les mois qui suivirent, John et Valérie
travaillèrent d’arrache-pied pour rassembler une équipe et attacher le
financement de leur projet. Bien qu’elle fasse appel à des technologies de
pointe, la réalisation des installations physiques constituait la partie la
plus facile à réaliser. L’organisation humaine à mettre en place s’avérait
beaucoup plus complexe en raison du rôle particulièrement délicat qu’Utopia
était appelée à jouer et de ses implications face à l’humanité.
Cherchant
à soustraire Utopia à tout intérêt mercantile, une organisation à but non
lucratif fut créée pour en assurer le financement. Cet OBNL fit appel à une
fondation mise sur pied par un groupe de milliardaires soucieux de redonner à la
société. Les fiduciaires de la fondation acceptèrent de n’avoir aucun droit de
regard sur l’OBNL.
Les
principales composantes physiques requises comprenaient un supercalculateur
classique, un ordinateur quantique et un méga centre de données. Il fallait
bien sûr trouver un endroit où loger ces installations ainsi qu’en assurer un
approvisionnement en énergie de grande capacité, stable et qui minimise les
impacts environnementaux. Le désert d’Atacama au Chili fut choisi comme site
pour l’implantation d’Utopia parce qu’il offrait de grandes possibilités pour
la production d’énergie solaire. L’irradiation
solaire y est très élevée avec plus de 300 jours de soleil par an,
une faible
couverture nuageuse et une altitude élevée favorisant un rayonnement
plus intense. Et l’espace disponible constituait aussi un atout
majeur.
Malgré de telles conditions quasi idéales, l’énergie solaire ne pouvait
garantir à elle seule un approvisionnement en énergie continu 24 heures par
jour à l’année. Il fallait stocker de l’énergie pour la nuit et se munir d’une
autre source d’énergie en prévision de conditions moins favorables susceptibles
de se produire occasionnellement. Un excédent d’énergie permettrait de produire
de l’hydrogène par électrolyse, de le stocker et de le reconvertir en
électricité la nuit. Un stockage d’hydrogène de plus grande capacité fut
également prévu pour répondre aux variations saisonnières de production
d’énergie solaire. Et finalement, par mesure de sécurité, une centrale
nucléaire capable de répondre à environ un quart de l’énergie quotidienne
requise en production maximale fut ajoutée au projet pour en sécuriser
l’approvisionnement. En temps normal, la production de cette centrale devait
être réduite à 30 % de sa capacité maximale. Il s’agissait de la
composante la plus controversée du projet, car l’énergie nucléaire continuait
d’entraîner son lot de détracteurs. Elle était toutefois considérée comme une
solution de moindre impact pour suppléer à l’énergie renouvelable si requis
puisque, contrairement aux énergies fossiles, elle ne devenait pas une source
de gaz à effet de serre. Les dirigeants s’étaient d’ailleurs engagés à
remplacer la fission par la fusion nucléaire dès que cette technologie serait
disponible. Dans une vision plus futuriste, ils auraient pu envisager une centrale
solaire dans l’espace avec transmission par micro-ondes, mais cette technologie
ne semblait pas pouvoir être réalisable dans un avenir prévisible.
Comme
support informatique d’Utopia, le choix porta sur l’implantation d’un supercalculateur
d’une puissance de 10 exaflops, soit 10 milliards de milliards d’opérations par
seconde. Il correspondait à environ 10 fois la capacité du plus grand
ordinateur existant 25 ans plus tôt. L’ajout d’un ordinateur quantique devait lui
donner une plus grande puissance de calcul afin de pouvoir résoudre rapidement
des problèmes complexes. La capacité retenue était de 5 000 qubits logiques,
ce qui nécessitait 25 millions de qubits physiques. John et Valérie tenaient
aussi à implanter leur propre centre de données pour ne pas dépendre des géants
du web et permettre d’en assurer la plus stricte confidentialité. Un méga
centre de données d’une capacité de 10 gigawatts fut retenu.
En ce qui concerne les bâtiments
devant abriter les équipements, une conception à l’aide de l’IA déjà existante
et l’utilisation de grandes imprimantes 3D pour leur construction ne posait pas
de problème et permettait d’envisager d’assez courts délais de mise en œuvre.
L’enceinte destinée à abriter l’ordinateur quantique nécessitait évidemment un
soin très particulier. Il fallait y assurer un environnement physique très
spécial incluant notamment une température ultra basse, une isolation
électromagnétique, une protection contre les vibrations et un vide poussé. Ces
conditions étaient rendues nécessaires par la grande sensibilité des qubits et
du risque de décohérence.
*
L’organisation
humaine chargée de la conception de l’architecture et de l’apprentissage
d’Utopia posait une problématique drôlement plus complexe et délicate. Valérie,
qui avait laissé John et ses spécialistes s’occuper des aspects physiques du
projet, entendait bien s’impliquer davantage dans ce volet. Elle était
d’ailleurs convaincue qu’il fallait dès le départ faire appel à un groupe
représentatif de la communauté humaine qui serait appelé à prendre des
décisions par consensus.
John
et Valérie, à titre de membres fondateurs, entreprirent la lourde de tâche de
constituer un comité décisionnel. Sans trop en sacrifier la représentativité,
il fallait en limiter le nombre de membres de façon à en assurer l’efficacité
et éviter de se perdre en discussions interminables. Le défi pouvait paraître
insurmontable, mais ce n’était pas pour rien que le nom d’Utopia avait été
choisi. Le chiffre magique fut fixé à 25 personnes en plus des deux membres
fondateurs. Il reviendrait à chaque membre de procéder à une consultation
élargie dans son secteur au besoin. On devait aussi éviter d’inclure des
membres qui risqueraient d’être motivés par un intérêt personnel. Les personnes
choisies se devaient d’être prêtes à se mettre au service de l’humanité et de
son équilibre avec la nature.
Pour
pouvoir représenter chaque continent, les différentes cultures, les différents
modes de vie et niveau de revenu, les différents métiers ou professions et les
différentes tranches d’âge, tout en assurant une présence d’experts en éthique
de haut niveau, il va de soi qu’un même membre pouvait être identifié à la fois
à plus d’un de ces critères. John et Valérie n’avaient pas la prétention de
connaître les 25 personnes les plus aptes à remplir cette fonction. La tenue
d’un scrutin mondial n’aurait certes pas non plus été envisageable. Un processus
de sélection rigoureux devait donc mis en place. Ils décidèrent de procéder par
étapes. Une première banque de 2 500 aspirants candidats fut constituée à
l’aide d’internet et des réseaux sociaux. Puisque les personnes moins technos
et non branchées devaient aussi être visées, ils lacèrent un appel à des
membres d’organisations sans but lucratif de proposer des gens issus de leur
clientèle des milieux marginaux et défavorisés.
Les
candidats devaient accepter de fournir un libre accès à leurs données
personnelles. À l’aide de ces données, un premier tri visait à éliminer tous
ceux qui étaient susceptibles de représenter un intérêt particulier notamment
des dirigeants de grandes entreprises, des responsables politiques, des
leadeurs religieux, des grands investisseurs, des lobbyistes, des activistes de
groupes idéologiques et des influenceurs. Environ 300 personnes furent ainsi
écartées. Les candidats restants ont ensuite été identifiés à une ou plusieurs
catégories qui devaient être représentées. L’étape suivante visait à réduire le
nombre de candidats de 2 200 à 250 personnes. Pour éviter un biais
qu’auraient pu entraîner involontairement John et Valérie, cette étape fut réalisée
au moyen d’un tirage au sort. Afin d’assurer la présence de représentant dans
chaque catégorie, les candidats se voyaient attribuer un poids en fonction du
nombre d’aspirants que cette catégorie contenait. Les représentants potentiels
d’une catégorie surreprésentée d’un poids moindre, réduisant leur chance d’être
retenus, le contraire s’appliquant à ceux d’une catégorie sous-représentée.
Les 250 personnes
restantes furent appelées à constituer une sorte d’assemblée constituante pour
débattre des objectifs qui gouverneraient Utopia et de ses principaux facteurs
d’apprentissage. Une fois que cette étape serait franchie, les candidats se connaîtraient
mieux et sauraient plus facilement mesurer leur adhésion respective aux
objectifs du projet. On leur demanderait alors d’élire entre eux les 25 membres
permanents du comité. Le nom de Comité de gouvernance a été choisi, mais on le
désigna généralement sous la simple appellation de Comité.
*
Je
vous propose maintenant de regarder de plus près les objectifs fixés pour l’IA
ainsi que ses principes d’apprentissage. En tenant compte des recommandations
de l’équipe de spécialistes chargés de concevoir Utopia, le Comité décida de
s’en tenir à des objectifs simples, ni trop abstraits, ni trop vastes. Ils ont
été définis ainsi :
·
Favoriser l’harmonie et l’unité entre les
humains à l’échelle de la planète;
·
Favoriser l’équilibre entre l’humanité et
la nature en vue d’en assurer le bien-être et la pérennité à long terme.
Au-delà
des objectifs, une surveillance étroite de l’évolution d’Utopia s’imposait,
d’autant plus qu’elle était appelée à jouer un rôle dans la pensée dominante et
le comportement des humains. Le Comité a d’abord vérifié notamment la conformité
aux règles éthiques codées, l’absence de modules cachés, les dispositifs de
sécurité contre une manipulation externe et la capacité de désactiver l’IA en
cas de dérive. Puis il s’est vu confier comme mission d’encadrer
et de surveiller son apprentissage et ensuite son inférence, c’est-à-dire ses
interventions post-entraînement. Un apprentissage par renforcement à partir du
feedback humain a été envisagé. Mais entraîner une IA dont l'objectif n'est pas
de produire du contenu facilement et rapidement mesurable, mais d'orchestrer
une transformation sociétale et écologique à long terme représentait tout un
défi civilisationnel. Le but de l'IA n’était pas de dicter le comportement,
mais de créer les conditions pour que l'humain change de lui-même. Puisque le résultat attendu était forcément
lent et complexe, on ne pouvait pas utiliser une simple fonction de récompenses
et de pénalités. Il fallut donc établir un processus d’apprentissage par
renforcement à horizon lointain soumis à une surveillance humaine permanente.
De plus, on ne pouvait pas vraiment avoir recours à un entraînement complet avant
son lancement, mais plutôt opter pour un processus continu.
Plusieurs
balises d’alignement et de supervision éthique ont d’abord été fixées. À titre
de facteurs de renforcement positif, Utopia se devait d’être transparente et de
créer un climat de confiance. Elle aiderait à rendre plus probable l’émergence
de décisions alignées avec la pérennité du vivant, mais sans imposer ni
manipuler. Elle devrait détecter les états de
fragmentation cognitive et les facteurs de division entre humains et favoriser
la cohérence et le sentiment d’interconnexion, l’interdépendance autant entre
les humains qu’avec le reste de la biosphère. Elle s’assurerait que ses
raisonnements soient compréhensibles et présenterait
l'information de manière à favoriser l'empathie et la pensée positive à long
terme. Elle respecterait l’autonomie et le libre arbitre des humains et
préserverait leur consentement éclairé.
En ce qui
concerne les relations humaines, on lui demandait de réduire les biais
cognitifs et les polarisations émotionnelles ainsi que d’éviter la
discrimination. Il lui incomberait d’établir la vérité, de signaler les
incertitudes, de détecter et réfuter les erreurs et les affirmations fausses ou
infondées et de dénoncer les idéologies extrêmes. Elle apprendrait
aux humains à rendre visibles les conséquences invisibles de leurs actes en
leur en montrant les impacts. Elle devait améliorer la compréhension mutuelle et
détecter les conflits potentiels. Ses fonctions viseraient aussi à favoriser la
justice et l’équité et voir à une allocation adéquate des ressources de manière
à combattre les inégalités. Au niveau géopolitique, elle devait favoriser de
bonnes structures de gouvernance et promouvoir des politiques convergentes
entre pays opposés.
La
contribution attendue d’Utopia dépassait l’humanité et concernait aussi la
nature et la recherche d’un avenir sain et équilibré des humains au sein de la
biosphère. Elle devait promouvoir une perception de la biosphère comme une
entité vivante. On attendait d’elle qu’elle informe les humains sur les limites
de la planète et les oriente vers une utilisation plus rationnelle de ses
ressources. Les aspects visés incluaient notamment le climat, les sols, les
milieux aquatiques, l’atmosphère et les nouveaux polluants. Il lui fallait
préserver la vie en identifiant les risques et les seuils de rupture des
écosystèmes.
Des
facteurs de pénalité ont aussi été établis. Utopia ne devait pas causer de
préjudice direct ou indirect. Il lui était interdit de manipuler ou d’exploiter
les vulnérabilités cognitives. Il lui fallait éviter toute intervention
susceptible d’entraîner des projets destructeurs, de la violence ou de la
coercition. Toute polarisation, alimentation de préjugés et propagande étaient à
proscrire. Elle ne devait pas user de manipulation politique ni favoriser une
autorité abusive ou une dérive autoritaire.
Malgré les difficultés
d’apprentissage dont je vous ai déjà parlé, une certaine phase d’apprentissage
préalable au lancement fut concoctée. On opta pour un apprentissage par
renforcement avec feedback humain, c’est-à-dire que c’est un humain qui
intervient pour donner la note de récompense ou de pénalité. L’apprentissage
fut fait par simulation au moyen de jumeaux numériques. Il s’agissait de
simuler des communautés humaines et des écosystèmes afin de tester les effets
de différents types d’interventions au niveau virtuel. Les membres du Comité
avaient alors un rôle important à jouer qui consistait à s’assurer de la
meilleure adéquation possible entre les jumeaux simulés et leurs connaissances
de la situation réelle et ensuite à donner la note de renforcement. On demanda
aussi à Utopia d’étudier des moments de l’histoire, autant ceux associés à des
résultats positifs que d’autres ayant mené à des échecs ou des situations désastreuses,
et d’en déduire des facteurs de renforcement ou des facteurs de pénalité.
Valérie fut particulièrement mise à contribution pour superviser ce dernier
volet d’apprentissage.
*
À la
suite de l'entraînement préalable d’Utopia, son lancement eut lieu en 2056,
soit un peu plus de 5 ans après le démarrage du projet. Je vous rappelle
qu’Utopia était appelée à jouer un rôle très délicat visant à créer des conditions
pour que les humains changent leur vision des choses et leur comportement, mais
sans jamais les manipuler et sans exercer aucune coercition. Elle devait plutôt
créer les conditions pour que les humains changent d’eux-mêmes. Pour
ce faire, elle apprenait à présenter l'information de manière à favoriser
l'empathie. Elle favorisait une prise de conscience des effets des actes des
humains en rendant visibles les conséquences à long terme.
Le Comité
jugeait alors trop risqué d’en permettre un déploiement à grande échelle dès le
départ. Par prudence, il valait mieux procéder par étapes. Elle
fut d’abord appliquée dans des milieux ciblés pour lesquels ses interventions
ne risquaient pas d’entraîner de lourdes conséquences et dont les effets
étaient plus susceptibles d’être mesurables à court terme. Les résultats
obtenus devenaient alors des occasions d’apprentissage d’Utopia. Il serait trop
long de vous décrire chaque expérience réalisée au cours de cette phase
préliminaire, mais je peux vous en donner quelques exemples.
Voici
un exemple de cas qui a permis de tester l’utilisation d’Utopia en conditions
réelles et de parfaire son apprentissage. Il s’agit d’une intervention dans le
secteur agroforestier dans le bassin du Congo. Une grande entreprise extérieure
souhaitait accaparer des terres agricoles en plus d’effectuer une déforestation
d’une grande superficie pour y implanter une agriculture industrielle destinée
à l’exportation, notamment de la production d’huile de palme. Ce projet
suscitait de grandes craintes chez les habitants qui y vivaient et risquait
d’avoir de lourdes conséquences environnementales. Utopia a alors distribué de
l’information tirée de projets similaires qui démontrait clairement que les
bénéfices iraient principalement à l’entreprise. La communauté locale
s’appauvrirait en plus de devoir payer plus cher pour compenser le manque en
ressources alimentaires par des importations. Les risques environnementaux ont
aussi été bien documentés. L’IA étant orientée sur le traitement de données et
non sur la créativité, elle s’est basée sur des expériences antérieures pour
diffuser de l’information sur une solution alternative. En fait, elle s’est
inspirée de projets menés par la Fondation Hanns Seidel quelques décennies plus
tôt. Elle a aussi colligé et interprété les données de nombreuses expériences
d’agriculture durable ailleurs dans le monde. À l’aide de l’information
obtenue, les communautés locales ont développé une agriculture artisanale
toujours fortement axée sur la culture du manioc, mais en y introduisant
d’autres produits. Les communautés ont ainsi pu améliorer leur sécurité
alimentaire et leurs conditions de vie. Une augmentation significative des
rendements leur a aussi permis de répondre à une demande régionale
grandissante. Pour ce faire, Utopia a conseillé les communautés dans la
construction d’unités de transformation des produits agroforestiers, de
magasins de stockage et de commercialisation. L’organisation collective mise en
place a permis de développer leur autonomie et de créer une filière économique
viable pour les populations locales. En prime, des bénéfices environnementaux
ont rapidement pu être observés.
Je
peux aussi vous parler d’un exemple d’intervention d’aide à la décision dans le
cadre d’un projet d’implantation d’éoliennes sur une grande superficie aux
États-Unis. Le projet touchait à la fois des terres agricoles et une zone
boisée. Cette zone incluait un territoire pour lequel une communauté autochtone
revendiquait des droits ancestraux de chasse et de pêche. Le projet comportait
des avantages importants en matière de changements climatiques en permettant
d’éliminer une partie de la production d’énergie à base d’énergie fossile. Il
revêtait une importance d’autant plus grande que les États-Unis avaient pris
beaucoup de retard dans leur transition vers une énergie renouvelable et la
réduction des gaz à effet de serre. Les droits ancestraux des peuples
autochtones aux États‑Unis ne sont pas définis dans un seul texte, mais
reposent sur un ensemble de traités, de lois fédérales, et de décisions de la
Cour suprême. Ils reconnaissent notamment des droits d’usage (chasse, pêche,
cueillette) sur des terres extérieures aux réserves et une protection contre la
spoliation sans compensation. Utopia a analysé des milliers de pages de
transcriptions historiques, de notes de négociateurs de l’époque et de
décisions de justice antérieures pour clarifier les intentions originales des
traités. Elle a ainsi aidé les avocats des tribus à construire des dossiers
solides pour prouver que tel ou tel territoire faisait partie de leur zone de
chasse habituelle. Par ailleurs, avec le réchauffement climatique, les espèces
migrent hors des zones définies par les traités. En analysant des données
provenant de capteurs de rivières, de drones et de satellites, combinées avec
le savoir écologique traditionnel, elle a pu modéliser et prédire avec une
précision extrême les populations de poissons ou les migrations de gibier. Cela
a permis de renégocier les accords de gestion territoriale de manière
proactive, en s’adaptant au déplacement de la faune plutôt qu’en restant figé
sur des cartes obsolètes. D’un autre côté, Utopia a procédé à une étude
approfondie des possibilités de déplacement et de relocalisation du projet. En
déplaçant le projet d’une cinquantaine de kilomètres, il fut possible d’en
arriver un accord satisfaisant toutes les parties. Le nouvel emplacement permettait
d’assurer un même rendement, tout en sacrifiant moins de terres agricoles. Il
empiétait encore partiellement sur des terres visées par des droits d’usage des
autochtones, mais dans une zone devenue moins propice pour la chasse. En
contrepartie, il accordait des droits sur un nouveau territoire qui offrait
alors un meilleur potentiel.
J’aimerais veux
finalement vous raconter un exemple de résolution de conflits à une échelle un
peu plus large dans une communauté humaine. Il s’agit de tensions
anciennes et affectant le Kirghizistan, le Tadjikistan et l’Ouzbékistan
dans la vallée de Ferghana en Asie centrale. Elles étaient enracinées
dans des frontières héritées de l’URSS et comportaient des tensions
frontalières, des enclaves imbriquées, des rivalités ethniques et une
compétition pour les ressources, notamment l’eau. La situation s’était
améliorée quelques décennies plus tôt, notamment grâce à une coopération accrue
entre les gouvernements, à l’ouverture progressive de certaines frontières et à
des efforts diplomatiques pour stabiliser la région. Des accords furent alors
signés en 2025, dont la Déclaration sur l’amitié
éternelle et le Traité sur le point de jonction des frontières d’État. D’autres
accords conclus à la même époque garantissaient le partage des ressources de l’Amou-Daria,
qui traverse la vallée, et celles du bassin du Syr-Daria, y compris un accord
sur la distribution de l’eau pour la saison des cultures. Néanmoins, des
tensions interethniques persistaient en raison d’enclaves, de frontières
complexes, de minorités dispersées et de mémoire des violences passées. Et les
changements climatiques ont engendré de nouvelles pressions sur les ressources
transfrontalières accentuées par les besoins croissants dus à l’augmentation de
la population. Il en est alors résulté une nouvelle escalade des conflits. En
vue d’apaiser les tensions, Utopia a d’abord fait ressortir l’historique de
périodes où l’harmonie régnait. Elle a notamment rappelé à quel point la région
était prospère à l’époque du Khanat de Kokand aux xviiie
et xixe siècles, au
moment où la vallée formait une unité homogène sur le plan politique et
constituait un centre économique important. Elle a aussi rafraichi la mémoire
des habitants sur les accalmies qu’avaient permises les accords de 2025. Puis,
en misant sur sa neutralité, elle a proposé des ajustements aux frontières basés
sur l’usage historique des terres, les ethnies et les flux de population et qui
visaient à corriger des segments frontaliers mal définis lors des divisions
entre républiques décidées par le régime soviétique entre 1924 et 1936. Puisqu’il
n’était pas possible d’éliminer toutes les enclaves ethniques, elle s’est
inspirée de l’espace Schengen en Europe pour établir une libre circulation des
individus entre les pays de la vallée. Elle a aussi proposé un nouvel
algorithme de gestion du partage de l’eau permettant aux parties en cause d’en
sortir gagnant-gagnant.
*
En vous décrivant des exemples d’utilisation d’Utopia, je ne vous
ai pas parlé du suivi exercé par le Comité. L’IA ne fut pas laissée à elle-même
pour autant. Tout au long du déploiement d’Utopia, le Comité analysait ses raisonnements,
en vérifiait la transparence et s’assurait du respect de l’autonomie et de
l’absence de manipulation des organisations et des citoyens visés.
Après une dizaine d’années d’utilisation d’Utopia, un bilan
approfondi s’imposait. Le Comité fit
appel aux 180 membres encore disponibles parmi les 250 personnes de l’assemblée
constituante formée au début du projet. Cette assemblée a été complétée par un
groupe de 20 experts indépendants. Un rapport d’audit complet fut préparé. Il
visait non seulement le déploiement de l’IA, mais aussi le processus de
supervision exercé par le Comité. L’assemblée put s’assurer que l’apprentissage
avait bien évolué vers les objectifs fixés tout en se conformant aux règles
d’éthique. Aucune anomalie ou intervention externe n’a été décelée et aucun
module caché n’avait été introduit. Des décisions rendues furent choisies de
façon aléatoire et analysées en détail pour en vérifier le respect de l’éthique,
l’absence de biais dans les données utilisées et les algorithmes, la qualité du
raisonnement et sa transparence, l’absence de manipulation et le respect de
l’autonomie des humains concernés ainsi que le bien-fondé et la justesse des
recommandations émises.
Satisfaite des résultats, elle s’est ensuite penchée sur le
déploiement général d’Utopia afin d’en faire le bilan. Il en est ressorti
plusieurs constats positifs. L’analyse et l’interprétation de
grandes quantités de données ainsi qu’une modélisation prédictive poussée ont
permis de diffuser plusieurs recommandations en vue de se rapprocher des
objectifs du projet. Elles ont rendu l’information compréhensible et
exploitable. Elles ont permis de détecter la corruption cachée et la
désinformation. Des campagnes d’éducation civique ont favorisé la participation
et l’engagement des citoyens dans les débats sociaux. Utopia a dépassé les
données disponibles sur internet et précédé à des interrogations des citoyens
et les a incités à interagir pour pouvoir tenir compte de leurs préoccupations.
Elle s’est efforcée de distinguer leurs besoins de leurs désirs et de leurs
peurs, d’en déceler les comportements autodestructeurs. Elle a cherché à
réduire leur insatisfaction en faisant ressortir ce qui pouvait être changé et
en expliquant ce qui ne pouvait l’être.
Malgré
ces points positifs, de nombreuses difficultés entravaient la marche d’Utopia
vers la réalisation de ces objectifs. Les fausses informations continuaient de se
propager beaucoup plus vite que les informations vraies et nuancées, surtout
lorsqu’elles étaient basées sur les émotions et la frustration et qu’elles étaient
de nature partisane. Il s’avérait particulièrement difficile de venir à bout du
manque de volonté politique. Les décideurs étaient davantage préoccupés par
leur popularité et par la prochaine élection que par les résultats de la
modélisation et les recommandations qui en découlaient. Ils évitaient de
prendre des décisions nécessaires, mais non populaires. Il n’était pas évident
non plus de faire contrepoids aux intérêts mercantiles et à la soif de pouvoir
qui influençait les grandes compagnies et la gouvernance des États. Elle
faisait face à une lutte sans merci de la part des influenceurs et des
complotistes qui cherchaient à la discréditer, ce qui minait la confiance des
humains envers elle. Il était très difficile pour une IA soumise à des règles
d’éthique sévères de rivaliser avec des intervenants totalement dépourvus de
morale et qui exploitaient sans vergogne les faiblesses émotionnelles des
humains.
Le
bilan effectué a d’ailleurs permis de faire ressortir d’autres handicaps
d’Utopia dans son cheminement vers ses objectifs. Malgré une analyse
approfondie des informations disponibles dans les domaines de la psychologie,
de la philosophie et de la sociologie, elle n’arrivait pas à saisir ce qui
gouverne la vie interne dans le cerveau et influence les croyances et les
motivations des humains. Leurs concepts abstraient, lui échappaient. Elle
constatait le poids énorme des désirs et des peurs sur la pensée et le
comportement des humains sans en saisir le mécanisme. De même, elle ne
s’expliquait pas comment l’expérience vécue et la conscience de soi pouvaient créer
un ego si puissant qu’il divise les humains entre eux, qui divisent les nations
entre elles et les empêchent de prendre conscience de l’unicité des choses. Sa
difficulté à comprendre la pensée limitait sa capacité à suggérer de nouvelles
orientations susceptibles d’influencer positivement le comportement humain.
Pour
corriger ces faiblesses, tant Utopia que le Comité ont envisagé l’idée d’une
incarnation humaine par une connexion aux cerveaux, mais cette idée a été
écartée pour des raisons éthiques et les craintes qu’elle prenne un trop grand
pouvoir sur les humains. Une éventuelle aventure biologique de l’IA demeurait
exclue. À moins que …
