La vraie menace ne vient pas de la technologie, mais de l’Homme

Cet article est basé sur l’association dans mon esprit de deux ressources qui à priori n’ont pas grand chose en commun :

• Age of Samurai – Battle for Japan : un documentaire historique sur la guerre civile au Japon qui éclata durant le 16e siècle.
• Le Triomphe des Lumières : un livre écrit par Steven Pinker qui retrace scientifiquement, graphiques et études à l’appui, l’impact de la technologie sur la société humaine depuis plusieurs siècles. [Analyse intéressante du livre : https://www.afis.org/Steven-Pinker-et-le-triomphe-des-Lumieres]

Quiconque a déjà été traversé par les charmes de la nostalgie sait combien il est doux de se remémorer les belles époques passées. Mais comme le souligne Franklin Pierce Adams, « rien n’explique mieux le bon vieux temps qu’une mauvaise mémoire ».

Remontons donc 500 ans en arrière, avant de poser un regard critique sur notre ère technologique.

16ème siècle. L’humanité est plongée dans l’obscurantisme, la superstition, les guerres incessantes, les maladies omniprésentes et une espérance de vie incroyablement basse, de l’ordre de 40 ans. Il s’agit aussi d’une époque où femmes et enfants pouvaient être violés et égorgés pour le plaisir d’un seul homme qui aurait eu besoin d’un petit peu plus d’adrénaline en se levant du mauvais pied ce matin-là. Une époque où le droit à l’éducation, à la santé, à la sécurité et à la liberté étaient des privilèges rares.

C’est donc dans cette perspective que nous devons évaluer notre époque actuelle, une époque où la technologie est devenue notre meilleur allié dans la conquête du savoir, de la santé, de la sécurité et de la liberté. La technologie est devenue l’étincelle qui alimente la bougie de la connaissance, et comme le disait Thomas Jefferson, « Celui qui reçoit une idée de moi, l’ajoute à son savoir sans diminuer le mien ; tout comme celui qui allume sa bougie à la mienne reçoit la lumière sans me plonger dans la pénombre. »

Mais en même temps que nous avons réalisé des progrès considérables grâce à la technologie, une nouvelle forme de peur est en train de s’installer – la peur de l’intelligence artificielle. La peur qu’elle dénature les relations humaines, la peur qu’elle nous prive de notre humanité, la peur qu’elle nous prive de notre travail, la peur qu’elle nous anéantisse.

Personnellement, je n’y crois pas une seule seconde. Et je vais écrire régulièrement sur les dernières avancées, en parallèle de mon projet Rachel, pour illustrer ma vision du monde sur le sujet.

La vraie menace ne vient pas de la technologie, mais de l’Homme.

Au 16e siècle, un général de guerre charismatique pouvait monter une armée à la conquête d’un pays tout entier, détruisant et brûlant des villages entiers, tuant toute âme qui vive sur son passage. Les batailles faisaient couler le sang dans les rivières. Il pouvait y avoir 950 bons hommes sur 1000, et pourtant les 50 sadiques, armés d’épées et d’armures, pouvaient tuer les 950 autres de sang froid. La bonté, la bienveillance, même si toujours majoritaire dans l’humanité, ne l’a que rarement emporté dans notre histoire.

Jusqu’à ce que la technologie rentre dans nos vies.

Les vaccins ont sauvé des dizaines de millions de vie. Les progrès ont permis de nous sauver de maladies terribles. La mortalité infantile a été presque anéantie.

Le progrès technologique est un reflet de nos propres désirs, de nos espoirs mais aussi de nos craintes. La technologie, comme tout outil, n’a pas de volonté propre. Elle est neutre. Comme l’écrit Montesquieu, « si les triangles faisaient un dieu, ils lui donneraient trois côtés ». Il en va de même pour notre technologie – elle reflètera toujours nos propres valeurs et nos propres objectifs. Et je crois, du plus profond de mon cœur, que l’Homme au fond est fondamentalement bon. De nombreux chercheurs travaillent actuellement à créer des garde-fous qui nous protègeront de la grande majorité des dérives potentielles en lien avec l’intelligence artificielle. Même si c’est encore maladroit et mal foutu, l’Europe tente de prendre les devants également avec l’European AI Act (fin avril), une proposition de loi permettant d’encadrer au mieux les IA. Document accessible en PDF en cliquant ici.

Ce sont nos actions et nos intentions qui détermineront le cours de notre avenir technologique. Les hommes que la raison gouverne « ne désirent rien pour eux-mêmes qu’ils ne désirent également pour tous les autres » nous rappelle Baruch Spinoza. Et la technologie est le reflet de cette réalité. Même si on peut reprocher au capitalisme de vouloir nous soudoyer et nous pousser à la consommation à l’infini, il le fait souvent par l’ajout de confort et d’une réelle qualité de vie dont nous bénéficions tous.

Le malheur qui pourra résulter de la technologie sera une conséquence des choix que nous aurons fait en tant qu’individus et en tant que société.

Les détracteurs de la technologie redoutent les pertes plus qu’ils n’espèrent les gains. Quand certains critiquent à quel point l’IA va tous nous abrutir, je l’utilise pour résumer des articles scientifiques complexes avec une grande précision. Des dizaines de milliers d’africains et d’indiens l’utilisent déjà pour accéder à une éducation de très haute qualité qu’ils n’avaient pas dans leur pays jusque-là. Dans 10 ans, un petit africain aura un niveau d’éducation et des compétences de même niveau, si ce n’est plus grâce à sa motivation, qu’un européen. Le tout accessible gratuitement grâce aux équivalents de ChatGPT qui continueront à se développer.

Prenons l’exemple de l’European AI Act dont je parlais plus haut. ChatGPT m’a aidé à comprendre toutes les nuances du document en m’aidant à le décortiquer. 110 pages comprises et assimilées en 10 minutes chrono. Avant, je ne l’aurais même pas lu…

Pour vous donner une idée des réponses générées par ChatGPT, voilà le résumé que je lui ai demandé :

La nouvelle proposition de loi européenne concernant les modèles de langage, officiellement nommée « Règlement du Parlement européen et du Conseil établissant des règles harmonisées sur l’intelligence artificielle (Acte sur l’intelligence artificielle) », vise à réguler l’utilisation de l’intelligence artificielle (IA) dans l’Union européenne. Voici les points clés de cette proposition :

1. Objectif général : Assurer le bon fonctionnement du marché unique en créant les conditions pour le développement et l’utilisation d’une IA digne de confiance dans l’Union.
2. Objectifs spécifiques :
   • Établir des exigences spécifiques aux systèmes d’IA et des obligations pour tous les participants de la chaîne de valeur afin de garantir que les systèmes d’IA mis sur le marché et utilisés sont sûrs et respectent les lois existantes sur les droits fondamentaux et les valeurs de l’Union.
   • Assurer la certitude juridique pour faciliter l’investissement et l’innovation en IA en clarifiant les exigences essentielles, les obligations, ainsi que les procédures de conformité et de conformité à suivre pour placer ou utiliser un système d’IA sur le marché de l’Union.
   • Améliorer la gouvernance et l’application effective de la loi existante sur les droits fondamentaux et les exigences de sécurité applicables aux systèmes d’IA en fournissant de nouveaux pouvoirs, des ressources et des règles claires pour les autorités compétentes en matière d’évaluation de la conformité et d’examen.
3. Approche réglementaire : L’approche réglementaire proposée est basée sur le risque. Elle définit les systèmes d’IA « à haut risque » qui posent des risques significatifs pour la santé et la sécurité ou les droits fondamentaux des personnes. Ces systèmes d’IA devront se conformer à un ensemble de règles obligatoires pour une IA digne de confiance et suivre des procédures d’évaluation de la conformité avant de pouvoir être mis sur le marché de l’Union.
4. Gouvernance : Les règles proposées seront appliquées par un système de gouvernance au niveau des États membres, basé sur des structures existantes, et un mécanisme de coopération au niveau de l’Union avec la création d’un Conseil européen de l’intelligence artificielle.
5. Innovation : Des mesures supplémentaires sont également proposées pour soutenir l’innovation, en particulier à travers des « bac à sable réglementaires » pour l’IA et d’autres mesures visant à réduire les charges réglementaires et à soutenir les petites et moyennes entreprises (PME) et les start-ups.

https://artificialintelligenceact.eu/the-act/

J’ai ensuite pu lui poser plein de questions pour détailler chaque point, en lui demandant les références sur les pages concernées pour que je puisse aller vérifier par moi-même ensuite.

L’IA à notre service

Notre défi est donc de nous assurer que la technologie sert l’humanité plutôt que de la desservir. Nous devons être ouverts aux défis à venir, et nous devons être attirés plutôt qu’intimidés par ce qui nous reste à découvrir. Nous devons travailler au bénéfice de la société pour maximiser le bonheur individuel.

Le progrès consiste à mettre en œuvre les connaissances pour permettre à toute l’humanité de s’épanouir au même titre que chacun d’entre nous cherche à s’épanouir. L’intelligence artificielle n’est pas l’ennemie – elle est le miroir dans lequel nous voyons nos propres possibilités et nos propres limites. Et dans ce miroir, nous pouvons choisir de voir non pas une menace, mais une opportunité – l’opportunité de créer un avenir où l’épanouissement humain est maximisé pour tous.

C’est à nous de choisir le futur que nous voulons et de faire en sorte que la technologie nous aide à le réaliser.

Après tout, le malheur n’est peut-être la faute que de quelques uns, mais le bonheur, c’est la responsabilité de tous.