La menace de "Typhon" plane sur l’humanité…

Pourquoi avoir voulu lire ce livre ?

Parce qu’il a été sélectionné par Sciences et Avenir de Mai 2024. Parce qu’il s’agit d’IA, d’Intelligence Artificielle, et qu’à bientôt 85 ans, je n’y connais pas grand-chose en IA. Que la chronique qui accompagne la sélection de S&A est alléchante et prometteuse… « Des IA démesurément puissantes, qui augmentent leurs performances de façon exponentielle… » Parce que je suis curieux d’apprendre enfin quelque chose sur ce dont on entend de plus en plus parler sans trop savoir de quoi il s’agit…

D’abord, l’auteur :

Paul Jorion (né le 22 juillet 1946 à Bruxelles-Ixelles), de nationalité belge, est un anthropologue, expert financier, essayiste, chroniqueur et professeur associé à l'Université catholique de Lille. Conscient des faiblesses des mortgage-backed securities, il annonce dès 2005 la crise financière mondiale à venir, ce qui lui assurera la notoriété lorsqu’éclatera la crise des subprimes en 2008 (Wiki).

Ensuite, le livre :

Après un rappel « historique » relativement indigeste pour un néophyte, à cause de la multitude de termes techniques et du vocabulaire spécifique (et sans doute de mon impatience) on entre dans le vif du sujet avec… ChatGPT ! Qu’est-ce que c’est que cette bête ?

Il est vrai que j’ai vu cet acronyme apparaître par-ci, par-là, de temps en temps, mais je n’y ai guère prêté attention.

Là, premier coup de barre sur la tête de la part de Jorion : « Pour celles et ceux, rares, qui l’ignoreraient encore, « ChatGPT(1) » est en effet le nom commercial d’une intelligence artificielle produite par la firme californienne OpenAI. L’appellation désigne plus spécifiquement la lignée des logiciels diffusés à partir de la version 3.5 publiée le 30 novembre 2022. La version 4, considérablement plus puissante, fut lancée elle le 14 mars 2023, à peine trois mois et demi plus tard. »

Je ne sais pas si je dois me réjouir de faire partie des "RARES", encore préservés, ou avoir honte de ne pas être dans le coup !

J’avais vaguement compris GPT était une IA mais qu’elle restait du domaine confidentiel des initiés.

Et bien, je me trompais !

Un soir que ma fille et mon petit-fils nous rendaient visite, en plaisantant on parlait de mon gendre, passionné d’informatique, en voyage en Allemagne pour récupérer un élément d’ordinateur du siècle dernier, pour le bricoler. J’ai dit à ma fille que je lisais un livre qui pourrait intéresser son mari : "il parle d’IA". Et mon petit-fils de demander : « De ChatGPT ? » – Pratiquement que de ça ! dis-je, abasourdi – Mais GPT, je l’utilise tous les jours ! Je discute avec "lui" comme avec un pote ! Même qu’à l’école, quand ils nous donnent un problème à résoudre, ils nous disent : "Voilà ce que GPT en dit, à vous de le critiquer !" Pour nous éviter qu’on chercher la solution dans… GPT ! (Précisons que mon petit-fils est en quatrième année, sur cinq, d’une école d’ingénieurs).

Tout ça pour dire qu’effectivement, je suis complètement largué !

Revenons au livre.

Si j’ai bien compris, ChatGPT concentre une base de données phénoménale, composée de tout ce qui est stocké numériquement, c’est-à-dire des milliards d’articles, de livres, d’œuvres en tous genres. À laquelle s’ajoute des techniques d'apprentissage pour générer du texte en langage naturel, comme des articles, des histoires ou même des conversations, qui ressemblent beaucoup à du texte écrit par un humain. ChatGPT n’invente pas de toutes pièces ce qu’il avance, il puise dans la base de données qui s’est retrouvée inscrite par apprentissage dans le réseau « neuronal artificiel » qui lui fait office de mémoire. « À proprement parler, par rapport à ce qui existait en matière d’IA avant la mise au point de ces LLM(2), la valeur ajoutée n’est pas dans un supplément d’information par rapport à celle que l’on savait collecter dans les projets antérieurs : elle n’est pas dans le fait d’avoir rassemblé une mine de connaissances à ce point gigantesque, elle est dans l’habileté à générer en réponse à une question ou une observation (le « prompt » ou l’« invite »), non pas un banal « copié-collé », mais une synthèse d’une excellente qualité. »

C’est bien beau tout ça, mais dans la pratique, comment ça se passe ? [Là, on quitte le livre pour une expérience perso]

_______________________________________________________________________________________________

Lorsque vous tapez « ChatGPT » sur Google vous obtenez une série de sites dont celui de « chatbotgtp.fr », en français et gratuit :

Dont acte >>

ChatGPT gratuit en français ici avec Chatbot GPT

https://www.chatbotgpt.fr

C’est parti !

Sur « chatbotgpt.fr » avec GPT-4o d’Open IA =

GPT : « Pas besoin de créer un compte ! Discutez instantanément avec la puissante Intelligence Artificielle GPT-4o d'OpenAI et d'autres IA révolutionnaires. C'est simple, rapide et direct !

Accédez dès maintenant aux 2 IA Génératives les plus avancées disponibles, accompagnées d'outils simples et performants pour maximiser votre expérience !

Merci d'indiquer votre demande ou de sélectionner : »

Première question de votre serviteur (ci-après : >>) : Comment définir les membres de senscritique.com ?

GPT : « Les membres de SensCritique.com sont des utilisateurs qui participent à la plateforme en partageant leurs avis, critiques et recommandations sur divers médias tels que des films, des séries, des livres, des jeux vidéo, et plus encore. Ils peuvent également interagir avec d'autres membres, créer des listes, et suivre des actualités liées à leurs centres d'intérêt. Si vous avez besoin d'informations plus spécifiques, n'hésitez pas à me le faire savoir ! »

La première question posée est simple et précise (Un peu bébête, mais c’est venu tout seul !). La réponse (en moins d’une seconde) est tout aussi claire, développée et précise, évidemment, un peu froide et impersonnelle (normal pour une machine) – je note le ME de la dernière phrase.

Suit une deuxième question sur la personnalité de l’auteur du livre, juste pour vérifier que GPT ne fait pas un copié-collé de Wikipédia.

Puis une troisième question :

>> Quelle différence entre savoir et intelligence ?

GPT : « ? Débloquez instantanément la puissance de l'Intelligence Artificielle GPT-4o ! Activez dès maintenant votre ? Accès Prioritaire et profitez immédiatement et sans restriction des capacités exceptionnelles de la meilleure IA disponible sur le marché. Ne laissez pas passer cette opportunité de transformer votre quotidien avec une technologie de pointe !

? Indiquez votre adresse E-Mail pour recevoir votre code d'accès prioritaire. (et jamais de publicité !) »

>> [email protected]

GPT : « VALIDATION : Accédez immédiatement et sans limite à l'Intelligence Artificielle GPT-4o et à d'autres IA innovantes pour seulement 19€/mois, sans engagement. La validation est sécurisée par Stripe, nous n'aurons jamais accès à vos informations personnelles.

Confirmez votre accès illimité pour obtenir les 2 IA immédiatement ! »

>> < ANNULÉ >

GPT : « Pourquoi finaliser votre inscription ?

- Accès immédiat aux meilleurs algorithmes d'IA : Profitez des dernières avancées en intelligence artificielle.

- Sécurité garantie : Vos paiements sont 100% sécurisés par Stripe, solution reconnue mondialement. Vos données restent strictement confidentielles.

- Aucune contrainte ! : Il n'y a aucun engagement minimal. Vous pouvez résilier à tout moment en quelques clics, et cela sera instantané.

- Facilité : Stripe accepte CB, PayPal, Apple Pay, et Google Pay,.

- Des milliers de membres déjà satisfaits : Vous serez en bonne compagnie ! »

Fermez le banc !... Aucune envie de débourser quelque 230 € par an pour des services qui ne m’ont pas fait défaut jusqu’à présent… Y aurait-il une arnaque quelque part ? Ou quelque chose m’a-t-il échappé ? « chatbotgpt.fr » n’était-il pas censé être en français et gratuit !

Impossible d’aller plus loin sans payer !

Mais, comme je suis curieux et têtu, je change de navigateur et modifie légèrement ma question : et, toujours sur « chatbotgpt.fr » je peux alors poursuivre la discussion (ce qui prouve qu’il n’est pas si futé !) :

>> Qu’est-ce qui différencie une grande accumulation de connaissances de l’intelligence ?

GPT : « La distinction entre une grande accumulation de connaissances et l'intelligence réside principalement dans la manière dont ces connaissances sont utilisées.

1. **Accumulation de connaissances** : Cela fait référence à la quantité d'informations qu'une personne possède. Cela peut inclure des faits, des données, des théories et des compétences acquises au fil du temps. Une personne peut avoir une vaste base de connaissances sans nécessairement être capable de les appliquer de manière efficace.

2. **Intelligence** : L'intelligence, en revanche, implique la capacité à comprendre, à raisonner, à résoudre des problèmes et à s'adapter à de nouvelles situations. Cela inclut non seulement la mémoire et la connaissance, mais aussi des compétences telles que la pensée critique, la créativité et la capacité à faire des connexions entre des idées différentes.

En résumé, tandis que l'accumulation de connaissances est une composante importante, l'intelligence englobe également la capacité à utiliser ces connaissances de manière judicieuse et efficace dans divers contextes. »

Le système est sans doute mercantile, mais "l’animal" s’exprime intelligemment, me semble-t-il. N’ayant pas, pour le moment, d’autre question à lui poser, je vais arrêter là notre "entretien". [Retour au bouquin]

________________________________________________________________________________________________

Bon, alors voilà, je ne suis qu’un petit humain lambda à l’intelligence des plus modestes mais même si ma conviction est ébranlée, j’hésite à user des superlatifs de l’auteur au sujet de l’intelligence de GPT : « Explosion de l’intelligence, la Singularité est l’équivalent dans l’ordre du numérique contemporain de l’apocalypse dans la tradition biblique, à savoir un événement constituant un bouleversement absolu amorçant l’avènement dans le monde d’ici-bas d’un royaume qui n’était jusque-là que céleste. »

Je suis peu familiarisé avec la "tradition biblique" et quant aux évènements célestes, ils se réduisent à ces véhicules qui sillonnent la surface de la planète Mars à la recherche d’emplacements pour extraire des carottes du sol martien. Ce ne sont pas des drones pilotés depuis la Terre, ils sont autonomes et s’ils rencontrent un problème (roche insurmontable, crevasse vertigineuse…) leur IA doit prendre une décision immédiate, car une liaison radio avec la Terre risque de prendre 45 minutes entre la question et la réponse. Peut-on parler d’intelligence ou de synthèse logique ?

En attendant plus d’informations, je reste convaincu que ChatGPT – surtout dans la version publique, bridée – reste un outil formidable qui ne cesse de se perfectionner, qui possède une masse de connaissances quasi UNIVERSELLE, une vitesse de synthèse phénoménale et des capacités incroyablement supérieures aux capacités humaines, à n’en pas douter. Mais est-ce vraiment de l’intelligence ?

L’auteur s’alarme parce que « […] il ne s’agit pas seulement de quantités de connaissances : la machine dépassant l’humain dans ses capacités fait qu’à partir de là une explosion qualitative des connaissances humaines a lieu, le savoir de la machine continuant d’augmenter, avec pour effet inévitable l’émergence de structurations inédites, même si la forme que celles-ci prendront est imprévisible tout comme le moment précis de leur apparition. Un tel accroissement de l’intelligence dont la source est artificielle creuse l’écart avec ce dont l’humain, désormais dans son sillage, est capable à partir de son propre cerveau. »

En lisant ce livre, j’aurai au moins appris une chose – en plus de l’existence de cette (ces) IA aux potentialités extraordinaires –, c’est pourquoi certaines personnes détestent et refusent l’existence de ces machines.

Comme, entre autres, Douglas Hofstadter (un scientifique et universitaire américain) confessant se sentir diminué par elle, dans un degré insupportable. « Il y a, dans cette tristesse de Douglas Hofstadter, une part d’orgueil mal placé, un apitoiement sur soi-même un peu embarrassant quand on l’observe chez un intellectuel de sa classe : pourquoi mettre l’accent sur sa petite personne, avec un sous-entendu fleurant le "il ne faisait aucun doute que c’était moi le plus intelligent jusque-là !" »

Donc voilà que nous disposons d’un outil qui est d’une intelligence supérieure à la nôtre et au lieu de s’en réjouir et de l’utiliser pour notre bénéfice « nous préférons geindre à l’idée d’avoir cessé d’être le fort en thème de la classe. » C’est comique !

Mais il y a cette peur ancestrale, cette frayeur profondément ancrée dans nos gènes depuis des millénaires : on s’est trop approché de l’arbre de la connaissance, on a mangé le fruit, on a été chassé du jardin d’Éden à cause de ce péché, et voilà que maintenant, par notre créature, la "connaissance" nous a hissé au rang divin. Nous ne pouvons qu’affronter la fureur de l’Éternel :

« Craignez Dieu et rendez-lui gloire, car l'heure de son jugement est venue. Adorez celui qui a fait le ciel, la terre, la mer et les sources d'eau. » [Apocalypse 14 :7]

« Ô vous qui croyez ! Craignez Allah ! Que chacun de vous songe à ce qu'il a avancé pour assurer demain son salut ! Craignez Allah ! Allah est parfaitement Informé de ce que vous faites. » [Psaume 19]

Personnellement, ce n’est pas la colère d’une chimère quelconque qui m’inquiète mais quelque chose de bien plus réel et tristement prévisible : la nature humaine !

L’Histoire a montré que lorsque l’on donne la puissance aux hommes, ils s’en servent pour leur propre destruction. Les hommes sont avides de puissance, de pouvoir et d’orgueil, ce sera à celui qui possèdera l’IA la plus "intelligente", la plus "puissante", prêt à l’affrontement pour le prouver (qui ne se souvient d’un face-à-face Trump/Kim Jong-Un le doigt suspendu au-dessus du bouton nucléaire ? Ridicule et tragique).

Parole d’un vieil homme pessimiste, né avec la guerre : Il y a fort à parier que l’intelligence des grandes IA serve à la destruction de l’humanité avant de pouvoir lui prodiguer quelques bienfaits…

Quant à l’auteur, il pense que l’IA fera mieux et plus vite que les hommes : « [À moins qu’] une IA véritablement intelligente ne sourcille devant notre désinvolture à assurer l’avenir de notre espèce et ne considère ses concepteurs comme une vermine dont il s’agirait de débarrasser la Terre au plus vite pour tenter de sauver ce qui peut l’être encore en matière de biodiversité et plus globalement de vie tout court. »

Si Paul Jorion termine son livre par des considérations hautement philosophiques – qui me survolent à mille pieds – j’aimerais finir sur une note optimiste : il y a deux siècles, nous avons su inventer la photographie, non seulement elle n’a pas fait disparaître l’art pictural mais des photographes de génie en ont fait une discipline artistique à part entière. Nul doute que nous saurons tirer profit des compétences exceptionnelles des IA pour donner naissance à de nouvelles formes d’expressions artistiques encore insoupçonnées.

Coup de cœur pour la "leçon de chose" !

(1) De "Chat" = Bavarder, et "GPT" = « Generative Pre-trained Transformer » (pour "Transformeur génératif pré-entraîné")

(2) ChatGPT appartient à la famille des IA qualifiées de « Large Language Models » (LLM, les « grands modèles de langage »).