L'IA ou l'effondrement de la connaissance

"Bonjour. Je suis content, ce matin je viens de déjeuner avec Nelson Mandela".

Dans un asile de fous, vous n'allez pas répondre: "Quoi ? Mais il est mort !", mais plutôt quelque chose du style: "Oui, moi aussi je l'ai croisé dans le couloir".

C'est dans un asile de fous qu'on s'enferme, petit à petit, à force de langue de bois et de prétentions imbéciles.

L'IA ou les mots dévoyés

Quel est le lien avec l'IA me diriez-vous ?

Eh bien, commençons par le début, du moins le début de l'Histoire très récente.

Dans un monde de fake news dominé par la parole vide de sens et l'incompétence, nous avons découvert récemment ChatGPT et avons décidé de nous émerveiller. "Va-t-on remplacer les ingénieurs ? Les artistes, les traders et les banquiers..."

Certains ont trouvé ces questions stupides, mais, comme dans tout confusionnisme qui se respecte, les questions apparemment les plus absurdes, portent en elles les graines de la sagesse.

Certes, il faudrait reformuler: pourquoi, par exemple, pensent-on qu'on peut remplacer un ingénieur avec ChatGPT ?

Et la réponse est, malgré l'apparente complexité du sujet, très simple: parce que la notion d'ingénieur telle qu'elle est communément partagée par ceux-là mêmes qui en sont le sujet est aujourd'hui amputé de son sens initial.

Prenons approximativement 80% des ingénieurs informaticiens. Pour tout œil suffisamment expert, il s'agit de travailleurs hyper-spécialisés dans le copier-coller, lui-même résultat approximatif d'une connaissance très superficielle basée sur l'ingurgitation de lignes de code. Exactement comme un LLM.

Comme pour un pondeur de code humain, on peut s'attendre statistiquement à quelques "illuminations" de la part d'un LLM, éventuellement on peut espérer que dans le futur il soit meilleur qu'il ne l'est actuellement.En sommes, les LLMs peuvent remplacer ceux qui ont réduit leurs capacités par l'hyperspécialisation.

L'IA n'est pas "une intelligence" donc, mais, par les réactions qu'elle suscite, la preuve d'une forme d'abrutissement collectif.

On pourrait m'accuser d'évacuer le sujet d'un revers de la main, sans faire l'effort d'une vraie pédagogie. Le problème c'est qu'il s'agit d'un sujet aux enjeux trop importants pour qu'il soit vraiment simple d'en discuter.

L'IA n'est pas venue de nulle part: elle est l'un des derniers développements de la métastase technologique. Je pourrais guider le lecteur vers le livre d'Aurélien Barrau, "L'hypothèse K", qui en parle bien mieux que moi, mais nous n'avons plus vraiment le temps de nous cultiver, n'est-il pas ? Coincés entre un binge-watching de séries Netflix, le boulot où on s'épuise à faire semblant d'être utiles et les bouchons sur la route des vacances, réfléchir, nous comptons laisser ça aux machines. Je vais donc essayer de faire court. Et passer au deuxième mouvement de mon revers de la main.

On va tous faire un boulot de rêve, les robots et l'IA vont faire le reste

Le petit malin qui a appris en école de commerce, école d'ingénieur ou même en cours de philosophie de Terminale à défendre n'importe quoi n'importe comment, va chercher à s'accrocher aux mots comme un fruit de bardane aux vêtements en laine: "si on remplace les gens hyperspécialisés, on va enfin pouvoir tous "devenir polymathes" !". Ou encore: "on aura le temps de se cultiver".

L'asile de fous a cela de merveilleux qu'au bout d'un moment il devient la norme, le sain d'esprit devenant l'anomalie.

Tout d'abord, l'hyperspécialisation, qui est une plaie, est due à des mécanismes d'adaptation à la complexité, certes, mais aussi à la recherche permanente de plus de confort. C'est un fait, nous naissons tous avec des capacités différentes, mais l'injustice ne réside pas dans cette distribution qui serait inégale de la part de mère Nature. Elle est plutôt due à un fonctionnement social où il n'existe plus qu'une seule mesure de la valeur: l'argent. Ainsi, l'idée absurde que les machines puissent réellement nous remplacer, débouche sur l'idée absurde qu'une fois le cas, tout va s'organiser pour le meilleur des mondes. Même en ignorant que, tel toute autre technologie, l'IA est d'abord un outil de domination dans les mains de quelques uns, il est absolument impossible qu'après avoir appris aux gens à juste se battre pour se gaver, on va instantanément leur apprendre à faire preuve de sobriété et d'équilibre. L'idée qu'on va laisser les robots bosser à notre place et qu'on va tous se ruer sur les plages de la Méditerranée est aussi stupide que répandue et se heurte à la notion d'embouteillage, pour résumer de manière aussi misérable que l'énoncé même de cette idée.

Par ailleurs, on ne ferait que reproduire l'"erreur du tracteur": certes, un tracteur permet à un agriculteur de cultiver seul 50 ha ou plus, mais du temps où nous cultivions nous-mêmes les champs, nous dépensions une seule fois l'énergie: pour se nourrir. Aujourd'hui nous la dépensons N fois, pour se nourrir, mais aussi passer le temps restant à fabriquer des choses pour occuper ceux qui ne cultivent plus, tout cela pour enrichir ceux qui n'ont carrément plus rien à faire que de dépenser de l'énergie dans l'orgie et l'opulence.

"Donc, tu veux retourner au temps des cavernes ?" Peut-on seulement se donner la peine de répondre ? Ou alors, en disant: "pourquoi pas ?" C'est que l'idiot moyen ne connaît pas le principe de finitude, l'imbécilité étant elle-même de ces choses qui échappent à celui-ci.Je vous avais dit, la discussion  est compliquée. Epuisé, je n'utilise plus, moi-même, que des arguments d'autorité, ou la violence verbale.

Soumettons donc le problème à ChatGPT:

Question:
"Que peux-tu dire sur ça ?
"Donc, tu veux retourner au temps des cavernes ?" Peut-on seulement se donner la peine de répondre ? Ou alors, en disant: "pourquoi pas ?" C'est que l'idiot moyen ne connaît pas le principe de finitude, l'imbécilité étant elle-même de ces choses qui échappent à celui-ci."

Réponse:

"La citation que tu as partagée semble aborder plusieurs concepts importants, notamment la critique de l'incapacité de certaines personnes à comprendre des idées complexes ou abstraites. Voici quelques points clés pour l'analyser :

1. Retour au temps des cavernes : Cette phrase est souvent utilisée de manière péjorative pour dénigrer des idées ou des pratiques considérées comme arriérées ou rétrogrades. Elle implique un rejet simpliste et souvent non réfléchi des propositions de l'interlocuteur.
2. Répondre ou non : La question de savoir s'il faut répondre ou non à une telle provocation est légitime. Ignorer la remarque peut être une façon de ne pas s'abaisser au niveau de la discussion simpliste ou dégradante. Alternativement, répondre par une autre question comme "pourquoi pas ?" peut être une manière de déstabiliser l'interlocuteur en l'obligeant à réfléchir à sa propre question et à aller au-delà de ses préjugés.
3. Principe de finitude : Ce principe pourrait faire référence à la reconnaissance des limites inhérentes à toute chose. Appliqué aux débats ou discussions, il suggère que tout argument, toute idée, et même la connaissance humaine en général, ont des limites. Les personnes qui ne reconnaissent pas ces limites peuvent être perçues comme simplistes ou arrogantes.
4. Imbécilité et ignorance des limites : La citation semble suggérer que la stupidité ou l'imbécillité réside souvent dans l'incapacité à reconnaître ces limites, qu'elles soient intellectuelles, morales, ou autres. Ceux qui sont qualifiés d'imbéciles ne voient pas leurs propres limites et, par conséquent, ne peuvent pas comprendre ou apprécier des concepts plus complexes.

En somme, cette citation critique le manque de profondeur et de réflexion de certaines personnes lorsqu'elles rejettent des idées qu'elles ne comprennent pas ou qui les dépassent. Elle met en lumière l'importance de reconnaître les limites de sa propre compréhension pour éviter les jugements hâtifs et simplistes."

De manière très intéressante, on peut se laisser prendre au jeu. Tout est très bien dit et il y a un début de "compréhension". La vérité c'est qu'il n'a rien compris du sens véritable de ma phrase. Question de contexte. Oui, mais voilà, un humain, du moins intelligent (attention, vous êtes obligé d'être d'accord, sinon c'est que vous ne l'êtes pas), aurait tout de suite vu où je veux en venir. Par ailleurs, il manque à ChatGPT l'essentiel: le vécu, la mise en relation avec la réalité tangible, l'imagination permettant de voir dans sa tête le visage imbécile qui prononce la phrase maudite, bref, de la chair et de l'implication. Être concerné, c'est cela qui donne corps aux idées.

On pourrait s'attarder longtemps sur les logorrhées des LLMs, mais critiquer l'extase ne doit pas nous empêcher non plus d'explorer et essayer de cerner au mieux le sujet. Exclure de notre intérêt légitime l'IA dans sa forme actuelle, c'est laisser la main à des dominants, mais aussi ignorer les questions pour le coup très intéressantes que les derniers rebondissements posent, à la fois d'un point de vue technique, philosophique et social.

Comment ça marche

Avant même d'essayer de comprendre comment ça marche, on pourrait aussi se demander si quelqu'un le sait vraiment. Puisqu'il y a si peu de gens supposés comprendre, du moins à l'échelle du monde, mais qu'en même temps tout le monde fait le perroquet de quelques-uns, on a comme une impression de supercherie. Mais n'est-ce pas là le cas pour toute technologie ou la science en général ?

Oui et non. Si je dois lire un article scientifique sur le fonctionnement de CRISPR-Cas9 (édition génétique), je peux plus ou moins imaginer ce dont on parle. Si j'essaie de m'imaginer un Univers fini, je commence à galérer un peu, pour ce qui est du néant qui se trouve "au-delà", même si j'ai les outils mathématiques pour en avoir au moins une représentation topologique. Si on me demande d'expliquer l'infini, je peux, mais je suis pris de vertige à vouloir le représenter dans ma tête.

Le vertige concernant l'IA vient du fait de la mise en abîme: au fond, pour la plupart d'entre nous, commencer à se représenter les mécanismes, fussent-ils très simplifiés, de notre pensée est une chute garantie dans le vide.

Bien sûr, un ingénieur de bon niveau, ou un mathématicien ou un physicien, peuvent tout à fait comprendre les mathématiques derrière, mais combien même de ceux qui entraînent des LLMs en perçoivent les limites intuitivement et simplement ?A dire vrai, je n'ai pas de réponse, mais, ce qui est sûr et certain, c'est que beaucoup de ceux qui parlent n'en ont aucune idée, même lorsqu'ils décrivent correctement le mécanisme.

Oui, c'est une histoire de probabilités. Plus précisément de probabilités conditionnelles. Etant donné un contexte donné, quel est la probabilité d'occurrence d'un mot. En calculant sur une quantité d'informations suffisamment grande, on peut obtenir une sorte de représentation de la connaissance permettant de régurgiter, contexte aidant, à peu près tout ce qui a été un jour écrit, du moins dans ce qu'on a bien voulu fournir comme corpus d'apprentissage. En ajoutant un côté aléatoire, on obtient éventuellement des combinaisons inédites des mots déjà dits, une sorte d'interpolation entre deux états ayant existé.

On pourrait alors trop vite conclure que rien de vraiment nouveau ne peut en sortir. et qu'il n'y aura apparemment pas de nouveaux concepts qui en émergeront. En fait, ce n'est pas vrai. Statistiquement, un LLM a une chance non négligeable au cours de sa "vie" de sortir un truc vraiment nouveau. Par contre, ce ne sera pas quand on en a besoin, ni peut-être à propos, ni nécessairement utile. Sans parler qu'on va dépenser une énergie monstre pour obtenir pas grand chose.

Car ce qu'il y a de constant dans la technologie humaine c'est la corrélation entre efficience et utilité: plus nos moyens technologiques augmentent, moins ils sont utiles par rapport à l'énergie dépensée. Par rapport aux chemins trouvés par l'évolution, nous sommes juste nuls.

Intuitivement, on peut se demander si le fonctionnement du cerveau n'est pas basé également sur l'émergence du nouveau à coup de probabilités. Probablement, dirais-je, dans un un jeu de mots digne d'un standupeur dans un très mauvais jour.

Il y a tout de même quelque chose de différent: ce que le cerveau produit est supposé lui servir. Il s'y ajoute donc plein de mécanismes de contrôle et régulation dont l'existence est liée au fait d'être vivant et d'avoir un objectif physiquement relié à ce fait. Il s'agit ici d'une discussion à continuer, mais on peut tout de même s'apercevoir que nous n'avons pas encore les moyens de la mener sur un plan purement scientifique et qu'on doit se contenter d'une approche philosophique.  

A quoi ça sert ?

Cela nous amène à un tout autre aspect: l'éthique de la chose. On a parlé d'utilité, ou plutôt d'inutilité, mais il est certainement nécessaire d'approfondir un chouïa, ne serait-ce que parce que beaucoup ne jurent plus que par l'IA et que ce groupe est en train d'avoir la main sur notre avenir.

La technologie a toujours cherché à résoudre les problèmes qu'elle a elle-même engendrés précédemment. Nous pensons avoir créé un monde technologique d'une complexité que seule la technologie est capable de gérer. Ainsi, perdus, nous nous en remettons aux dieux qui nous ont fait nous égarer. Je donne souvent cet exemple du premier (ou de la première) qui a utilisé un silex pour dépecer une proie. Il l'a ensuite tendu à son "collègue", après lui avoir montré un peu comment faire et, comble de malchance, celui-ci s'est de suite coupé un tendon avec. A cet instant même est née la domination par la technologie.

Le silex aujourd'hui a pris la forme de millions de puces Nvidia qui ne servent à rien d'autre qu'à donner à certains l'avantage sur les autres, non pas pour ce qu'elles apportent comme utilité, mais pour ce qu'elles apportent comme possible chiffre d'affaires. Plus on a des puces, plus on a la capacité d'inonder le marché d'un produit qui ne sert à rien, mais qui représente le summum de la réussite et de la hype pour ceux qui ne savent plus à quels saints se vouer. C'est n'est plus un simple éclat de caillou, mais un immense incendie dans lequel les victimes hypnotisées voient une lumière divine. Nous sommes littéralement en train de cramer le monde et l'IA est le super combustible qu'on jette sur le brasier pour en finir plus vite.

Oui, dans peu de temps je vais sortir sur le marché, moi-aussi, une super appli qui tue les mouches et dont la tête de gondole sera en partie l'IA. Je n'ai "presque pas le choix": mon business dépend de gens qui ne se posent aucune question... où qui n'ont  eux-mêmes pas le choix. Il est vrai que, dans mon cas, mais comme beaucoup, j'ai des plans pour sortir de cette misère, mais en supposant que j'y arrive, combien pourront le faire ? Pris dans un engrenage où si tu n'es pas armé tu te fais buter, je ne sorts plus qu'avec mon lance flamme. Pas anodin que l'imbécile qui sert de gourou aux technos-béats, Elon Musk, ait un jour vendu un tel produit...

De manière simple, la seule véritable utilité de l'IA dans sa forme LLM est aujourd'hui d'automatiser. Donc, là où elle marche bien, aller plus vite. Mais pourquoi faire ?

La fin

Sidération à voir il y a quelque temps Google proposer son nouveau moteur de recherche dopé à l'IA.

Les gars, des génies je vous dis, vous expliquent les yeux dans les yeux que vous allez parler à un truc qui ne va plus vous donner des résultats, mais un résumé. De base, 95% des gens ne vont plus allez sur les sites d'où vient l'information, mais vont s'arrêter à cette réponse certainement suffisante. Aucun de ces génies ne s'est posé la question de savoir ce qui va se passer quand les sites vont disparaître et que leur LLM n'aura plus rien à se mettre sous la dent. Ils ont acté, sans même froncer un sourcil, l'effondrement de la connaissance: la machine ne pouvant se nourrir d'elle-même, il n'y aura plus de progrès. On va rester plus ou moins à jamais en 2024.

Bon, je suis d'accord, j'exagère un peu sur les bords, mais pas tant que ça. Les promesses de l'IA sont un monde sans humains, ce vomi absolu porté sous diverses formes par les transhumanistes, une bande d'adolescents boutonneux devenus milliardaires et qui, pensant être des génies indispensables pour avoir réussi à faire cliquer des milliards de fois sur leurs pubs moisies, se considèrent indispensables au point de vouloir défier la mort.

Grand bien leur fasse. La mort les attend et, pour dire vrai, ces zombies sont déjà d'une certaine manière dans l'au-delà.

Il ne faut toutefois pas négliger leur capacité à nous emporter avec eux. L'effondrement de la connaissance, en cours, c'est accepter la médiocrité du par-cœur au détriment de l'inventivité de la poésie. Une fois de plus, je suis d'accord avec Barrau: la poésie, c'est l'arme qu'il nous reste et que nous devons utiliser.

Soyons donc poètes, soyons donc fous.