Au bord du gouffre

La fatigue... la fatigue... que c’est fatigant d’être fatigué ! À l’époque où l’information se propage avec une célérité surprenante, nos activités, autant professionnelles que privées, sont soumises aux exigences épuisantes d’une communication rapide, surveillée et exploitée, mais dénuée de sens profond. 

 

Fatigue débilitante, qui s’installe vite au second degré, car il n’y a rien d’essentiel dans cette agitation programmée : pas d’objectif personnel à long terme, pas de retombées satisfaisantes, pas de lignes de conduite sur lesquelles s’appuyer pour éviter que le vide intérieur ne s’étende. Le dialogue avec le gouffre tourne autour d’échanges contraignants, liés à une névrose obsessionnelle, souvent en phase mutante.

Animée par une frénésie sans limite, la bête humaine s’emballe et se révolte, laissant son intelligence aux prises avec un parcours ingérable. On parle alors de suppléer l’organe cognitif peu performant (le cerveau) par une intelligence artificielle entièrement dévouée au culte de l’homme amélioré. Dans le cadre d’une pensée déjà transhumaniste, l’être humain pourra alors être transformé en « centaure », animal hybride nouvellement conçu par nos technocrates. Un centaure mythique : immortel, rapide, mi-cheval mi-homme, porteur d’une fougue et d’une violence dominatrice, dont le code sommeille depuis longtemps dans nos gênes et ne demande qu’à s’exprimer. 

Mais, attention ! Il ne s’agit pas là d’un délire d’auteur de science-fiction. C’est la Harvard Data Science Review du 19 décembre 2024, publiée par MIT press, qui confirme l’importance du projet dans un article intitulé : « Effective Generative AI : the Human-Algorithm Centaur » . Voici le but de l’exercice :

« Les méthodes scientifiques d’analyse avancées ont permis de combiner la puissance de l’intelligence artificielle et de l’intelligence humaine, créant des centaures qui permettent une prise de décision supérieure. Les centaures sont des modèles hybrides d’algorithmes humains qui combinent à la fois l’analyse formelle et l’intuition humaine de manière symbiotique dans leur processus d’apprentissage et de raisonnement. Nous soutenons que l’avenir du développement et de l’utilisation de l’IA dans de nombreux domaines doit se concentrer davantage sur les centaures par opposition à d’autres approches d’IA. »

Que dire ? Que faire​ ?

L’intelligence artificielle classique raisonne, mais ne résonne pas assez. Trop d’abstraction, pas assez d’intuition. Si l’information tirée des données auxquelles elle a accès est utile pour formuler des réponses adéquates aux petits problèmes, il n’en reste pas moins qu’elle ne produira jamais de sens à grande échelle. Sans renouvellement continu, l’existence devient vite stérile, fatigante et purement mécanique. Mais tout s’explique dès que l’on se penche un tant soit peu sur ce qui se passe dans ce domaine.

Pour comprendre il faut s’attaquer au problème de l’intelligence et de sa relation avec la conscience. L’intelligence se limite à l’activité du cerveau. Elle manipule des objets abstraits, créés à partir d’éléments d’origine locale, perçus et répertoriés grâce à l’ensemble des sens et de leurs extensions instrumentales. La conscience, par contre, n’est pas localisable. Elle déborde le cerveau et fait partie d’une mémoire associative non-locale, qui donne immédiatement un sens à ce qui est perçu. L’intuition vient d’une mémoire-empreinte universelle, située en dehors des limites corporelles.

L’intelligence ordinaire n’existe et ne fonctionne que dans le monde de l’abstraction (où l’objet domine). Elle interprète et falsifie ce qui passe par les sens, puis crée des modèles qui serviront à manipuler ce qu’elle projette objectivement et sans vergogne dans sa pseudo-réalité. La conscience, elle, s’exerce dans un domaine où il n’y a pas de séparation, ni de division, et surtout pas d’objets. Cela correspond en pratique à une négation instantanée de l’espace et du temps pour chaque état de conscience. La négation effective de l’espace et du temps– par une union cohérente de l’ordre local avec l’ordre universel (à l’échelle du vide quantique ou Ungrund, et uniquement à cette échelle, pour parler physique et philosophie)– nécessite l’existence d’une mémoire associative universelle, où les motifs existent en superposition.

 

Il n’y a d’ailleurs aucune contradiction entre le fonctionnement de la conscience, suggéré dans le paragraphe précèdent et celui de l’intuition, tel qu'il est présenté dans l’article sur les centaures :

« Simon et Kahneman définissent succinctement l’intuition comme une reconnaissance de modèles inconscients (Kahneman, 2011 ; Simon, 1992). Kahneman décrit le modèle de décision basé sur la reconnaissance comme suit : face à un problème dans un domaine d’expertise, nous n’essayons pas dans un premier temps de proposer plusieurs pistes d’action possibles, puis d’évaluer laquelle est la meilleure. Au lieu de cela, notre mémoire associative s’appuie automatiquement sur une collection de motifs présents dans notre subconscient et propose celui qui s’en rapproche le plus (Kahneman, 2011). Sur la base de cette définition, Hogarth (2010), suivi de Kahneman et Klein (Kahneman & Klein, 2009 ; Klein, 2015) ont suggéré que les décisions intuitives ne peuvent être fiables que si elles reflètent une expérience riche et répétée de type correspondance de motifs dans des environnements avec un feedback fiable. Autrement dit, l’environnement doit être suffisamment stable pour que les anciens motifs puissent être applicables aux nouveaux. » 

 

 

En littérature, par analogie et par exemple, cela voudrait dire que l’on a un accès simultané à tous les ouvrages dans lesquels un sens a été créé à partir de motifs faits de mots. C’est l’ensemble du traitement sens-motif dans des récits différents, avec le concours de la mémoire associative qui s’y rattache, qui permettra de percevoir et renouveler celui qui sera détecté intuitivement dans un texte particulier. La création du sens repose sur toute une population d’auteurs, dont la vision, l’originalité, le nombre et l’autorité vont contribuer à établir un rapport fondamental entre le local (le livre) et l’universel (la bibliothèque), renouvelant ainsi le sens du mot (-tif) et donnant au narratif son pouvoir de persuasion.

Du point de vue de l’art, en général, les exercices de mémoire visuelle, musicale ou poétique, aident à situer l’expérience dans sa totalité, c’est-à-dire dans sa relation intriquée avec l’ordre cosmique. Ce dernier fournira alors l’énergie nécessaire pour combattre la dissolution du lien sens-motif– dispersion équivalente à l’entropie dans le cas d'une division successive du motif en composants définis par une liste d’attributs abstraits.

Un bon exemple pour comprendre de quoi il s’agit se retrouve dans l’idée de l’œuvre d’art totale, énoncée par Richard Wagner et présentée dans son Anneau du Nibelung, cycle de quatre opéras qui nous parlent de la dissolution de l’ordre des dieux germaniques au contact d’une humanité dégénérée et corrompue. Les dieux germaniques, chez Wagner, ont un aspect familier et il ne serait pas vain de les comparer à des transhumains parachevés, héritiers potentiels des encyclopédistes du siècle des Lumières et des centaures que l’on nous prépare aujourd’hui.

Dans l’Anneau du Nibelung, Wagner utilise un ensemble de leitmotivs musicaux pour caractériser les invariants cosmiques auxquels toute intelligence avide de pouvoir se trouvera vite confrontée. La liste est longue, mais ce qui importe a priori, c’est le rôle de ces invariants dans le déclenchement de chaque état de conscience chez les spectateurs :

« Le leitmotiv wagnérien va, tout comme la métaphore poétique, servir de formule rituelle [..], pour toucher l’intime réalité du monde. Mais ce sera là une métaphore éternellement vive, conservant sans craindre de la perdre toute sa puissance évocatrice. Faisant intervenir les fonctions les plus subjectives de l’être, la mémoire, le rêve, l’imagination » (source)

Les leitmotivs, comme leur nom l’indique, se retrouvent de manière récurrente dans la tétralogie et donnent au compositeur la possibilité d’activer l’élément de mémoire cosmique correspondant, encapsulé (par analogie) dans son œuvre d’art totale. Le spectateur, imprégné de rêve, pourra alors retomber dans la conscience universelle, se fondre dans la mémoire cosmique et saisir directement les enjeux de la quête. Quête de pouvoir absolu, qui finira bien par fatiguer Wotan, roi des dieux germaniques dans l’Anneau du Nibelung, au point où celui-ci finira par avouer qu’il ne cherche plus qu’une seule chose : La Fin ! (nur Eines will ich noch: das Ende – das Ende! ). La confession complète est là :

« J’ai touché l’anneau d’Alberich, 

avide, j’ai eu l’or en mains ! 

J’ai fui la malédiction, 

mais elle ne me fuit pas : 

je dois abandonner ce que j’aime, 

assassiner celui que j’adore, 

tromper et trahir qui a foi en moi.

Que disparaissent gloire et splendeur,

la honte éclatante du faste divin ! 

Que s’effondre ce que j’ai bâti! 

J’abandonne mon œuvre ; 

je ne veux plus qu’une chose : la fin, La Fin ! – » 

 

L’article déjà cité sur les centaures confirme qu’il existe un risque majeur lié à l’adoption naïve de ces technologies fondées sur un nouveau type de collaboration :

« Une autre menace potentielle dans le développement de modèles de type centaure pilotés par l’intuition humaine est le développement de traits de type triade noire (Paulhus & Williams, 2002) au sein des LLM [Large Langage Model]. À grande échelle, de tels traits peuvent poser de graves risques de sécurité en poussant le modèle à adopter un éventail de comportements négatifs allant de la tromperie systématique et de la manipulation de contenu à des comportements de recherche de pouvoir, potentiellement avec la collaboration d’autres agents de type centaure (Markov et al., 2023 ; Phuong et al., 2024 ; Shevlane et al., 2023). »

Voilà, tout est dit. Ne touchons pas à l’anneau d’Alberich ! La quête d’un pouvoir absolu passe par l'obtention d'armes magiques imparables et un discours légaliste, développé pour imposer un nombre croissant de « règles » contradictoires et contraignantes. L’article sur les centaures, confirme la tendance générale et révèle une des premières applications envisagée pour ce type de technologies :

« Le développement de méthodes d’analyse scientifique permettant de combiner la puissance de l’intelligence artificielle et humaine a fait passer le concept de centaures du mythe à la réalité. Dans la mythologie grecque, les centaures sont des créatures mi-humaines mi-chevalines. Dans la science analytique moderne, les centaures représentent une forte fusion entre les humains et les algorithmes, faisant référence à des modèles hybrides humain-algorithme qui combinent à la fois l’analyse formelle et l’intuition humaine de manière symbiotique. L’un des principaux utilisateurs aux États-Unis a été le ministère de la Défense, qui a travaillé avec des entreprises technologiques pour combiner la puissance des algorithmes avec les capacités des humains (Markoff, 2016). Le concept a attiré l’attention de l’armée américaine, à la fois dans les programmes de recherche de la Defense Advanced Research Projects Agency [DARPA] et dans la stratégie de troisième compensation du Pentagone pour l’avantage militaire (Center, 2023). Robert O. Work, par exemple, qui était secrétaire adjoint à la Défense sous les présidents Donald J. Trump et Barack Obama, a défendu l’idée de systèmes d’armes centaures, qui nécessiteraient un contrôle humain, au lieu de systèmes d’intelligence artificielle (IA) pure, et pourraient combiner la puissance de l’IA avec les capacités des humains (Markoff, 2020).  […] Bien que le concept des centaures puisse sembler similaire à d’autres paradigmes hybrides facilitant la collaboration entre humains et machines, tels que les méthodes basées sur l’intervention humaine dans la boucle (HITP), les centaures proposent un paradigme d’interaction homme-machine (IHM) intrinsèquement différent, qui crée une fusion entre les humains et les algorithmes, par opposition à un simple partenariat. »

Transhumanisme ? Nous y sommes...