L’algorithme et l’organon sémiotique The algorithm and the semiotic organon

1. Introduction

Le terme algorithme est associé au nom du mathématicien persan Al Khwarizmi qui vécut vers l’an 820. Selon Hernert (2002), la paternité de la notion ne peut cependant lui être attribuée puisqu’elle est connue depuis l’Antiquité, comme en témoignent les écrits de Diophante d’Alexandrie et d’Euclide datant du IV^e siècle av. J.-C. La notion d’algorithme a fait l’objet d’une attention particulière à partir du début du XX^e siècle, bien avant l’apparition des premiers ordinateurs. Pour en simuler le fonctionnement, les mathématiciens imaginaient alors des machines abstraites. Avec la naissance et la multiplication des ordinateurs, les algorithmes se sont banalisés, le terme est tombé dans le langage courant sans que sa définition ne soit véritablement précisée. Aujourd’hui, la description de son fonctionnement retient à peine l’attention, comme si l’omniprésence de l’intelligence artificielle et les facilités de la production algorithmique nous dispensaient de les théoriser. Mais le mot algorithme appartient également, depuis longtemps, au métalangage de la sémiotique qui, par vocation, concentre son attention sur le fonctionnement des discours. Je vous propose d’observer l’usage qu’elle fait du terme, de le référer à une définition générale et de le comparer avec l’algorithme du langage courant, celui qu’on appellera algorithme informatique. On vérifiera ainsi la capacité d’invention et d’anticipation de la sémiotique qui s’est préoccupée très tôt du fonctionnement de l’intelligence artificielle. Pourtant, il ne s’agira pas, contrairement à Arnold (1985) par exemple, de voir comment les résultats de la sémiotique peuvent servir le discours cognitif, mais, à l’inverse, de comprendre comment la figure de l’algorithme parvient à décrire un mode de relation entre les termes. Qu’a trouvé la sémiotique dans l’algorithme ? Dans quelle mesure cet outil permet-il de décrire l’organisation des connaissances ? Que dit-il finalement du projet sémiotique ?

Commençons par quelques définitions. Pour Hernert (2002 : 5), l’algorithme « consiste en la description d’une suite d’opérations élémentaires non ambiguës. Il s’achève après un nombre fini d’étapes et produit un résultat ». Wikipedia définit l’algorithme comme « une suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes ». La définition de Cardon (2015 : 7) est très proche, même si, à la différence des précédentes, elle réfère l’algorithme aux Big data et à leurs propriétés (vitesse et volume) : « Comme la recette de cuisine, un algorithme est une série d’instructions permettant d’obtenir un résultat. A très grande vitesse, il opère un ensemble de calculs à partir de gigantesques masses de données (les « big data ») ». Ce qui caractérise donc l’algorithme, c’est son fonctionnement en suites ou en séries d’opérations bien définies (« non ambigües ») et dont le nombre est déterminé (« fini »), marquant des étapes ou séquences et aboutissant à un résultat.

Deux points retiennent l’attention de Greimas dans sa toute première référence à l’algorithme, en 1966 : l’organisation sous forme de suite et la finalisation. Dans un texte intitulé « Eléments pour une théorie de l’interprétation du récit mythique » repris dans Sémantique structurale (1966b : 128 et 252-255), il écrit : « l’unité discursive qu’est le récit est à considérer comme un algorithme, c’est-à-dire comme une succession d’énoncés dont les fonctions-prédicats simulent linguistiquement un ensemble de comportements ayant un but » (Greimas 1966b : 29). Le sémioticien insiste sur le caractère de suite temporelle de l’algorithme. L’ordre algorithmique caractérise une relation de consécution, par opposition à l’ordre classificatoire fondé sur des relations de conjonction et de disjonction (1966b : 128).

Si l’algorithme sémiotique semble donc tout à fait conforme à la définition générale, cette ressemblance oblitère néanmoins quelques résistances. Tout d’abord, il n’est pas certain que notre représentation actuelle du diagramme, celle de l’algorithme informatique, suive une forme linéaire. Si nous échangions nos représentations, sans doute convoquerions-nous plutôt l’image d’une superposition de branches formant un arbre qui déploie ce que les informaticiens nomment des séquences récursives, des séquences qui « s’appellent elles-mêmes » (Hernert 2002). Pourtant, même si la première définition de Greimas introduit l’idée d’une succession, et plus exactement d’une consécution donc d’une linéarité, le postulat algorithmique réfère plutôt à des opérations sémiotiques situées à un niveau de grande profondeur, une syntaxe profonde indépendante de la forme du langage choisi, une stratification qui se concrétisera avec le parcours génératif de la signification.

La ressemblance masque en outre une spécificité de l’algorithme sémiotique liée à la direction du récit. Comme le souligne Hénault : « la principale caractéristique de l’algorithme est d’ordonner à rebours ses diverses composantes, en partant de la fin visée : la succession de ses phases est réglée selon un principe qui les subordonne les unes aux autres par des présuppositions en chaîne » (2012 : 140-141). La disposition logique du conte inverse ainsi l’ordre chronologique. Ce qu’elle dénomme alors « structure algorithmique du récit » (ibid. : 146) repose donc sur un enchainement de transformations, une « forme de programmation précise et rigoureuse » (ibid.) qui rejoint la règle générale de non-ambigüité. Le terme de programmation induit enfin, sans la nommer, l’idée d’une récurrence, notion-clé pour le sémioticien comme pour l’informaticien qui l’intègre au fonctionnement de l’algorithme via la récursivité et l’itérativité des séquences. Une idée supplémentaire a néanmoins été introduite dans la définition de Greimas, selon laquelle l’algorithme sémiotique ne décrit pas seulement des opérations, mais en prescrit l’ordonnancement, la programmation de ce syntagme vers un résultat prévisible donnant au récit une dimension stratégique.

C’est du reste ce que précise le dictionnaire Sémiotique 1 (1993 [1973] : 12) qui lui dédie une longue entrée :

Par algorithme, on entend la prescription d’un ordre déterminé dans l’exécution d’un ensemble d’instructions explicites en vue de la solution d’un certain type de problème donné. Dans la métasémiotique scientifique, qui se donne pour tâche de représenter le fonctionnement d’une sémiotique sous la forme d’un système de règles, l’algorithme correspond à un savoir-faire syntagmatique, susceptible de programmer, sous forme d’instructions, l’application des règles appropriées.

Appliqué à l’univers de pensée du conte populaire, l’algorithme sémiotique se caractérise par sa forme résolutive : le problème posé initialement est réglé au dénouement et toute la combinatoire est déterminée par cette visée. Ceci introduit une différence dans la vocation heuristique des deux algorithmes. Celui de l’informatique produit, à partir des instructions qui lui sont données, des résultats prévisibles, ou du moins qui relèvent de calculs, mais reste néanmoins capable de produire des résultats inattendus qui, bien que relevant d’une programmation, constituent un accident du sens, une irrégularité vis-à-vis de notre interprétation. Il crée ainsi de l’événement, du nouveau. L’algorithme sémiotique, quant à lui, met au jour des relations à l’intérieur du discours. L’événement est en ce cas seulement relationnel et sonde la profondeur du récit, dont il résout l’énigme cachée. Il est caractérisé par une heuristique d’élucidation.

2. De l’algorithme au mythe

Les opérations de connexion qui dévoilent des inversions non seulement entre une situation initiale et finale, mais également entre un univers et l’autre sont des clés de fonctionnement des récits mythiques. Le mythe combine des oppositions sans les résoudre, comme l’indique Lévi-Strauss avec son analyse célèbre de celui d’Œdipe, mais il enchaîne également des oppositions binaires pour rendre compte de transformations en cascade qui se répondent deux par deux. Caractérisé par la contradiction, le mythe exemplifie un principe de négation, commenté par Lévi-Strauss : « comme un mythe, un masque nie autant qu’il affirme ; il n’est pas fait seulement de ce qu’il dit ou croit dire, mais de ce qu’il « exclut ». Et il poursuit : « les mythes s’opposent à d’autres mythes, ils les contredisent ou les transforment, et il serait impossible de comprendre ceux-là sans se référer à ceux-ci » (1975 : 120).

Lévi-Strauss précise en outre le rapport des mythes à la signification et leur statut dans la culture. Si les mythes combinent, inversent les unités, et nous font finalement tourner en rond sans déceler une signification, c’est qu’ils stabilisent le mouvement de la culture en lui conférant une certaine forme. Plus exactement, « les mythes signifient l’esprit qui les élabore au moyen du monde dont il fait lui-même partie » (1964 : 346). Fabbri conserve ces deux dimensions à l’esprit. Anticipant de deux années l’extension du mythe aux domaines visuels et plastiques faite par Lévi-Strauss avec La Voie des masques (1975), il place l’univers des mass-média sous l’égide du mythe et de l’algorithme.

Selon lui, l’algorithme mass-médiatique permettrait, par une opération initiée au niveau des structures discursives, de nier les différences liées aux catégories sociales. Par une « uniformisation stylistique de la communication », le mythe dissimulerait à la fois l’utilisation marchande des discours et la soumission des « récepteurs » dont le statut de sujet serait ainsi artificiellement restauré.

Cette hypothèse socio-sémiotique forte, qui est aussi une critique sévère de la société mass-médiatique, précise l’enjeu stratégique de l’algorithme : il n’est pas seulement déterminé par un certain résultat, mais il tente, en bénéficiant de la délégation d’intentionnalité d’un actant, de résoudre des contradictions (c’est sa dimension stratégique), de rendre compatibles des éléments qui ne sont pas censés tenir ensemble en produisant un effet de cohérence. Leur donnant une forme, il les rend commensurables et compatibles sans obligation de résolution. On pourrait ajouter, comme le suggère déjà Fabbri, que la forme donnée, qui présente l’attrait de ce qu’on appellerait aujourd’hui un storytelling, les rend partageables, mémorisables, les ramenant à la nécessité du signe soulignée naguère par Locke (1972[1686]).

L’apport de Fabbri permet encore de saisir, à travers la référence au mass-média, la part cachée de l’algorithme dont les combinaisons locales ne sont qu’un moyen pour une grande transformation véridictoire qui, via la dissimulation et la simulation, rend le discours acceptable dans la culture. C’est ce qu’on appelle tout simplement la mystification qui vise à obtenir la confiance et l’adhésion. Un contraste s’impose dès lors à l’attention entre cette conception qui insère l’algorithme dans le mouvement de la culture et les définitions précédentes, la définition générale et celle de Greimas, toutes deux marquées par la rigueur. Il y est question de précision, d’un nombre fini d’opérations dont la succession est réglée : autant de qualificatifs qui semblent s’allier pour conjurer l’approximation, l’illusion et le mensonge mass-médiatiques.

La capacité d’uniformisation des mythes (« l’uniformisation stylistique de la communication », dit Fabbri) qui se manifeste au niveau de la culture n’exclut pas un fonctionnement local qui leur permet de s’opposer les uns aux autres, les contrastes de ces micro-mythes restituant précisément le mouvement de la culture. Il serait intéressant, de ce point de vue, de faire le lien entre les micro-mythes qui solidifient ainsi des univers de sens et les formes de vie dont ils pourraient être les supports discursifs, et donc d’examiner leur place dans l’échafaudage des pratiques élaboré par Fontanille (2008). Cette localisation dans la culture nous autorise à référer la marque à l’algorithme, parce qu’elle aussi « tient ensemble » des éléments hétérogènes et même contradictoires en leur donnant une forme solide, en produisant un effet de cohérence globale. Ce petit paquet de valeurs solidifié et paré d’un joli nom masque alors la visée marchande, se prête au partage et voyage élégamment dans l’espace et dans le temps en se renouvelant au gré de l’évolution des valeurs tout en restant fidèle à lui-même, toujours identifiable.

Ce bref parcours permet de comparer les algorithmes sémiotique et informatique, en permettant de mieux comprendre l’utilisation du terme par le métalangage de la sémiotique. L’algorithme introduit l’idée d’une synthèse (étymologiquement : poser ensemble) et d’une complexité synthétique, référant à la fois à une suite syntagmatique (qui renvoie à la linéarité du récit) dont les unités peuvent être recombinées, et à une épaisseur, une superposition de couches interdépendantes, donc à un diagramme en deux dimensions, voire un objet doté d’un volume. Cet objet est constitué de séries qui confirment l’exigence de segmentation du discours de l’analyse sémiotique. La référence à l’algorithme introduit en outre les notions de régularité, de récurrence, de programmation et l’idée d’une stratégie. La référence aux mathématiques introduit de surcroît une exigence de rigueur, de précision et de finitude (« non-ambigüité »).

Les deux algorithmes s’offrent également comme des étapes intermédiaires entre l’analyse qu’ils formalisent et l’interprétation. Le fait que l’algorithme sémiotique puisse être qualifié d’humain, par opposition à l’autre, permet aussi de le rapporter à une approche globale qu’on peut relier à l’effet de sens global et englobant aperçu par Fabbri. On rappellerait ici la critique adressée par Bachimont (2022) à l’IA et au calcul qui projettent au niveau local, alors que l’interprétation procède du global au local. L’algorithme synthétise (pose ensemble) finalement toutes les isotopies permettant à la sémiotique d’assumer sa vocation structuraliste (récurrence, binarisme, combinatoire, etc.) et d’élaborer des systèmes. Il précise ce projet par l’imaginaire du calcul qui introduit l’idée de tâches mécaniques et fiables. Ces ressemblances n’excluent pas certaines différences. Si les deux algorithmes fonctionnent dans le même sens, celui de la sémiotique prévoit un principe récursif évoquant le futur antérieur de la langue française. De même, s’ils partagent une vocation heuristique (il s’agit de produire du nouveau), ils produisent d’autres découvertes : l’algorithme sémiotique possède essentiellement un pouvoir d’élucidation.

Depuis sa mise en œuvre dans les années 60, on pourrait avancer que l’imaginaire algorithmique, initialement marqué par la régularité, s’est vu diversement connoté et s’est étoffé d’une dimension machinique, l’IA le rendant encore plus performant et capable de manipuler des données massives. Cette puissance synthétique introduit l’idée d’un faire, avec une connotation très active, véloce, peut-être même un peu magique. Sans doute en raison de cette profondeur devenue insondable due au « big », il reçoit en outre une connotation de dissimulation inquiétante qui confirme la dimension véridictoire déjà dévoilée par Fabbri à propos des mass-médias. Parce que la profondeur abyssale des données ne peut plus être embrassée, appréhendée globalement, donc pas maîtrisée unitairement, l’algorithme est aujourd’hui considéré plus ou moins comme une boîte noire, qui prend le statut de destinateur social invisible, inquiétant car capable de régler souterrainement nos vies.

3. Conclusion

Les deux conceptions diffèrent donc, d’autant plus que l’imaginaire de l’algorithme a évolué. Se pourrait-il que le terme soit employé comme une métaphore par la sémiotique ? Pour Meyer, cette figure de style repose sur « un jugement où deux entités sont identifiées sur la base d’une propriété commune qui a trait à ce dont il est question. Le reste de leurs attributs étant indifférents » (2005 : 118). Pour convenir d’une utilisation métaphorique, il suffirait de garder à l’esprit ces grandes ressemblances fonctionnelles et d’oublier les différences locales, notamment celles qui réfèrent à l’évolution machinique récente. On comprend néanmoins que le modèle de l’algorithme incarne la promesse d’une discipline en construction (Greimas 1966b), qui entend conjurer la subjectivité et dépasser l’analyse impressive. L’algorithme semble être bien plus qu’une métaphore pour la sémiotique… Il resterait à évaluer la part de séduction du modèle. Dans un ouvrage célèbre, Mac Allister (1996) explique que les scientifiques choisissent leurs théories sur des critères essentiellement esthétiques. Il laisse penser que le choix du modèle algorithmique par Greimas reposerait, peu ou prou, sur sa beauté, une beauté coïncidant au demeurant avec des critères de rigueur, de précision et de symétrie.

Ce parcours touchant à sa fin, il resterait à suivre les transformations des algorithmes sémiotiques, parallèles à celles des algorithmes informatiques, jusqu’à aujourd’hui. Dans une époque qualifiée de post-vérité, les algorithmes sémiotiques ont-ils conservé leur efficacité heuristique ? Une mise en perspective des propositions historiques pourrait nous informer sur l’évolution des discours eux-mêmes relativement aux transitions numériques, anthropiques et sociales, leur opacité et leur disponibilité à l’éludication.