La représentation visuelle des classes d’objets1

L’usage de méthodes visuelles est ancien et répandu en logique, bien qu’elles soient le plus souvent confinées à des fonctions heuristiques ou pédagogiques (Moktefi & Shin 2012). Les diagrammes spatiaux, appelés familièrement « patates », sont particulièrement populaires, notamment dans les contextes éducatifs. Leur principe est bien simple : représenter une classe par un cercle. Pour Charles S. Peirce, ces diagrammes tirent leur force de leur statut « véridiquement iconique » sans recours à quelque convention (Peirce 1933, p. 316). En revanche, Umberto Eco, bien qu’il admette l’iconicité de ces diagrammes, y voit davantage une homologie conventionnelle entre espaces et classes, plutôt qu’une ressemblance physique « mis à part le fait que je puis être défini comme appartenant à la classe de tous ceux qui se trouvent dans un certain lieu » (Eco 1980, trad. Fr. pp. 228-229). Afin de démêler cette situation, nous proposons dans ce qui suit une discussion des principes de représentation visuelle des classes d’objets et des relations entre classes. Cela permettra notamment de comprendre comment ces figures géométriques donnent à voir des énoncés logiques.

Les cercles d’Euler

Leonhard Euler introduit ses diagrammes dans le second volume de ses Lettres à une Princesse d’Allemagne (Euler 1768). L’idée est de représenter une classe d’objets par un espace dans lequel ces objets seraient regroupés et confinés :

Comme une notion générale renferme une infinité d’objets individus, on la regarde comme un espace dans lequel tous ces individus sont renfermés : ainsi pour la notion d’homme on fait un espace

dans lequel on conçoit, que tous les hommes sont compris. (Euler, 1768, p. 98)

Grâce à ce procédé, il est facile de représenter des relations logiques entre différentes classes, en indiquant les relations topologiques entre les espaces correspondants, selon qu’ils s’incluent, s’excluent ou s’entrecroisent. Ainsi, pour représenter la proposition « Tous les x sont y », il suffit de représenter un cercle x inclus dans un cercle y (Fig. 1).

Fig. 1

Étant donné que les individus de la classe x sont enfermés dans le cercle x, lequel est inclus dans le cercle y, alors ces individus sont nécessairement enfermés aussi dans le cercle y. Par conséquent, tous les individus de la classe x sont aussi des individus de la classe y. On devine aisément la puissance de ce mode de représentation fort intuitif pour construire un calcul logique. Cependant, cette méthode souffre de l’imperfection des correspondances entre les propositions et leurs diagrammes. En effet, dire que « Tous les x sont y » n’implique en rien que la classe x soit strictement incluse dans la classe y, comme le suggère sa représentation visuelle (Fig. 1). La classe x peut tout autant être équivalente à la classe y, auquel cas les cercles x et y coïncideraient (Fig. 2).

Fig. 2

Or, la proposition « Tous les x sont y », à elle seule, ne nous permet pas de déterminer laquelle de ces deux configurations (Fig. 1 ; Fig. 2) est la relation réelle entre les classes x et y. Elles sont donc toutes deux aussi légitimes l’une que l’autre pour représenter la proposition « Tous les x sont y ». Dans une précédente contribution à la revue Visible, nous avions montré comment la prise en compte de l’ensemble des configurations possibles d’une même proposition, quoique nécessaire pour garantir la rigueur du calcul, amoindrissait fortement l’aide visuelle attendue de ce type de diagrammes (Moktefi 2010). Avant de discuter plus loin quelques solutions et alternatives utilisées par les logiciens pour échapper à cet obstacle, revenons sur les principes mêmes de représentation utilisés par Euler, afin de déceler les sources de cette difficulté.

Visualiser une classe

Comme expliqué ci-dessus, l’idée centrale du modèle eulérien est de représenter une classe par un espace. La forme et la taille du dit espace importent peu, bien que par convenance, Euler utilise simplement des cercles. Cette idée toute simple est d’ailleurs bien plus ancienne puisqu’on la retrouve chez de nombreux logiciens avant Euler. Ces diagrammes sont associés à ce dernier essentiellement parce qu’il a contribué à leur diffusion en construisant une théorie syllogistique qui en faisait un usage systématique. La simplicité de cette idée de départ (représenter une classe par un espace) ne doit pas nous faire perdre de vue que ces espaces ne sont pas à proprement parler des cercles (dans le sens où nous entendons généralement ce mot aujourd’hui), mais bien des disques (l’espace à l’intérieur du cercle) (Fig. 3).

Fig. 3

Nous pouvons convenir de l’appartenance du cercle même à l’espace ou non, mais il faut bien garder à l’esprit que le cercle lui-même n’a pas d’existence propre s’il ne referme aucun individu à l’intérieur. Ce point est extrêmement important pour comprendre l’idée même de classe, différente de celle d’ensemble, et ce à quoi renvoie sa représentation visuelle. La classe doit être comprise comme l’extension d’un concept ou d’un terme. Ainsi, la classe des chevaux regrouperait tous les objets auxquels renvoie le concept « cheval ». Ce point a son importance car il répond à certaines critiques dont a fait l’objet l’usage de méthodes visuelles en logique. Supposons que l’on représente la classe des chevaux par un cercle et qu’on regroupe les chevaux noirs dans un second cercle à l’intérieur du premier. On aura ainsi divisé la classe des chevaux en deux catégories : ceux qui sont noirs et ceux qui ne le sont pas. Pour autant, il ne faut surtout pas y voir une division du concept de « cheval » en deux concepts « noir » et « non-noir », puisqu’il n’entre pas dans la définition du concept de cheval d’être ou de ne pas être noir. Ce ne sont donc pas les concepts qui sont représentés et divisés, mais bien leurs extensions.

Dans la définition d’une classe, nous adoptons une conception méréologique de la collection d’objets, les parties étant des sortes de morceaux qui formeraient un tout. Contrairement à la notion d’ensemble, la classe n’a donc pas d’existence en dehors de l’existence de ses individus, tandis qu’un ensemble peut parfaitement exister sans comporter des individus, auquel cas l’ensemble serait tout simplement vide. Pour mieux comprendre cela, prenons l’exemple concret suivant. Soit la classe I des pays ibériques. Disons qu’en intension, le concept « pays ibérique » dénote tout pays situé sur la Péninsule ibérique. La classe des pays ibériques I se composerait alors des individus : Espagne et Portugal (par simplification, nous omettons ici le territoire de Gibraltar). Sans l’existence de ces deux pays, la classe I n’existerait tout simplement pas, alors qu’un ensemble de pays ibériques pourrait parfaitement exister dans cette hypothèse-là, et serait simplement vide. On voit là toute l’importance de bien voir nos cercles d’Euler comme des surfaces et non comme des lignes closes, et donc de ne pas considérer l’existence de ces lignes indépendamment de l’espace intérieur qu’elles renferment. Cette interprétation du « cercle » peut surprendre le lecteur moderne habitué à voir dans le cercle davantage une ligne « circulaire » qu’une surface. C’est pourtant à cette seconde interprétation que renvoient les définitions d’Euclide :

Un cercle est une figure plane, comprise par une seule ligne qu’on nomme circonférence ; toutes les droites, menées à la circonférence d’un des points placés dans cette figure, étant égales entre elles. (Euclide vers 300 av. J.C., trad. Fr. p. 2) 

Les historiens des mathématiques sont habitués à voir l’idée de cercle varier, et répondre aussi bien à une interprétation qu’à l’autre, selon les contextes historique et culturel (Goldstein 1989). Dans le cas qui nous intéresse, il faut donc bien garder à l’esprit que les classes sont bien représentées par des espaces et non par des lignes.

Jusque-là, nous avons discuté le principe de représentation d’une classe donnée avec un espace. Examinons maintenant l’idée qui fonde le principe de représentation des propositions, entendues comme relations entre classes. Prenons la proposition : « Tous les pays ibériques sont des pays européens ». Soient I la classe des pays ibériques et E la classe des pays européens (par simplification, bornons-nous à l’Europe continentale). La représentation de ladite proposition reviendrait à diviser un espace E en deux sous-espaces l’un correspondant à I et l’autre à non-I (Fig. 4).

Fig. 4

Dans un sens, cela ne diffère en rien d’une carte où l’on peut bien voir l’espace que recouvrent les pays ibériques comme partie de l’espace que recouvrent les pays européens (Fig. 5). Cette dernière figure est donc équivalente à (Fig. 4) puisque la forme et la taille des espaces importe peu pour exprimer les relations topologiques entre les espaces.

Fig. 5

Naturellement, le choix de cet exemple concret ne doit pas nous faire perdre de vue que la construction des classes reste un acte mental et qu’à ce titre, l’existence réelle des individus n’est pas nécessaire. On peut alors concevoir une classe de licornes ou de dragons du moment qu’on leur accorde une existence symbolique qui ne « vide » pas la classe. L’intérêt de notre exemple est donc d’abord pédagogique pour bien expliquer que nous manipulons des espaces, et que les lignes closes qui les entourent n’ont pas plus d’existence qu’une frontière sans le territoire qu’elle délimite.

Représenter l’incertitude

Nous avons vu que les diagrammes d’Euler procédaient par division de l’espace en sous-espaces dont la disposition indiquerait la relation connue entre les classes. Ainsi, la représentation de la proposition « Tous les x sont y » revenait à diviser l’espace y en deux espaces, l’un correspondant à x et l’autre à non-x, comme indiqué dans l’arbre suivant (Fig. 6).

Fig. 6

Or, nous avons également vu que les propositions dont nous disposons offrent souvent une information incomplète quant à l’état réel de la relation entre les classes, et c’est bien là tout le problème de la méthode d’Euler. Ainsi, dans l’exemple ci-dessus, nous avions vu que la proposition « Tous les x sont y » n’indique pas nécessairement l’existence d’individus qui soient non-x puisque les classes x et y peuvent parfaitement coïncider sans violer l’information contenue dans la proposition. La branche non-x dans l’arbre (Fig. 6) n’existe donc peut-être pas. En même temps, nous ne pouvons pas non plus scier cette branche puisqu’elle peut exister sans contredire non plus la proposition que nous souhaitons représenter. La proposition « Tous les x sont y » dit bien que les x qui existent sont nécessairement des y, mais est silencieuse quant à l’existence ou inexistence des y qui seraient des non-x. Nous avons donc une connaissance partielle de la relation réelle entre les classes x et y, à cause de l’incertitude quant au statut de la branche non-x.

Depuis la publication des diagrammes d’Euler, les logiciens ont recouru à plusieurs artifices pour remédier à cette incertitude en proposant de nouvelles typologies des propositions logiques. Si l’on s’en tient cependant à la classification canonique des propositions telle que nous les entendions jusque-là dans notre article, il n’est pas possible d’échapper à cette incertitude. Nous avons vu qu’une solution (peu satisfaisante) pour la représenter était de lister toutes les configurations permises par une même proposition et de dessiner un diagramme pour chaque configuration. Malgré ses limites, plusieurs logiciens ont utilisé cette méthode à l’image de John Neville Keynes bien qu’il admette que ce soit « très complexe » (Keynes 1906, p. 344).

D’autres solutions ont cependant été développées. Une solution simple consiste à représenter l’incertitude à l’aide de lignes en pointillés. Avant d’en montrer l’usage avec des diagrammes d’Euler, revenons un instant à notre arbre (Fig. 6) pour en expliquer le principe. Nous y avions vu que l’incertitude dans la représentation de la proposition « Tous les x sont y » résidait dans l’existence ou non de la branche non-x. Pour indiquer cette incertitude, il suffira alors de représenter cette branche en pointillés (Fig. 7).

Fig. 7

Fig. 8

La nature double des pointillés (existence et absence alternées de la ligne) suggère que la branche peut exister ou ne pas exister. Si la ligne existe, on aura alors une inclusion stricte de x dans y, et si la ligne n’existe pas, alors les classes x et y seront équivalentes. C’est ce procédé que plusieurs logiciens ont appliqué aux diagrammes d’Euler au cours du XIX^e siècle (voir Thomson 1849, p. 271 ; Ueberweg 1857, pp. 225-227 ; Bergamann 1879, p. 372) combinant les différentes configurations d’une même proposition en un seul diagramme dont les différentes interprétations des lignes discontinues permettent de reconstituer les diagrammes correspondant à chaque configuration.

Ainsi, la représentation de la proposition « Tous les x sont y » avec cette technique peut être réalisée à l’aide d’un seul diagramme, en indiquant en pointillés les lignes dont l’existence nous est incertaine (Fig. 8). Si la ligne discontinue est transformée en ligne pleine, alors le diagramme indiquera le cas où la classe x est strictement incluse dans la classe y puisqu’il existera désormais un espace correspondant à la classe non-x, comme dans (Fig. 1). En revanche, si la ligne discontinue disparaît, on retrouvera deux classes x et y identiques, comme dans (Fig. 2). Ainsi, l’interprétation de la ligne en pointillés permet de distinguer les deux configurations possibles de la proposition « Tous les x sont y », et d’en reconstituer les représentations visuelles propres à chaque configuration.

Cette solution a le mérite de mettre fin à la multiplication des diagrammes pour représenter une seule et même proposition. Certes, l’usage d’une ligne discontinue diminue l’aide visuelle attendue, puisqu’il faut désormais « lire » le diagramme, en interprétant l’existence ou inexistence des lignes en pointillés, pour « voir » la proposition, comme on lirait une carte où serait indiquée une frontière incertaine entre deux territoires. Nous n’avons donc plus la simplicité « intuitive » des diagrammes d’Euler. Enfin, ce procédé en pointillés est peu satisfaisant dès lors que le nombre de classes augmente, et que les lignes discontinues se multiplient. Nous allons voir dans la section suivante une autre méthode, plus ingénieuse, pour représenter l’incertitude et remédier aux ambiguïtés et aux limites des méthodes précédentes.

Les compartiments de Venn

Insatisfait de la méthode de représentation d’Euler, le logicien anglais John Venn invente ses propres diagrammes qu’il publie en 1880 (Venn 1880). S’il reprend bien les cercles d’Euler, Venn en fait un usage très différent et sa méthode marque une rupture plus radicale que les méthodes précédentes pour représenter l’incertitude. En effet, jusque-là, Euler et ses successeurs (avec la méthode de la ligne discontinue) représentaient directement les classes dont nous connaissions l’existence réelle ou possible par la proposition que nous souhaitons représenter. La forme générale des diagrammes variait donc considérablement selon la proposition à représenter, et il fallait souvent redessiner son diagramme à chaque nouvelle information recueillie sur l’état des classes. Venn procède autrement en dessinant d’abord un premier diagramme de base « vide » représentant toutes les combinaisons possibles pour un nombre donné de termes, indépendamment de toute proposition. Cela signifie qu’un seul diagramme de base est suffisant pour représenter toutes les propositions pour un même nombre de termes. Ensuite, il suffira d’indiquer avec un signe distinctif l’état des combinaisons que nous savons permises ou interdites par les propositions que nous souhaitons représenter. Avant de donner un exemple concret, expliquons à l’aide d’arbres la démarche de Venn pour en apprécier toute l’originalité.

Soient deux termes x et y. Il existe nécessairement 4 combinaisons possibles entre ces termes : x y, x non-y, non-x y, non-x non-y. Ces combinaisons sont obtenues en divisant dichotomiquement l’univers logique (U), quel que soit l’ordre des termes. Par exemple, une première dichotomie permet de distinguer deux sub-divisions y et non-y. La division dichotomique de chacune de ces deux subdivisions en x et non-x permet alors d’obtenir les 4 combinaisons listées précédemment, comme indiqué dans l’arbre (Fig. 9).

Fig. 9

À ce stade, cet arbre ne comporte aucune information puisqu’il indique tous les cas possibles, sans référence à une proposition donnée. Supposons maintenant que l’on souhaite représenter la proposition « Tous les x sont y ». Conformément à la théorie logique de Venn, qui n’accorde pas de portée existentielle aux propositions affirmatives universelles, cette proposition indique qu’il n’existe pas de x qui soient des non-y. Ainsi, il faudrait « scier » la branche x non-y de notre arbre, ce qu’il est possible d’indiquer en ajoutant une marque distinctive : une croix par exemple (Fig. 10).

Fig. 10

On notera qu’avant l’ajout de la croix, l’arbre n’indiquait aucune information particulière, et que c’est l’ajout de ce signe dans un second temps qui permet de représenter la proposition qui nous intéresse. Cette représentation en deux étapes est l’innovation principale de Venn. On peut mesurer la subtilité de cette approche en examinant les diagrammes qu’elle produit. Ainsi, pour deux termes x et y, il faut d’abord croiser les deux cercles x et y de sorte à diviser l’espace en 4 subdivisions correspondant aux 4 combinaisons possibles des 2 termes : x y (l’espace commun aux deux cercles), x non-y (l’espace intérieur du cercle x mais extérieur au cercle y), non-x y (l’espace intérieur du cercle y mais extérieur au cercle x), non-x non-y (l’espace extérieur aux deux cercles) (Fig. 11).

Fig. 11

Fig. 12

Ce diagramme, qui dans le cas d’Euler indiquerait que les classes x et y ont des individus communs, ne comporte strictement aucune information dans le cas de Venn. Il s’agit d’un cadre général sur lequel seront représentées les propositions exprimant une relation entre x et y. Pour cela, Venn introduit la convention suivante : pour indiquer qu’une subdivision est vide, il suffit de la rayer. Ainsi, pour représenter la proposition « Tous les x sont y », laquelle indique qu’il n’existe pas de x qui soit non-y, il suffit de rayer le compartiment x non-y (Fig. 12).

La convention de Venn n’est pas tout à fait neutre puisqu’en rayant ce compartiment, les subdivisions restantes donnent à voir une figure qui ressemble au diagramme (Fig. 8) avec cependant une ligne continue. Cela n’empêche pas de représenter l’incertitude, puisque notre diagramme (Fig. 12) n’indique en rien que le compartiment non-x y contient des individus. Si c’était le cas, x aurait été strictement inclus dans y. Dans le même temps, nous ne savons pas non plus si le compartiment non-x y est vide, auquel cas nous l’aurions rayé pour indiquer que x et y coïncident. On voit là tout l’intérêt de la méthode de Venn qui permet de représenter les informations potentielles sans avoir à redessiner son diagramme. L’ajout de nouvelles informations se fait simplement en ajoutant de nouveaux signes distinctifs sur un diagramme de base inchangé, quelle que soit la proposition à représenter pour un nombre donné de termes. Il est évident cependant que ces signes réduisent considérablement la simplicité « naturelle » des diagrammes puisqu’il faut désormais « déchiffrer » les signes pour lire le diagramme. L’aide visuelle s’en trouve donc diminuée.

Venons-en désormais à la question centrale qui nous préoccupe, à savoir la représentation visuelle des classes. Un examen attentif montre qu’en réalité, Venn ne représente jamais vraiment les classes, et c’est cela même qui fait toute la force de sa méthode. Venn est tout à fait explicite à ce sujet (Venn 1894, p. 119-120). Les espaces ne représentent que des compartiments, lesquels lorsqu’ils sont avérés non-vides contiendraient alors (mais ne représenteraient toujours pas) des classes. Ainsi, dans le diagramme (Fig. 12), l’espace rayé x non-y ne peut représenter une classe x non-y puisque cette classe n’existe pas. Ce qui n’empêche pas l’attribution d’un espace, dit compartiment, à cette combinaison. En cela, le diagramme de Venn diffère complètement des diagrammes précédents, lesquels divisent l’espace en sous-espaces dont nous savons l’existence, y compris dans le cas du diagramme à lignes discontinues (il suffit de considérer les cas où la ligne est confirmée ou supprimée pour s’en convaincre).

Conclusion

Revenons désormais aux interprétations contrastées de Peirce et d’Eco sur la force visuelle des diagrammes logiques, esquissées brièvement au début de cet article. Comme nous venons de le voir, il existe en réalité deux méthodes principales de représentation des classes d’objets et des relations entre classes : l’une que l’on dira de type-Euler et la seconde de type-Venn. Chacune fait appel à des cercles (ou autre figure close, quelle qu’en soit la forme) mais en fait un usage très spécifique, en recourant à une construction sémiotique distincte. Euler représente directement les classes tandis que Venn représente seulement des compartiments, lesquels listent les combinaisons entre classes. Euler représente la relation réelle entre classes tandis que Venn marque les compartiments pour indiquer l’état des classes.

Eco contestait que l’appartenance à une classe puisse être un fait spatial, « mis à part le fait que je puis être défini comme appartenant à la classe de tous ceux qui se trouvent dans un certain lieu ». Or, c’est très précisément comme cela qu’Euler représentait les classes. Ainsi, si l’on regroupe en un même lieu tous les chevaux, et que parmi ceux-là, on ait regroupé les chevaux noirs, on obtiendra nécessairement que l’espace occupé par les chevaux noirs soit une partie de l’espace occupé par l’intégralité des chevaux. Une « vue aérienne » en quelque sorte donnerait très précisément le diagramme d’Euler de la proposition « Tous les chevaux noirs sont des chevaux ». Cette représentation tient donc bien à une ressemblance spatiale et non à une pure homologie conventionnelle. Cela ne signifie naturellement pas que la méthode d’Euler exclut toute convention, ne serait-ce que pour représenter les individus par des points. Cela n’affecte en rien la représentation des classes mêmes puisque la classification est une opération mentale, et qu’il importe peu que qu’on puisse ou non regrouper réellement tous les chevaux en un même lieu.

La position de Peirce nous aurait semblé plus judicieuse, si Peirce n’avait pas omis de distinguer clairement les méthodes d’Euler et de Venn, et n’avait pas continué à qualifier d’eulériens les diagrammes de Venn. Or, il nous semble que la méthode de Venn ne peut revendiquer la même « véritable iconicité » que celle d’Euler. En effet, nous avions vu que les diagrammes de Venn ne représentent pas les classes à proprement parler, mais des compartiments, lesquels ne renferment pas d’individus, et sont de simples cases dont l’agencement rend compte des combinaisons possibles entre termes sans garantir l’existence des classes. En cela, on peut voir davantage une homologie qu’une ressemblance entre les relations spatiales des compartiments et les relations logiques de classes.

Il nous faut donc insister ici sur l’importance de cette distinction entre les diagrammes de type-Euler et ceux de type-Venn. Ce mouvement est d’ailleurs caractéristique des bouleversements qui traversent la logique au XIX^e siècle, et peut être bien appréhendé et mieux compris dans le cadre d’une discussion plus générale sur l’arbitraire du signe dans les symbolismes mathématiques et logiques de l’époque (Durand-Richard & Moktefi 2013). La méthode d’Euler semble plus directe et intuitive, tandis que celle de Venn est plus complète et rigoureuse. Il est tentant de dire qu’on montre mieux avec Euler, mais qu’on démontre mieux avec Venn.