Une brève lecture topologique de la fenêtre d’Alberti et du cadre de Derrida

Remarque initiale. Ce blog n’est pas dédié aux mathématiques. Le paragraphe qui suit rappelle quelques notions de topologie sous une forme relativement intuitive, de manière aussi peu technique que possible. L’objectif ici est uniquement de donner un aperçu sur le théorème de Jordan afin de proposer à partir de ce résultat remarquable une lecture topologique des concepts de fenêtre chez Alberti et de cadre parergonal chez Derrida.

Topologie – théorème de Jordan

La topologie est une branche des mathématiques étudiant les déformations spatiales à l’aide de transformations continues, c’est-à-dire celles qui permettent de transformer par exemple les courbes, les surfaces, les volumes sans les déchirer ou les recoller. Elle fait abstraction de la forme et de la taille des objets considérés et s’intéresse tout particulièrement aux propriétés invariantes des objets ainsi déformés.

Le développement systématique de la topologie date de 150 ans environ. Elle a d’abord été appelée à ses débuts Analysis situs selon une expression que l’on doit à Leibniz. Elle s’est ramifiée à l’époque moderne en plusieurs disciplines extrêmement spécialisées dont l’inventaire dépasse cette simple note¹.

Les notions de limite et de continuité constituent les concepts de base de la topologie. Parmi les autres notions fondamentales, on relève aussi beaucoup de mots familiers, tels adhérence, compact, connexité, déformation continue, frontière, intérieur, lacet, ouvert, fermé, recouvrement, voisinage, etc. Tous ces mots qui possèdent désormais un sens très technique dans le domaine considéré sont bien sûr issus d’une sorte de perception visuelle intuitive des notions topologiques. Ils peuvent être expliqués dans une certaine mesure sans faire appel à un formalisme, ce qui est loin d’être le cas pour la plupart des concepts mathématiques récents. Ainsi, intuitivement, un objet ouvert ne contient aucun point de son bord, tandis qu’un objet connexe est formé “d’un seul morceau” – on peut toujours passer d’un point d’un objet connexe à un autre point du même objet en suivant un chemin continu, sans “sortir” de l’objet.

Une courbe de Jordan dans un plan est une courbe fermée simple, c’est-à-dire tracée sans lever le crayon, sans repasser deux fois au même endroit, et qui se ferme sur elle-même. Un cercle, une ellipse, un triangle, un rectangle, etc. constituent autant de courbes de Jordan, qui sont d’ailleurs considérées comme équivalentes (homéomorphes) du point de vue topologique car on passe d’un cercle à un triangle par exemple à l’aide d’une déformation continue. Bien entendu, une courbe de Jordan peut être tout à fait irrégulière et “informe”. Une autre façon de présenter les choses est de considérer une courbe de Jordan quelconque comme un cercle déformé.

Le théorème de Jordan (1887) s’énonce alors ainsi:

Le complémentaire d’une courbe de Jordan dans un plan est exactement formé de deux composantes connexes disjointes, toutes deux ouvertes, dont l’une est bornée et l’autre non. Ces deux composantes ont pour frontière la courbe de Jordan.

Autrement dit, en langage plus intuitif, le théorème nous dit qu’une courbe fermée simple découpe le plan en deux parties distinctes qui sont chacune formée d’un seul tenant : l'”intérieur” qui est fini, et l'”extérieur” qui est infini (pour autant que l’on considère le plan comme une surface sans limites). La courbe est le bord commun à l’intérieur et à l’extérieur.

Ce résultat est remarquable. Son énoncé intuitif semble en effet au premier abord tout à fait évident: tracer une courbe fermée entraîne de facto la distinction d’une partie intérieure et d’une partie extérieure à la courbe. Le tracé d’un cercle ou d’un rectangle par exemple définit naturellement un dedans et un dehors sans qu’il soit nécessaire semble-t-il de théoriser cette banalité. Cela “tombe sous le sens” pourrait-on croire, et d’ailleurs on a longtemps estimé que ce résultat immédiat relève de la perception et ne nécessite aucune démonstration. Or ce théorème est difficile à démontrer; il est par exemple toujours énoncé mais admis sans preuve dans les cursus de topologie de licence ou de master². Le contraste entre la formulation évidente de l’énoncé et sa preuve laborieuse est a priori très étonnant.

Malgré d’innombrables tentatives de simplification, la démonstration de ce théorème demeure toujours difficile. Certains philosophes des mathématiques ont suggéré que l’écart considérable entre cet énoncé facile et sa preuve pourrait indiquer que les notions de base retenues par la topologie demeurent perfectibles, et que des progrès conceptuels pourraient permettre de réduire cette complexité. Mais en fait, la difficulté de la démonstration tient pour l’essentiel au caractère faussement évident de la notion de courbe de Jordan. Les courbes fermées très simples comme le cercle ou le rectangle nous sont familières, et nous les percevons comme des objets immédiats dont les représentations imagées sont parfaitement accordées avec la conception que nous en avons. Mais il existe des courbes de Jordan plus complexes à concevoir correctement et dont les représentations imagées ne sont pas immédiates et constituent toujours des approximations. Une fractale comme le flocon de Koch par exemple est une courbe de Jordan, et la compréhension de l’intérieur et de l’extérieur pour ce type de courbe est alors bien moins évident.

La fenêtre d’Alberti

La première partie du livre de Leon Battista Alberti La Peinture (De pictura) s’intitule Rudiments (Rudimenta). Elle décrit les bases optiques et géométriques estimées indispensables pour le peintre ainsi qu’une méthode pratique de construction de la perspective. Les notions exposées sont effectivement assez rudimentaires pour un lecteur moderne. Cependant, dans cette section du célèbre ouvrage fondateur, Alberti ne prétend pas rivaliser sur le plan mathématique avec les raffinements conceptuels et la rigueur qui figurent par exemple dans les Éléments d’Euclide écrits plus de 17 siècles auparavant. Le livre ne comporte ainsi aucune démonstration³. Le propos revendiqué par Alberti n’est pas celui d’un pur mathématicien, mais celui d’un peintre (op. cit. I.1 p. 43) et l’intérêt de cette partie du livre n’est donc pas proprement scientifique.

Une lecture plus distancée de cette partie technique de l’ouvrage permet pourtant de reconnaître certains modes d’exposition originaux des concepts mathématiques élémentaires abordés. Alberti propose en effet un certain nombre de qualifications métaphoriques personnelles appliquées à des propriétés de l’espace que nous pourrions presque qualifier à l’époque moderne de “topologiques” (c’est-à-dire, grosso modo, indépendantes de la forme géométrique classique et de la mesure des objets considérés). En voici quelques exemples:

« La première [qualité permanente des surfaces] se fait connaître à travers ce tour extérieur qui ferme la surface, tour qu’à dire vrai certains appellent « horizon »; pour notre part, si on nous le permet, nous lui donnons par une certaine analogie le nom latin d’ora, qui signifie « rive », ou si on veut bien celui de « contour ». » (I.2).
«  [La seconde qualité] est comme une peau tendue à travers tout le dos de la surface. » (I.4).

Ailleurs, il envisage le changement, la déformation des contours et des surfaces, pour montrer l’interdépendance des deux notions (I.3) ou comme un effet de ce qu’il nomme « la réception des lumières » (I.8). Dans la seconde partie, il utilise aussi plusieurs fois l’expression le « tour des contours » à propos de la « circonscription » (II.30 et 31).

Alberti s’intéresse donc en tant que peintre à des surfaces et à des contours plus généraux que ceux rencontrés dans les objets très réguliers manipulés habituellement par les géomètres. La préfiguration dans le De pictura de la géométrie projective de Desargues a souvent été rapportée⁴ mais l’attention d’Alberti aux surfaces enveloppantes, à leurs bords et à leurs déformations est également remarquable. Son point de vue de peintre et non de mathématicien lui permet d’introduire une “façon de penser l’espace” différente, plus globale que celui de la géométrie euclidienne, et qui, à certains égards, peut être qualifiée de proto-topologique.

Il ne s’agit pas ici d’affirmer qu’Alberti aurait anticipé ou aurait eu la prescience de concepts développés plusieurs siècles après lui, mais de reconnaître que certains passages de son traité utilisent quelques termes et résultats que l’on peut rapprocher – avec précaution certes – de certains concepts topologiques.

Enfin, l’un des passages parmi les plus commentés du De pictura, la définition de la fenêtre (finestra), pose également sur le seul aspect mathématique un acte tout autant topologique (distinction d’un intérieur et d’un extérieur) que géométrique (relatif aux propriétés intrinsèques de la figure quadrilatère inscrite) :

« Ainsi, laissant le reste de côté, je ne mentionnerai que ce que je fais quand je peins. D’abord j’inscris sur la surface à peindre un quadrilatère à angles droits aussi grand qu’il me plaît, qui est pour moi en vérité comme une fenêtre ouverte à partir de laquelle l’histoire représentée pourra être considérée. » (I.19).

C’est cet aspect “topologique” de la fenêtre albertienne que nous allons maintenant esquisser. On s’arrête en effet souvent à commenter l’aspect géométrique de la fenêtre rectangulaire. Mais avant d’être géométrique, l’acte décrit par Alberti est d’abord (mais implicitement) topologique. Comme l’expliquent fort bien Thomas Golsenne et Bertrand Prévost dans leur traduction et présentation du De pictura:

« [La définition du tableau selon Alberti] ne vise qu’à établir un espace indépendant et isolé du reste de la nature, que le dispositif perspectif va instaurer en pur espace de la représentation. » (p. 23)
« Bien qu’elle soit « ouverte », la fenêtre opère une clôture. D’abord elle n’est pas une vitre, mais un cadre qui ferme; et l’on ne regarde pas à travers, mais à partir de celui-ci (ex). […] le tableau, loin d’apparaître comme un fragment du monde infini, est une totalité close et finie. […] de même qu’elle se donne à voir comme étendue mesurable et finie, sous l’espèce du tableau ou de la fresque, de façon corollaire l’historia se donne à entendre comme récit clos, achevé, fini. […] L’historia s’instaure par une opération de clôture. » (p. 323).

Le processus décrit par Alberti commence donc bien par une action de délimitation non pas d’un seul espace, mais de deux espaces disjoints. Il induit une autonomisation de l’étendue qui deviendra tableau, en ce sens où tous les points de celle-ci sont potentiellement liés entre eux par des chemins continus sans incursions dans l’étendue infinie qui l’environne. C’est d’abord, effectivement, une opération de clôture proprement topologique.

Le cadre parergonal de Derrida

La vérité en peinture est un essai publié par Jacques Derrida en 1978. Ce livre contient quatre chapitres; le premier comporte un long développement sur la notion de parergon empruntée à Kant, mais en fait, l’ensemble de l’ouvrage est traversé par ce concept. Le parergon est ce qui agit à côté de l’œuvre (ergon). Ainsi, « peuvent servir de parergon : un cadre (au sens propre), un titre, une légende, un commentaire, une préface, une signature, des traits ou inscriptions qui entourent le document, une devise, un blason, un cartel, un cartouche, un espace environnant, etc. »⁵

C’est pourtant sur le cadre presque exclusivement que porte la réflexion de l’auteur à propos du parergon, mais ce cadre n’apparaît que rarement comme un objet physique encadrant le tableau. Le cadre derridien est bien plutôt une abstraction : « il y a du cadre, mais le cadre n’existe pas » (La vérité en peinture, p. 93).

Derrida ne s’intéresse pas particulièrement à la forme du cadre. Il s’en abstrait. Pour lui, « l’angle en général, le quadrangulaire en particulier » ne forment pas un objet parmi d’autres d’une future typologie de l’encadrement. Son propos est la bordure en général (p. 90). Il s’affranchit ainsi des propriétés géométriques habituelles pour se concentrer sur des propriétés plus profondes, moins contingentes⁶.

Les textes regroupés dans l’ouvrage de Derrida comportent de nombreuses formulations, de multiples mots ou locutions qui se réfèrent à une perception proprement topologique du rapport de l’œuvre d’art à son contexte. Ou pour dire les choses d’une autre manière, les connotations topologiques du vocabulaire employé par Derrida sont manifestes : abords (p. 15), adhérence et non adhérence (p. 113), bord à bord, (p. 63), border (pp. 27, 147), bordure (p. 11), bordure externe et bordure interne (p. 17), bout (p. 105), cadrage (p. 22), clôture (p. 39), dehors et dedans (pp. 17, 22, 27, 37, 53, 378), délimiter (p. 54), détachable/détachement (pp. 45, 47, 67, 69, 346, 422), encadrant et encadré (pp. 17, 29, 91), entrelacer (p. 37), exclure (p. 27), fermer (p. 27), entours (p. 15), franchir (p. 40), franchissement (p. 365), frontière (p. 113), lacer (p. 37), limite (pp. 39, 53, 73, 105), mixte de dehors et de dedans (p. 74), partie non particulière (p. 45), partition (p. 11), trajet du lacet (p. 366), etc. La liste on le voit est assez longue, et ce vocabulaire qui irrigue l’ensemble de l’ouvrage ressemble à celui d’un traité bourbakiste de topologie des années soixante-dix.

Certaines propositions de La vérité en peinture peuvent aussi être interprétées de façon plus élaborée, plus topologiques pourrait-on dire, qu’à l’aide d’un simple glossaire. Les énoncés deviennent alors presque opératoires :

« Le cadre parergonal, lui, se détache sur deux fonds, mais par rapport à chacun de ses deux fonds, il se fond dans l’autre » (p. 71).

Cette phrase un peu énigmatique (nous sommes chez Derrida) résonne comme une métaphore de la courbe de Jordan qui se détache sur les deux ouverts avec lesquels elle peut s’adjoindre, se fondre, pour former des fermés (puisque la courbe est une frontière). Cette exégèse topologique est peut-être un peu forcée et ne peut prétendre épuiser une proposition enserrée dans un texte difficile, mais elle semble bien fonctionner.

L’explicitation des liens que ces deux pensées bien distinctes⁷ entretiennent avec une théorie qui leur est a priori totalement étrangère ne constitue qu’une esquisse. Elle montre que des connexions entre des continents épistémologiques forts différents peuvent être tissés, et qu’intégrer la culture mathématique à la réflexion sur des concepts issus de la théorie ou de la philosophie de l’art est possible, comme cela l’était déjà à la Renaissance.

[Je remercie Olivier Beuvelet qui tient sur Culture Visuelle les blogs Parergon et Lucid Dreams. La lecture de ses articles et ses indications bibliographiques m’ont été précieuses.]

1. Sur l’histoire de la topologie jusqu’en 1900, cf. par exemple Guy Hirsch, Topologie, chapitre X de l’Abrégé d’histoire des mathématiques, vol. II, 1700-1900, sous la direction de Jean Dieudonné, Hermann, 1978. Plus approfondi et sur une période plus large, cf. History of topology, edited by Ioan Mackenzie James, Elsevier, 1999. [↩]
2. Pour une démonstration complète, sur 18 pages, cf. Milos Dostal, Ralph Tindel, The Jordan curve theorem revisited, Jahresbericht der Deutschen Mathematiker-Vereinigung, 80 (1978), format PDF. [↩]
3. Le seul véritable théorème mentionné concerne les triangles proportionnels et il est donné sans démonstration, cf. Leon Battista Alberti, La Peinture (1436), texte latin, trad.fr., version italienne, édition de Thomas Golsenne & Bertrand Prévost, revue par Yves Hersant, Paris, Le Seuil, coll. ” Sources du savoir “, 2004. I.13 & 14. p. 73 [↩]
4. cf. par exemple Gérard Wajcman, Fenêtre – chroniques du regard et de l’intime, Éditions Verdier, 2004, p. 165. [↩]
5. Derridex, Index des termes de l’œuvre de Jacques Derrida. [↩]
6. Il s’affranchit de la forme, mais pas de la taille, puisque dans le chapitre sur le Colossal, il estime que cette forme d’art exclut le parergon (p. 146). [↩]
7. Derrida ne mentionne pas Alberti, et Wajcman dont le livre La fenêtre déjà mentionné s’inspire essentiellement d’Alberti ne cite pas Derrida. [↩]

---

---