L’interprétation des graphiques produits par Ngram Viewer
Ngram Viewer est un nouvel outil mis en ligne par Google le 16 décembre dernier. Il permet de visualiser sous forme de graphiques les fréquences d’apparition de suites de mots dans les livres numérisés depuis 2003 sur Google Books. Ce projet a été initié en 2007 par un mathématicien et physicien américain, Erez Lieberman Aiden. Il a été soutenu par Google Labs et développé par des chercheurs de Harvard, en particulier Jean-Baptiste Michel, jeune polytechnicien français.
Apparition et évolution de la fréquence des mots télégraphe, téléphone, radio, télévision, Internet, internet en français de 1800 à 2008. Remarquez que l’outil distingue les majuscules et minuscules (‘Internet’ apparaît plus tôt que ‘internet’ et il est plus fréquent). Pour tous les exemples illustrés de ce billet, cliquez sur le graphique correspondant afin d’afficher la requête directement dans Ngram Viewer.
L’application contient actuellement les mots extraits de plus de 5 millions d’ouvrages, ce qui correspond d’après les développeurs à 4% des livres jamais publiés. Les ouvrages les plus anciens utilisés dans le projet remontent au XVIème siècle mais la très grande majorité sont postérieurs à 1800.
Il s’agit en fait d’un énorme lexique interrogeable contenant plus de 500 milliards de mots et organisé en sous-lexiques par langues : anglais (361 milliards de mots = Mm) [différencié en anglais américain et britannique], français (45 Mm), espagnol (45 Mm), allemand (37 Mm), russe (35 Mm), chinois (13 Mm) et hébreu (2 Mm).
Sans trop entrer dans les détails techniques, les lexiques sont des tables composées de n-grammes, c’est-à-dire des séquences de mots apparaissant dans les ouvrages numérisés. L’outil met ainsi en œuvre 5 catégories de tables: monogrammes (mots uniques), bigrammes (deux mots qui se suivent), … , jusqu’aux 5-grammes (5 mots successifs). Il n’est donc pas possible de connaître à l’aide de Ngram Viewer les fréquences d’apparition du vers de Verlaine De la musique avant toute chose qui comporte 6 mots. Par contre, on trouvera les deux séquences de cinq mots chacune De la musique avant toute et la musique avant toute chose dont les courbes représentatives affichées par Ngram Viewer sont manifestement corrélées.
Les lexiques sont mis à la disposition du public selon la licence Creative Commons et sous la forme de fichiers au format CSV. Bien que très volumineux, ils sont donc facilement lisibles et l’on devrait ainsi voir apparaître de nouvelles applications les utilisant. À titre d’exemple, une ligne du lexique 5-grammes français se présente ainsi:
principes fondamentaux de la philosophie 1988 17 16 12
où la suite de mots principes fondamentaux de la philosophie est un 5-gramme, 1988 l’année de parution des livres analysés, 17 le nombre d’occurrences de la suite de mots dans l’ensemble des ouvrages de l’année en question, 16 le nombre de pages différentes et 12 le nombre de livres où la séquence apparaît. Aucune référence aux ouvrages analysés ne figure dans ces tables qui ne contiennent qu’une compilation de comptages d’occurrences.
Ces différents sous-lexiques sont donc par construction totalement « autonomes », indépendants de Google Books. Il s’agit là manifestement d’un choix stratégique de Google qui aurait pu construire un outil beaucoup plus sophistiqué relié à sa base d’ouvrages numérisés. Le projet peut dès lors fonctionner sans qu’il soit nécessaire de mettre à la disposition des utilisateurs l’accès aux documents (initiative controversée comme on le sait). Mais ce choix comporte aussi un inconvénient majeur puisqu’il interdit de rechercher sur le voisinage plus éloigné des mots et empêche toute contextualisation des résultats (quel livre, quelle page, quel paragraphe contiennent telle suite de mots). L’utilisateur ne dispose que de statistiques extrêmement sommaires et synthétiques, mais il en voit énormément. On regrettera que les concepteurs n’aient pas facilité la tâche des analystes, ne serait-ce qu’en stockant dans chaque entrée de lexique les id Google Books des 3 ouvrages qui contribuent le plus au nombre d’occurrences.
Les approximations de la reconnaissance de caractères (OCR) utilisée dans Google Books se retrouvent sur Ngram Viewer. Ainsi, la plupart des observateurs mentionnés dans la webographie sélective ci-dessous mettent en évidence l’évolution progressive de la graphie du s long – reconnu par l’OCR comme un f – vers la forme du s minuscule que nous connaissons actuellement.
La disparition progressive du s long : plufieurs,plusieurs,prefque,presque de 1750 à 1830 (français). À noter que l’évolution du mot ‘plusieurs’ semble anticiper celle de ‘presque’, peut-être sous l’influence du s final du mot.
De même, de nombreuses évolutions de graphies issues pour la plupart de diverses réformes de l’orthographe peuvent être visualisées très rapidement, et le résultat est souvent spectaculaire (exemples: mes parens,mes parents en français, quando,cuando en espagnol).
Mais on relève aussi de nombreuses erreurs d’OCR et surtout l’attribution de dates de publication erronées à des documents comme on peut le voir par exemple sur le mot Internet. La réédition de certains ouvrages est certainement la cause d’un grand nombre de ces erreurs. Pour Natalie Binder, il se pourrait même à terme que l’intérêt principal de Ngram Viewer consiste à identifier rapidement les erreurs d’OCR et de dates sur Google Books!
L’aspect purement lexical du projet qui ne distingue pas les polysémies rend de nombreuses recherches pratiquement impossibles (essayez d’afficher la fréquence des noms de saisons en français par exemple).
L’équipe de développement de Ngram Viewer a publié dans la revue Science un article intitulé Quantitative Analysis of Culture Using Millions of Digitized Books qui introduit le terme cultoromics (cultoronomique en français) pour désigner un nouveau champ d’application de la lexicométrie. Les auteurs ont aussi lancé un site web culturomics.org. Amalgame de culture et de genomics, domaine dans lequel plusieurs membres de l’équipe dont Erez Aiden ont travaillé, cette activité prétend en quelque sorte mettre en évidence des évolutions culturelles sur de longues périodes à travers l’analyse de fréquence portant sur de très vastes corpus de mots.
Dans leur remarquable billet Prodiges et vertiges de la lexicométrie sur le blog socioargu, Francis Chateauraynaud et Josquin Debaz s’interrogent sur la pertinence de certaines recherches ignorant les évolutions du sens des mots sur de longues périodes et émettent de sérieuses réserves concernant l’ambition culturonomique. À tout le moins, la tentative manifeste de créer une nouvelle discipline en la nommant d’après un champ de recherche de la biologie et sur une seule référence de publication dans un journal scientifique semble assez immodeste et pose problème. Je renvoie sur ces questions méthodologiques et épistémologiques à l’article de socioargu ainsi qu’à ceux de Dan Cohen, d’Olivier Ertzscheid, et à la discussion sur Language Log.
La mise en ligne de Ngram Viewer a provoqué une profusion d’exemples postés sur différents sites ou blogs, très souvent sans aucun commentaires. Ils sont proposés sur un mode presque ludique, présentés sous un format antagonique (X vs Y), et comme si les courbes tracées suffisaient à mettre au jour de réels phénomènes linguistiques ou culturels. Quelques collections sont apparues (clic, clic, clic, clic, clic) et il existe aussi une extension pour Chrome permettant de donner directement la courbe de fréquences d’une entrée de Wikipedia en anglais.
La facilité d’usage ne masque pas cependant le fait que l’interprétation de la plupart de ces graphiques est totalement impossible sans plonger dans l’analyse des documents numérisés sur Google Books. Or cette tâche est non seulement d’une ampleur colossale pour le moindre exemple de visualisation mais elle est tout simplement irréalisable en ligne puisque les documents sous copyright ne sont pas consultables. Les cas intéressants sur le plan « culturel » pour lesquels une interprétation probante peut être réalisée montrent des corrélations avec des événements historiques majeurs comme les deux guerres mondiales. C’est d’ailleurs l’un des exemples proposés par les auteurs de l’article de Science.
En l’absence de possibilité de vérification des hypothèses que l’on peut être amené à formuler sur une visualisation, l’utilisateur est laissé seul avec ses propres connaissances et intuitions en face du phénomène ou de l’artefact repéré. Comme le signale les auteurs de l’article de socioargu mentionné, cela signifie que l’investigateur doit d’abord « disposer d’une culture générale suffisante pour comprendre le positionnement relatif des mots dans le temps ».
Ngram Viewer doit en fait être considéré comme un outil heuristique qui permet plus de poser de nouvelles questions que d’apporter des réponses. Pour commencer à dépasser le stade du jeu avec Ngram Viewer, il serait intéressant de mettre en commun les efforts de groupes de spécialistes intéressés par un sujet en ouvrant des espaces de discussions sur des visualisations, créer en somme une véritable activité de travail collaboratif à partir des graphiques produits permettant de documenter et approfondir les résultats. Un début d’interprétation de ces vastes mais très sommaires lexiques pourrait alors être envisagé et ouvrir des champs de réflexion nouveaux pour les digital humanities.
Pour terminer, voici quelques exemples de résultats en relation avec des questions diverses abordées sur Culture Visuelle.
photographie,photo,photographies,photos (français, 1900-2008). Vers 1970, la forme abrégée ‘photo’ devient plus fréquente que le mot ‘photographie’.
photographie argentique,photographie numérique (français, 1960-2008)
image,picture,images,pictures (anglais, 1800-2008)
le savant,le chercheur,les savants,les chercheurs (français, 1780-2008). Note: les articles ‘le’ et ‘les’ permettent de minimiser l’impact du participe seul sur le résultat.
culture populaire,culture savante (français, 1800-2008)
NASA,NOAA,NIST,NIH,USGS,ARS,NSF,DARPA,NIEHS,USFS,USDA (anglais, 1950-2008). Le poids prédominant de la NASA dans la médiatisation de la recherche américaine.
événements de mai 1968,événements de mai 68,révolte de mai 1968,révolution de mai 1968 (français, 1960-2008). Les termes ‘révolte’ et ‘révolution’ présents dans les années 70 disparaissent. La forme non abrégée ‘1968’ devient moins fréquente tandis que la forme abrégée ’68’ est légèrement plus présente.
Gitans,Romanichels,Tsiganes,Roms (français, 1900-2008). Exemple emprunté à Bibliothèques reloaded.
carte postale,cartes postales (français, 1870-2008)
Webographie sélective
En anglais
- Jean-Baptiste Michel, Yuan Kui Shen, Aviva Presser Aiden, Adrian Veres, Matthew K. Gray, William Brockman, The Google Books Team, Joseph P. Pickett, Dale Hoiberg, Dan Clancy, Peter Norvig, Jon Orwant, Steven Pinker, Martin A. Nowak, and Erez Lieberman Aiden. Quantitative Analysis of Culture Using Millions of Digitized Books. Science (Published online ahead of print: 12/16/2010). Disponible sur librarian.net [format PDF]
- Google Opens Books to New Cultural Studies, by John Bohannon (Science 17, décembre 2010) [format PDF]
- Google Books Ngrams and the number of words for “snow”, by Natalia Cecire (17 décembre 2010)
- Google’s word engine isn’t ready for prime time / The problem with Google’s thin description / Fixing Google’s word engine, by Natalie Binder (17-21 décembre 2010)
- Initial Thoughts on the Google Books Ngram Viewer and Datasets, by Dan Cohen (19 décembre 2010)
- On “culturomics” and “ngrams”, Language Log, 23 décembre 2010
En français
- Google: Le plus grand corpus linguistique de tous les temps, par Jean Véronis (16 décembre 2010)
- Culturonomics : juste une question de corpus ? par Olivier Ertzscheid (16 décembre 2010)
- Google Ngram viewer : un extraordinaire corpus mais…, par Rémi Mathis (20 décembre 2010)
- Prodiges et vertiges de la lexicométrie, par Francis Chateauraynaud et Josquin Debaz (23 décembre 2010)
- Culturomics. Google met la culture à portée de tous… ou corporifie la culture humaine ? par Corinne Dangas (28 décembre 2010)
- Google labs Books Ngram Viewer : un nouvel outil pour les historiens ? par Emilien Ruiz (29 décembre 2010)
OpenEdition vous propose de citer ce billet de la manière suivante :
Patrick Peccatte (11 janvier 2011). L’interprétation des graphiques produits par Ngram Viewer. Déjà Vu. Consulté le 19 septembre 2024 à l’adresse https://doi.org/10.58079/ni5y
C’est bien entendu un jouet de plus, auquel il est difficile d’imaginer une utilisation “solide” sérieuse.
Je regrette qu’ils n’en aient pas fait un autre un poil plus sophistiqué, qui donnerait tout son sens à la mobilisation du (très laid) terme de “ngramme”. Sur le modèle des suggestions de complétion de requêtes sur le moteur de recherche, on pourrait obtenir la liste des continuations possibles à n+1 d’un n-gramme.
exemple : “le chercheur est” …
Pour ne pas prendre l’exemple désormais classique sur google suggest des divers stéréotypes racistes, de genre, etc.
Mais il y aurait sans doute des exemples plus fins et très instructifs.
Quant à l’évolution de cette liste au fil du temps, c’est sûr que visuellement ce serait un casse-tête, alors un moteur qui permet de se placer sur une année donnée, voire qui montre les listes de fréquences des périodes voisines.
Enfin on a les données, y’a plus qu’à le faire nous-mêmes 😉
La page n’est pas encore très dynamique, mais c’est probablement l’endroit où vous êtes le plus susceptible de contacter les ingénieurs qui ont mis en place l’outil, et de leur poser les questions qui vous taraude :
http://www.quora.com/Google-Ngram
“le savant,le chercheur,les savants,les chercheurs (français, 1780-2008). Note: les articles ‘le’ et ‘les’ permettent de minimiser l’impact du participe seul sur le résultat.”
La désambiguïsation article/pronom + (adjectif/substantif)/participe gagnerait à être suggérée sur un autre exemple, que je sache ?
@Christophe & Bertil: En fait, la seule question qui m’intéresse vraiment est de savoir quand ils proposeront une version plus évoluée permettant d’avoir accès au contexte des résultats sur Google Books. Je ne doute pas qu’ils disposent d’une telle version en interne. Mais je doute que l’on me réponde là-dessus sur Quora 😉
@Alain: Oui bien sûr mais je parlais de minimisation, pas d’une désambiguïsation évidemment impossible avec un tel outil.
Nous allons reprendre l’idée sur http://www.ebibliophilie.com.
Notre site contient à l’ heure ou j’ecris environ 450 000 fiches descriptives de livres, environ 1000000 dans un an ( c’est limité, mais assez représentatif qd mm )
Les descriptions ont été réalisée actuellement. A partir de ces données, nous pouvons faire des ngram non plus basé sur la frequence des mots dans une texte, mais sur la frequence des mots dans une fiche descriptive.
Comme notre algorythme classe les livres par année d’edition nous devrions relativement facilement pouvoir proposer un ngram basé sur des resumés ecris au cours des 20 dernière années par plusieurs centaines d’experts en livres.
L’interet proviendra aussi que plus un livre aura été imprimé, plus il sera présent sur la base et donc plus les mots clef issus du son resumé surpondererons le resultat.
Le defaut et que nous serons pertinent que jusqu’à 1950 ( après les livres ont moins de valeur, passent moins en vente, donc nous ne les voyons pas )
si vous voulez echanger avec nous sur de la methodologie : contact@ebibliophilie.Com
bonne soirée
Yohann
C’est un detail mais je ne vois pas pourquoi Lieberman Aiden qui etait en these (donc etudiant) plus ou moins a zoner autour du labo de Nowak lors de ce projet est qualifie de physicien/mathematicien alors que Jean Baptiste Michel, qui a contribue autant (il est premier auteur et co-corresponding author du Science difficile de faire mieux!! et ceux qui connaissent savent que des deux il en est un nettement plus serieux que l’autre) est platement qualifie de polytechnicien bossant pour google. Il est tout autant mathematicien, non?
Ca n’a aucune importance mais c’est marrant de voir les stereotypes francais bien ancres se faire balader par le marketing de Lieberman arrive a faire avaler n’importe quoi a n’importe qui.
@erka: Je reconnais bien volontiers avoir reproduit dans ma présentation les qualifications attribuées aux protagonistes du projet dans les différents articles consultés lors de ma rédaction, et en particulier sur le site de Lieberman Aiden. Je ne connais ni Liebermann Aiden, ni Michel, et mon sujet était plus d’expliquer Ngram Viewer et son intérêt (réel mais relatif) que d’en relater l’historique précis. Comme vous le dites, ce sont des détails, mais qui peuvent avoir leur importance et sont sans doute à mettre en relation avec le marketing concernant cette supposée nouvelle discipline que seraient les études cultoromiques.