Je trouve assez intéressants les récents développements autour des limitations des LLMs. On entend en particulier que les limites de l’apprentissage seraient proches d’être atteintes du fait d’un épuisement des données. J’imagine que ces craintes sous tendent au moins en partie les approches qui visent à intégrer les données physiques dans l’apprentissage.

Il y aurait d’ailleurs une raison philosophique, identifiée notamment par Wittgenstein, à l’atteinte de ces limites. Si l’on y réfléchit, le réel est la seule source d’information, au contraire des mots qui en sont une représentation : « ce dont on ne peut parler, il faut le taire ». 

La question aujourd’hui, peut-être, porte sur ce qu’on apprend des mots, et ce qu’on apprend des choses. Un enfant de trois ans saura très vite ce qu’est un chien pour l’avoir vu dans la rue s’avancer vers lui, il saura aussi ce que tomber veut dire. 

Cela m’a remis en tête une réflexion d’une autre nature. Notre génération engluée d’écrans comprend à peine les préoccupations de celle qui marchait les mains dans les poches. 

On répondra que le progrès technique a toujours créé ces différences de mode de vie, et c’est vrai. Cependant à certaines périodes, il fut rapide au point que les hommes cessèrent de se comprendre d’une génération à l’autre, du fait d’un apprentissage des choses plus important que celui des mots. Le monde physique s’interposa entre les classes d’âges, jusqu’à rendre leur dialogue impossible, voici une version comme une autre de la tour de Babel. Pierpaolo Pasolini avait vu l’ensemble dans une lettre luthérienne saisissante qu’il avait adressée à Gennariello en 1975 et dont voici un extrait : 

« En te parlant je pourrai peut être avoir la force d’oublier, ou de vouloir oublier, ce qui m’a été enseigné avec les mots. Mais je ne pourrai jamais oublier ce qui m’a été appris par les choses. Donc, sur le chapitre du langage des choses, c’est un véritable abime qui nous sépare : c’est l’un des sauts de génération les plus profonds que l’histoire ait enregistrés. Ce que les choses m’ont appris par leur langage est totalement différent de ce que les choses t’ont appris par leur langage »

Crédit image : inconnu