formalisation dans les sciences humaines (suite)

C’est en mettant en évidence les différences, qui bien sûr existent, entre modèles verbaux et modèles mathématiques que nous nous rendons compte de leur unité et des limites de celle-ci. Ces différences tiennent avant tout à la nature des signes utilisés : dans un cas, les mots de la langue naturelle, avec leurs significations plus ou moins approximatives ou ambiguës, et leurs connotations ; dans l’autre cas, des symboles qui n’ont de sens que par une définition rigoureuse et univoque, définition qui comprend comme partie intégrante des règles de manipulation précises et explicites. Recourir au langage mathématique impose une discipline intellectuelle particulièrement rigoureuse : par exemple, il n’est plus possible de s’appuyer sur l’ensemble des connotations d’un terme pour passer d’une proposition à l’autre, puisque chaque concept n’est rien de plus que sa définition explicite, ni de conserver des hypothèses implicites ou vagues. C’est principalement de là que viennent les difficultés qu’on rencontre si souvent à employer les mathématiques. Mais, et c’est là un gain capital, l’existence de procédés de déduction puissants permet de tirer d’un ensemble de postulats ou d’hypothèses des conséquences claires que le raisonnement naturel seul, non aidé par des instruments mathématiques, se trouverait incapable d’atteindre.

De même, la puissance de ces instruments nous donne la possibilité, à partir d’un ensemble de lois particulières, de chercher le système de postulats qui permet le mieux d’en rendre compte.

Or, ces trois avantages de la mathématisation — exigence de rigueur dans la définition des concepts, possibilité de déduction, possibilité d’explication de postulats — font partie de tout projet scientifique, quel que soit le langage utilisé. Ce sont évidemment des objectifs que cherche aussi à atteindre toute théorie verbale. Toutefois, il est clair que c’est le langage mathématique qui, dans la plupart des cas, est le mieux adapté à ces intentions, puisqu’il est construit pour cela.

Nous voyons donc se confirmer l’idée que l’emploi de modèles mathématiques n’introduit pas, à lui seul, de nouveauté radicale dans le développement d’une discipline : en revanche, et nous le verrons plus loin, la possibilité de mathématiser, ou de formaliser, peut, dans certains cas, être le signe de la maturité de la discipline en question, manifester le fait que celle-ci a pu construire des concepts et des postulats suffisamment rigoureux et précis pour supporter l’épreuve de la formalisation. En effet, la différence fondamentale entre les modèles verbaux et les modèles mathématiques vient de ce que le recours au langage et aux procédés de déduction formalisés exige une transformation de la démarche intellectuelle du chercheur, qui ne peut plus s’appuyer sur les connotations du langage naturel et se trouve, de ce fait, obligé de faire abstraction de toutes les images plus ou moins floues qu’il est en mesure d’associer à un concept non formalisé.

Lorsqu’un domaine est encore mal analysé, que les concepts y sont imprécis, lorsqu’on ne dispose pas encore d’une théorie assurant à chaque concept sa place par ses relations avec les autres concepts, alors la formalisation peut n’apparaître que comme une pseudo-rigueur, et peut-être vaut-il mieux conserver toute la richesse du langage naturel. Mais il faut bien voir que, si celui-ci apparaît comme plus concret, comme appauvrissant moins que le langage mathématique la représentation qu’on se fait de la réalité, il ne s’agit pas moins d’une représentation toujours incomplète. Les impressions de richesse et de concret peuvent n’être dues qu’à l’imprécision des termes, qui permet à chacun d’y mettre plus ou moins ce qu’il veut.

Par exemple, on a cherché à simuler au moyen d’un programme d’ordinateur le comportement d’un individu qui cherche à résoudre un problème, ce qui, nous le verrons, constitue un type de formalisation. La machine, ainsi programmée, procède par essais et erreurs, et on peut rapprocher ces comportements de ceux des sujets humains, ce qui nous éclaire sur ceux-ci. Toutefois, le tâtonnement n’est pas le seul procédé qu’on peut observer chez eux : on rencontre aussi des solutions qui semblent s’imposer brusquement : c’est ce qu’on appelle un insight, qu’on interprète, en termes gestaltistes, par une « restructuration brusque du champ ». Or, si on a pu simuler de façon satisfaisante les solutions par essais et erreurs, il n’en a pas été de même, jusqu’à présent, pour l’insight. En essayant de programmer une machine qui présenterait un tel comportement, on s’aperçoit qu’en fait on ne sait rien des mécanismes sous-jacents, que les explications verbales qu’on en a proposées sont à peu près vides de contenu, et même qu’on n’est pas au clair sur sa définition. C’est donc une notion actuellement impossible à formaliser. Mais cela ne veut pas dire qu’il faut la rejeter sans plus : en tant que concept verbal, désignant ce qui n’est peut-être qu’une catégorie hétérogène de phénomènes divers, l’insight permet de poser un problème, et il n’y a pas lieu de l’exclure sous prétexte qu’il est encore vague.

Il arrive aussi, et c’est peut-être le cas le plus fréquent, que nous ne soyons pas capables de formaliser des concepts ou des lois pourtant parfaitement rigoureux, faute de disposer d’instruments mathématiques suffisants. La complexité que peut présenter le langage naturel et celle que peut représenter le langage mathématique ne sont pas les mêmes, bien qu’il soit difficile, aujourd’hui, d’en préciser les différences, et donc de comprendre vraiment pourquoi tel domaine est formalisable et pas tel autre. Bornons-nous à constater que l’emploi des mathématiques permet de mener plus loin que le langage naturel les déductions qu’on peut tirer d’un ensemble d’hypothèses ou de postulats bien déterminés. En revanche, lorsque le nombre de facteurs qui interviennent devient plus grand, lorsque les relations entre eux se diversifient, alors la formalisation devient difficile et le langage naturel apparaît, au moins provisoirement, comme l’instrument le mieux adapté.