La théorie des nombres est incontournable pour le monde numérique, et plus particulièrement pour tout ce qui est sécurité informatique, mais c’est aussi un jardin dans lequel de nombreux chercheurs cultivent des fleurs rares.  

*OLIVIER GEBUHRER est mathématicien. Il est maître de conférences honoraire à l’université Louis-Pasteur de Strasbourg. (L’auteur remercie chaleureusement Jean-Pierre Kahane pour une relecture critique attentive).

Dans son roman le Nom de la rose, Umberto Eco fait dire au moine criminel : « […] il n’y a pas de progrès; la connaissance n’est qu’une infinie mais sublime récapitulation. » Allons y voir. LES « NOMBRES ENTIERS ». 

L’Univers est nombre; telle était la philosophie grecque antique au temps de sa splendeur ; par « nombre », il faut entendre « nombre entier ». D’où sort pareille conception? Regardons un ciel méditerranéen par un soir clair de décembre, puis revenons sur terre: troupeaux, herbe des champs, esclaves, temples, sable des plages, rien qui ne renvoie à cette évidence qui n’est plus du tout celle d’aujourd’hui: l’Univers d’aujourd’hui institue le règne du zigzag, des citoyen(ne)s se mouvant à vitesse rapide en foules pressées où le regard ne discerne plus sans effort les individus ; plus d’échanges de quantités discrètes ou de fractions de ces quantités en quantités équivalentes ; taux de change exprimés en nombres à virgule. Les cours de la Bourse ont envahi notre imaginaire collectif ; nous sommes passés d’une civilisation statique à une civilisation dynamique au mouvement largement imprévisible: les nombres entiers se sont effacés. Origine des mathématiques, les nombres entiers restent un des mystères de la connaissance et toute question mathématique, au sein des théories les plus sophistiquées, s’y confronte tôt ou tard. Le « socle » de l’école chère à la droite politique et à une gauche incapable de penser le temps présent se condense dans la formule « lire, écrire, compter ». On peut additionner des nombres entiers, les multiplier sans les quitter ; on peut aussi les comparer. Voilà une idée qui sort du « socle » et donne un aperçu de l’arriération mentale de cet arsenal poussiéreux de la droite en matière d’éducation, que le PS ne parvient pas à dépasser. On peut trouver cette idée banale ; elle ne l’est pas ; les nombres entiers viennent munis d’un ordre naturel, qui est tout sauf une banalité. Trouvez donc la plus petite fraction strictement comprise entre 0 et 1, vous verrez, c’est édifiant. Les nombres entiers constituent le prototype d’un ensemble muni d’un ordre qui est le paradis des types d’ordre; quittez les entiers, vous tombez du paradis. Y remonter est impossible, mais on peut en trouver des substituts ; ce ne serait pas si mal pour une politique de gauche, mais c’est hors sujet.

EUCLIDE 

De quand date l’idée selon laquelle l’ensemble des nombres entiers était infini ? Euclide ne considère que des collections finies, mais le fait que l’ensemble des nombres entiers soit infini était peut-être « évident » pour lui ; qu’il ne traite que de collections finies n’était qu’une commodité. En tout cas, on s’en convainc en ajoutant 1 à tout nombre entier prescrit. L’examen de la succession des nombres et l’identification de la parité lui font se pencher sur la question de la division ; comme on sait, c’est la catastrophe; mais pas pour Euclide. Il met au point un algorithme qui lui garantit que son itération s’arrête au bout d’un nombre calculable d’essais; le nombre d’essais s’arrête car il observe que s’il dispose d’une collection d’entiers rangés par ordre décroissant il en existe un plus petit que tous les autres ; c’est la clé du paradis de l’ordre des nombres entiers. Qu’en est-il des nombres impairs ? 9 est le produit de 3 par lui-même; en revanche, 5 n’est le produit d’aucun entier antérieur sauf 1, et il en est de même de 2 (un drôle de nombre pair celui-là !), 3, 7… Les nombres premiers font ainsi leur apparition. Euclide comprend que là gît un secret de fabrication, et il démontre que tout nombre entier est produit de composants premiers – y compris 2, unique nombre premier pair – et que ce produit est uniquement déterminé à l’ordre près des composants. Poursuivons: sur la piste de la clé des briques de l’univers, on se demande si, parmi les nombres premiers, il en existe un plus grand que tous les autres. Déception. La réponse est négative : il suffit de multiplier tous les nombres premiers à disposition et d’ajouter 1 au résultat ; on obtient ainsi un nouveau nombre entier qui ne contient comme composant aucun des nombres précédents, sauf 1 ; c’est beaucoup moins évident à voir mais c’est vrai¹ ; il y a donc une infinité de briques premières qui permettent par produits d’obtenir tous les entiers.

THÉORIE DES NOMBRES 

Après ces développements extraordinaires, l’histoire de la pensée marque le pas. On ne sait pas décider à vue d’oeil si un nombre impair est premier, et aujourd’hui on ne dispose d’aucun critère pour ce faire ; mais surtout les nombres premiers se rencontrent de façon erratique dans la succession des entiers. Anarchie ? Ils se raréfient; chaque segment de dix nombres entiers contient de moins en moins de nombres premiers (ce constat n’est pas exact « au début »). Percer le mystère de la répartition des nombres premiers équivaudrait à avoir une connaissance intégrale de principe de l’ensemble des mathématiques et à assister à leur mort en tant que science; on n’est donc pas près d’y parvenir. Le premier résultat quantitatif relatif à cette raréfaction est dû à Legendre (XVIIIe siècle). En Chine, la théorie des nombres apparaît dès le IVe siècle de 35 notre ère; elle prend une direction qui ne sera exploitée, en un sens, qu’avec la cryptologie contemporaine et les ordinateurs hyperpuissants. Les affaires reprennent en Europe, sérieusement, avec Fermat, Bernoulli, Euler ; Gauss viendra plus tard. L’arithmétique comme science est née; elle se prolonge aujourd’hui en « théorie des nombres » ; celle-ci se nourrit de toutes les mathématiques, y inclus la théorie des probabilités ; mais on peut déjà passer sa vie en arithmétique avec l’unique connaissance d’Euclide et un peu de Gauss ; c’est ce que l’on appelle la théorie élémentaire des nombres. Où chercher et que chercher ? Au départ, c’est-à-dire au renouveau de l’esprit de curiosité, Fermat, Mersenne et beaucoup d’autres s’« amusent » avec des questions baroques; chacun de nous peut en fabriquer mais… Leurs questions baroques ne sont pas de même nature. Au hasard : peut-on trouver un triangle rectangle dont les longueurs des côtés soient des nombres premiers ? La réponse est positive si on remplace « premier » par « entier » (exemple : 3, 4, 5), mais négative pour la question posée : ce n’est pas trop compliqué à voir.

CURIOSITÉS ET MERVEILLES 

Parmi les curiosités merveilleuses, citons celle-ci : nous disposons d’une collection de points dans le plan telle que la distance entre deux quelconques de ces points soit un nombre entier. Si la collection est infinie, il n’y a pas le choix : tous les points sont alignés, alors que c’est faux pour les collections finies. L’exemple du triangle rectangle de côtés 3, 4, 5 suffira ici². Les nombres entiers s’additionnent; cela dit, la somme de deux nombres premiers plus grands que 2 est paire, et donc n’est pas un nombre premier. Tout nombre pair est-il somme de deux nombres premiers ? On ne sait pas (conjecture de Goldbach XVIIIe siècle) ; la différence de deux nombres premiers est paire; ne parlons pas du produit : les nombres premiers n’ont pas de « structure » apparente et peutêtre, vraisemblablement, pas de structure du tout. D’où l’intervention de la théorie des probabilités. Dans la succession des nombres entiers, on rencontre 3 et 5, puis 5 et 7, et on peut poursuivre; on rencontre ainsi « pas mal » de couples de nombres premiers jumeaux, c’est-à-dire dont la différence entre le plus grand et le plus petit est 2. En existe-t-il une infinité ? On ne sait pas. Un des grands problèmes ouverts. Beaucoup plus tard (XIXe siècle), Bernhard Riemann écrivit un unique article sur la théorie des nombres; il était préoccupé par les nombres premiers et avait une idée extraordinaire sur leur raréfaction ; c’est alors que Fiorasotte³ entra dans son bureau et demanda impérieusement: «Alors ça vient, M.Riemann? » On peut seulement imaginer que Riemann entra dans une colère noire et que l’intruse perdit le goût des questions stupides. Reprenant son fil initial, il découvrit une question qui lui parut être la clé de la compréhension des nombres premiers, mais il ne parvint pas à la résoudre ; il s’en détourna ensuite. Elle est encore ouverte aujourd’hui et porte le nom fameux de « conjecture de Riemann ». Plus tard, au début du XXe siècle, Jacques Hadamard revint sur cette question, et cette fois prouva ce qu’on appelle aujourd’hui la loi de raréfaction des nombres premiers. Mais avec ce résultat on est encore bien loin de la conjecture de Riemann… « Et au fond, à quoi ça sert tout ça ? » (Jacques Prévert)

¹Appelons A le nombre obtenu en faisant le produit de tous les nombres premiers, soit q un des nombres premiers constituants ; posons B = A + 1 ; alors B = Nq + 1 (avec A = Nq) et 1 est sûrement strictement plus petit que q ; de la sorte on voit que Nq + 1 est le résultat de la division euclidienne de B par q ; donc 1 est le reste de cette division et B n’est divisible par aucun nombre premier antérieur, donc est premier ; cette preuve donne un moyen de construire autant de nombres premiers qu’on veut, mais il est évident qu’on est loin de les obtenir tous. Noter par ailleurs que, par exemple, cette règle appliquée à 3 × 5 = 15 ; 15 + 1 = 16 ne fournit pas un nombre premier, et tous les autres produits sont de même des nombres qui ne sont pas premiers. Il est essentiel de considérer 2 comme nombre premier (il n’est divisible que par lui-même et 1), et l’incorporer à la liste, comme on vient de le voir, est tout sauf une commodité même s’il paraît exotique.

² On peut en fait montrer qu’il existe une disposition non alignée pour toute collection finie de points satisfaisant la
condition indiquée.

³ Personnage oublié de la commedia dell’arte qui entretient avec un secrétaire d’État à l’Enseignement supérieur
et à la Recherche actuel un rapport lointain mais ne devant, cependant, rien au hasard.