La boîte noire est partout

Je viens de lire une biographie de Demis Hassabis. Depuis, une question me suit jusqu'au cabinet.

Hassabis a fondé DeepMind. En 2024, il a reçu le prix Nobel de chimie pour AlphaFold, un programme qui devine la forme repliée d'une protéine à partir de sa seule séquence d'acides aminés. Cinquante ans que le problème résistait. Une machine l'a réglé en quelques années.

Le hic, c'est qu'AlphaFold devine sans expliquer. Il sort la bonne réponse, exacte, vérifiable au laboratoire près, et il est incapable de dire pourquoi. Aucune théorie à suivre du doigt, à contester, à enseigner ligne à ligne. La réponse tombe, juste et muette. Et le comité Nobel, c'est-à-dire l'institution qui a fait de la transparence du mécanisme sa religion, vient de couronner une boîte fermée.

Ceux qui suivent ces histoires se souviennent du coup 37. Séoul, 2016, AlphaGo contre Lee Sedol. La machine joue un coup que tous les grands maîtres trouvent d'abord aberrant, puis génial. Personne ne savait dire pourquoi c'était le bon coup. Pas même les ingénieurs qui avaient bâti le programme. Huit ans plus tard, ce coup aberrant et juste est passé du plateau de go au cœur de la biologie.

Feynman gardait une phrase sur son tableau : ce que je ne peux pas créer, je ne le comprends pas. La science occidentale a vécu trois siècles là-dessus. Comprendre, c'était pouvoir refaire ; refaire, c'était la preuve qu'on avait compris. AlphaFold décolle les deux. Nous tenons des résultats que personne n'a compris, produits par une chose que personne ne comprend non plus. La prédiction d'un bord, l'explication de l'autre, et plus grand-chose entre les deux.

Or c'est mot pour mot ce qu'on reproche à la médecine chinoise depuis un siècle. Pas vraiment qu'elle échoue : sur certaines indications, les essais sont moins tranchés qu'on l'imagine. On lui reproche autre chose. De fonder ses modèles dans une zone qu'on ne peut pas ouvrir. Le Qi, les méridiens, les cinq mouvements, les syndromes : un système de correspondances logé dans la culture chinoise comme dans une boîte close. On ne lui refuse pas le crédit parce qu'elle se trompe. On le lui refuse parce qu'elle ne montre pas ses rouages.

L'Occident savant pose donc sa propre frontière de recherche sur une boîte noire, lui remet un Nobel, et continue le même jour à disqualifier une médecine entière au nom de l'opacité. L'argument se mord la queue.

Je vais quand même me retenir d'en tirer la conclusion facile. AlphaFold ne réhabilite pas le Qi. Il y a une différence entre les deux boîtes, et elle est décisive.

Celle d'AlphaFold est fermée à l'intérieur, mais tenue de l'extérieur. Chaque prédiction va se cogner à une mesure : la vraie structure de la protéine, le concours CASP où les équipes s'affrontent à découvert, le verdict de l'expérience qui ne pardonne pas. L'obscurité y est cernée par la réfutation.

On me dira que l'acupuncture aussi est passée par là, qu'on l'a soumise à des centaines d'essais randomisés. C'est vrai. Le résultat est moins glorieux : l'outil de mesure lui-même est douteux. La fausse aiguille censée jouer le placebo n'est presque jamais neutre, et séparer l'effet de son ombre tourne au casse-tête. L'épreuve existe pour nous aussi. Elle est seulement plus tordue, parce qu'un corps en relation se laisse moins enfermer dans un protocole qu'une protéine sur sa plaque. Raison de la prendre au sérieux, pas de s'y soustraire.

La vraie question n'est donc pas opacité contre transparence. Toute connaissance sérieuse garde sa part d'ombre. La question, c'est comment chacun tient la sienne. AlphaFold tient la sienne par une épreuve extérieure brutale. Une partie de la médecine chinoise s'est contentée trop longtemps de sa cohérence interne : le système tient debout tout seul, donc il serait vrai. Le vrai point faible est là. Pas dans l'ombre. Dans la complaisance envers l'ombre.

Cela dit, une fois la différence posée, la ressemblance demeure, et elle me trouble. Que fait un réseau de neurones ? Il attrape des formes dans un espace à trop de dimensions pour qu'une règle simple les démêle. Et moi, devant un patient ? La même chose. Je ne lis pas un symptôme isolé. Je lis un ensemble : la qualité d'un pouls sous trois doigts, la couleur d'une langue, un teint, une façon de s'asseoir, la saison qui court. De tout ça monte une figure, ce que la tradition appelle un syndrome. Rien d'un raisonnement qui descend de la cause à l'effet. Une reconnaissance de forme. L'opération de la machine, exactement.

Polanyi avait un nom pour cette zone : le savoir tacite. Nous en savons plus que nous ne pouvons en dire. Le clinicien d'expérience reconnaît avant de pouvoir nommer ; ses mains comprennent ce que sa bouche n'arrive pas encore à formuler. Un réseau de neurones, c'est ce savoir-là sorti du corps et figé dans des poids, une compétence qui vise juste sans pouvoir se raconter. L'IA et la médecine chinoise sont deux manières de tenir ce qui ne se dit pas.

Elles se séparent là où ça compte. Le tacite de la machine ne pèse rien. AlphaFold ne risque rien, personne ne souffre dans la pièce. Le mien engage un corps en face du mien, et ma responsabilité avec. J'ai quelque chose à perdre ; la machine, non. Et puis la médecine chinoise, même quand sa physiologie est fausse, porte un récit. Un récit qui se transmet, qui s'enseigne, qu'on peut discuter et reprendre. AlphaFold ne raconte rien. Il aligne des matrices que personne ne met en mots. Le retournement est savoureux : la vieille médecine opaque est plus explicable que l'IA dernier cri, parce qu'elle parle encore une langue d'humains.

D'ailleurs la boîte noire est déjà entrée à l'hôpital. Le radiologue valide une zone signalée par un algorithme sans pouvoir refaire le chemin qui l'y a mené. Un score de risque réordonne une liste d'attente. La médecine fait déjà confiance à ce qu'elle ne voit pas. Elle ne s'est simplement pas encore avoué que ce n'est plus un outil de plus, mais sa nouvelle condition.

Voilà peut-être ce que la médecine occidentale, sommée maintenant de cohabiter avec ses propres boîtes noires, aurait à apprendre de gens qui n'ont jamais prétendu dissoudre l'incertitude. Non pas la supprimer. L'habiter sans lâcher la rigueur. Agir juste sans tenir tout le mécanisme. Doser sa confiance envers un oracle. Rester méfiant devant ce qu'on ne voit pas. La pensée chinoise n'a jamais cherché à modéliser la substance des choses ; elle a cherché à suivre leur pente, le mouvement avant la cause. Cette posture qu'on prenait pour du folklore devient, du jour au lendemain, une compétence d'avenir.

Je travaille avec deux cerveaux. La médecine chinoise et la médecine occidentale. Pas par syncrétisme tiède, pas pour que l'une donne raison à l'autre. Pour le relief. Deux modèles du même patient, chacun à moitié aveugle à l'autre, et la vérité clinique qui surgit dans l'écart entre les deux, comme le relief naît de deux yeux qui ne voient pas tout à fait la même image.

Un cas, presque ordinaire. Une patiente arrive avec un bilan parfait. Tout est normal sur le papier, et pourtant quelque chose cloche ; elle le sent, je le vois. Là où un œil ne lit que du bruit, l'autre lit déjà une forme : un déséquilibre, une tendance, quelque chose qui a un nom et une prise. Je n'ai pas à trancher laquelle des deux lectures dit le vrai. J'ai besoin des deux pour agir, sans attendre que le flou se lève. Il arrive qu'il ne se lève jamais.

Le glissement en cours n'est pas la victoire d'une médecine sur l'autre. C'est la question qui change. Pendant trois siècles on a demandé : comprenez-vous le mécanisme ? AlphaFold rend la demande presque secondaire. Celle qui vient après est plus dure à tenir : au nom de quoi faites-vous confiance à ce que vous ne voyez pas ?

AlphaFold ne donne pas raison au Qi. Il rend seulement respectable une vieille posture, celle où prédire et comprendre se défont l'un de l'autre, et où l'intelligence consiste à habiter cet écart sans s'y perdre. Les acupuncteurs y vivent depuis deux mille ans. La médecine de demain y met à peine le pied. Pour une fois, nous aurions quelque chose à lui montrer. À condition d'accepter, nous aussi, l'épreuve du réel.