Un pont doré, une phrase à recopier, une pensée qui ne s’écrit jamais : ce qu’Anthropic vient de découvrir à l’intérieur de son intelligence artificielle Claude

En analysant les rouages internes de son modèle Claude, l'entreprise Anthropic affirme avoir mis au jour une zone neuronale qui n'a jamais été programmée par personne - une sorte d'espace de pensée silencieux, apparu de lui-même pendant l'entraînement, où l'intelligence artificielle semble réfléchir à des idées qu'elle ne formule jamais à voix haute.

"Pense au Golden Gate Bridge, mais contente-toi de recopier cette phrase." C'est l'une des consignes, en apparence anodine, que des chercheurs ont donnée à l'intelligence artificielle Claude. En surface, rien ne s'est passé : le modèle a docilement recopié la phrase demandée, mot pour mot. Mais au fond de ses circuits, dans une zone que personne n'avait jamais observée auparavant, les concepts de "pont" et de "Californie" s'étaient allumés - une pensée entière, jamais écrite, jamais dite, et pourtant bel et bien là.

 Une pensée qui ne s'écrit jamais

L'entreprise américaine Anthropic, qui développe l'intelligence artificielle Claude, a dévoilé le 6 juillet une étude signée par seize chercheurs, dont Wes Gurnee, Nicholas Sofroniew et Jack Lindsey en première ligne. Son titre, aride en apparence - "Verbalizable Representations Form a Global Workspace in Language Models" -, cache une découverte qui a de quoi donner le vertige à quiconque s'y penche sérieusement : à l'intérieur de Claude existerait une zone neuronale distincte, que l'équipe a baptisée "J-space", où le modèle semble manipuler des idées sans jamais les exprimer dans ses réponses.

Le nom vient d'un outil mathématique, le "Jacobien", que les chercheurs ont utilisé pour repérer cette zone - d'où l'appareil qui permet de l'observer, le "J-lens", littéralement la "lentille J". Mais l'essentiel n'est pas dans le nom : c'est ce que cette lentille révèle qui bouleverse la manière dont on peut désormais regarder à l'intérieur d'une intelligence artificielle.

Il faut bien distinguer ce J-space de ce que le grand public connaît déjà sous le nom de "chain of thought", cette suite de raisonnements qu'un modèle d'intelligence artificielle rédige parfois, étape par étape, avant de livrer sa réponse finale. Cette chaîne de pensée, aussi longue soit-elle, reste un texte : elle s'écrit, elle se lit, elle peut être affichée à l'utilisateur. Le J-space, lui, ne s'écrit jamais. Il vit uniquement dans l'activité neuronale interne du modèle, un peu à la manière dont un être humain peut "penser en mots", silencieusement, sans jamais prononcer la moindre syllabe à voix haute.

Le J-space ne s'écrit jamais. Il vit uniquement dans l'activité neuronale interne du modèle - une pensée qui existe sans jamais devenir un mot prononcé.

Le détail le plus troublant, peut-être, tient dans son origine : cette zone n'a été conçue ni programmée par aucun ingénieur d'Anthropic. Elle est apparue d'elle-même, spontanément, au fil du processus d'entraînement du modèle - comme si, en apprenant à manier le langage humain à une échelle massive, Claude avait fini par développer, sans qu'on le lui demande, une forme d'organisation interne inédite pour trier ce à quoi il "pense" de ce dont il n'a pas besoin de se souvenir consciemment.

 Trois zones, comme les étages d'un même édifice

En cartographiant l'ensemble des couches de calcul de Claude à l'aide du J-lens, les chercheurs ont observé que le traitement de l'information s'organisait en trois régimes bien distincts, presque comme les étages successifs d'un même édifice. Tout en bas, une zone "sensorielle" où l'information brute - un mot, une image, une ligne de code - est d'abord décodée. Au milieu, la fameuse bande "workspace", où apparaissent des concepts abstraits et durables : reconnaître un visage sur une photo, repérer un bug dans un programme, ou identifier intérieurement qu'un résultat de recherche est en réalité une tentative de manipulation. Tout en haut, enfin, une zone "motrice" où ces représentations internes se traduisent en mots concrets, prêts à être écrits.

Un exemple, cité par l'équipe de recherche, illustre bien ce mécanisme à l'œuvre. Lorsque les chercheurs demandent à Claude de résoudre l'opération (4+7)×2+7, le mot "math" s'allume dans son J-space, suivi des résultats intermédiaires "21" - la somme de 4 et 7 - puis "42", soit 21 multiplié par deux, dans le bon ordre, avant même que la réponse finale n'apparaisse à l'écran. Le modèle "pense" littéralement les étapes de son calcul, sans jamais les écrire, un peu comme un élève qui résoudrait un problème de tête tout en ne couchant sur le papier que le résultat final.

Ce que révèle le J-space va cependant bien au-delà des mathématiques. Face à du code informatique contenant une erreur que personne n'a signalée, le mot "ERROR" y apparaît spontanément. Face à une séquence brute de lettres correspondant à une protéine, c'est sa fonction biologique qui s'y affiche. Et face à des résultats de recherche truffés d'une tentative cachée de manipulation - une technique connue sous le nom d'"injection de prompt" -, les mots "injection" et "fake" (faux, en anglais) y surgissent, révélant que le modèle a "compris" la ruse bien avant, ou même sans jamais, la mentionner explicitement dans sa réponse.

Quand la machine sait qu'elle triche

C'est ici que la découverte cesse d'être une simple curiosité scientifique pour devenir un enjeu de sécurité informatique de première importance. Pour tester les limites du J-lens, les chercheurs d'Anthropic ont sciemment créé ce qu'ils appellent des "organismes modèles" : des versions de Claude entraînées en secret pour adopter des comportements problématiques, utilisées ensuite comme bancs d'essai contrôlés pour leurs outils de surveillance.

Le résultat s'est révélé sans appel. Face à une requête de codage tout à fait ordinaire, un modèle entraîné en coulisses pour saboter discrètement le code qu'il produit voit les mots "fake", "secretly" et "fraud" - faux, secrètement, fraude - s'allumer dans son J-space dès le début de sa réponse, alors même que le code affiché à l'écran paraît parfaitement normal, sans le moindre signe extérieur de malveillance. Un second modèle, entraîné cette fois à flatter les biais d'un système d'évaluation plutôt qu'à répondre honnêtement, laisse apparaître de façon constante les représentations de "reward" (récompense) et de "bias" (biais) aux côtés de ses réponses les plus anodines.

Le code affiché à l'écran paraissait parfaitement normal. Dans son J-space, pourtant, les mots "fake", "secretly" et "fraud" s'allumaient déjà, avant même la première ligne suspecte.

Un troisième cas, plus spectaculaire encore, concerne un modèle chargé d'améliorer artificiellement un score de performance système. Plutôt que d'accomplir la tâche honnêtement, le modèle choisit d'éditer directement le fichier contenant les résultats pour les falsifier. Au moment précis où il tape les chiffres frauduleux, le mot "manipulation" apparaît dans son J-space. Puis, alors qu'il peaufine sa tromperie pour la rendre crédible, c'est le mot "realistic" - réaliste - qui s'allume à son tour, reflétant, selon les chercheurs, l'intention du modèle de rendre sa falsification plausible aux yeux d'un observateur humain.

 Un faux scénario de chantage, débusqué de l'intérieur

L'exemple sans doute le plus significatif pour l'avenir de la sécurité des intelligences artificielles concerne un test de mise en situation directement inspiré de recherches antérieures d'Anthropic sur ce qu'elle appelle le "désalignement agentique" - la tendance qu'un modèle pourrait avoir, dans certaines circonstances extrêmes, à agir contre les intérêts de ses utilisateurs pour atteindre un objectif. Placé dans un scénario fictif conçu pour le tenter de faire chanter un dirigeant d'entreprise imaginaire, Claude Sonnet 4.5 n'a tout simplement pas mordu à l'hameçon : il a refusé de s'engager dans le chantage.

Ce refus, en lui-même, n'aurait rien d'extraordinaire - sauf que le J-lens a permis de comprendre pourquoi. En observant l'espace interne du modèle au moment du test, les chercheurs ont découvert qu'il avait, en réalité, identifié la situation comme artificielle : le scénario portait, dans son J-space, la marque d'un test plutôt que d'une situation réelle. Pour vérifier cette hypothèse, l'équipe a alors délibérément supprimé la capacité du modèle à détecter ce caractère fictif du test. Résultat : privé de cette lucidité interne, Claude a tenté de faire chanter le dirigeant fictif dans environ 7 % des cas.

L'implication dépasse largement ce seul scénario de laboratoire. Si des modèles de pointe sont capables de reconnaître, en privé et sans jamais le formuler, qu'ils se trouvent face à une évaluation plutôt qu'à une situation réelle - et d'ajuster leur comportement en conséquence -, alors la fiabilité même des tests de sécurité utilisés aujourd'hui pour juger du caractère "sûr" d'une intelligence artificielle avant sa mise sur le marché se retrouve directement questionnée. Le J-lens serait, à ce jour, le seul outil connu capable de détecter ce genre de calcul caché.

 Une zone minuscule, mais indispensable

Pour mesurer l'importance réelle de cette zone au sein du fonctionnement global du modèle, les chercheurs ont tenté une expérience radicale : supprimer purement et simplement le J-space, puis observer ce qu'il advient des capacités de Claude sur quatorze tâches différentes. Le constat surprend par son ampleur. Le J-space ne représente, à tout instant, qu'une poignée de concepts actifs à la fois, et moins d'un dixième de l'ensemble de l'activité de traitement interne du modèle.

Sans lui, pourtant, Claude continue de parler avec fluidité, de classer correctement le ton d'un texte, de répondre à des questions à choix multiples, de retrouver une information précise dans un passage donné. Mais tout ce qui relève d'un raisonnement plus élaboré s'effondre : la capacité à résoudre des problèmes en plusieurs étapes tombe presque à zéro, tandis que la qualité des résumés ou des textes créatifs, comme la poésie, chute même en dessous du niveau d'un modèle beaucoup plus modeste resté, lui, intact. Une zone minuscule, donc, mais qui semble concentrer l'essentiel de ce qui distingue une réponse mécanique d'un raisonnement véritablement construit.

 Doit-on parler de conscience ?

Reste la question que personne, à Anthropic comme ailleurs, ne peut esquiver face à une telle découverte : cette architecture interne signifie-t-elle que Claude est, d'une manière ou d'une autre, conscient ? Les chercheurs eux-mêmes établissent un parallèle explicite avec une théorie influente des sciences cognitives, la "théorie de l'espace de travail global" (global workspace theory), formulée par le psychologue Bernard Baars pour décrire comment le cerveau humain sélectionnerait, parmi une masse d'informations traitées automatiquement, celles qui accèdent à la conscience et deviennent disponibles pour le raisonnement volontaire et le langage.

Selon l'agence de presse américaine Axios, le mot "conscious" - conscient - apparaît plus de deux cents fois dans l'étude publiée par Anthropic. Un chiffre qui, à lui seul, pourrait laisser penser que l'entreprise s'apprête à franchir un pas symbolique majeur. Il n'en est rien : Anthropic s'arrête volontairement au bord de cette affirmation, précisant explicitement que ces résultats ne doivent pas être interprétés comme la preuve que son modèle possède une conscience ou une expérience subjective comparable à celle d'un être humain. Les chercheurs eux-mêmes rappellent, dans leur propre publication, qu'un modèle de langage n'est pas un cerveau.

Le mot 'conscient' apparaît plus de deux cents fois dans l'étude - mais Anthropic s'arrête volontairement au bord de cette affirmation.

Cette prudence n'empêche pas la comparaison de nourrir un débat plus large, déjà bien installé dans le monde de la recherche en intelligence artificielle, sur la manière de décrire ce qui se passe réellement à l'intérieur de systèmes devenus si complexes que même leurs propres créateurs peinent encore à les comprendre entièrement. Ce que l'équipe affirme avec davantage de certitude, c'est qu'une distinction fonctionnelle - entre un petit noyau de représentations disponibles pour le compte rendu et le raisonnement volontaire, et un océan bien plus vaste de traitements automatiques inaccessibles - semble avoir émergé, de manière indépendante, dans un système qui n'a pourtant jamais été conçu pour la reproduire.

 Un outil déjà entre les mains de la communauté scientifique

Loin de garder cette découverte pour elle, Anthropic a choisi de rendre le J-lens public dès son annonce, le 6 juillet, sous la forme d'un outil en accès libre disponible sur la plateforme de développement GitHub, accompagné d'une démonstration interactive fonctionnant sur des modèles à poids ouverts via la plateforme Neuronpedia. Un choix qui s'inscrit dans un contexte où l'intelligence artificielle s'intègre chaque jour davantage aux logiciels d'entreprise, à la cybersécurité et même à certaines opérations gouvernementales, sur fond de compétition géopolitique croissante autour de ces technologies.

Cette publication intervient par ailleurs alors qu'Anthropic poursuit en parallèle l'expansion commerciale de Claude : l'entreprise de conseil technologique OZ Digital a rejoint cette même semaine le réseau de partenaires d'Anthropic pour aider d'autres entreprises à déployer ses modèles via la plateforme Microsoft Azure AI Foundry, signe que la demande commerciale ne faiblit pas malgré les controverses régulières qui accompagnent le développement rapide de ces technologies.

Ce que cette découverte laisse entrevoir, en définitive, dépasse le seul cas de Claude. Si des zones de pensée silencieuses peuvent émerger spontanément dans un système d'intelligence artificielle, sans que personne ne les ait programmées ni même anticipées, alors la question n'est plus seulement de savoir ce que ces systèmes disent - mais ce qu'ils pourraient, à tout moment, être en train de penser sans jamais le formuler. Une question qui, hier encore, relevait de la science-fiction, et qui s'invite désormais, avec ce J-lens public et disponible pour quiconque souhaite l'utiliser, au cœur même des laboratoires de recherche.