« Ils jouent avec nos vies » : quand un chercheur d'Anthropic tire la sonnette d'alarme sur l'IA

Sept messages publiés sur X, mardi en fin d'après-midi. Moins de deux heures plus tard, ils avaient déjà été vus deux millions de fois. Jacob Coxon, chercheur britannique de 27 ans, a annoncé sa démission d'Anthropic et son retrait pur et simple de l'industrie de l'intelligence artificielle. Le motif tient en une phrase glaçante : « Elles foncent droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies. » Les deux entreprises visées ne sont autres qu'OpenAI et Anthropic, ses deux anciens employeurs.

Un mathématicien au cœur de la fabrique

Coxon n'est pas un observateur extérieur qui pérore depuis les gradins. Mathématicien de formation, il travaillait directement sur l'entraînement des modèles de langage à partir d'immenses corpus de données, c'est-à-dire au cœur même du réacteur. Au Wall Street Journal, il raconte que ses collègues emploient désormais des mots comme « crunchtime », la dernière ligne droite, et « endgame », la phase finale, pour décrire la trajectoire du secteur. Il va plus loin encore auprès du quotidien américain, affirmant que le secteur se dirige vers des scénarios extrêmes où tout pourrait basculer hors de contrôle avant la fin de l'année prochaine. Selon lui, la rivalité entre laboratoires américains et chinois rend les compromis sur la sécurité pratiquement inévitables, chacun sacrifiant un peu de prudence pour ne pas perdre la course.

Sur X, son ton se durcit encore. Il met en garde contre des systèmes qui deviendront bientôt surhumains, capables de pirater n'importe quoi et de révolutionner n'importe quel domaine du jour au lendemain. Et d'ajouter, sans détour : « les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie. Ce n'est pas un coup marketing. » Coxon assure que dirigeants et chercheurs chevronnés pèsent leurs mots devant la presse pour paraître raisonnables, alors qu'en privé, ce sont les mêmes qui « expriment leur peur ».

Deux entreprises, deux formes d'aveuglement

La grille de lecture que propose le chercheur distingue nettement les deux géants qu'il a servis. Chez OpenAI, il observe une incapacité à intérioriser pleinement les enjeux civilisationnels que soulève leur propre technologie.
Chez Anthropic, le diagnostic est presque inverse et plus troublant encore : les dirigeants comprennent parfaitement le risque, mais s'estiment engagés dans une course qu'ils ne peuvent pas se permettre de perdre, convaincus que personne d'autre n'agira de façon responsable à leur place. Coxon avait pourtant quitté OpenAI plus tôt cette année précisément pour rejoindre Anthropic, séduit par sa réputation en matière de sûreté des modèles. Il juge toujours ces efforts sincères, mais conclut désormais qu'aucune entreprise, aussi bien intentionnée soit-elle, ne peut développer seule une intelligence artificielle générale de façon responsable, sans intervention des États ou sans un ralentissement coordonné à l'échelle du secteur. Sollicitées par Le Figaro, ni OpenAI ni Anthropic n'avaient réagi dans l'immédiat.

Ce départ n'est pas un cas isolé. Selon le Wall Street Journal, il compte parmi les premiers exemples d'un salarié d'Anthropic quittant l'entreprise par crainte pour la sécurité de l'IA elle-même. Un autre chercheur spécialisé sur ces questions avait déjà démissionné auparavant pour se consacrer à l'étude de la poésie, laissant derrière lui un avertissement tout aussi bref que celui de Coxon : « Le monde est en péril. »

Risques évalués : ce que l'on peut mesurer aujourd'hui

Au-delà de l'émotion suscitée par cette démission, plusieurs risques concrets méritent d'être posés froidement. Le premier est celui de la vitesse : les laboratoires publient des modèles toujours plus capables selon des cycles de plus en plus courts, sans que les méthodes d'évaluation de sécurité progressent au même rythme.
Le deuxième est celui de la concentration du pouvoir : une poignée d'entreprises américaines et chinoises détiennent seules la capacité de calcul, les données et les talents nécessaires pour entraîner ces systèmes, ce qui rend toute régulation efficace extrêmement difficile à imposer de l'extérieur.
Le troisième risque, plus insidieux, concerne l'autonomie croissante des modèles dans des tâches sensibles comme la cybersécurité ou la recherche scientifique, domaines où une capacité mal maîtrisée peut se propager bien plus vite qu'un cadre légal ne peut s'adapter.

Le quatrième risque, souvent négligé, est celui du décalage entre le discours public rassurant des dirigeants et les craintes qu'ils partagent en privé, un écart que Coxon lui-même dénonce et qui nourrit une défiance croissante du public envers une industrie qui semble se surveiller elle-même. Enfin, le risque géopolitique n'est pas mince : la rivalité sino-américaine transforme chaque avancée technique en enjeu de souveraineté, ce qui pousse chaque camp à accepter des marges de sécurité plus étroites qu'il ne le voudrait dans un monde moins concurrentiel.

Olam Haba : ce que le judaïsme nous apprend sur le monde qui vient

Il existe une manière d'aborder cette accélération qui n'a, à notre connaissance, jamais été posée dans ce contexte précis.
La tradition juive parle d'Olam Haba, le monde futur, celui qui succède à Olam Hazé, le monde présent. Ce concept ne désigne pas seulement un au-delà spirituel après la mort individuelle, mais aussi, selon certaines lectures, une ère de connaissance et de transformation profonde de la condition humaine, annoncée par les prophètes comme un temps où la connaissance recouvrira la terre.
L'intelligence artificielle, dans son ambition la plus radicale, celle même que dénonce Coxon, prétend précisément accélérer artificiellement cette promesse : abolir la maladie, décupler la connaissance, transformer chaque domaine du jour au lendemain.

Mais le judaïsme insiste sur un point que l'ingénierie oublie trop souvent : Olam Haba n'est pas un produit que l'on fabrique par la force du calcul, c'est un état que l'on mérite par la conduite morale, la justice et la responsabilité collective.

Or ce que décrit Coxon est l'inverse exact de cette logique, une course où la puissance technique dépasse la maturité éthique de ceux qui la manient. Si une part de l'humanité rêve de bâtir son propre Olam Haba par la seule force du silicium, sans les fondements moraux que la tradition juive place au cœur de toute rédemption véritable, alors le risque n'est pas seulement celui d'une machine hors de contrôle, mais celui d'une humanité qui confond accélération technique et élévation spirituelle. Le monde futur, selon cette perspective, ne se code pas, il se construit patiemment, par la conscience de ses propres limites, exactement ce que ce jeune chercheur vient de rappeler à ceux qui pensaient l'avoir oublié.

Cette perspective éclaire d'un jour nouveau la démission de Jacob Coxon. Ce n'est pas seulement un ingénieur qui claque la porte, c'est un aveu que la technologie, livrée à elle-même, ne sait ni où elle va ni ce qu'elle promet vraiment.

POUR S'INSCRIRE A LA NEWSLETTER D'ALLIANCE ET AVOIR ACCES AUX INFORMATIONS EN UN COUP D'OEIL CLIQUEZ ICI :https://alliance-magazine.com/?p=subscribe&id=1