Dans les premières années de la recherche nucléaire, certains scientifiques craignaient que l'ouverture des atomes ne déclenche une réaction en chaîne qui détruirait la Terre.
Une scène du film Oppenheimer de Christopher Nolan tourne autour de l'inquiétude de certains scientifiques du projet Manhattan, qui craignaient que le premier essai de la bombe atomique ne mette le feu à l'atmosphère terrestre.
L'histoire raconte qu'Edward Teller a évoqué cette possibilité pour la première fois en 1942. On ne sait pas si cette éventualité a été prise au sérieux, mais elle a suffisamment animé les scientifiques pour qu'ils fassent des calculs et concluent que l'immolation de la planète était "improbable".
Les craintes pyrotechniques de ce type sont toutefois antérieures de plusieurs décennies aux efforts sérieux déployés pour fabriquer des bombes nucléaires, et remontent à une époque où le craquage d'atomes semblait, pour beaucoup, relever de la pure science-fiction.
Bien que les analogies entre l'intelligence artificielle et les armes nucléaires puissent être exagérées, la façon dont cette préoccupation est passée de la spéculation à l'inquiétude peut nous enseigner des leçons sur les craintes qui entourent les technologies émergentes d'aujourd'hui.
Il y a longtemps, le naturaliste romain Pline l'Ancien a fait remarquer que, compte tenu de toutes les matières combustibles, c'est un miracle quotidien que le globe ne s'embrase pas. Mais pendant longtemps, tout le monde a supposé que, si les objets pouvaient brûler, les atomes dont ils étaient constitués étaient stables, solides et indestructibles. Lorsque, à l'aube des années 1900, Marie Curie a révélé au monde les secrets de la radioactivité, tout a changé du jour au lendemain.
Les découvertes de Curie ont démontré de manière inattendue qu'un réservoir d'énergie titanesque se cachait, enfermé, dans le sous-sol de la matière. En se désintégrant, les radioéléments libèrent cette richesse interne. Mais tous les atomes, pensait-on, contiennent de telles magnitudes. Ces révélations, remarquées en 1905 par le scientifique afro-américain C H Turner, étaient "iconoclastes".
Impliquant que la matière ordinaire - même le minerai du sous-sol - est bourrée d'énergie bouchonnée, elles ont immédiatement suggéré aux scientifiques que notre planète pourrait ressembler davantage à un "entrepôt" de dynamite qu'à une habitation saine.
Au début de l'année 1903, Frederick Soddy, l'un des fondateurs de la physique nucléaire, a écrit qu'il suffisait qu'un scientifique bricoleur tombe sur un "détonateur approprié" pour enflammer l'"entrepôt" par réaction en chaîne. Ces propos ont été tenus dans la conclusion d'un essai, alors qu'il atteignait un crescendo, tentant d'impressionner ses lecteurs.
À partir de là, le motif s'est imposé et a pris de l'ampleur. À la fin de l'année 1903, des journaux parlaient déjà de la "touche d'une clé" qui pouvait "faire exploser la Terre entière" par réaction en chaîne. Ces affirmations se sont propagées, puis ont fait boule de neige, à la fois dans la communauté scientifique et dans la presse. Les journaux parlent d'une "vaste conflagration", d'une Terre qui s'enflamme "en une explosion de flammes".
En 1909, le géologue irlandais John Joly a ajouté un nouvel ingrédient au mythe. Il a suggéré que cela pourrait expliquer les nouvelles étoiles qui apparaissent de temps à autre dans le ciel nocturne. Il s'agit peut-être de planètes lointaines, selon d'autres hypothèses, qui subissent des accidents d'origine atomique. Les "explosions observées dans les étoiles", supposait-on, pourraient être le résultat d'"explosions cosmoclastiques", provoquées par le bricolage scientifique de civilisations extraterrestres.
Que faut-il retenir de tout cela ? Tout d'abord, cela montre que les craintes de Teller, ainsi que celles de ses collègues du projet Manhattan, n'ont pas émergé spontanément dans le vide.
Il est tout à fait possible qu'ils en seraient arrivés à cette crainte si personne n'avait jamais imaginé de catastrophes similaires auparavant. Il est également possible que leur attention ait été attirée par le fait que le motif de la "détonation" s'était infiltré si profondément dans la conscience culturelle. Mais cela dépendait, de manière tout à fait plausible, d'une boutade faite par Soddy, quatre décennies plus tôt. À l'époque, Soddy ne fondait pas cette boutade grandiloquente sur la moindre idée sérieuse ; elle découlait en grande partie de son désir de promouvoir son nouveau domaine à l'aide de tactiques de choc.
Il aurait très bien pu ne pas l'inclure. Peut-être que s'il ne l'avait pas fait, ou si Rutherford ne l'avait pas amplifiée, elle n'aurait pas pris racine comme elle l'a fait ; peut-être que si c'était le cas, elle n'aurait pas eu l'élan ou l'importance nécessaires pour attirer l'attention d'Oppenheimer.
"Personne n'a clairement anticipé les dangers plus terre-à-terre que l'explosion nucléaire annonçait dans la pratique."
Néanmoins, nous devons rester vigilants quant à la manière dont les goûts culturels peuvent fausser nos prévisions et nos craintes. Les visions charismatiques d'une conflagration mondiale sont arrivées et se sont répandues facilement pour les premiers spéculateurs, mais personne n'a clairement anticipé les dangers plus terre-à-terre que l'explosion nucléaire annonçait dans la pratique. C'est-à-dire sous la forme de retombées, de cendres irradiées tombant littéralement sur Terre, dont les communautés - souvent marginalisées - souffrent encore aujourd'hui de l'héritage nocif.
La leçon à tirer pour l'IA est peut-être que les risques dramatiques doivent retenir notre attention, mais qu'il en va de même pour les risques plus tangibles, qui attirent moins l'attention. Aucun ne doit annuler l'autre, surtout quand, une fois de plus, notre monde est peut-être en jeu.
---