Les peurs des scientifiques

« Maintenant, nous sommes tous des fils de putes », telle a été la réaction du physicien américain Kenneth Bainbridge assistant au premier tir nucléaire. A l’occasion du 70^ème anniversaire d’Hiroshima, Le Monde (7 aout 2015) a posé la question à des chercheurs de différentes disciplines : « Dans votre discipline, avez-vous le sentiment que des chercheurs pourraient avoir le même sentiment

Robots tueurs et crash de cybersécurité

Cette thématique est à l’ordre du jour en robotique avec une lettre ouverte signée par 18000 chercheurs demandant l’interdiction d’armes autonomes capables  de sélectionner et de combattre des cibles sans intervention humaine ; c’est l’un des signataires de cette pétition, le Prix Nobel Frank Wilczek qui a répondu et confirmé sa peur des robots tueurs : «  Nous sommes à un moment clé où nous assistons à une convergence de différentes technologies le big data, le machine learning, la robotique et l’internet », et il considère que l’application de ces technologies à des engins de guerre, alors capables de régir de façon autonome beaucoup plus rapidement que n’importe quel humain pourrait déclencher une nouvelle course aux armements et à une situation incontrôlable : « lorsque des essaims de machines répondront à des algorithmes secrets, personne ne pourra prédire l’issue d’un conflit et l’impact sur le monde civil ».

Oui, mais bizarrement, il me semble qu’il y a aussi dans cette campagne très médiatisée une promotion des roboticiens : « c’est nous les plus dangereux ». Or, cette menace est depuis longtemps identifiée puisqu’elle constituait thème du célèbre Dr Folamour (Dr Strangelove) où la catastrophe se produit parce que les Russes ont adopté un système de réponse automatique (la Machine infernale) – un scénario inspiré par les mathématiciens travaillant sur la théorie des jeux, particulièrement Von Neumann.

La cryptographe Michele Mosca pointe le danger de cyberattaques d’un genre nouveau qui seraient permises par les capacités de briseurs de code des ordinateurs quantiques. « Non seulement une vaste quantité d’informations privées (santé, situation financière) perdraient leur caractère confidentiel, mais des systèmes globaux et critiques seraient anéantis : le système financier mondial, pourrait être paralysé, des infrastructures énergétiques deviendraient vulnérables, on pourrait imaginer des crash aériens et ferroviaires…Dans les milieux de la cybersécurité, les gens disent qu’il faudrait qu’advienne un cyberéquivalent de Pearl Harbor. » Ces dangers sont évitables, dit Mme Mosca, mais il est essentiel que les individus expriment leur désir d’être en cybersécurité et contraignent gouvernements, organismes publics et organisations privées à s’en soucier.

Editions de gène, dépistage et super-virus

Curieusement les biologistes, pour la plupart, se montrent optimistes et sans crainte pour leurs disciplines . Le Dr François Jacquemard, qui dirige le centre de diagnostic prénatal de l’Hôpital américain, affirme que les progrès des technologies de l’ADN permettent des diagnostics prénatals beaucoup plus sûrs, les rendent disponibles beaucoup plus largement pour le plus grand bénéfice des patients et à la grande déception des cassandre ». » »Il ne faut pas brider les moyens d’accéder aux nouvelles possibilités, au service de l’amélioration de la santé, notre bien commun », Il suffit simplement que les autorités de santé fassent leur travail d’évaluation et résistent aux pressions des industriels qui voudraient que tout soit diffusé sans attendre » ; « parier sur l’intelligence et l’humanisme et libérer les initiatives ». Emmanuelle Charpentier co-découvreuse d’une technique extrêmement prometteuse, précise et efficace d’édition de gênes (de manipulation génétique, osons le mot ! (CRISPR-Cas9) se contente de signaler que « de nouvelles découvertes sont toujours accompagnées d’une responsabilité » , mais que les avantages de l’édition de gênes pour la recherche scientifique et la santé humaine sont extrêmement importants ». Cependant, l’utilisation cliniques des odifications de la lignée germinal chez l’homme ( autrement dit le clonage pour soigner ou améliorer de façon héréditaire le génome d’un individu) « pourrait être très problématique, et cette question est actuellement au centre d’un débat éthique ». Pas d’affolement donc, face au clonage ! Seul le virologue Wayne Hobson exprime une crainte réelle : que le génie génétique soit utilisé pour rendre des microbes ou des virus plus dangereux, plus mortels ou plus transmissible : «  le monde des microbes est suffisamment dangereux. On n’a pas besoin d’en rajouter ». Dans certains laboratoires, ces manipulation ont été faites, avec succès, pour rendre par exemple transmissible à l’homme un virus de la grippe aviaire ». La communauté scientifique a réagi en demandant que ces recherches ne soient pas publiées et qu’elles fassent l’objet d’un moratoire, voire d’une interdiction.

Manipulations de la mémoire

Bref, une très bonne idée que cette enquête du Monde, et comme maintenant, trop  généralement dans la presse, une très  bonne idée bien gâchée par la précipitation et le manque de moyens. Elle méritait beaucoup mieux que ces quelques banalités, des débats plus approfondis, davantage d’intervenants, d’échanges, de réflexions, davantage d’espace et de temps,  bref, un vrai dossier, - une occasion manquée pour les scientifiques de dialoguer avec le public et de faire connaître leurs espoirs et leur préoccupations.

Pour conclure, ma propre peur : les manipulations de la mémoire. On sait maintenant repérer dans le cerveau la trace mémorielle précise que laisse un événement, et l’on peut manipuler cette mémoire. Ainsi, au MIT, Tonegawa et al, en réveillant grâce à une fibre optique le souvenir d’un stimulus douloureux lié à un endroit précis (chez la souris), ont réussi à l’associer à un autre endroit ; la souris alors manifeste sa peur lorsqu’on la place à un endroit neutre voire agréable,  où elle n’a subi aucune douleur. AU CNRS, Benchenane et al. ont réussi à bloquer l’enregistrement d’un  souvenir douloureux et, en stimulant en même temps une région cérébrale liée au plaisir, ont  changé le souvenir lié à un lieu : la souris n’évitait plus l’endroit où elle avait reçu un stimulus douloureux, mais, au contraire, s’y rendait de préférence ! Techniquement, pas grand-chose n’empêche de passer de la souris à l’homme….

Dernière remarque : pour un positiviste, tout changement n’est pas un progrès ; il n’est un progrès que s’il est le développement de l’ordre, c’est-à-dire s’il permet un accroissement de la connaissance, une maitrise plus efficace, intelligente et morale du monde, s’il conforte l’évolution de nos sociétés des stades théologiques et métaphysiques (militaires et révolutionnaires) vers un âge positif, industrieux, pacifique, une coopération meilleure et plus étendue à l’échelle humaine, contrepartie d’une spécialisation grandissante des fonctions, une organisation républicaine. De toute évidence, la recherche sur des super virus plus contagieux et plus mortels ne répond pas à cette condition.