What scientists fear

"Now, we are all sons of whores", such has been the reaction of the American physicist Kenneth Bainbridge attending the first nuclear firing. On the occasion of the 70^th anniversary of Hiroshima, Le Monde (7 August 2015) has asked researchers from different disciplines: "in your discipline, do you feel that researchers might have the same feeling?”

Robots killers and crash of cybersecurity

This theme is the order of the day in robotics with an open letter signed by 18000 researchers requesting the ban on autonomous weapons capable to select and combat targets without human intervention.  It was one of the signatories of this petition, the Nobel Laureate Frank Wilczek who replied and confirmed his fear of killer robots: "We are at a time where we are witnessing a convergence of different technologies : big data, machine learning, robotics and the internet". He  considers that the application of these technologies to war could lead to weapons  capable of reacting independently much faster that any human could, and  trigger a new weapon race and an uncontrollable situation: "when arrays of machines will obey to secret algorithms, no one can predict the outcome of a conflict and the impact on the civilian world.

Yes, but oddly, it seems to me that there is also in this a campaign promoting roboticians: "We are the most dangerous”. However, this threat has long been identified since it was theme of the famous Kubrick movie  Dr. Strangelove ; the disaster occurs because the Russians have adopted an automatic response system (the Infernal Machine) - a scenario inspired by the mathematicians working on the theory of games, particularly Von Neumann.

Michele Mosca (cryptographer) points the danger of cyber attacks of a new genre that would be allowed by the capabilities of code-breakers quantum computers. «Not only a vast amount of private information (health, financial situation) would lose their confidentiality, but global and critical systems would be annihilated: the global financial system could be paralyzed, energy infrastructures would become vulnerable, one could imagine air and rail crashes...» In cybersecurity circles, , people say that there will be a cyberequivalent of Pearl Harbor. "These dangers are preventable, said Mrs Mosca, but it is essential that individuals express their desire for cybersecurity and compel Governments, public bodies and private organisations to worry.

Editions of gene, screening and Super-viruses

Curiously, biologists, for the most part, seems optimistic and without much fear for their disciplines. Dr. François Jacquemard, who directs the Center for prenatal diagnosis of the American Hospital in Paris, claims that the DNA technology advances allow much safer prenatal diagnostics, make them available much more widely for the benefit of patients and the disappointment of the Cassandras. «We should  not restrict access to new opportunities to improve health, our common good»,. Simply health authorities have to do their job of evaluation and resist pressure from industrialists to put everything to market as fast as possible. We can  «bet on intelligence and humanism and free initiative».

 Emmanuelle Charpentier co-decouvreuse of a highly promising, precise and efficient  gene edition technique ( sounds better than genetic modification !) (CRISPR-Cas9) merely stated that "new discoveries are always accompanied by new responsibilities", but that the benefits of the edition of genes for scientific research and human health are extremely important. However, using clinical manipulation of the germinal line in humans (i.e. cloning to treat, or hereditary improve an individual's genome) "could be very problematic, and this issue is currently at the centre of an ethical debate”. No cloning panic, then ! Only the virologist Wayne Hobson expressed a real fear: that genetic engineering is used to make microbes or viruses, most dangerous, most deadly or more transferable: "the world of microbes is sufficiently dangerous. There is need to add. In some laboratories, these handling were made, with success, to make e.g. transmissible to humans a virus of avian flu". The scientific community has responded by asking that such research should not be published and subject of a moratorium or even a ban.

Memory manipulation

In short, a very good idea as this survey of Le Monde, and as now, too often in the press, a very good idea spolied by haste and lack of resources. It deserved much better than these few platitudes, more in-depth discussions, more stakeholders, exchanges, reflections, more space and time  - a missed opportunity for scientists to interact with the public and to publicize their hopes and their concerns.

To conclude, my own fear: manipulation of memory. We know now to identify the memory trace in the brain left by an event, and can manipulate this memory. Thus, at the MIT, Tonegawa et al., awakening the memory of a painful stimulus tied to a specific place through an optical fiber, have managed to link it to another location; the mice  then manifested their fear when placed in a neutral or even nice location, where they had suffered no pain.. In  CNRS, Benchenane et al. have managed to block the registration of a painful memory and, at the same time stimulating a brain region linked pleasure, have changed the memory associated with the place: instead of avoiding the place wehre they had received painful stimuli,  the mice preferred to go there ! Technically, no big gap between mouse and man...

Last note: for a positivist, any change is not a progress. It is a progress only if is the development of the order (Auguste Comte) , i.e. if it comforts natural evolution.  If it allows an increase of knowledge, leads towards a more efficient, intelligent and moral world, if it confirms the evolution of our societies out  of the theological and metaphysical stages (military and revolutionary) towards a positive, industrious, peaceful age, if it helps the evolution towards  better and more extensive cooperation on a human scale, in connection with greater specialization of functions.  Obviously, research on super contagious and more deadly viruses does not meet this condition.

Les peurs des scientifiques

« Maintenant, nous sommes tous des fils de putes », telle a été la réaction du physicien américain Kenneth Bainbridge assistant au premier tir nucléaire. A l’occasion du 70^ème anniversaire d’Hiroshima, Le Monde (7 aout 2015) a posé la question à des chercheurs de différentes disciplines : « Dans votre discipline, avez-vous le sentiment que des chercheurs pourraient avoir le même sentiment

Robots tueurs et crash de cybersécurité

Cette thématique est à l’ordre du jour en robotique avec une lettre ouverte signée par 18000 chercheurs demandant l’interdiction d’armes autonomes capables  de sélectionner et de combattre des cibles sans intervention humaine ; c’est l’un des signataires de cette pétition, le Prix Nobel Frank Wilczek qui a répondu et confirmé sa peur des robots tueurs : «  Nous sommes à un moment clé où nous assistons à une convergence de différentes technologies le big data, le machine learning, la robotique et l’internet », et il considère que l’application de ces technologies à des engins de guerre, alors capables de régir de façon autonome beaucoup plus rapidement que n’importe quel humain pourrait déclencher une nouvelle course aux armements et à une situation incontrôlable : « lorsque des essaims de machines répondront à des algorithmes secrets, personne ne pourra prédire l’issue d’un conflit et l’impact sur le monde civil ».

Oui, mais bizarrement, il me semble qu’il y a aussi dans cette campagne très médiatisée une promotion des roboticiens : « c’est nous les plus dangereux ». Or, cette menace est depuis longtemps identifiée puisqu’elle constituait thème du célèbre Dr Folamour (Dr Strangelove) où la catastrophe se produit parce que les Russes ont adopté un système de réponse automatique (la Machine infernale) – un scénario inspiré par les mathématiciens travaillant sur la théorie des jeux, particulièrement Von Neumann.

La cryptographe Michele Mosca pointe le danger de cyberattaques d’un genre nouveau qui seraient permises par les capacités de briseurs de code des ordinateurs quantiques. « Non seulement une vaste quantité d’informations privées (santé, situation financière) perdraient leur caractère confidentiel, mais des systèmes globaux et critiques seraient anéantis : le système financier mondial, pourrait être paralysé, des infrastructures énergétiques deviendraient vulnérables, on pourrait imaginer des crash aériens et ferroviaires…Dans les milieux de la cybersécurité, les gens disent qu’il faudrait qu’advienne un cyberéquivalent de Pearl Harbor. » Ces dangers sont évitables, dit Mme Mosca, mais il est essentiel que les individus expriment leur désir d’être en cybersécurité et contraignent gouvernements, organismes publics et organisations privées à s’en soucier.

Editions de gène, dépistage et super-virus

Curieusement les biologistes, pour la plupart, se montrent optimistes et sans crainte pour leurs disciplines . Le Dr François Jacquemard, qui dirige le centre de diagnostic prénatal de l’Hôpital américain, affirme que les progrès des technologies de l’ADN permettent des diagnostics prénatals beaucoup plus sûrs, les rendent disponibles beaucoup plus largement pour le plus grand bénéfice des patients et à la grande déception des cassandre ». » »Il ne faut pas brider les moyens d’accéder aux nouvelles possibilités, au service de l’amélioration de la santé, notre bien commun », Il suffit simplement que les autorités de santé fassent leur travail d’évaluation et résistent aux pressions des industriels qui voudraient que tout soit diffusé sans attendre » ; « parier sur l’intelligence et l’humanisme et libérer les initiatives ». Emmanuelle Charpentier co-découvreuse d’une technique extrêmement prometteuse, précise et efficace d’édition de gênes (de manipulation génétique, osons le mot ! (CRISPR-Cas9) se contente de signaler que « de nouvelles découvertes sont toujours accompagnées d’une responsabilité » , mais que les avantages de l’édition de gênes pour la recherche scientifique et la santé humaine sont extrêmement importants ». Cependant, l’utilisation cliniques des odifications de la lignée germinal chez l’homme ( autrement dit le clonage pour soigner ou améliorer de façon héréditaire le génome d’un individu) « pourrait être très problématique, et cette question est actuellement au centre d’un débat éthique ». Pas d’affolement donc, face au clonage ! Seul le virologue Wayne Hobson exprime une crainte réelle : que le génie génétique soit utilisé pour rendre des microbes ou des virus plus dangereux, plus mortels ou plus transmissible : «  le monde des microbes est suffisamment dangereux. On n’a pas besoin d’en rajouter ». Dans certains laboratoires, ces manipulation ont été faites, avec succès, pour rendre par exemple transmissible à l’homme un virus de la grippe aviaire ». La communauté scientifique a réagi en demandant que ces recherches ne soient pas publiées et qu’elles fassent l’objet d’un moratoire, voire d’une interdiction.

Manipulations de la mémoire

Bref, une très bonne idée que cette enquête du Monde, et comme maintenant, trop  généralement dans la presse, une très  bonne idée bien gâchée par la précipitation et le manque de moyens. Elle méritait beaucoup mieux que ces quelques banalités, des débats plus approfondis, davantage d’intervenants, d’échanges, de réflexions, davantage d’espace et de temps,  bref, un vrai dossier, - une occasion manquée pour les scientifiques de dialoguer avec le public et de faire connaître leurs espoirs et leur préoccupations.

Pour conclure, ma propre peur : les manipulations de la mémoire. On sait maintenant repérer dans le cerveau la trace mémorielle précise que laisse un événement, et l’on peut manipuler cette mémoire. Ainsi, au MIT, Tonegawa et al, en réveillant grâce à une fibre optique le souvenir d’un stimulus douloureux lié à un endroit précis (chez la souris), ont réussi à l’associer à un autre endroit ; la souris alors manifeste sa peur lorsqu’on la place à un endroit neutre voire agréable,  où elle n’a subi aucune douleur. AU CNRS, Benchenane et al. ont réussi à bloquer l’enregistrement d’un  souvenir douloureux et, en stimulant en même temps une région cérébrale liée au plaisir, ont  changé le souvenir lié à un lieu : la souris n’évitait plus l’endroit où elle avait reçu un stimulus douloureux, mais, au contraire, s’y rendait de préférence ! Techniquement, pas grand-chose n’empêche de passer de la souris à l’homme….

Dernière remarque : pour un positiviste, tout changement n’est pas un progrès ; il n’est un progrès que s’il est le développement de l’ordre, c’est-à-dire s’il permet un accroissement de la connaissance, une maitrise plus efficace, intelligente et morale du monde, s’il conforte l’évolution de nos sociétés des stades théologiques et métaphysiques (militaires et révolutionnaires) vers un âge positif, industrieux, pacifique, une coopération meilleure et plus étendue à l’échelle humaine, contrepartie d’une spécialisation grandissante des fonctions, une organisation républicaine. De toute évidence, la recherche sur des super virus plus contagieux et plus mortels ne répond pas à cette condition.