L’intelligence artificielle_ une certaine inquiétude ?

Je ne comprends pas pourquoi les gens ne sont pas inquiets (Bill Gates)

Il est assez rare d’entendre des déclarations de ce type de la part de magnats américains. Bill Gates, donc : « Je suis de ceux qui s'inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l'intelligence sera suffisamment puissante pour poser des problèmes. Je suis d'accord avec Elon Musk et d'autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets »

Le Future of Life Institute (FLI  ou Institut pour le Futur de l’Humanité ), qui compte parmi ses membres le physicien britannique Stephen Hawking, Elon Musk, George Church, professeur de génétique à l'université de Harvard, ou encore l'acteur américain Morgan Freeman a publié un appel signé par plus de 700 scientifiques et chefs d'entreprises pour s’inquiéter des risques  du développement de l’intelligence artificielle et  s'assurer que les futures avancées dans le domaine soient bénéfiques à la société. La devise du FLI reflète bien ses interrogations : « La technologie nous donne la possibilité d’une vie épanouissante  comme jamais auparavant... ou de nous autodétruire.Extraits de la lettre 

Priorités de recherche pour une 'Intelligence Artificielle sûre et bénéfique : une lettre ouverte

La recherche sur  l'intelligence artificielle (IA) a exploré une variété d'approches et de problèmes depuis sa création, mais dans les 20 dernières années, a été axée sur les problèmes liés à la construction des agents intelligents - systèmes de perception et d’action dans un environnement donné. Dans ce contexte, « l'intelligence » correspond  à la notion de rationalité, dans ses interprétations statistiques et économiques  au sens large – soit, plus familièrement, , la capacité de choisir les bonnes décisions, plans ou inférences. L'adoption de représentations probabilistes et liées aux théories de la décision et des méthodes d’apprentissage a conduit à un grand degré d'intégration et là un enrichissement mutuel entre IA, apprentissage automatique, statistiques, théorie du contrôle, neurosciences et d'autres domaines. La mise en place de cadres théoriques partagés, combiné avec la disponibilité des données et la puissance de traitement, a conduit à des succès remarquables dans diverses tâches de composants tels que la reconnaissance vocale, la classification des  images, les  véhicules autonomes, la traduction automatique, la locomotion robotique et  les systèmes de question-réponse.
Comme les capacités dans ces domaines et d'autres franchissent le seuil du laboratoire de recherche  pour devenir des  technologies de haute valeur économique, un cercle vertueux s'engage : même de petites améliorations dans les performances peuvent laisse espérer de grandes espérances de profit, ce qui incite à investir davantage dans la recherche. Il y a maintenant un large consensus sur le fait que la recherche en  IA  progresse régulièrement, et que son impact sur la société augmentera. Les avantages potentiels sont énormes, puisque toute la civilisation est un produit de l'intelligence humaine.  Nous ne pouvons pas même prédire ce que l’Humamité pourra faire lorsque se développera l’intelligence humaine amplifiée par l’AI et qu’elle nous donnera de nouveaux outils. L'éradication de la maladie et de la pauvreté sont peut-être à notre portée. En raison de cet énorme potentiel de l’IA, il est important de chercher comment récolter ses fruits tout en évitant les inconvénients et pièges possibles.

Les progrès dans la recherche d'IA  font qu’il est opportun de concentrer la recherche non seulement sur la performance, mais aussi sur l’optimisation des avantages pour la société. Ces considérations ont mené le Comité présidentiel  de l’’association pour le Progrès en Intelligence artificielle (Association for the Advancement of Artificial Intelligence) à encourager une réflexion de longue durée sur le futur de l’AI et sur ses impacts sociétaux ; une telle démarche doit constituer une expansion importante du champ de l'IA elle-même, qui, jusqu'à présent, s’est surtout focalisée sur des techniques neutres en ce qui concerne leur but. Nous  recommandons un élargissement des programmes de  recherche visant  à assurer que les systèmes d’IA, de plus en plus puissants, soient ,de plus, sûrs et bénéfiques : nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent. Un document listant des priorités de recherche  et donnant de nombreux exemples qui peuvent aider à maximiser les avantages pour la société de l'IA a été préparé. Cette recherche est nécessairement interdisciplinaire s’agissant de l’interaction entre la société et l’IA ; elle concerne notamment l'économie, le droit, la philosophie, la sécurité informatique, la logique formelle et, bien sûr,  les diverses branches de l'IA elle-même.

Les ordinateurs peuvent être aussi "complètement cons"

Certains  chercheurs impliqués dans l’IA considèrent  que le danger potentiel peut venir davantage de ce que les ordinateurs sont « complètement cons » plutôt que leur supposée super intelligence. Ainsi, Bostrom, directeur de l'Institut du Futur de l'Humanité, donne l’exemple suivant : un système à qui on demanderait de rendre les hommes souriants, et qui leur injecterait un neurobloquant pour figer les muscles de leurs visages. Ou, comme dans un épisode d’une série de science fiction, un système à qui l’on donnerait pour instruction de « servir l’homme », et qui proposerait des recettes de cuisine : servir l’homme en paillottes, à la sauce gribiche, en rôti etc….  Dixit Gérard Berry, informaticien et professeur au Collège de France, qui vient de recevoir la médaille d'or 2014 du CNR « Si jamais, dans la chaîne de conséquences, il y a quelque chose qui ne devrait pas y être, l'homme ne s'en rendra pas compte, et l'ordinateur va foncer dedans. C'est ça le bug. Un homme n'est pas capable de tirer les conséquences de ses actes à l'échelle de milliards d'instructions. Or c'est ça que va faire le programme, il va exécuter des milliards d'instructions." 

Bref, il y a dans tout cela beaucoup d’exaltation naïve, technophile ou technophobe, et sans doute un peu de marketing et de lobbying pour une discipline particulière qu’un minimum de connaissances de philosophie ou d’histoire des sciences aiderait à relativiser. Oui, l’intelligence artificielle va nous donner  à nous humains, et non aux robots, de nombreux et considerable nouveaux pouvoirs ; mais  c’est nous qui décideront - quitte à « débrancher ! »), oui elle va nous transformer, y compris physiologiquement, comme l’invention de l’écriture a transformé notre cerveau lui-même ; comme l’invention de l’imprimerie a transformé notre relation au savoir ; il faudrait aussi relire les commentaires effrayés qui ont accompagné l’invention de la Pascaline, la première machine à calculer par Blaise Pascal (enfin à additionner, soustraire, multiplier), se souvenir des spectateurs effrayés s’enfuyant de la salle où était projetée l’Arrivée du train en gare de la Ciotat de Louis Lumière ; oui le simple cinéma a aussi profondément modifié nos sensations ; la perplexité qu’à fait naître la certitude qu’un ordinateur pouvait battre le meilleur maître d’écher ( une discipline en perte de vitesse médiatique, semble-t-il) etc.

Ni enthousiasme extravagant, ni peur panique : nous garderons le contrôle.- ce qui d’ailleurs doit nous inciter encore plus à réfléchir