Je ne comprends pas pourquoi les gens ne sont pas
inquiets (Bill Gates)
Il est assez rare d’entendre des déclarations de ce type de la part de magnats américains. Bill Gates, donc : « Je suis de ceux qui s'inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l'intelligence sera suffisamment puissante pour poser des problèmes. Je suis d'accord avec Elon Musk et d'autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets »
Le
Future of Life Institute (FLI ou
Institut pour le Futur de l’Humanité ), qui compte
parmi ses membres le physicien britannique Stephen Hawking, Elon Musk, George
Church, professeur de génétique à l'université de Harvard, ou encore l'acteur
américain Morgan Freeman a publié un appel signé par plus
de 700 scientifiques et chefs d'entreprises pour s’inquiéter des risques du développement de l’intelligence
artificielle et s'assurer que les
futures avancées dans le domaine soient bénéfiques à la société. La devise du
FLI reflète bien ses interrogations : « La technologie nous donne la possibilité d’une vie
épanouissante comme jamais auparavant...
ou de nous autodétruire.Extraits de la lettre Il est assez rare d’entendre des déclarations de ce type de la part de magnats américains. Bill Gates, donc : « Je suis de ceux qui s'inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l'intelligence sera suffisamment puissante pour poser des problèmes. Je suis d'accord avec Elon Musk et d'autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets »
Priorités de recherche pour une 'Intelligence Artificielle sûre et bénéfique : une lettre ouverte
La recherche sur l'intelligence artificielle (IA) a exploré une variété d'approches et de problèmes depuis sa création, mais dans les 20 dernières années, a été axée sur les problèmes liés à la construction des agents intelligents - systèmes de perception et d’action dans un environnement donné. Dans ce contexte, « l'intelligence » correspond à la notion de rationalité, dans ses interprétations statistiques et économiques au sens large – soit, plus familièrement, , la capacité de choisir les bonnes décisions, plans ou inférences. L'adoption de représentations probabilistes et liées aux théories de la décision et des méthodes d’apprentissage a conduit à un grand degré d'intégration et là un enrichissement mutuel entre IA, apprentissage automatique, statistiques, théorie du contrôle, neurosciences et d'autres domaines. La mise en place de cadres théoriques partagés, combiné avec la disponibilité des données et la puissance de traitement, a conduit à des succès remarquables dans diverses tâches de composants tels que la reconnaissance vocale, la classification des images, les véhicules autonomes, la traduction automatique, la locomotion robotique et les systèmes de question-réponse.
Comme les capacités dans ces domaines et d'autres franchissent le seuil du laboratoire de recherche pour devenir des technologies de haute valeur économique, un cercle vertueux s'engage : même de petites améliorations dans les performances peuvent laisse espérer de grandes espérances de profit, ce qui incite à investir davantage dans la recherche. Il y a maintenant un large consensus sur le fait que la recherche en IA progresse régulièrement, et que son impact sur la société augmentera. Les avantages potentiels sont énormes, puisque toute la civilisation est un produit de l'intelligence humaine. Nous ne pouvons pas même prédire ce que l’Humamité pourra faire lorsque se développera l’intelligence humaine amplifiée par l’AI et qu’elle nous donnera de nouveaux outils. L'éradication de la maladie et de la pauvreté sont peut-être à notre portée. En raison de cet énorme potentiel de l’IA, il est important de chercher comment récolter ses fruits tout en évitant les inconvénients et pièges possibles.
Les progrès dans la recherche d'IA font qu’il est opportun de concentrer la
recherche non seulement sur la performance, mais aussi sur l’optimisation des avantages
pour la société. Ces considérations ont mené le Comité présidentiel de l’’association pour le Progrès en
Intelligence artificielle (Association for the Advancement of Artificial
Intelligence) à encourager une réflexion de longue durée sur le futur de l’AI
et sur ses impacts sociétaux ; une telle démarche doit constituer une expansion
importante du champ de l'IA elle-même, qui, jusqu'à présent, s’est surtout
focalisée sur des techniques neutres en ce qui concerne leur but. Nous recommandons un élargissement des programmes
de recherche visant à assurer que les systèmes d’IA, de plus en
plus puissants, soient ,de plus, sûrs et bénéfiques : nos systèmes d'IA doivent
faire ce que nous voulons qu'ils fassent. Un document listant des priorités de
recherche et donnant de nombreux
exemples qui peuvent aider à maximiser les avantages pour la société de l'IA a
été préparé. Cette recherche est nécessairement interdisciplinaire s’agissant
de l’interaction entre la société et l’IA ; elle concerne notamment l'économie,
le droit, la philosophie, la sécurité informatique, la logique formelle et,
bien sûr, les diverses branches de l'IA
elle-même.
Les ordinateurs
peuvent être aussi "complètement cons"
Certains chercheurs
impliqués dans l’IA considèrent que le danger
potentiel peut venir davantage de ce que les ordinateurs sont « complètement
cons » plutôt que leur supposée super intelligence. Ainsi, Bostrom,
directeur de l'Institut du Futur de l'Humanité, donne l’exemple suivant :
un système à qui on demanderait de rendre les hommes souriants, et qui leur
injecterait un neurobloquant pour figer les muscles de leurs visages. Ou, comme
dans un épisode d’une série de science fiction, un système à qui l’on donnerait
pour instruction de « servir l’homme », et qui proposerait des
recettes de cuisine : servir l’homme en paillottes, à la sauce gribiche,
en rôti etc…. Dixit Gérard Berry,
informaticien et professeur au Collège de France, qui vient de recevoir la
médaille d'or 2014 du CNR « Si jamais, dans la chaîne de conséquences, il
y a quelque chose qui ne devrait pas y être, l'homme ne s'en rendra pas compte,
et l'ordinateur va foncer dedans. C'est ça le bug. Un homme n'est pas capable
de tirer les conséquences de ses actes à l'échelle de milliards d'instructions.
Or c'est ça que va faire le programme, il va exécuter des milliards
d'instructions."
Bref, il y a
dans tout cela beaucoup d’exaltation naïve, technophile ou technophobe, et sans
doute un peu de marketing et de lobbying pour une discipline particulière qu’un
minimum de connaissances de philosophie ou d’histoire des sciences aiderait à
relativiser. Oui, l’intelligence artificielle va nous donner à nous humains, et non aux robots, de nombreux et considerable nouveaux pouvoirs ; mais c’est nous
qui décideront - quitte à « débrancher ! »), oui elle va nous
transformer, y compris physiologiquement, comme l’invention de l’écriture a transformé
notre cerveau lui-même ; comme l’invention de l’imprimerie a transformé
notre relation au savoir ; il faudrait aussi relire les commentaires
effrayés qui ont accompagné l’invention de la Pascaline, la première machine à
calculer par Blaise Pascal (enfin à additionner, soustraire, multiplier), se
souvenir des spectateurs effrayés s’enfuyant de la salle où était projetée l’Arrivée
du train en gare de la Ciotat de Louis Lumière ; oui le simple cinéma a
aussi profondément modifié nos sensations ; la perplexité qu’à fait naître
la certitude qu’un ordinateur pouvait battre le meilleur maître d’écher ( une
discipline en perte de vitesse médiatique, semble-t-il) etc.
Ni enthousiasme
extravagant, ni peur panique : nous garderons le contrôle.- ce qui d’ailleurs
doit nous inciter encore plus à réfléchir