Le Progrès Technique

p-technique

L'essentiel de l'information industrielle du moment

L'intelligence artificielle, et plus précisément une super intelligence, est un sujet de préoccupation grandissant auprès de personnalités éminentes du secteur des nouvelles technologies. Bill Gates a récemment exprimé ses inquiétudes sur cette perspective.


Appel à la vigilance sur les progrès technologiques et leur impact sur l’homme
« Je suis dans le camp de ceux qui s’inquiètent du développement d’une super intelligence. Au départ, les machines réaliseront pour nous de nombreuses tâches sans être très intelligentes. Cela devrait s’avérer positif si nous les gérons bien. Mais, dans quelques décennies, leur intelligence sera suffisamment développée pour devenir un sujet d’inquiétude. Je rejoins Elon Musk et quelques autres et ne comprends pas pourquoi certaines personnes ne semblent pas s’en préoccuper » a déclaré le co-fondateur de Microsoft, lors d’une session de chat organisé sur le portail communautaire Reddit.
 
De son côté, Elon Musk, l'entrepreneur fervent adepte des projets futuristes expliquait en octobre 2014 : "Je pense que nous devrions être très prudents. Si je devais deviner ce qui représente la plus grande menace pour notre existence, je dirais probablement l'intelligence artificielle. Je suis de plus en plus enclin à penser qu'il devrait y avoir une régulation, à un niveau national ou international, simplement pour être sûr que nous ne sommes pas en train de faire quelque chose de stupide. Avec l'intelligence artificielle, nous invoquons un démon."
 
Ce qui est en jeu dans ces prises de position, c'est l'éventualité que la machine se retourne un jour contre l'homme, non pas parce qu'elle serait devenue perfide mais parce que nos capacités limitées de calcul ne pourront pas éviter l'apparition d'effets pervers. Ainsi, on ne peut écarter l'hypothèque qu'une super intelligence artificielle pourrait employer des moyens dangereux pour l'homme, pour atteindre son objectif, comme par exemple le fait de se retourner contre ses concepteurs, soit par pure malveillance, soit dans une tentative maladroite de se rendre utile. C'est le message que veut transmettre Nick Bostrom, directeur de l'Institut du Futur de l'Humanité de l'Université d'Oxford : "les programmeurs peuvent échouer à anticiper l'ensemble des façons possibles d'atteindre le but qu'ils fixent à la machine. Ceci en raison de biais et de filtres innés et acquis. Une super-intelligence artificielle dépourvue de ces biais, pourrait employer des moyens, logiques mais pervers et dangereux pour l'homme, d'atteindre ce but".
 
En décembre dernier, Stephen Hawking, le célèbre astrophysicien britannique avait lui aussi fait par de ses inquiétudes en déclarant « Le développement d’une intelligence artificielle complète peut signifier la fin de l’espèce humaine. (...) Une fois que les humains auront développé une intelligence artificielle, elle va prendre son envol et se reconstruire elle-même à un rythme toujours plus rapide. Les humains, limités par la lente évolution biologique, ne pourront suivre et seront remplacés. »
 
A lire : « Artificial Intelligence: a Modern Approach » écrit par Stuart Russell et Peter Norvig, directeur de recherche chez Google.