Pourton.info
Un père de l’intelligence artificielle tire la sonnette d’alarme
Geoffrey Hinton, l’un des pionniers dans le domaine de l’intelligence artificielle (IA), a démissionné de Google et exprimé ses inquiétudes quant aux implications futures de cette technologie. Il a quitté son poste à Mountain View, où il travaillait depuis 2013, et a déclaré au New York Times que les versions futures de l’IA pourraient présenter un risque pour l’humanité. Il avoue également regretter en partie l’œuvre de sa vie.
Le chercheur canado-britannique, ayant une formation en neurosciences et en psychologie, a joué un rôle majeur dans le développement des réseaux de neurones artificiels. En 2012, avec l’aide de deux de ses étudiants de l’Université de Toronto, il a démontré la supériorité de cette approche en surpassant les meilleurs algorithmes de reconnaissance d’images.
Des récompenses prestigieuses et un impact durable
En 2019, Hinton a reçu le Prix Turing, la distinction la plus prestigieuse pour un chercheur en informatique, aux côtés de deux autres pionniers de l’intelligence artificielle, le Français Yann LeCun et le Canadien Yoshua Bengio. Les travaux de Hinton ont contribué à la création d’IA conversationnelles telles que ChatGPT et Bard, ainsi qu’à l’IA de création d’images Midjourney.
Cependant, le chercheur exprime désormais des inquiétudes quant aux perspectives d’avenir de l’IA, les qualifiant de « plutôt effrayantes » pour l’humanité. Il craint en particulier la prolifération de contenus fallacieux sur Internet, rendant difficile pour les individus de distinguer le vrai du faux.
Des critiques partagées par d’autres spécialistes de l’IA
Geoffrey Hinton n’est pas le seul à s’inquiéter du perfectionnement de ces technologies et de leur possible utilisation par des acteurs malveillants. Parmi ses préoccupations figurent les armes autonomes, telles que les robots tueurs, ainsi que les scénarios cauchemardesques qui pourraient survenir si des puissances comme la Russie de Vladimir Poutine avaient accès à des versions améliorées de ces technologies.
En avril, une lettre ouverte signée par un millier d’experts, dont Yoshua Bengio et Elon Musk, PDG de Tesla et cofondateur d’OpenAI, appelait à une pause de six mois dans la recherche sur l’IA afin d’élaborer des régulations pour ces logiciels, jugés « dangereux pour l’humanité ».
Liberté d’expression et responsabilité de Google
Geoffrey Hinton n’a pas signé cette lettre et n’a pas critiqué le travail de Google tant qu’il en était salarié. Après l’annonce de sa démission, il a déclaré sur Twitter : « Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google ». Il ne blâme pas non plus son ancien employeur, qu’il a ensuite qualifié de « très responsable » sur la BBC. Jeff Dean, dirigeant de Google AI, a réagi en rappelant que l’entreprise cherche à « comprendre les risques émergents [de cette technologie] tout en innovant avec audace ».
Une concurrence féroce et des investissements massifs
La prise de conscience de Geoffrey Hinton semble avoir été alimentée par la compétition intense dans le secteur de l’IA ces derniers mois. Les avancées spectaculaires dans ce domaine sont soutenues par des investissements massifs de la part de géants du numérique tels que Microsoft, qui finance ChatGPT, Google et Meta.
Face à ces préoccupations croissantes et aux remords exprimés par l’un des pères de l’intelligence artificielle, il est essentiel que les chercheurs, les entreprises et les régulateurs travaillent ensemble pour garantir que l’IA soit utilisée de manière éthique et responsable, afin de minimiser les risques potentiels pour l’humanité.
