Geoffrey Hinton : quitter Google pour alerter sur les dangers de l’IA.

Geoffrey Hinton, prix Turing 2018 qu’il partage avec le Français Yann Le Cun et le Canadien Yoshua Bengio, est l’un des pionniers majeurs de l’intelligence artificielle contemporaine. Ses travaux fondateurs sur les réseaux de neurones artificiels constituent l’un des socles théoriques et techniques du développement d’outils tels que ChatGPT d’OpenAI, Bard de Google, ou encore Midjourney. Âgé de 75 ans, il a annoncé au New York Times sa décision de quitter Google, où il était employé à mi-temps depuis 2013. La raison invoquée est explicite : les risques potentiels que l’intelligence artificielle pourrait faire peser sur l’humanité. Il confesse ainsi « qu’une part de lui-même regrette l’œuvre de sa vie ». Dans une interview accordée à la BBC le 2 mai 2023, il déclarait (cité par Le Monde du même jour) :

"Pour l’instant, ils ne sont pas plus intelligents que nous, d’après ce que je sais. Mais je pense qu’ils le seront bientôt. (…) À l’heure actuelle, ce que nous observons, c’est que des choses comme GPT-4 éclipsent une personne en termes de quantité de connaissances générales qu’elle possède, et elles l’éclipsent de loin. En termes de raisonnement, ce n’est pas aussi bon, mais il fait déjà du raisonnement simple. Et vu le rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Nous devons donc nous en préoccuper. (…) On peut imaginer, par exemple, qu’un mauvais acteur comme [le président russe Vladimir] Poutine décide de donner aux robots la capacité de créer leurs propres sous-objectifs. (…) Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde. Et toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est comme si vous aviez 10 000 personnes et que chaque fois qu’une personne apprenait quelque chose, tout le monde le savait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir bien plus que n’importe quelle personne seule."

Ces inquiétudes font naturellement écho à la lettre ouverte signée par plusieurs milliers d’experts en intelligence artificielle — parmi lesquels Yoshua Bengio et Elon Musk — au début du mois d’avril 2023. Les signataires y réclamaient une pause de six mois dans les recherches en cours afin de mieux encadrer une technologie jugée potentiellement "dangereuse pour l’humanité ". Alors qu’il était encore salarié de Google, Geoffrey Hinton n’avait pas signé cette lettre. C’est précisément pour pouvoir s’exprimer librement sur les dangers que représente l’IA qu’il a décidé de quitter la firme de Mountain View. Comme il l’a lui-même résumé dans un tweet : "Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google."