Geoffrey Hinton : quitter Google pour alerter sur les dangers de l’IA.

Geoffrey Hinton, prix Turing 2018 qu’il partage avec le Français Yann Le Cun et le Canadien Yoshua Bengio, est l’un des pionniers de l’intelligence artificielle. Ses travaux sur les réseaux de neurones sont à la base du développement d’outils comme ChatGPT d’OpenAI, Bard de Google ou encore Midjourney. Âgé de 75 ans, il a annoncé au New York Times sa décision de quitter Google, où il était employé à mi-temps depuis 2013. La raison invoquée : les risques potentiels que l’IA pourrait faire courir à l’humanité. Il confesse ainsi « qu’une part de lui-même regrette l’œuvre de sa vie ». Dans une interview accordée à la chaîne BBC le 2 mai 2023, il déclarait (cité par le journal Le Monde du 2 mai 2023) :

« Pour l’instant, ils ne sont pas plus intelligents que nous, d’après ce que je sais. Mais je pense qu’ils le seront bientôt. » (…) À l’heure actuelle, ce que nous observons, c’est que des choses comme GPT-4 éclipsent une personne en termes de quantité de connaissances générales qu’elle possède et elle les éclipse de loin. En termes de raisonnement, ce n’est pas aussi bon, mais il fait déjà du raisonnement simple. Et vu le rythme des progrès, nous nous attendons à ce que les choses s'améliorent assez rapidement. Nous devons donc nous en préoccuper. (…) On peut imaginer, par exemple, qu’un mauvais acteur comme [le président russe Vladimir] Poutine décide de donner aux robots la capacité de créer leurs propres sous-objectifs. (…) Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. Et la grande différence est qu'avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde. Et toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C'est comme si vous aviez 10 000 personnes et que chaque fois qu'une personne apprenait quelque chose, tout le monde le savait automatiquement. Et c'est ainsi que ces chatbots peuvent en savoir bien plus que n'importe quelle personne seule. »

Ses inquiétudes font naturellement écho à la lettre ouverte signée par des milliers d’experts en IA, dont Yoshua Bengio et Elon Musk, au début du mois d’avril 2023. Les signataires réclamaient une pause de six mois dans les recherches en cours afin de réguler une technologie jugée "dangereuse pour l’humanité". Alors salarié chez Google, Hinton n’avait pas signé cette lettre. C’est précisément pour pouvoir s’exprimer librement sur les dangers que représente l’IA qu’il a décidé de quitter la firme de Mountain View : « Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google », a-t-il déclaré dans un tweet.