Geoffrey Hinton, chercheur canadien spécialiste de l’intelligence artificielle, est à l’origine de la technologie servant au logiciel d’intelligence artificielle ChatGPT. Dans un entretien accordé au New York Times, il dit quitter Google pour pouvoir alerter sur les dangers liés aux progrès réalisés dans le domaine.
En quittant Google, Geoffrey Hinton va pouvoir parler des dangers de l’intelligence artificielle, une technologie à laquelle il a consacré de nombreuses années de recherche : « Une partie de lui regrette maintenant le travail de sa vie », dit l’article du New York Times selon Rfi. « Je me console avec l’excuse normale : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », a-t-il nuancé.
Dans un tweet confirmant sa démission, il a réfuté toute volonté de critiquer le géant de la tech qui selon lui « s’est comporté de façon très responsable ».
Des travaux sur des réseaux de neurones
En 2012, avec deux étudiants de l’université de Toronto, Ilya Sutskever et Alex Krishevsky, ce Britannique qui a émigré au Canada développe un système capable d’analyser des milliers de photos et d’apprendre à identifier des objets communs comme des fleurs et des voitures. Google investit dans cette découverte (44 millions de dollars).
Selon Geoffrey Hinton, à mesure que les entreprises améliorent leurs systèmes d’IA, ils deviennent de plus en plus dangereux. Et la compétition entre Microsoft et Google accentue le phénomène. En février dernier en effet, Google lançait son robot conversationnel, baptisé Bard, quelques mois après celui de ChatGPT, le logiciel de la startup américaine OpenAI.
Le chercheur en informatique a plusieurs craintes. La première : qu’Internet soit inondé de fausses informations avec des photos, des vidéos et textes générés par IA, impossibles à différencier de la réalité. Il estime également que l’IA peut totalement bouleverser le marché du travail en faisant disparaître certains métiers comme les traducteurs par exemple.
Inquiétudes partagées
En mars, le milliardaire Elon Musk – un des fondateurs d’OpenAI – et plusieurs scientifiques réclamaient une pause de six mois dans la recherche sur les IA plus puissantes que GPT-4, en évoquant « des risques majeurs pour l’humanité ». Geoffrey Hinton ne faisait pas alors partie des signataires. Mais dans le New York Times, il estime que les scientifiques ne devraient pas faire encore monter en puissance ces IA « avant de savoir s’ils sont capables de les contrôler » et pointe la nécessité d’une réglementation mondiale.
En 2018, le Dr Hinton ainsi que Yoshua Bengio et Yann LeCun avaient reçu le prix Turing, souvent appelé « le prix Nobel de l’informatique », pour leurs travaux.
Laisser un commentaire