Partager:
Le scientifique Geoffrey Hinton, largement considéré comme le père de l'intelligence artificielle, a mis en garde contre les dangers potentiels de l'IA et a plaidé pour des recherches plus poussées, quelques heures seulement après avoir été annoncé comme co-lauréat du prix Nobel de physique 2024.
Hinton a déclaré aux journalistes qu'il était "extrêmement surpris" de gagner. Il partage le prix avec le scientifique américain John Hopfield pour les découvertes et inventions dans le domaine de l'apprentissage automatique qui ont ouvert la voie à l'essor de l'IA.
Hinton a déclaré qu'il avait de grands espoirs quant au rôle de l'IA dans la productivité, en particulier dans le secteur de la santé. Cependant, il a averti que les chercheurs devaient trouver des moyens de mettre des garde-fous sur l'IA. "Je crains qu’elle ne conduise également à des choses négatives, en particulier lorsque nous aurons des êtres plus intelligents que nous. Personne ne sait vraiment si nous serons capables de les contrôler."
Il a expliqué que les meilleurs scientifiques d'aujourd'hui pensent que l'IA deviendra plus intelligente que les humains dans les 20 prochaines années et que l'industrie ne savait pas encore comment éviter les scénarios catastrophiques qui y sont liés.
"Nous devons réfléchir sérieusement à ce qui se passera alors. (…) C’est pourquoi nous avons un besoin urgent de plus de recherche. Je préconise donc que nos meilleurs jeunes chercheurs – ou un grand nombre d’entre eux – travaillent sur la sécurité de l’IA. Les gouvernements devraient également obliger les grandes entreprises à fournir les installations informatiques dont elles ont besoin pour y parvenir."
Hinton a fait la une des journaux lorsqu'il a quitté son emploi chez Google l'année dernière pour pouvoir parler plus facilement des dangers de la technologie dont il avait été le pionnier.
