Qui est Geoffrey Hinton, l'un des pères de l'intelligence artificielle qu'il renie ?

Désinformations, emplois, robots tueurs… Après avoir quitté Google, le chercheur Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’IA, partage lundi 1er mai ses inquiétudes avec le «New York Times».

Geoffrey Hinton se console comme il peut : «Si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait». Considéré comme l’un des pères fondateurs de l’intelligence artificielle (IA), ce chercheur de 75 ans a œuvré, avec deux de ses étudiants de l’université de Toronto (Canada), à la création d’une technologie à la racine de tous les systèmes d’IA prisés aujourd’hui. L’illustre ChatGPT inclus. Après plus de dix ans de carrière, ce Britannique ayant émigré au Canada a toutefois quitté son poste chez Google le mois dernier et livre lundi 1er mai une interview inquiétante au New York Times : le créateur redoute désormais sa création.

Et parmi les têtes pensantes du milieu, il est loin d’être le seul. En mars, après le lancement d’une version améliorée de ChatGPT, un millier de dirigeants d’entreprises technologiques et de chercheurs avaient signé une lettre ouverte appelant à un moratoire de six mois sur le développement de nouveaux systèmes du fait du «risque majeur pour l’humanité» qu’ils constitueraient. Geoffrey Hinton ne figure pas parmi la liste des signataires. Mais ses idées rejoignent les leurs. «Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google», précise-t-il dans un tweet après l’annonce de son départ dans le New York Times.

«Regardez où nous en étions il y a cinq ans et la situation actuelle», lance-t-il au New York Times, évoquant le développement rapide de l’IA et jugeant «effrayantes» ses perspectives d’avenir. D’abord, le chercheur, récompensé d’un prix Turing en 2019 (l’équivalent du prix Nobel des informaticiens), redoute de voir son œuvre transformée en outil de désinformation. Photos, vidéos, textes… Il craint de voir la toile recouverte de faux contenus générés par IA et difficilement détectables en tant que tels. Difficile de ne pas penser, par exemple, aux récentes prouesses de Midjourney, une IA génératrice d’images parfois très réalistes (le pape vêtu de Balenciaga, ça vous revient ?). «Il est difficile de voir comment éviter que les mauvais acteurs l’utilisent [l’IA, ndlr] pour de mauvaises choses», remarque-t-il.

Compétition plus que de raison

L’impact de ces algorithmes ultra-performants sur le marché du travail l’angoisse également. Parajuristes, assistants personnels, traducteurs… Si certains métiers peuvent être allégés grâce à l’IA, il prévoit que de nombreux autres soient tout simplement remplacés. «Cela enlève le travail pénible», reconnaît-il. «Cela pourrait en retirer plus que cela», prédit-il.

Dernière inquiétude, et pas des moindres : les robots tueurs. Dans un scénario digne de films de science-fiction, il pointe du doigt une potentielle menace pour l’humanité. Evoquant les entreprises et particuliers laissant l’IA mouliner et créer son propre code informatique, le New York Times rapporte qu’il craindrait de voir un jour des armes complètement autonomes apparaître. «L’idée que ce genre de choses pourraient en fait devenir plus intelligentes que les gens – quelques personnes le croyaient», retrace-t-il. «Mais la plupart des gens pensaient que c’était loin. Et je pensais que c’était loin. Je pensais que cela adviendrait dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus comme ça».

Et difficile de compter sur les géants de la tech pour endiguer ces risques. Car, semble-t-il, la compétition l’emporte sur les bonnes intentions. Sur Twitter, Geoffrey Hinton dédouane tout de même son ancien employeur : «Google s’est comporté de façon très responsable», écrit-il. Toujours est-il que, depuis que Microsoft a doté son moteur de recherche Bing d’un chatbot et semble concurrencer plus sérieusement la multinationale, Google s’est empressé de déployer un équivalent. Dont les premiers pas, il faut le préciser, ont été ratés : après une erreur, Bard, l’IA en question, a fait perdre 100 milliards de dollars à la valeur en bourse de la société.

Liberation