Geoffrey Hinton est connu dans l’industrie de l’Intelligence Artificielle comme le « parrain » de l’IA. Il a été récompensé par le prix Turing pour ses avancées dans les réseaux neuronaux, une technologie clé dans l’IA. Jusqu’à récemment, il travaillait chez Google, mais il a démissionné pour pouvoir alerter en toute sécurité sur les dangers de cette technologie.
Selon lui, les entreprises ne devraient pas continuer à développer l’IA sans savoir s’ils peuvent la contrôler. Son avertissement ne concerne pas seulement Google, mais l’ensemble de l’industrie qui a connu une ruée fulgurante de lancements d’IA depuis la sortie de ChatGPT en novembre de l’année dernière.
L’IA : plus de danger que d’avantages ?
Geoffrey Hinton s’inquiète des risques liés à l’IA. Selon lui, cette technologie pourrait causer des problèmes majeurs sur le marché de l’emploi et faciliter les campagnes de désinformation. Il admet que l’IA peut être bénéfique en supprimant les corvées, mais il craint qu’elle ne finisse par tout supprimer. Hinton reconnaît que l’IA a beaucoup évolué ces dernières années, même au-delà des capacités humaines. Il avertit que les futurs modèles d’IA pourraient devenir une menace pour l’humanité, notamment si ces machines deviennent autonomes. Georges Hinton n’est pas le seul à s’inquiéter des risques liés à l’IA. D’autres experts en technologie ont signé une lettre ouverte appelant au ralentissement du développement de l’IA jusqu’à ce que les effets positifs soient au-delà des risques. Cela comprend Elon Musk, propriétaire de Twitter et co-fondateur d’OpenAI.
Geoffrey Hinton et le développement de l’IA
Geoffrey Hinton a joué un rôle clé dans le développement de la technologie de réseau neuronal. Il a commencé à travailler sur cette technologie depuis les années 70, et en 2012, il a créé, avec deux de ses étudiants, un réseau neuronal capable d’analyser des milliers de photos pour identifier des objets couramment utilisés. Google a fini par acheter cette entreprise pour 44 millions de dollars. Cependant, Hinton a changé son point de vue sur l’IA alors que Google et OpenAI ont commencé à développer des systèmes à grande échelle à partir de données massives. Il estime maintenant que les risques l’emportent sur les avantages. D’autres employés de Google partagent cette inquiétude, comme deux analystes des produits d’IA qui ont essayé de bloquer le lancement de Bard en raison de leur crainte que ce chatbot génère des contenus faux ou dangereux.
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j’écris pendant mon temps libre.