En 1955, Isaac Asimov a publié son récit Le suffrage universel. L’ouvrage décrit comment la première démocratie électronique utilise l’ordinateur le plus avancé du monde, le Multivac. Une intelligence artificielle déciderait du vote d’une nation entière, sans l’intervention d’un seul électeur humain.
Si nous n’avons pas encore atteint ce futur inquiétant, le rôle de l’intelligence artificielle et de la science des données est de plus en plus important dans le déroulement des élections démocratiques. Les campagnes électorales de Barack Obama et de Donald Trump, le parti synthétique du Danemark et le vol massif de données lors de la campagne de Macron en sont de bons exemples.
L’un des premiers cas réussis d’utilisation des techniques de big data et d’analyse des réseaux sociaux pour affiner une campagne électorale a été la campagne présidentielle américaine de Barack Obama en 2012. Dans sa campagne (et dans beaucoup d’autres par la suite), les sondages traditionnels sur les intentions de vote, basés sur des appels téléphoniques ou des entretiens personnels, ont été complétés par une analyse des réseaux sociaux.
Ces analyses offrent une méthode peu coûteuse et en temps quasi réel pour mesurer l’opinion des électeurs. À cette fin, les techniques suivantes sont appliquées traitement du langage naturel (PNL), en particulier ceux qui se consacrent à la analyse des sentiments. Ces techniques analysent les messages contenus dans les tweets, les blogs, etc. et tentent de mesurer si les opinions qui y sont exprimées sont positives ou négatives à l’égard d’un certain politicien ou d’un certain message électoral.
Le principal problème qu’ils rencontrent est le biais d’échantillonnage car les utilisateurs les plus actifs des réseaux sociaux ont tendance à être jeunes et technophiles, et ne représentent pas l’ensemble de la population. Ces techniques ont donc des limites lorsqu’il s’agit de prédire les résultats électoraux, bien qu’elles soient très utiles pour étudier les tendances du vote et l’état d’esprit des gens.
Intervention dans les campagnes électorales : le cas de Donald Trump
Plus inquiétant que l’étude des émotions dans les réseaux sociaux est leur utilisation pour influencer les états d’opinion et moduler le vote. Un cas bien connu est celui de la campagne de Donald Trump lors de l’élection présidentielle américaine de 2016. Big data et profilage psychographique a beaucoup à voir avec une victoire que les sondages n’avaient pas prédite.
Il ne s’agissait pas d’une manipulation de masse, mais différents électeurs ont reçu des messages différents sur la base de prédictions concernant leur sensibilité à différents arguments, recevant des informations biaisées, fragmentées et parfois contradictoires avec les messages des autres candidats. La tâche a été confiée à la société Cambride Analytica, qui a été impliquée dans une controverse sur la collecte non autorisée d’informations sur des millions d’utilisateurs de Facebook.
La méthode de Cambride Analytica était basée sur les études psychométriques de Kosinski qui a constaté qu’avec un nombre limité de « likes« , le profil de l’utilisateur peut être aussi précis que si sa famille ou ses amis l’avaient fait.
Le problème de cette approche ne réside pas dans l’utilisation de la technologie, mais dans la nature « secrète » de la campagne, la manipulation psychologique d’électeurs sensibles par des appels directs à leurs émotions ou la diffusion délibérée de fausses nouvelles par des robots. Ce fut le cas pour Emmanuel Macron lors de l’élection présidentielle de 2017. Sa campagne a été victime d’un vol massif d’e-mails deux jours seulement avant l’élection. Une multitude de bots étaient responsables de la diffusion de preuves de crimes prétendument contenues dans les informations, qui se sont avérées fausses par la suite.
Action politique et gouvernement : le parti synthétique et l’intelligence artificielle.
La possibilité que l’intelligence artificielle (IA) nous gouverne n’est pas moins inquiétante que le point précédent. Le Danemark a ouvert le débat lors de ses dernières élections législatives, qui ont été contestées par l’opposition. Parti synthétique dirigée par une IA, un chatbot appelé Leader Lars, qui aspire à entrer au parlement. Derrière le chatbot, il y a bien sûr des humains, en particulier la MindFuture Foundation for Art and Technology.
Leader Lars a été formé sur les manifestes électoraux des partis danois marginaux depuis 1970 afin de façonner une proposition qui représenterait les 20% de la population danoise qui ne se rendent pas aux urnes.
Si le Parti synthétique semble être une extravagance – avec des propositions aussi audacieuses qu’un revenu de base universel de plus de 13 400 euros par mois, soit le triple du salaire moyen au Danemark – il a servi à stimuler le débat sur la capacité d’une intelligence artificielle à nous gouverner. Une IA contemporaine, bien formée et dotée de ressources suffisantes peut-elle vraiment nous gouverner ?
Si l’on se penche sur le passé récent de l’intelligence artificielle, on constate que les percées se succèdent à une vitesse fulgurante, notamment dans le domaine du traitement du langage naturel suite à l’émergence d’architectures basées sur transformateurs. Il s’agit d’énormes réseaux neuronaux artificiels formés pour apprendre à générer du texte, mais facilement adaptables à de nombreuses autres tâches. D’une manière ou d’une autre, ces réseaux apprennent la structure générale du langage humain et finissent par avoir une connaissance du monde grâce à ce qu’ils ont « lu ».
L’un des exemples les plus avancés et les plus spectaculaires a été développé par OpenAI et s’appelle ChatGPT. Il s’agit d’un chatbot capable de répondre de manière cohérente à presque toutes les questions posées en langage naturel, de générer du texte ou d’effectuer des tâches aussi compliquées que l’écriture de programmes informatiques à partir de quelques invites.
Sans corruption, mais pas transparente
L’utilisation de l’IA pour l’action gouvernementale présenterait plusieurs avantages. D’une part, sa capacité à traiter les données et les connaissances pour prendre des décisions est bien supérieure à celle de n’importe quel humain. Il serait également exempt (en principe) du phénomène de la corruption et ne serait pas influencé par des intérêts personnels.
Mais, à l’heure actuelle, les chatbots ne font que réagir, se nourrir des informations que quelqu’un leur fournit et donner des réponses. Ils ne sont pas vraiment libres de penser « spontanément« , de prendre l’initiative. Il est plus approprié de considérer ces systèmes comme des oracles, capables de répondre à des questions telles que « que pensez-vous qu’il se passerait si…« , « que proposeriez-vous si…« , plutôt que comme des agents actifs ou des contrôleurs.
Problèmes éventuels et les dangers de ce type d’intelligences basés sur de grands réseaux neuronaux ont été analysés dans de nombreuses études scientifiques. Un problème fondamental est le manque de transparence (« explicabilité« ) des décisions qu’ils prennent. En général, ils agissent comme des « boîtes noires » sans que nous puissions savoir quel raisonnement ils ont mené pour arriver à une conclusion.
Et n’oublions pas que derrière la machine se trouvent des humains, qui ont pu introduire certains biais (consciemment ou inconsciemment) dans l’IA à travers les textes qu’ils ont utilisés pour l’entraîner. D’autre part, l’IA n’est pas à l’abri de donner des données ou des conseils erronés, comme l’ont constaté de nombreux utilisateurs de ChatGPT.
Les progrès technologiques nous permettent d’entrevoir une future IA capable de nous « gouverner« , pour l’instant non sans l’indispensable contrôle humain. Le débat devrait bientôt passer du niveau technique au niveau éthique et social.
Cet article a été initialement publié dans La Conversation. Lire l’article original.
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j’écris pendant mon temps libre.