civilization 5 deep blueQue vous soyez un joueur de Sid Meier’s Civilization V, un célèbre jeu de gestion, ou non, le risque de voir l’Humanité anéantie par une IA est bien présent. Le Centre d’Etude des Risques Existants (CSER : Centre for the Study of Existential Risk) de l’Université de Cambridge a ainsi récemment mis en ligne un mod du jeu permettant d’ajouter une IA dans l’arbre des technologies… IA qui peut anéantir la race humaine, si elle n’est pas contrôlée.

Une boule de cristal

« Si vous choisissez de suivre la voie de l’IA, vous devrez vous assurer de bien la contrôler » Shahar Avin, chercheur au CSER, explique au magazine The Verge. Comme pour sauver l’environnement, « investir dans la sécurité IA est d’une certaine manière altruiste, et nous cherchons à le reproduire ».

Néanmoins, force est de constater, comme Avin le souligne, que des problèmes géopolitiques peuvent « si par exemple vous êtes coincés entre deux civilisations agressives, contrôler le risque IA devient très difficile, car toutes vos ressources sont tournées vers gagner la guerre ».

Machine-learning-investments

De nos jours, la plupart des entreprises font la course à l’IA en toute impunité. Google, Facebook, et beaucoup d’autres entraînent chaque jour un nouveau modèle toujours plus performant et autodidacte, sans qu’aucune limite n’ait, pour l’instant, était imposée ou même décidée… Ce qui a motivé l’un de nos politiciens à lancer un grand débat public sur l’IA.

Comment jouer à Superintelligence ?

civilization 5 arbre technologiePour ajouter ce mod intitulé Superintelligence, il suffit de posséder Civilization 5 et de s’y abonner. Ensuite, vous créez une partie (on recommande de commencer au moins à l’époque moderne) et… fabriquez Deep Blue, dans votre capitale ! (remarque : le mod est en anglais)

Divisée en plusieurs technologies (Intelligence Artificielle, Data Mining et Machine Learning), cette super-intelligence conduira votre ville à l’Utopie tant promise si vous la gardez sous contrôle, à l’aide de traités internationaux, de limitations dans la recherche, de comités de surveillance. Sinon, elle finira par prendre les devants sur vous et refaçonnera la Terre à sa convenance (c’est-à-dire sans nous).

civilization 5 ai winsOn retrouve ainsi un parallèle flagrant avec les très nombreuses oeuvres littéraires contemporaines qui prédisent notre fin des temps. Le CSER, en particulier, place au plus haut niveau ce risque (avec une guerre nucléaire ou bactériologique), et souhaite donc sensibiliser les joueurs avec son mod.

PARTAGER
Article précédentCancer du poumon, maladie cardiaque : une IA à notre secours
Article suivantNvidia DGX Station : le pouvoir de 47 PC
Lambert R.
Ingénieur d'Etudes et Data Scientist depuis plusieurs années, mes travaux et mon parcours scolaire (master en mathématiques fondamentales) m'ont amené aux abords de l'intelligence artificielle. Aujourd'hui j'écris des articles en data science, deep learning, big data et intelligence artificielle pour PenseeArtificielle.fr, dans le but de promouvoir et vulgariser les promesses d'avenir qu'offrent ces domaines de pointe.