Depuis quelques années, et grâce aux progrès technologiques, l’idée d’une super intelligence artificielle fait son chemin. Mais serions-nous capables, nous, humains, de contrôler une intelligence artificielle « surpuissante » ? C’est la question que se posent de nombreux chercheurs.
Et il va vite de se monter un scénario catastrophe digne d’un film de science fiction, et d’imaginer le pire. Une superintelligence ne peut pas être contenue, affirme cette étude parue dans le Journal of Artificial Intelligence Research. Décryptage…
Contrôler la super IA, impossible pour les chercheurs
Une IA ne doit pas nuire aux humains est l’un de ses principes fondamentaux, inventé par l’excellent auteur Isaac Asimov.
Une super-intelligence dépasserait largement l’entendement humain, et si nous sommes incapables de comprendre une intelligence artificielle, ou du moins son mode de raisonnement et d’analyse, alors nous ne pouvons pas établir des règles. Car si nous n’arrivons pas comprendre les modèles de scénarios qu’une IA surpuissante propose, comment lui intégrer le rapport qu’elle doit avoir à l’humanité? Si le système informatique fonctionne au-delà des capacités des cerveaux des programmeurs, alors ils ne pourront pas lui imposer de limites et ne pourront donc pas la garder sous contrôle.
L’éthique des robots en question
Les chercheurs écrivent : Une super-intelligence pose un problème fondamentalement différent de ceux généralement étudiés, ce qu’on appelle ‘l’éthique des robots’. La super-intelligence étant multiforme, elle peut mobiliser différentes ressources que le cerveau d’un homme, aussi intelligent soit-il, ne pourra pas maitriser.
Et ce raisonnement des chercheurs vient de ce que l’on appelle le « problème d’arrêt », théorisé par Alan Turing en 1936. Ce problème consiste à savoir si un programme informatique parviendra ou non à une conclusion et à une réponse (il s’arrête donc), ou s’il tournera en boucle pour en trouver une. Par exemple, tout programme développé pour qu’une IA ne nuise pas aux être humains peut s’arrêter (ou non), sans intervention humaine. Ce qui signifie qu’on ne peut donc pas la maîtriser complètement.
Limiter les capacités de la super-intelligence
Pour les chercheurs, il faudrait donc limiter les capacités de la super-intelligence de manière qu’elle ne dépasse jamais celle d’un cerveau humain. En la coupant de certaines parties de l’Internet par exemple, ou encore de certains réseaux sociaux. Mais l’étude explique aussi que limiter les capacités d’une intelligence artificielle serait contre-productif et présente que peu d’intérêts. Pourquoi créer une intelligence artificielle, qui finalement aurait autant de capacités qu’un cerveau humain ?
Pour l’informaticien Manuel Cebrian, « une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction ».
Mais certaines machines effectuent déjà des tâches importantes sans aucun contrôle de programmeurs. Se pose alors la question de savoir si un jour, l’intelligence artificielle pourrait « se retourner » contre les humains qui l’ont créée et devenir dangereuse et incontrôlable pour l’Humanité ? Un peu flippant !
Le soulèvement des machines dans la science fiction
Si le sujet vous intéresse, sachez qu’il existe de très bons films de science fiction qui abordent cette thématique de manière très intéressante comme 2001, l’odyssée de l’espace, Autómata avec Antonio Banderas ou encore I, Robot avec Will Smith. Mais on peut également citer les films Ex Machina (Oscar Isaac), Terminator (Arnold Schwarzenegger), Morgan (Kate Mara), Transcendance (Johnny Depp) etc. la liste est très longue et le sujet passionnant.