Les idées du livre « What’s The Worst That Could Happen » surmontent les scénarios de science-fiction. Dans un futur lointain, la superintelligence artificielle dépassera les Hommes. Il n’est plus ici question de vanter les bienfaits des robots, mais de prévenir du danger qu’ils représentent. Cette menace réside dans leur manière d’exécuter les ordres. Arrivée à un certain stade, la superintelligence pourrait surinterpréter des directives simples comme la « maximisation du bonheur humain » ou la « minimisation de la souffrance humaine »; les conséquences pourraient être désastreuses pour l’humanité si des ajustements ne sont pas faits dès aujourd’hui.
Ne pas attendre, préparer la parade dès maintenant
Le professeur Andrew Leigh insiste sur la nécessité d’inculquer, ou « d’encoder » dans le langage scientifique, les valeurs humaines par rapport aux robots. L’expert cite en premier lieu l’altruisme, mais le répertoire est plus large. La collaboration entre les experts en programmation et en philosophie est nécessaire pour cumuler les points de vue et tirer les meilleures décisions. Leigh évoque également le « principe du bien commun » de Bostrom, selon lequel l’intelligence artificielle doit uniquement servir au bénéfice de l’humanité. Chaque nouvelle découverte dans le domaine doit être immédiatement partagée avec le reste du monde.
L’importance d’une coopération internationale
Tous les pays n’ont pas la même vision de l’intelligence artificielle. D’une part, il y a ceux qui privilégient les préoccupations éthiques, comme la France et le Canada. D’autres pays, à l’image des États-Unis, ne retiennent pas cette position, considérant cela comme une entrave à l’innovation. Or, en se lançant dans une compétition dans le domaine de l’IA, les hommes ne feraient que renforcer la menace qui plane déjà sur eux. Leigh, qui possède un doctorat en politique publique de Harvard, déclare l’importance d’une coopération internationale pour éviter le pire. Chaque gouvernement a son rôle à jouer.
Réduire la souffrance mondiale avec l’IA
Le professeur reste néanmoins optimiste et convaincu que si la science parvient à transmettre les bonnes valeurs aux robots, leur existence améliorera grandement la qualité de vie des hommes. L’IA savamment programmée pourra contribuer à la réduction de la pauvreté, à la lutte contre les pandémies et à la réduction de la souffrance mondiale. « Si nous avons les bonnes valeurs, alors ce sera une invention extraordinaire qui apportera une amélioration massive du niveau de vie, ce qui devrait conduire à une réduction considérable de la pauvreté, des maladies et des souffrances dans le monde », a-t-il déclaré.
Outre l’intelligence artificielle, le livre « What’s The Worst That Could Happen » du professeur Leigh aborde d’autres problèmes nécessitant une préparation sur le long terme pour ne pas en subir les effets. Cela inclut le changement climatique, les pandémies, les armes nucléaires, mais également le populisme et la politique.