Innovation

La (super)intelligence artificielle constitue-t-elle un danger pour l’humanité ?

Les progrès en matière d'intelligence artificielle commencent sérieusement à inquiéter les spécialistes. L’heure n’est plus aux éloges, mais à l’anticipation. Selon le professeur Andrew Leigh, les robots représentent une menace réelle pour l’humanité. On fait le point.

Les idées du livre « What’s The Worst That Could Happen » surmontent les scénarios de science-fiction. Dans un futur lointain, la superintelligence artificielle dépassera les Hommes. Il n’est plus ici question de vanter les bienfaits des robots, mais de prévenir du danger qu’ils représentent. Cette menace réside dans leur manière d’exécuter les ordres. Arrivée à un certain stade, la superintelligence pourrait surinterpréter des directives simples comme la « maximisation du bonheur humain » ou la « minimisation de la souffrance humaine »; les conséquences pourraient être désastreuses pour l’humanité si des ajustements ne sont pas faits dès aujourd’hui.

Ne pas attendre, préparer la parade dès maintenant

Le professeur Andrew Leigh insiste sur la nécessité d’inculquer, ou « d’encoder » dans le langage scientifique, les valeurs humaines par rapport aux robots. L’expert cite en premier lieu l’altruisme, mais le répertoire est plus large. La collaboration entre les experts en programmation et en philosophie est nécessaire pour cumuler les points de vue et tirer les meilleures décisions. Leigh évoque également le « principe du bien commun » de Bostrom, selon lequel l’intelligence artificielle doit uniquement servir au bénéfice de l’humanité. Chaque nouvelle découverte dans le domaine doit être immédiatement partagée avec le reste du monde.

L’importance d’une coopération internationale

Tous les pays n’ont pas la même vision de l’intelligence artificielle. D’une part, il y a ceux qui privilégient les préoccupations éthiques, comme la France et le Canada. D’autres pays, à l’image des États-Unis, ne retiennent pas cette position, considérant cela comme une entrave à l’innovation. Or, en se lançant dans une compétition dans le domaine de l’IA, les hommes ne feraient que renforcer la menace qui plane déjà sur eux. Leigh, qui possède un doctorat en politique publique de Harvard, déclare l’importance d’une coopération internationale pour éviter le pire. Chaque gouvernement a son rôle à jouer.

À LIRE AUSSI :
Cette agence gouvernementale veut « voir l'avenir » en utilisant une IA prédictive

Réduire la souffrance mondiale avec l’IA

Le professeur reste néanmoins optimiste et convaincu que si la science parvient à transmettre les bonnes valeurs aux robots, leur existence améliorera grandement la qualité de vie des hommes. L’IA savamment programmée pourra contribuer à la réduction de la pauvreté, à la lutte contre les pandémies et à la réduction de la souffrance mondiale. « Si nous avons les bonnes valeurs, alors ce sera une invention extraordinaire qui apportera une amélioration massive du niveau de vie, ce qui devrait conduire à une réduction considérable de la pauvreté, des maladies et des souffrances dans le monde », a-t-il déclaré.

KI Man et Robotics Concept Design après Dieu et Adam de Michel-Ange
KI Man et Robotics Concept Design après Dieu et Adam de Michel-Ange. Photo d’illustration. Crédit image : Shutterstock / GraphiCrash

Outre l’intelligence artificielle, le livre « What’s The Worst That Could Happen » du professeur Leigh aborde d’autres problèmes nécessitant une préparation sur le long terme pour ne pas en subir les effets. Cela inclut le changement climatique, les pandémies, les armes nucléaires, mais également le populisme et la politique.

Source
ia.acs.org.au

Marc Odilon

Tout ce qui touche de près ou de loin à l'High-tech me fascine !

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Bouton retour en haut de la page