Innovation

Il faut limiter le potentiel des intelligences artificielles pour protéger l’humanité, affirme ces chercheurs

Les études et avancées technologiques sur l'Intelligence Artificielle ne s'arrêtent pas, et une question se pose : est-ce que nos cerveaux d'humains, à l'origine de cette intelligence, seraient capable d'en contrôler une forme supérieure?

Depuis quelques années, et grâce aux progrès technologiques, l’idée d’une super intelligence artificielle fait son chemin. Mais serions-nous capables, nous, humains, de contrôler une intelligence artificielle “surpuissante” ? C’est la question que se posent de nombreux chercheurs.

Et il va vite de se monter un scénario catastrophe digne d’un film de science fiction, et d’imaginer le pire. Une superintelligence ne peut pas être contenue, affirme cette étude parue dans le Journal of Artificial Intelligence Research. Décryptage…

Contrôler la super IA, impossible pour les chercheurs

Une IA ne doit pas nuire aux humains est l’un de ses principes fondamentaux, inventé par l’excellent auteur Isaac Asimov.

Une super-intelligence dépasserait largement l’entendement humain, et si nous sommes incapables de comprendre une intelligence artificielle, ou du moins son mode de raisonnement et d’analyse, alors nous ne pouvons pas établir des règles. Car si nous n’arrivons pas comprendre les modèles de scénarios qu’une IA surpuissante propose, comment lui intégrer le rapport qu’elle doit avoir à l’humanité? Si le système informatique fonctionne au-delà des capacités des cerveaux des programmeurs, alors ils ne pourront pas lui imposer de limites et ne pourront donc pas la garder sous contrôle.

L’éthique des robots en question

Les chercheurs écrivent : Une super-intelligence pose un problème fondamentalement différent de ceux généralement étudiés, ce qu’on appelle ‘l’éthique des robots’. La super-intelligence étant multiforme, elle peut mobiliser différentes ressources que le cerveau d’un homme, aussi intelligent soit-il, ne pourra pas maitriser.

Et ce raisonnement des chercheurs vient de ce que l’on appelle le « problème d’arrêt », théorisé par Alan Turing en 1936. Ce problème consiste à savoir si un programme informatique parviendra ou non à une conclusion et à une réponse (il s’arrête donc), ou s’il tournera en boucle pour en trouver une. Par exemple, tout programme développé pour qu’une IA ne nuise pas aux être humains peut s’arrêter (ou non), sans intervention humaine. Ce qui signifie qu’on ne peut donc pas la maîtriser complètement.

Intelligence Artificielle : un cadre de Google prédit que 2045 sonnera le glas pour l’humanité

Limiter les capacités de la super-intelligence

Pour les chercheurs, il faudrait donc limiter les capacités de la super-intelligence de manière qu’elle ne dépasse jamais celle d’un cerveau humain. En la coupant de certaines parties de l’Internet par exemple, ou encore de certains réseaux sociaux. Mais l’étude explique aussi que limiter les capacités d’une intelligence artificielle serait contre-productif et présente que peu d’intérêts. Pourquoi créer une intelligence artificielle, qui finalement aurait autant de capacités qu’un cerveau humain ?

Pour l’informaticien Manuel Cebrian, “une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction”.

Mais certaines machines effectuent déjà des tâches importantes sans aucun contrôle de programmeurs.  Se pose alors la question de savoir si un jour, l’intelligence artificielle pourrait « se retourner » contre les humains qui l’ont créée et devenir dangereuse et incontrôlable pour l’Humanité ? Un peu flippant !

Le soulèvement des machines dans la science fiction

Si le sujet vous intéresse, sachez qu’il existe de très bons films de science fiction qui abordent cette thématique de manière très intéressante comme 2001, l’odyssée de l’espaceAutómata avec Antonio Banderas ou encore I, Robot avec Will Smith. Mais on peut également citer les films Ex Machina (Oscar Isaac), Terminator (Arnold Schwarzenegger), Morgan (Kate Mara), Transcendance (Johnny Depp) etc. la liste est très longue et le sujet passionnant.

Source
ScienceAlert.com

Nathalie Kleczinski

Mes sujets de prédilection sont l'écologie, l'environnement, les innovations solidaires et les actualités en général. J'espère que vous prendrez plaisir à me lire. Ma devise : "Carpe Diem" parce que la vie est trop courte et qu'il faut en savourer chaque instant.

Articles similaires

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Bouton retour en haut de la page