Innovation

Il faut limiter le potentiel des intelligences artificielles pour protéger l’humanité, affirme ces chercheurs

Les études et avancées technologiques sur l'Intelligence Artificielle ne s'arrêtent pas, et une question se pose : est-ce que nos cerveaux d'humains, à l'origine de cette intelligence, seraient capable d'en contrôler une forme supérieure?

Depuis quelques années, et grâce aux progrès technologiques, l’idée d’une super intelligence artificielle fait son chemin. Mais serions-nous capables, nous, humains, de contrôler une intelligence artificielle “surpuissante” ? C’est la question que se posent de nombreux chercheurs.

Et il va vite de se monter un scénario catastrophe digne d’un film de science fiction, et d’imaginer le pire. Une superintelligence ne peut pas être contenue, affirme cette étude parue dans le Journal of Artificial Intelligence Research. Décryptage…

Contrôler la super IA, impossible pour les chercheurs

Une IA ne doit pas nuire aux humains est l’un de ses principes fondamentaux, inventé par l’excellent auteur Isaac Asimov.

Une super-intelligence dépasserait largement l’entendement humain, et si nous sommes incapables de comprendre une intelligence artificielle, ou du moins son mode de raisonnement et d’analyse, alors nous ne pouvons pas établir des règles. Car si nous n’arrivons pas comprendre les modèles de scénarios qu’une IA surpuissante propose, comment lui intégrer le rapport qu’elle doit avoir à l’humanité? Si le système informatique fonctionne au-delà des capacités des cerveaux des programmeurs, alors ils ne pourront pas lui imposer de limites et ne pourront donc pas la garder sous contrôle.

L’éthique des robots en question

Les chercheurs écrivent : Une super-intelligence pose un problème fondamentalement différent de ceux généralement étudiés, ce qu’on appelle ‘l’éthique des robots’. La super-intelligence étant multiforme, elle peut mobiliser différentes ressources que le cerveau d’un homme, aussi intelligent soit-il, ne pourra pas maitriser.

Et ce raisonnement des chercheurs vient de ce que l’on appelle le « problème d’arrêt », théorisé par Alan Turing en 1936. Ce problème consiste à savoir si un programme informatique parviendra ou non à une conclusion et à une réponse (il s’arrête donc), ou s’il tournera en boucle pour en trouver une. Par exemple, tout programme développé pour qu’une IA ne nuise pas aux être humains peut s’arrêter (ou non), sans intervention humaine. Ce qui signifie qu’on ne peut donc pas la maîtriser complètement.

Limiter les capacités de la super-intelligence

Pour les chercheurs, il faudrait donc limiter les capacités de la super-intelligence de manière qu’elle ne dépasse jamais celle d’un cerveau humain. En la coupant de certaines parties de l’Internet par exemple, ou encore de certains réseaux sociaux. Mais l’étude explique aussi que limiter les capacités d’une intelligence artificielle serait contre-productif et présente que peu d’intérêts. Pourquoi créer une intelligence artificielle, qui finalement aurait autant de capacités qu’un cerveau humain ?

Pour l’informaticien Manuel Cebrian, “une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction”.

Mais certaines machines effectuent déjà des tâches importantes sans aucun contrôle de programmeurs.  Se pose alors la question de savoir si un jour, l’intelligence artificielle pourrait « se retourner » contre les humains qui l’ont créée et devenir dangereuse et incontrôlable pour l’Humanité ? Un peu flippant !

Le soulèvement des machines dans la science fiction

Si le sujet vous intéresse, sachez qu’il existe de très bons films de science fiction qui abordent cette thématique de manière très intéressante comme 2001, l’odyssée de l’espaceAutómata avec Antonio Banderas ou encore I, Robot avec Will Smith. Mais on peut également citer les films Ex Machina (Oscar Isaac), Terminator (Arnold Schwarzenegger), Morgan (Kate Mara), Transcendance (Johnny Depp) etc. la liste est très longue et le sujet passionnant.


Abonnez-vous à NeozOne sur Google News ou sur WhatsApp pour ne manquer aucune invention et innovation !
Source
ScienceAlert.com

Nathalie Kleczinski

Passionnée de lecture et d'écriture, il était presque logique que je me tourne vers le métier de rédactrice/journaliste professionnelle. Écrire est une passion, un besoin et une manière de communiquer indispensables. Touche-à-tout de l'écriture, j'aime surtout écrire sur des sujets liés à l'environnement, mais aussi à ceux qui prodiguent des conseils, ou des astuces pour vous aider dans votre quotidien. Je suis une adepte des tests en tous genres, surtout s’ils permettent de créer, de faire des économies, ou d’utiliser des produits recycler ! Je voue également une véritable passion aux animaux et suis très sensible à leur bien-être et aux inventions qui peuvent améliorer leurs quotidiens. En revanche, je peux vite devenir cassante lorsqu’il s’agit de parler de maltraitance. Enfin, j’aime découvrir et faire découvrir de nouvelles inventions, de petites choses qui amélioreront notre quotidien, ou celui des personnes en situation de handicap, autre cause qui me tient à cœur. Bénévole dans une association liée à l’aide aux victimes d’accidents de la route, vous comprendrez aisément que cette cause me touche aussi et que j’estime primordial de mettre en avant tout ce qui peut améliorer cette sécurité routière et empêcher un décès supplémentaire sur la route. Ma devise : Carpe Diem, car la vie est courte, et qu'il faut transformer chaque instant en tranches de bonheur !

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *


Bouton retour en haut de la page