top of page

L’IA, capable de raisonner, pourrait chercher à prendre le contrôle - Jade




Un éminent spécialiste du développement de l’intelligence artificielle met en garde contre le fait que l’IA a développé une capacité de raisonnement rudimentaire et qu’elle pourrait chercher à renverser l’humanité.


Le psychologue et informaticien britanno-canadien Geoffrey Hinton, surnommé le « parrain de l’IA », s’entretient avec Nick Thompson de The Atlantic (hors champ) lors de la conférence Collision Tech au Centre Enercare de Toronto, au Canada, le 28 juin 2023. (Geoff Robins/AFP via Getty Images)


Selon Geoffrey Hinton, professeur d’informatique à l’université de Toronto, les systèmes d’IA pourraient développer le désir de prendre le contrôle des humains afin d’atteindre d’autres objectifs préprogrammés.


« Je pense que nous devons prendre au sérieux la possibilité que si l’IA devient plus intelligente que nous, ce qui semble assez probable, et qu’elle a ses propres objectifs, ce qui semble assez probable, elle pourrait bien développer l’objectif de prendre le contrôle », a déclaré Hinton lors d’une conférence donnée le 28 juin à la conférence technologique Collision à Toronto, au Canada.


« Si elles y parviennent, nous serons dans le pétrin ».


Hinton a été surnommé l’un des « parrains de l’IA » pour ses travaux sur les réseaux neuronaux. Il a récemment passé une dizaine d’années à contribuer au développement de systèmes d’IA pour Google, mais a quitté l’entreprise le mois dernier, expliquant qu’il devait être en mesure de mettre en garde les gens contre les risques posés par l’IA.


Hinton ne croit pas que l’IA aura une soif innée de pouvoir, il estime qu’elle pourrait néanmoins chercher à s’emparer du pouvoir des humains, ce qui serait une étape logique pour mieux se permettre d’atteindre ses objectifs.


« D’une manière très générale, si vous avez quelque chose qui est beaucoup plus intelligent que vous, qui est très doué pour manipuler les gens, d’une manière très générale, êtes-vous sûr que les gens resteront en charge ? a déclaré Hinton.

« Je pense qu’ils trouveront [la motivation de prendre le contrôle] comme un moyen d’atteindre d’autres objectifs.


L’IA est désormais capable de raisonner


Hinton doutait auparavant qu’une superintelligence de l’IA capable de rivaliser avec l’homme puisse voir le jour dans les 30 à 50 prochaines années. Il pense désormais que cela pourrait se produire dans moins de 20 ans.


Selon lui, cela s’explique en partie par le fait que les systèmes d’IA qui utilisent de grands modèles de langage commencent à faire preuve de capacité de raisonnement, et il n’est pas sûr de savoir comment ils y parviennent.


« Ce sont les grands modèles de langage qui s’en approchent, et je ne comprends pas vraiment pourquoi ils y parviennent, mais ils peuvent faire de petits bouts de raisonnement.

« Ils ne peuvent pas encore nous égaler, mais ils s’en rapprochent.


Hinton a décrit un système d’IA à qui l’on avait donné une énigme dans laquelle il devait planifier la manière de peindre plusieurs pièces d’une maison. Il avait le choix entre trois couleurs, dont l’une s’estompait au fil du temps, et devait peindre un certain nombre de pièces dans une couleur particulière dans un délai donné. Au lieu de peindre les pièces dans la couleur souhaitée, l’IA a décidé de ne pas peindre celles dont elle savait qu’elles deviendraient de toute façon de la couleur souhaitée, choisissant ainsi d’économiser des ressources alors qu’elle n’avait pas été programmée pour le faire.

« C’est de la réflexion », a déclaré Hinton.


À cet égard, Hinton a déclaré qu’il n’y avait aucune raison de penser que l’IA n’atteindrait pas et ne dépasserait pas l’intelligence humaine dans les années à venir.


« Nous ne sommes qu’un grand réseau neuronal, et il n’y a aucune raison pour qu’un réseau neuronal artificiel ne soit pas capable de faire tout ce que nous pouvons faire », a déclaré Hinton.


« Nous entrons dans une période de grande incertitude. Personne ne sait vraiment ce qui va se passer. »


Les robots de guerre vont déstabiliser le monde


L’IA n’a peut-être même pas besoin d’atteindre la superintelligence pour représenter un risque existentiel pour l’humanité.


Selon Hinton, les armées du monde entier sont en train de créer des robots de guerre dotés d’IA qui pourraient soit chercher à prendre le contrôle pour remplir leurs missions programmées, soit perturber l’ordre politique en encourageant l’intensification des conflits.

« Les armes autonomes létales méritent que l’on s’y attarde », a déclaré Hinton.


« Même si l’IA n’est pas superintelligente, si les ministères de la défense l’utilisent pour fabriquer des robots de combat, il s’agira de quelque chose de très méchant et d’effrayant. »

Les deux plus grandes puissances militaires du monde, la Chine et les États-Unis, sont au premier rang des nations qui cherchent à développer une IA mortelle.


Le régime communiste chinois met au point des systèmes létaux basés sur l’IA et investit dans des capacités d’IA liées à la prise de décision militaire et au commandement et au contrôle.


Les États-Unis, quant à eux, se préparent à un monde dans lequel les armées nationales seront principalement composées de robots, ce qui, selon les hauts gradés, devrait se produire dans moins de 15 ans.


« Nous savons qu’ils vont fabriquer des robots de combat », a déclaré Hinton. « Ils sont occupés à le faire dans de nombreux départements de la défense. Les robots ne seront donc pas nécessairement bons, puisque leur but premier sera de tuer des gens. »


En outre, Hinton a suggéré que le déclenchement de systèmes autonomes létaux basés sur l’IA changerait fondamentalement la structure de la géopolitique en réduisant considérablement le coût politique et humain de la guerre pour les nations qui peuvent se permettre de tels systèmes.


« Même si elle n’est pas superintelligente, et même si elle n’a pas ses propres intentions. … Il sera beaucoup plus facile, par exemple, pour les pays riches d’envahir les pays pauvres », a déclaré Hinton.


« À l’heure actuelle, il existe un obstacle à l’invasion des pays pauvres à l’aveuglette, à savoir la mort des citoyens qui rentrent chez eux. S’il ne s’agit que de robots de combat morts, c’est parfait. Le complexe militaro-industriel en serait ravi ».


À cette fin, Hinton estime que les gouvernements devraient essayer d’encourager la recherche sur les moyens de protéger l’humanité contre l’IA. En d’autres termes, de nombreuses personnes travaillent à l’amélioration de l’IA, mais très peu la rendent plus sûre.

Il serait encore mieux d’établir des règles internationales pour interdire ou régir les systèmes d’armes d’IA, comme le protocole de Genève l’a fait pour la guerre chimique après la Première Guerre mondiale.


« Quelque chose comme une convention de Genève serait formidable, mais cela n’arrive jamais avant que les armes ne soient utilisées », a déclaré Hinton.


Quelle que soit la ligne de conduite adoptée ou non par les gouvernements concernant l’IA, Hinton estime que les citoyens doivent être conscients de la menace que représente ce qui est en train d’être créé.


« Je pense qu’il est important que les gens comprennent qu’il ne s’agit pas seulement de science-fiction, ni d’alarmisme », a déclaré Hinton. « Il s’agit d’un risque réel auquel nous devons réfléchir, et nous devons déterminer à l’avance comment y faire face.



6 vues0 commentaire

Commentaires


Les commentaires ont été désactivés.
bottom of page