Home News Critiques Dossiers Evenements Chroniques Bandes annonces Podcasts TV
ConnexionInscription
Actualités > Retour

Édito #56 : Arrêtons Skynet avant qu'elle ne soit créée

6
evenementsLe 10 Aou
partager cet article

« La fiction est mauvaise, mais la réalité est pire » - Carlo Ginzburg (historien)

Il y a quelques mois, je vous faisais part de mes craintes sur les dérives de la technologie moderne, ou comment l’abandon de l’humain face aux convenances de la technologie pouvait mener à de multiples catastrophes, régulièrement dépeintes dans la fiction.

Mais la fiction n’a jamais autant été rattrapée par la réalité que ces cents dernières années. Et alors que les dirigeants oublient l’histoire mondiale et les avertissements qui leur ont été lancés par les plus grands philosophes et écrivains, c’est pris dans une triste démonstration du dilemme du prisonnier à l’échelle planétaire qu’une course à l’armement se profile.

Si le reboot de RoboCop a réussi à développer une chose au-delà de son prédécesseur, c’est la course à l’armement autonome. Une armée robotique qui permettrait de diminuer les pertes humaines tout en réduisant l’erreur de ces mêmes humains, pauvres fous doués de failles et de conscience. Mais là où le cynisme s’arrête, c’est quand il échappe aux décideurs et industriels de ce monde, qui seraient bien content de faire fortune et de s’offrir une puissance militaire virtuellement imprenable.

Aujourd’hui, la frontière coréenne est surveillée par un premier modèle d’arme autonome, ou encore semi-autonome. Muni d’une mitrailleuse et d’un lance-grenade, le SGR-A1 peut repérer une cible à quatre kilomètres en journée et deux kilomètres de nuit. Capable de suivre plusieurs cibles en même temps, il communique avec un opérateur pour recevoir ses ordres, mais peut aussi fonctionner de façon autonome, et éliminer une cible à plus de trois kilomètres.

Fun fact, ce SGR-A1 est développé par… Samsung. Ce même constructeur qui est l’un des premiers fournisseurs de smartphones et tablettes à travers la planète. Car ce ne sont pas les vilains nord-coréens qui utilisent ces machines à 200 000$ à leur frontière, mais bien les sud-coréens. Autant dire que la technologie est là, et que la volonté de l’utiliser aussi.

Bien entendu, une première semi-révolution a eu lieu depuis un moment : les drones font désormais partie du quotidien de la guerre et de la sécurité des nations, parcourant les cieux pour détecter d’éventuels risques territoriaux, ils en ont aussi amené de nouveaux (on se souviendra notamment de la panique suite aux survols des centrales nucléaires par des drones l’an dernier). Mais les drones sont réglementés, et surtout, contrôlés. Un humain, aussi distant soit-il, se cache derrière toute action d’un drone. La différence entre un drone et une arme autonome réside dans l’utilisation ou non d’un programme d’intelligence artificielle.

Le risque qui se cache derrière une course à l’armement autonome, c’est le manque de législation. Rien n’encadre réellement le développement d’arme, si ce n’est un principe international qui dit que les développeurs de toute arme sont censés déterminer si oui ou non ces armes pourraient être utilisées d’une façon ou d’une autre en enfreignant le droit international (vous comprendrez que c’est suffisamment vague pour qu’on puisse penser que ça interdirait toute arme, tout en étant suffisamment vague pour à peu près tout autoriser).

La crainte des plus grands auteurs de fiction quant à l’intelligence artificielle a toujours été la perte de contrôle de la création par le créateur. Asimov, pourtant père des trois lois de la robotique, s’amusait à en trouver les failles en jouant sur les situations et le détournement de ses propres règles. De son côté, James Cameron imaginait un Skynet qui décidait subitement que pour se protéger, il devait éliminer l’humanité. Et si on n’avait pas pensé à tout ? Et si on donnait les pleins pouvoirs à une intelligence dénuée de sentiments ?

Malheureusement, le risque se rapproche tellement que ce ne sont plus les rêveurs qui doivent sonner l’alerte, mais les penseurs les plus pragmatiques. Ainsi à la fin juillet, un groupe de plus de mille scientifiques ont signé une lettre ouverte mettant en garde contre le développement d’armes autonomes, tout en mesurant leur propos sur l’intelligence artificielle elle-même, qui peut s’avérer bénéfique. On retrouve parmi ce groupe le physicien Stephen Hawking, l’entrepreneur Elon Musk, le co-créateur d’Apple Steve Wozniak, et on en passe.

Cette lettre ouverte a été présentée lors de l’International Joint Conference on Artificial Intelligence. Nous vous l’avons traduite ci-dessous :

Armes autonomes: lettre ouverte de chercheurs en IA et Robotique

Les armes autonomes choisissent et frappent des cibles sans intervention humaine. Elles pourraient inclure, par exemple, des quadricoptères armés qui peuvent rechercher et éliminer les personnes répondant à certains critères prédéfinis, mais ne comprennent pas les missiles de croisière ou les drones téléguidés pour lesquels les humains sont nécessaires au processus de décision. La technologie de l’Intelligence Artificielle (IA) a atteint un point où le déploiement de ces systèmes est – dans la pratique si ce n’est encore dans la loi – possible dans les prochaines années, et non les prochaines décennies, et les enjeux sont élevés : les armes autonomes ont été décrites comme la troisième révolution dans la guerre, après l’invention de la poudre et celle des armes nucléaires.

De nombreux arguments ont été avancés pour et contre les armes autonomes, par exemple que le remplacement de soldats humains par des machines est bon en réduisant les pertes humaines, mais mauvais en réduisant la frontière de risques pouvant amener au combat. La question clé pour l'humanité aujourd'hui est de savoir si on doit lancer une course mondiale aux armements autonomes, ou l’empêcher de commencer. Si une grande puissance militaire se lance dans le développement d’armes à IA, une course mondiale vers cette technologie est pratiquement inévitable, et sa fin est évidente: les armes autonomes deviendront les kalachnikovs de demain. Contrairement aux armes nucléaires, ces armes ne nécessitent pas de matériaux coûteux ou difficiles à obtenir, et ainsi elles deviendront faciles et bon marché à produire pour les puissances pouvant les fabriquer en masse. Ce ne sera qu'une question de temps avant qu’elles apparaissent sur le marché noir et dans les mains de terroristes, de dictateurs qui souhaitent mieux contrôler leur population, de seigneurs de guerre qui souhaitent perpétrer un nettoyage ethnique, etc. Les armes autonomes sont idéales pour des tâches telles que les assassinats, la déstabilisation de nations, la soumission des populations et l’élimination sélective de groupe ethnique. Nous pensons donc qu’une course à l’IA militaire ne serait pas bénéfique pour l'humanité. Il existe de nombreuses façons par lesquelles l’IA peut faire rendre les champs de bataille plus sûrs pour les humains, en particulier les civils, sans créer de nouveaux outils pour tuer des gens.

Tout comme la plupart des chimistes et des biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la plupart des chercheurs en IA n’ont aucun intérêt à construire des armes autonomes - et ne veulent pas que les autres ternissent leur domaine, ce faisant, créant potentiellement une réaction du public contre l'IA qui restreindrait ses futurs avantages sociétaux. En effet, les chimistes et les biologistes ont largement soutenu les accords internationaux qui ont réussi à interdire les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires spatiales et armes à laser aveuglant.

En résumé, nous croyons que l'IA a un grand potentiel à faire bénéficier à l'humanité de bien des façons, et que l'objectif de ce domaine de recherche doit aller dans ce sens. Le lancement d'une course à l’IA militaire est une mauvaise idée, et doit être empêchée par une interdiction des armes offensives autonomes au-delà de tout contrôle humain significatif.

__________________

Note de relecture : Dans le même ordre d'idée, vous pouvez dès maintenant jeter un coup d'oeil au fabuleux documentaire Citizen Four, qui vous prouve que les USA ont tellement d'humour que l'un de leurs programmes de surveillance s'appelle... Skynet ! James Cameron s'en frotte les mains.


Publicité

Podcast 72
Le 15 Mar
7

Wookie Leaks #30 : Star Wars Rebels

Chose promise, chose due ! En moins de quinze jours, deux épisodes de Wookie Leaks, notre podcast spécialement dédié à Star Wars ! Et après un opus...


Articles liés

auteurs & mots-clés
Technologie Skynet Drones
6 commentaires Vous devez être connecté pour participer
connexion
Valider
inscription rapide C'est parti !
inscription standard C'est parti !
Publicité