« Armes autonomes ». Ces mots semblent menaçants, mais représentent à peine la triste réalité à laquelle ces armes pourraient nous opposer. De véritables machines armées, sans pilote, qui peuvent rechercher et éliminer des personnes en fonction de certains critères préprogrammés. Même pas besoin d’un déclencheur activé par un humain. Deux simples mots représenteraient leurs activités : reconnaissance et destruction.
La perspective de ces machines froides et sans discernement a incité plus de 1 000 personnes parmi les plus grandes sommités du monde (chercheurs et experts) sur l’intelligence artificielle (IA) à signer une lettre ouverte appelant à une interdiction de ces « armes offensives autonomes. » La lettre ouverte peut être lue (et signée) en cliquant ici. Elle a été présentée à la Conférence Internationale sur l’Intelligence Artificielle, à Buenos Aires.
La liste des signataires comprend des noms célèbres pour leur implication dans le développement de hautes technologies comme Elon Musk de Tesla, le professeur Stephen Hawking, le directeur général de Google Deepmind, Demis Hassabis, et le cofondateur d’Apple, Steve Wozniak. De plus, parmi les signataires, on retrouve un nom célèbre associé l’IA, Sarah Connor, nom rendu célèbre par la série de films Terminator. Si quelqu’un devait essayer d’arrêter les « armes autonomes » de se soulever, vous pouviez garantir que ce nom serait inscrit en évidence quelque part. À l’aube de multiples applications de l’IA, il est impératif que celle-ci soit utilisée pour le bénéfice de l’humanité, par opposition à la destruction. Sinon, l’humanité pourrait se trouver dans une situation ou ses créations deviennent hors de son contrôle. Stephen Hawking déclarait à la BBC en décembre 2014 que « l’intelligence artificielle pourrait signer la fin de l’humanité ».
La lettre indique que « les armes autonomes ont été décrites comme la troisième révolution dans la guerre, après la poudre à canon et les armes nucléaires », suggérant que leur développement pourrait déclencher une course aux armements semblable à la guerre froide. « Le critère d’évaluation de cette trajectoire technologique est évidente: les « armes autonomes » deviendront les kalachnikovs de demain», déclare la lettre. « La question clé pour l’humanité d’aujourd’hui est de savoir si elle se lance dans une course mondiale aux armements IA ou si elle s’engage à l’arrêter avant même que celle-ci ne commence. » Finalement, la lettre fait aussi un appel aux personnes qui travaillent actuellement au niveau de l’intelligence artificielle. En fin de compte, puisque ce sont ces individus qui créeront la technologie, ceux-ci doivent être les personnes qui prennent position et agissent comme des boussoles morales pour les autres. Tout comme la plupart des chimistes et des biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la plupart des chercheurs en IA n’ont aucun intérêt à construire des armes IA et ne veulent pas que les autres ternissent leur domaine,en créant potentiellement une réaction du public de grande envergure contre l’IA. En effet, les chimistes et les biologistes ont largement soutenu les accords internationaux qui ont réussi à interdire les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires spatiales.
La réalité des armes autonomes pourrait être terrifiante. Robots, armés jusqu’aux dents, à qui sont donnés des critères afin de déterminer si un être vivant a le droit de vivre sur la base de quelques consignes. Le coût des erreurs est la vie ou la mort. Et qui serait responsable de ces machines ou coupables des meurtres?
Bien que les armes autonomes puissent rendre plus sécuritaires les zones de guerre pour les soldats et les militaires, leur potentiel de dévastation pour la vie humaine inquiète suffisamment les experts pour justifier une discussion importante sur le sujet.