Embed Size (px)
Citation preview
SEMINAIRE IFRI - Intelligence Artificielle et stratégie militaire -
28 septembre 2017 – 14h-18h15 (Séminaire fermé)
« Intelligence Artificielle : l’art de la guerre en mutation »
Thierry BerthierMaitre de Conférences en mathématiques
Chaire de cyberdéfense & cybersécurité Saint-Cyr – CREC Saint-Cyr
Plan
PARTIE 1 - L’Intelligence Artificielle comme premier enjeu de puissance et de souveraineté
1 – 1 Intelligence Artificielle : une compétition mondiale et géopolitique
1 – 2 Intelligence Artificielle : moteur d’une rupture darwinienne
PARTIE 2 - Intelligence Artificielle : L’art de la guerre en mutation
2 – 1 Panorama mondial de robotique militaire2 – 2 L’ autonomie : contextes propices au déploiement de
systèmes armés autonomes2 – 3 Les défis de cybersécurité des systèmes armés
autonomes.
PARTIE 1
L’Intelligence Artificielle comme premierenjeu de puissance et de souveraineté
1 – 1 Intelligence Artificielle : une compétition mondiale et géopolitique
2016 – 2017 : Les dirigeants américains, russes et chinoisconsidèrent l’Intelligence Artificielle (IA) comme le futur vecteur depuissance stratégique.
« Le leader en intelligence artificielle dominera le monde »
Discours de Vladimir Poutine du 01 septembre 2017
Alibaba founder and chairman Jack Ma, the man FortuneMagazine just named one of the world's great leaders, predictsthat technology will make many CEOs irrelevant in the not-too-distant future. "In 30 years, a robot will likely be on the coverof Time Magazine as the best CEO," Ma said in a speech overthe weekend at an entrepreneurship conference in central China.And he warned of dark times ahead for people who areunprepared for the upheaval technology is set to bring.
By 2020, China's AI technologies and research facilities will match other leading countries, said Li Meng, the vice minister of science and technology. Five years later, he expects "a big breakthrough," and then China should finally become the global "innovation center for AI" by 2030.
The remarks at a press conference expand on a policy statement released by China's State Council on Thursday, which set out goals to build a domestic artificial intelligence industry worth nearly $150 billion in the next few years.
The plan signals China's desire to lead in an area that is growing rapidly. Artificial intelligence is already replacing warehouse workers with robots, operating driverless cars, and could even substitute doctors with computers in the future. University of Cambridge researchers are using it to figure out whether sheep are in pain.
Les principaux acteurs industriels chinois de l’IA se mobilisentpour faire de la Chine le leader mondial de l’IA (Baidu, Alibaba, Tencent, Didi Chuxing (le Uber chinois))Baidu vient de lancer sa plateforme de développement en Machine Learning “PadlePadle” afin de concurrencer celle de Google (TensorFlow) : http://www.paddlepaddle.org/
1 – 2 - Intelligence Artificielle : moteur d’une rupture darwinienne
L’intelligence artificielle marque une rupture darwinienne dans l’évolution humaine.
Son histoire débute en 1956.
L’IA est une jeune fille, son histoire débute en 1956.
Définir l’IA est un exercice complexe
Définition de Marvin Minsky (1927 – 2016) - 1956« L’intelligence artificielle est la science qui consiste à faire faire à des machines ce que l’homme fait moyennant une certaine intelligence ».
Une définition plus opérationnelle d’Elaine Rich & Knight –« Artificial Intelligence »« L’IA est le domaine de l’informatique qui étudie comment faire faire à l’ordinateur des tâches pour lesquelles l’homme est aujourd’hui encore le meilleur. »
L’IA est le contraire de la « bêtise naturelle » auteur inconnu…
L’IA se déploie sur les couches logiciel, matériel et humaine.
Les futures interfaces « Brain-Machine » sont en cours de développement : Programme Neuralink
d’Elon Musk
Un exemple issu de la convergence bio-informatique(convergence NBIC) : Le processeur neuromorphiqueTrueNorth IBM issu du programme DARPA SyNAPSE
L’IA accélère la convergence NBIC
PARTIE 2
Intelligence Artificielle :L’art de la guerre en mutation
2 - 1 Panorama mondial de robotique militaire
La course à l'autonomie est lancée entre les grands pays producteurs d'intelligence artificielle. Les débats éthiques, à géométrie variable selon les cultures, les idéologies et les convictions religieuses vont accompagner le déploiement de systèmes d'armes robotisés plus ou moins autonomes sur l'ensemble des théâtres de conflit.
Les futures confrontations impliquant le soldat non augmenté, le soldat augmenté et la machine appellent dès aujourd'hui à repenser l'art de la guerre.
Dans la première lettre ouverte d’Elon Musk et de Stephen Hawking, on pouvait lire la phrase prémonitoire :
« If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow ».
Deux ans plus tard, le groupe Kalachnikov vient confirmer cette prévision en présentant sa gamme de robots autonomes armés.
Robotique militaire Russe
Doctrine : Exclure le soldat humain de la zone d’immédiate conflictualité
L'armée russe souhaite robotiser plus du tiers de ses armements àl'horizon 2025. La mutation de certains équipements a commencéavec, notamment, le développement de chars de combat« dronisés » à équipage déporté (T14 Armata).
Les systèmes d'armes semi-autonomes et autonomes serontlargement employés par les troupes russes d'ici 2018.
Ils devraient représenter plus de 30 % de l'ensemble du matérielmis en service d'ici 2025.
Le Général Valeri Guérassimov, chef d’État-major des forces arméesde la Fédération de Russie et vice-ministre russe de la Défense vientde déclarer que son pays cherche à développer des unités decombat robotisées capables d'intervenir sur toutes les zones decrises.
L’Unité de combat robotisée Platform-M
Robot sentinelle russe Volk-2
Robot démineur russe Ouran-6
Robot russe ArgoPoids : environ 1000 kg ; dimensions : longeur 3,4m ; largeur 1m ; hauteur 1,65m
Vitesse de déplacement 20km ; durée opérationnelle : 20 heures ; Armement : mitrailleuse, grenade anti-char RPG26, grenades RSG2
Robot tireur russe Strelok
Robots tireurs urbains
Char russe T14 ArmataA tourelle automatisée – vers une « dronification » du T14
Depuis le 10 juillet, l'entreprise russe Kalashnikov communiquesur son programme de développement de modules armésautonomes s'appuyant sur des réseaux de neurones pour ladétection, l'identification et le traitement automatique des cibles.
Sofiya Ivanova, l'actuelle Directrice de la communication deKalashnikov, annonce que son groupe s'engage dans la productionde drones de combat autonomes dotés de capacitésd'apprentissage par réseaux de neurones, capables dereconnaître les cibles et de prendre des décisions autonomesdont celle de l'engagement.
Les prototypes présentés sont dotés d'une mitrailleuse PKmontée sur une tourelle elle-même dirigée par une intelligenceartificielle construite sur des réseaux de neurones.
Système armé autonome Kalachnikov
Système armé autonome Kalachnikov
Système armé autonome Kalachnikov
Le combat du futur, selon la nouvelle doctrine russe énoncée en2015, doit « exclure l'homme de la zone d'immédiateconfrontation ».
Cette exclusion totale n'est rendue possible que par ledéveloppement de systèmes robotisés télé-opérés et de systèmesarmés autonomes.
Elle modifie l'ensemble des mécanismes tactiques et oblige lesarmées à une révision complète de leurs règles d'engagement etde leurs pratiques au combat.
Robotique militaire Chinoise
La Chine souhaite devenir la première puissance en termes de robots armés autonomes
La Chine communique très peu sur ses programmes d’IA militaire…
La Chine communique très peu sur ses programmes d’IA militaire…
La Chine communique très peu sur ses programmes d’IA militaire…
Robotique militaire Américaine
Les programmes américains sont les plus avancés avec un rôle moteur de la DARPA
Les américains sont les leaders dans le domaine des drones d’observation et de combat.
Ils ont d’ailleurs fondé leur doctrine de lutte contre le terrorisme sur l’utilisation de ces drones en Afghanistan, dans les zones tribales du Pakistan, en Irak, en Libye, au Mali et au Nord Cameroun.
Prédator tirant un missile Hellfire
Defense Advanced Research Projects Agency
Programme DARPA de navire transocéanique autonome SeaHunter
La Darpa et l’US Navy viennent de lancer très officiellement le SeaHunter, un navire autonome dépourvu d’équipage humain, dédié àla lutte anti-sous-marine. Long d’une quarantaine de mètres,le Sea Hunter est capable d’évoluer en autonomie durant plusieursmois sur des milliers de kilomètres.
Issu d’un programme Darpa, il débute aujourd’hui une phase detests qui s’étalera sur deux ans.Sea Hunter n’est pas « télécommandé » par un opérateur agissantdepuis un poste de commandement mais dispose d’une réelleautonomie, une fois sa mission initiale définie.
Il est capable en particulier de réaliser toutes les manœuvresusuelles d’un navire de cette taille sans intervention humaine etsait reconnaître et respecter les règles de navigationsinternationales.
La Darpa annonce un coût de développement à hauteur de 20millions de dollars qui sera très largement compensé par leséconomies de fonctionnement qu’il va engendrer.
En effet, le coût de fonctionnement journalier de Sea Hunter sesitue entre 15 000 et 20 000 dollars, ce qui est bien meilleurmarché que celui d’un navire équivalent doté d’un équipagehumain…
Sea Hunter est donc la Google Car des mers qui pourrait bienuberiser le marché des navires de surveillance et de lutte anti-sous-marine.
Comme le proclament la Darpa et l’US Navy, il s’agit d’unerévolution technologique et stratégique qui« disrupte » totalement le marché.
La vision américaine de la robotisation des zones de combats
La vision américaine de la robotisation des zones de combats
L’autonomie au cœur des programmes de recherche américains
DARPA, AIRFORCE, NAVY, US ARMY, DOD
Bibliographie sur la vision américaine de la robotisation du champ de bataille
Rapport TRADOC déclassifié : Conférence « The 2050 Cyber Army » :United States Military Academy, West Point, 13-14, september 2016 :
https://info.publicintelligence.net/USArmy-TRADOC-Cyber2050.pdf
https://futures.armyscitech.com/wp-content/uploads/2017/06/Mad_Scientist_Georgia_Tech_AI_Robotics_Autonomy.pdf
http://www.tradoc.army.mil/watch/MadSciStoriesCompendium.pdf
Robotique militaire en Corée du Sud
Le programme SGRA1 de robot sentinelle armé autonome
A la frontière des deux Corées : SGR A1 développé par Samsung
Robotique militaire israélienne
Robot antiterroriste DOGO
DOGO, le robot antiterroriste
La société israélienne General Robotics développe son robotportable Dogo, armé d'un pistolet GLOCK 26, calibre 9mm. Il s'agitde la première machine compacte du monde équipée de sespropres armes. L'engin ne pèse que 12 kg.
Selon la société General Robotics, le robot peut être utilisé encombat rapproché, ainsi que pour des opérations antiterroristes.Dogo peut également être équipé de spray au poivre et de gazparalysants.
L’appareil est équipé d’un système de transmission d’informationsaudio et vidéo ancré à son panneau de commande, ainsi que d’unsystème de détection d’obstacles. Par exemple, à l’approche d’unescalier, il passe automatiquement en mode optimal en soulevantses roues sans qu’il y ait besoin de commandes supplémentaires.
Selon la description qu’en fait General Robotics, Dogo est un«chien de garde », d’où son nom, inspiré par le dogue argentin,un chien connu pour être rusé, courageux et dominateur.
Dogo a une autonomie d’environ quatre heures et dispose d’unsystème de surveillance composé de 8 caméras à hauterésolution qui offrent une visibilité à 360 degrés.
2-2 L’autonomie
Contextes propices au déploiement de systèmes armés autonomes
Contexte 1 : Le combat urbain de haute intensité en contexte saturé
Programme Darpa PROTEUS - https://www.darpa.mil/news-events/2017-06-15
Contexte 1 : Le combat urbain de haute intensité en contexte saturé
Toujours très coûteux en vies humaines, ce type de confrontation nécessite des prises de décision extrêmement rapides et une forte agilité dans l’acquisition de cibles dynamiques multiples. Durant une phase de combat rapproché urbain impliquant de nombreux acteurs à courte distance, l'opérateur humain peut atteindre ses limites et ne plus être en mesure de réagir suffisamment rapidement aux informations qu'il reçoit. Il doit analyser la situation, effectuer des choix tactiques et décider en quelques secondes quelles sont les cibles prioritaires à traiter et les cibles secondaires tout en se protégeant.
La saturation informationnelle et la vitesse de réaction humaine constituent deux limites cognitives et physiologiques qui peuvent engager et conditionner la survie du combattant. Un système autonome est quant à lui en mesure d'intervenir selon des échelles temporelles qui dépassent les limites biologiques humaines. La coopération entre robots armés autonomes et leur collaboration dans l'exécution d'une mission commune vont permettre de dépasser ces limites et devraient apporter des réponses pertinentes aux problématiques spécifiques d'engagement en zone urbaine.
Contexte 1 : Le combat urbain de haute intensité en contexte saturé
Imaginons une première situation correspondant à un conflit « asymétrique » opposant l'armée régulière d'une nation technologique à un groupe armé irrégulier, constitué de rebelles, d'insurgés, ou de terroristes et disposant de moyens limités. Supposons que ce groupe d'insurgés contrôle une zone géographique incluant une ville et une population civile. L'armée régulière souhaite limiter ses pertes dans la reprise des zones urbaines. Elle va logiquement choisir d'engager ses unités de combat robotisées autonomes et télé-opérées dans la phase d’assaut initiale. Le niveau d'imbrication du groupe rebelle armé dans la population civile et son aptitude à la guérilla urbaine seront des critères déterminants dans le choix des robots à déployer.
Dans tous les cas, ce sont les capacités des systèmes en détection et identification des cibles qui feront la différence et qui permettront de mener une action rapide avec le moins de perte civile possible. Le robot autonome devra être en mesure de distinguer « clairement » le personnel combattant du personnel civil non combattant, le terroriste de l'otage servant de bouclier humain.
Contexte 1 : Le combat urbain de haute intensité en contexte saturé
Les techniques embarquées de reconnaissance de contextes, de formes, d'objets dans une image, de son ou de rayonnement devront atteindre un niveau de fiabilité au moins égal à celui du combattant humain. Sans cela, les dégâts collatéraux risquent d’être si importants qu'ils annuleront le bénéfice de l'emploi des robots et l'armée régulière devra s'en expliquer...
Du côté des rebelles, on peut parier qu'ils auront également la capacité de recycler, de pirater, de détourner des robots civils récupérés sur le terrain ou achetés sur le marché noir pour les convertir en robots armés télé-opérés et/ou autonomes. L’État Islamique a su le faire à son niveau en équipant de simples drones civils commerciaux d'un dispositif de lance grenade particulièrement efficace.
D'une façon générale, les derniers conflits ont montré qu'une technologie commercialisée pouvait vite diffuser vers des groupes armés pour être convertie en technologie militaire à moindre coût.
Contexte 1 : Le combat urbain de haute intensité en contexte saturé
Les soldats de notre armée régulière auront donc toutes les chances de se retrouver dans une seconde phase du combat devant un robot autonome « lowCost » bricolé par les ingénieurs du groupe rebelle et tout aussi agressif. Les opérations de hacking de bas niveau et de détournement des systèmes devront également être prises en compte.
Cela dit, l'asymétrie des moyens et de la puissance de feu déployée par l'armée régulière fera la différence et lui donnera l'avantage en secteur urbain comme en terrain découvert.
Contexte 2 : Le duel symétrique d’unités robotisées
La seconde situation à explorer est celle d'un conflit « symétrique » opposant deux armées régulières de niveaux technologiques équivalents, disposant d'unités de combat robotisées autonomes et télé-opérées. On peut supposer que, selon le principe d'exclusion de l'homme de la zone d'immédiate confrontation, les deux armées choisiront d'engager en première instance leurs unités robotisées. Elles n'auront pas d'autre choix compte tenu du niveau de létalité des unités de robots. L'homme sera donc absent de cette première zone de combat laissant la place à une lutte hyper véloce entre des unités robotisées. Les questions de supériorité technologique et de supériorité d'effectifs seront centrales dans l'évolution de ce combat initial. Vingt robots armés sophistiqués, disposant d'une intelligence artificielle de haut niveau peuvent-ils venir à bout de 80 robots de combat plus rudimentaires mais qui savent se réorganiser rapidement en fonction de leurs pertes ? La résilience des unités robotisées et leur capacité à occuper et à dominer l'ensemble des milieux en même temps (l'ubiquité opérationnelle) permettront de remporter la première phase de la bataille.
Contexte 2 : Le duel symétrique d’unités robotisées
Mais des jeux à somme nulle sont également envisageables. On peut imaginer dans le contexte de niveaux technologiques et d'effectifs quasiment équivalents, une destruction mutuelle d'un grand nombre d'unités robotisées de part et d'autre sans qu'apparaisse un réel vainqueur. La poursuite de la confrontation s'effectuerait alors « à l'ancienne » en impliquant des combattants humains avec les pertes associées.
Enfin, à plus long terme et certainement de manière très utopique, on peut imaginer une économie totale de vies humaines dans un conflit du futur où la première armée remportant le combat robotisé serait tacitement considérée par ses adversaires comme celle qui remporte la guerre. La technologie aurait ainsi rendu inutile et irrationnel l'engagement de combattants humains voués à une défaite certaine. La guerre hybride aurait ainsi dépassé le prix du sang dans un rapport de force relevant purement du niveau d'intelligence artificielle déployé par les belligérants...
Contexte 3 :Robots autonomes sentinelles
Garde robotisée des lanceurs russes TOPOL
Contexte 3 :Robots autonomes sentinelles
Les missions de surveillances automatisées d'un territoire, de garde d'une base militaire ou d'infrastructures critiques peuvent être assurées par des unités de robots autonomes. Des unités de robots armés Platform-M et Uran ont ainsi été déployées en Russie en 2016 afin d'assurer une garde périmétrique autonome autour de sites de missiles nucléaires intercontinentaux. Les robots armés sentinelles SGRA1 développés par Samsung qui ont été installés le long de la frontière séparant les deux Corées, ont engendré de fortes économies en personnel et ont amélioré la fiabilité et la qualité des gardes. Les Russes ne sont pas les seuls à développer des systèmes armés autonomes. L'agence américaine DARPA a lancé plusieurs grands programmes de recherche et de développement d'unités de combats robotisés autonomes dédiés à la guérilla urbaine. De tels systèmes économisent le sang, la fatigue, le stress, et la solde du combattant... A l'heure où les budgets militaires connaissent partout de fortes hausses les différentes économies induites par les systèmes autonomes motivent l'accélération de leur développement.
Contexte 4 :Opérations en zones contaminées NRBC et lutte contre les
engins explosifs (IED - VBIED)
Contexte 4 :Opérations en zones contaminées NRBC et lutte contre les
engins explosifs (IED - VBIED)
La doctrine russe d’exclusion du combattant humain de la zone
d’immédiate conflictualité
L'armée russe souhaite robotiser plus du tiers de ses armements à l'horizon 2025. La mutation de certains équipements a commencé avec, notamment, le développement de chars de combat « dronisés » à équipage déporté (T14 Armata).
Le combat du futur, selon la nouvelle doctrine russe énoncée en 2015, doit « exclure l'homme de la zone d'immédiate confrontation ».
Cette exclusion totale n'est rendue possible que par le développement de systèmes robotisés télé-opérés et de systèmes armés autonomes.
Elle modifie l'ensemble des mécanismes tactiques et oblige les armées à une révision complète de leurs règles d'engagement et de leurs pratiques au combat.
2 – 3 Les défis de cybersécurité des systèmes armés autonomes
Les défis de cybersécurité des systèmes armés autonomes
Les défis à court terme de l’intelligence artificielleembarquée dans les systèmes armés
Résoudre les ambigüités dues au brouillard de guerre.
Résoudre les derniers 5 % d’erreurs intervenant dans les processus de reconnaissance automatisée de « patterns » dans une image / une vidéo. Ces 5% d’erreurs ne sont pas admissibles dans le cadre d’un système armé autonome engagé au combat.
Faire communiquer et faire coopérer des IA spécialisées au sein d’un système superviseur attaché au commandement humain.
Optimiser l’intégration des systèmes armés autonomes au sein des unités de combat classiques. .
Les défis à court terme de l’intelligence artificielleembarquée dans les systèmes armés
L’entrainement des systèmes d’apprentissages automatisés s’effectue à partir de très grands volumes de données.
Ces ensembles de données massives peuvent faire l’objet de manipulations ou de détournement dans le but de tromper le système d’apprentissage.
Des structures de données fictives très sophistiquées peuvent être créées pour tromper des IA et les systèmes qu’elles commandent. Les détecter constitue un défi de cybersécuritémajeur dans un contexte d’hyperconnexion et d’information ubiquitaire.
En conclusion…
Les progrès de l’IA appliqués aux systèmes d’armes vont transformer la conduite des opérations militaires.
Les unités de combat robotisées font leur apparition sur le champ de bataille. Elles modifient les équilibres et obligent à repenser les doctrines.
Le concept d’exclusion du combattant humain des zones d’immédiate conflictualité induit une course à la robotisation et installe une nouvelle forme de dissuasion par l’IA.
http://cyberland.centerblog.net/
http://echoradar.eu/
http://www.chaire-cyber.fr/102
