L'IA pourrait rendre les bugs et cyber-attaques plus dévastateurs — voici les sinistres prévisions d'un expert du risque

  • Dans une étude, l'assureur Allianz détaille les risques qui pourraient apparaître avec le développement de l'intelligence artificielle et la robotisation.
  • Le fait que notre société est de plus en plus connectée rend les conséquences d'une hypothétique cyber-attaque mondiale de plus en plus dramatiques.
  • Allianz va jusqu'à imaginer ce qui pourrait se passer si des armes autonomes contrôlées par l'IA se développent.

L'intelligence artificielle va-t-elle conduire le monde vers un scénario à la Terminator?

Dans une étude baptisée "The Rise of Artificial Intelligence: Future Outlook and Emerging Risks", le groupe d'assurance Allianz passe en revue les différents bienfaits et risques qui pourraient émerger avec le développement de l'IA.

Le document de l'assureur dépeint notamment un futur inquiétant en cas d'utilisation mal-intentionnée de l'intelligence artificielle dans une société de plus en plus connectée.

Voici comment l'intelligence artificielle pourrait être utilisée par des personnes mal-intentionnées:

Les hackers pourront utiliser l'IA pour lancer des cyberattaques sophistiquées:

"La mauvaise utilisation d'une IA forte peut également augmenter le risque de cyber-attaques si des hackers mal intentionnés entraînent cette IA pour attaquer."

Les nouvelles machines qui viennent peupler sol et air peuvent être détournées et devenir des armes connectées:

"Les armes autonomes, telles que les drones, pourraient également être utilisées. Ce type de risques est souvent sous-estimé."

Un scénario catastrophe qui alarme les chercheurs en IA et robotique. Plus de 3000 d'entre eux — ainsi que des personnalités comme Stephen Hawking, Elon Musk ou Steve Wozniak — ont signé, en 2015, une lettre ouverte, pour alerter sur le danger des armes autonomes qui prendraient la décision de tuer sans intervention humaine.

Les hackers pourront aussi développer ces outils plus rapidement grâce à l'IA, estime Allianz: 

"L'IA pourrait faciliter des incidents plus graves en abaissant le coût des nouveaux outils et des nouvelles armes qui permettraient de lancer des attaques."

Et l'ampleur des problèmes sera amplifiée.

"Une inter-connectivité accrue signifie que la vulnérabilité des machines automatiques, autonomes ou qui apprennent par elles-même aux bugs et aux cyber-attaques ne fera qu'augmenter", observe Allianz. 

Si une infrastructure informatique ou électrique est touchée — par un bug ou une cyberattaque —, d'autres équipements qui y sont connectés pourront aussi être atteints.

Par ailleurs, puisqu'avec le machine learning, les IA ont la capacité d'apprendre entre elles, "une erreur de programmation ou une attaque d'un hacker pourrait être répliquée sur de nombreuses machines". Une machine touchée pourra alors "répéter la même erreur plusieurs fois, ce qui provoquera une accumulation de pertes inattendue et une difficulté à identifier la source du problème", alerte Allianz.

Avec à la clé, des pertes économiques majeures: 

"Quelqu'en soit la cause, une erreur non-intentionnelle causé par l'IA pourrait se transformer en un accident majeur, qui pourrait endommager une réputation et donc des résultats financiers", estime l'étude.

En 2017, le cabinet Cyence évaluait ainsi à 4 milliards de dollars les pertes économiques causées par le virus WannaCry, qui aurait touché des centaines de milliers d'ordinateurs dans 150 pays. Pour la société d'assurance Llyod's, une cyber-attaque mondiale majeure pourrait coûter 53 milliards de dollars, soit autant que l'ouragan Sandy qui a touché les Etats-Unis en 2012.

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : Oubliez Black Mirror — voici les scénarios de futurs chocs technologiques vraiment inquiétants

VIDEO: Donald Trump ne mange pas sainement et raffole de fast food — voici à quoi ressemble son régime alimentaire

  1. b4b4

    le cyber spécialiste a peut-être oublié que si l'intelligence artificielle pouvait être utilisé pour des fin de piratage ou autre, cette IA pourrait etre utilisée aussi pour se protéger.

  2. rené

    ne pas oublier la prévention des risques bien actuels et concrets induits par la multiplication des robots industriels et leur adaptation très rapide à un grand nombre de tâches manufacturières ou logistiques qui exposent les travailleurs à des risques pour leur sécurité : ceci est d’autant plus accentué dans les cas des nouveaux robots collaboratifs qui partagent un même espace de travail, en réalisant des travaux avec les opérateurs :http://www.officiel-prevention.com/formation/fiches-metier/detail_dossier_CHSCT.php?rub=89&ssrub=206&dossid=546

Laisser un commentaire