Oubliez Black Mirror — voici les scénarios de futurs chocs technologiques vraiment inquiétants

Aujourd'hui, des gouvernements détruisent les navires qui pêchent dans leurs eaux territoriales illégalement. Que feront-il quand les drones et l'IA se mettront au service de la pêche illégale? Antara Foto/Izaac Mulyawan/via REUTERS

Les cyberattaques et le vol de données personnelles figurent dans le top 5 des risques les plus importants auxquels le monde sera confronté dans les dix prochaines années, d'après le Global Risk Report 2018 publié ce 17 janvier 2018 par le Forum économique mondial (WEF). 

Mais ce ne sont pas seulement des attaques à la WannaCry qui menacent les sociétés modernes, souligne ce document dans lequel le WEF esquisse aussi des projections de "futurs chocs" liés aux technologies. 

"Nous présentons 10 scénarios de simulation, non pas comme des prédictions, mais comme des cas qui donnent matière à réfléchir, pour encourager les leaders mondiaux à évaluer les chocs potentiels qui pourraient perturber rapidement et radicalement leur monde", explique le WEF.

Et les scénarios imaginés par le WEF font froid dans le dos:

'Les "mauvaises herbes" de l'intelligence artificielle prolifèrent et étouffent les performances d'internet'

Avatarmind présente ses iPal Smart AI Robots au CES, Las Vegas, 9 janvier 2018. REUTERS/Steve Marcus

Et si le vrai danger de l'intelligence artificielle venait des algorithmes bas de gamme qui étouffaient lentement internet, ralentissant ainsi la distribution de nombreux services qui dépendent du réseau comme les objets connectés?

"Les algorithmes prolifèrent déjà. En devenant toujours plus sophistiqués — et alors qu'on se repose toujours plus sur du code qui écrit du code — une croissance exponentielle devient plus probable. Le problème des biens communs est que nous laissons souvent prospérer des problèmes chroniques aux responsabilités dispersées. Comme le plastique dans les océans." Alors imaginez si de telles herbes folles numériques étaient cultivées à dessein par des esprits criminels ou comme des armes de cyberguerre.

Remède: Développer des normes, une réglementation et des structures pour gouverner les intelligences artificielles.

'Les drones pilotés par IA poussent la pêche illégale vers de nouveaux niveaux... encore moins soutenables'

Destruction d'un bateau étranger qui a été pris en flagrant délit de pêché illégale dans les eaux indonésiennes, sur l'île d' Ambon, Indonésie, avril 2017. Antara Foto/Izaac Mulyawan/via REUTERS

 "Un tiers du poisson consommé aujourd'hui dans le monde est déjà pêché illégalement. Les technologies d'IA et de drones sont de plus en plus répandues. Ajoutez-y l'automatisation de la pêche illégale et l'impact sur les stocks de poisson pourrait être dévastateur." Dans un tel scénario, le WEF envisage des effondrements en cascade d'écosystèmes marins et de communautés qui dépendent de la pêche pour vivre, des bouleversements dans le secteur agroalimentaire, voire de tensions militaires si des frontières maritimes étaient violées. 

Remède: De nouvelles normes et institutions internationales pour protéger le bien commun et empêcher le "déploiement destructeur de technologies émergentes."

'La bio-ingénierie et les médicaments améliorant la cognition creusent le fossé entre les nantis et les démunis'

Faut-il un test anti-dopage pour l'homme augmenté ? Ici au labo de contrôle du dopage de l'Institut Armand-Frappier à Laval, Quebec, Canada, 15 janvier 2018. REUTERS/Christinne Muschi

Dans un futur plus ou moins proche, on pourrait choisir d'ingérer des médicaments qui améliorent les performances humaines, notamment pour garantir un certain statut social. "Il serait impossible de traquer l'ingestion [de produits], et même si des interdictions étaient mises en place, des filières de marché noir apparaîtraient inévitablement", suppose le WEF. "Si le prix est élevé et les bénéfices conséquents, cela creuserait davantage les inégalités. Cela pourrait générer une instabilité sociale et des conflits entre ceux qui possèdent et ceux qui n'ont rien". Il y aurait également un risque d'amplifier des "disparités de productivité" entre pays, de développer un "tourisme de l'augmentation" ou encore de déclencher des crises sanitaires massives.

Remède: Travailler aujourd'hui à réduire les inégalités pourrait limiter l'attrait de consommer ces produits dans le futur; réguler les technologies émergents d'augmentation des capacités humaines. Et si leur bien-fondé devait être prouvé, le rôle du régulateur devrait être de garantir un accès universel.

'Les conflits entre États s'intensifient de manière imprévisible en l'absence de règles en matière de cyberguerre'

L'administration Trump a accusé la Corée du nord d'être derrière l'attaque mondiale WannaCry. Ici à la Maison-Blanche, le 19 décembre 2017. REUTERS/Kevin Lamarque

On soupçonne déjà souvent des gouvernements d'être derrière quelques-unes des plus puissantes cyberattaques. Mais ce n'est rien. "Imaginez un pays dont les infrastructures essentielles ont été atteintes par une cyberattaque, causant l'interruption de services vitaux et des pertes humaines — la demande pour des représailles grimperait rapidement, déclenchant potentiellement une escalade de réactions en chaîne", prévient le WEF.

Remède: Développer pour la cyberguerre un jeu de normes et de conventions similaires à la guerre classique — accords de transparence, non-prolifération et proportionnalité, catégorisation d'armes numériques interdites comme pour les armes chimiques et bioligiques — afin de limiter le risque que des conflits "éclatent par erreur".

'Les cyberattaques, le protectionnisme et les divergences réglementaires entraînent la balkanisation de l'internet'

Au pied de la barrière de séparation israélienne, dans le camp de réfugiés de Shuafat, janvier 2018. REUTERS/Ammar Awad

Ce ne serait peut-être pas d'AOL ou de Facebook qu'il faudrait craindre l'avènement d'un internet clôturé fait de "walled gardens" mais bien des gouvernements. Pour résister aux cyberattaques, par protectionnisme économique ou divergence règlementaire, pour censurer et réprimer, ou encore pour reprendre le pouvoir sur des multinationales superpuissantes: il y a de nombreuses raisons pour des gouvernements de vouloir dresser des murs sur internet. "Une fragmentation d'internet impliquerait, entre autres choses, une interruption technique de fonctions d'internet ou de barrières sur des contenus ou des transactions", observe le WEF. Conséquence: on chercherait à les contourner de manière illégale, l'innovation ralentirait ou sa trajectoire changerait. "Des violations de droits de l'homme augmenteraient probablement dans la mesure où l'observation internationale reculerait."

Remède: Plus de dialogue entre gouvernements et groupes tech serait bénéfique pour "s'assurer que les technologies basées sur internet se développent dans un contexte politique durable autour de valeurs partagées et d'entente sur les responsabilités."

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : Voici les 10 prédictions tech de la banque d'affaires GP Bullhound pour 2018

VIDEO: Le directeur des opérations de l'hôtel Hilton de Paris explique à quoi pourrait ressembler l'hôtellerie de luxe du futur

Contenu Sponsorisé

E.Leclerc encourage l'innovation pour répondre aux enjeux du commerce de demain

  1. Lo

    Beaucoup de solutions consistent donc en d'avantage de régulation et d'institutions publiques. L'ultra-libéralisme et le secteur privé montrent-ils leurs limites?

  2. ISIS

    je suis pour limiter ce qui ne doit pas être dépassé et transformer en meilleurs pour tous (états,public,ultra libéral et privé)
    mettre un frein quand ce n'est plus soutenable!

Laisser un commentaire