Une panne liée aux photos sur Facebook, Instagram et WhatsApp a donné un aperçu de la manière dont l'IA de Facebook voit vos images. La panne, qui a débuté mercredi, a touché plus d'1,5 milliard d'utilisateurs actifs quotidiens de Facebook et a rendu Instagram quasi inutilisable car les photos ne se chargeaient pas. On pouvait voir à la place des descriptions sur fond blanc comme "l'image peut contenir : table, plante, fleur et extérieur" et "l'image peut contenir : arbre, plante, ciel." Ces descriptions montrent comment l'intelligence artificielle de Facebook interprète les images.

Le bug de Facebook a révélé la façon dont son IA interprète nos photos

Voici ce que beaucoup de gens ont pu voir mercredi 3 juillet 2019 sur Facebook, Instagram et WhatsApp à la place de photos. Capture d'écran / Matt Weinberger

Sur Twitter, les internautes ont partagé des captures d'écran de la façon dont leurs photos ont été identifiées. "Pour être tout à fait honnête, 'une personne, barbe' est à peu près la parfaite description pour moi", a tweeté  Zack Whittaker, l'un des rédacteurs en chef de TechCrunch.


Alors comment cela fonctionne ? Facebook numérise automatiquement toutes les photos sur le réseau social avec un logiciel de reconnaissance faciale et d'image, alimenté par une intelligence artificielle pour détecter qui ou quoi est représenté. Ceci est ensuite utilisé dans le cadre des efforts d'accessibilité de l'entreprise pour décrire les photos aux personnes aveugles ou malvoyantes qui accèdent au site à l'aide d'un lecteur d'écran.

A lire aussi : Mark Zuckerberg estime que Facebook ne doit pas traiter les vidéos truquées de la même façon que les 'fake news'

En bref, Facebook utilise le machine learning pour interpréter automatiquement les photos, puis lit cette interprétation à voix haute pour les utilisateurs aveugles. Grâce à la panne de photo, nous avons également pu accéder à ces interprétations.


Il est arrivé que l'IA ait mal interprété une photo, comme dans le cas de la journaliste du site américain Fortune, Danielle Abril, où il était écrit : "5 personnes, dont Danielle Abril, des personnes souriantes, des personnes debout, des salopes ('hoes' en anglais) en intérieur." Espérons qu'il y avait un outil de jardinage sur la photo ("hoes" signifie aussi "houes") — nous avons demandé une réaction à Danielle Abril mais nous n'avons pas eu de retour immédiatement. 


Ainsi, bien qu'il puisse y avoir une explication anodine ici, cela nous rappelle combien de données sont collectées par Facebook à tout moment, même lorsque nous ne nous rendons pas compte que c'est en train de se produire. Grâce à sa technologie d'intelligence artificielle de plus en plus sophistiquée, Facebook peut même recueillir des informations à partir de quelque chose d'aussi anodin qu'une photo de vacances.

"Une fois que quelque chose est lisible, bien sûr, il devient facile de stocker, analyser et extraire des données. C'est seulement lorsque le système tombe en panne, comme aujourd'hui, que nous réalisons que cela se passe réellement," écrit James Vincent de The Verge.

Version originale : Zoe Schiffer/Business Insider

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : L'IA pourrait rendre les bugs et cyber-attaques plus dévastateurs — voici les sinistres prévisions d'un expert du risque