Top 10

Une recherche sur Facebook montre que la reconnaissance d'objet AI préfère les "personnes riches"


OLa vision par ordinateur de reconnaissance d’objet (CV) est une technique qui permet aux ordinateurs de reconnaître des objets, tels que des objets appartenant à nos foyers communs. Aujourd'hui, de nombreuses entreprises ont développé leurs propres systèmes, qui s'améliorent avec le temps.

La technologie de reconnaissance d'objet la plus proche que vous pouvez trouver se trouve directement sur votre téléphone, Google Lens. Facebook utilise la technique pour ajouter automatiquement "Alt text" en images pour aider les utilisateurs malvoyants.

Cependant, une étude récente intitulée "La reconnaissance d'objets fonctionne-t-elle pour tout le monde?" est publié par une équipe de chercheurs de Facebook sur l'IA et donne un angle différent à l'histoire.

Il indique que ces classifications d’objets fonctionnent beaucoup mieux pour les personnes disposant de plus d’argent, c’est-à-dire que la reconnaissance d’objet pourrait donner de meilleurs résultats pour un ménage gagnant 3 500 $ par mois par rapport à un ménage gagnant 50 $ par mois.

La recherche a pris en considération 6 systèmes de reconnaissance d'objets différents conçus par diverses sociétés de technologie, notamment Google, Microsoft, IBM, Amazon, Clarifai et Facebook.

Facebook n'a pas partagé de numéros spécifiques pour des entreprises individuelles. Mais selon les résultats agrégés, les 6 systèmes fonctionnent environ 20% mieux pour les ménages riches que pour les plus pauvres.

Facebook Research AI Résultats de biais de reconnaissance d'objet AI 2

Pour tester ces systèmes, les chercheurs ont utilisé un ensemble de données open source appelé Dollar Street. Il contient des images d'articles ménagers provenant de 264 foyers dans 50 pays.

Si nous parlons d’exactitude sur la base des pays, les systèmes de reconnaissance d’objet sont plus susceptibles de reconnaître des objets aux États-Unis et en Europe qu’en Afrique et en Asie.

Facebook Research AI Résultats de biais de reconnaissance d'objet AI

La raison possible derrière le biais?

Maintenant, il est possible que les problèmes se trouvent dans le processus de formation de ces systèmes. Les chercheurs de Facebook affirment que nombre de ces systèmes sont formés à l’aide de jeux de données accessibles au public, tels que ImageNet et COCO.

La plupart des images présentes dans ces jeux de données appartiennent à l'Europe et à l'Amérique du Nord. Un pourcentage sensiblement inférieur provient de pays d'Afrique et d'Asie du Sud-Est.

"De tels systèmes peuvent être beaucoup mieux pour reconnaître un mariage traditionnel occidental qu'un mariage traditionnel en Inde, par exemple, parce qu'ils n'ont pas été formés sur des données comprenant de nombreux exemples de mariages indiens."

En outre, les chercheurs soulignent que les requêtes de recherche ne jouent pas uniquement un rôle important dans les images. Certains systèmes de reconnaissance d'objets sont formés en leur faisant rechercher des images sur Internet à l'aide de requêtes qui sont principalement en anglais.

Par exemple, les résultats de l'image pour le mot clé «wedding» seraient très différents de son homologue hindi, qui est «».

Pour remédier aux biais dans de tels systèmes d'IA, les chercheurs prévoient de mettre en évidence l'évidence et d'améliorer le processus de formation. Ils prévoient de former leur système en utilisant des hashtags dans plus de langues que l'anglais. Les jeux de données peuvent être améliorés en incorporant des données de localisation indiquant où les images ont été prises.

Vous pouvez en savoir plus sur la recherche Dans cet article.

via Venture Beat

Lire aussi: Apple pourrait bientôt acheter une voiture au démarrage Drive.ai

Maintenant regarde:



Source link

Afficher plus

Articles similaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page
Fermer