En exécutant une recherche d'image pour les Jewish baby strollers «poussettes juives», les utilisateurs voyaient des rangées après rangées de fours portables - une allusion offensive à l'Holocauste.

Google a répondu aux rapports et au tollé entourant un terme de recherche inoffensif renvoyant des images et une rhétorique antisémites virulentes, déclarant qu'il avait changé son algorithme afin de bloquer le potentiel de résultats offensants comme ceux-ci à l'avenir.

"Ces résultats ne reflètent pas nos opinions, et nous partageons des inquiétudes concernant ces résultats ", a déclaré Google à l'Algemeiner dans un communiqué. "Nous avons fait un travail considérable pour améliorer les instances où nous renvoyons du contenu de mauvaise qualité, et nous examinerons cette situation pour voir comment nous pouvons renvoyer des résultats pertinents."

Google a indiqué  qu'il héberge une équipe permanente pour s'occuper de ces problèmes et traite actuellement celui-ci au fur et à mesure de son évolution.

Cependant, Google ne supprime généralement pas complètement les résultats de recherche ou n'apporte pas d'ajustements pour un terme de recherche spécifique à moins qu'il ne soit jugé illégal, et il croit que les gens devraient avoir le droit à la liberté d'information dans la légalité, même les tropes antisémites, les insultes raciales, etc.

"Nos produits sont des plates-formes d'expression libre, mais nous n'autorisons pas les discours de haine", a déclaré Google, "Si nous trouvons du contenu ou un comportement qui enfreint ces politiques, nous répondrons de manière appropriée, y compris éventuellement en supprimant ce contenu ou en supprimant les privilèges du compte. "

Ces conditions d'utilisation ne s'appliquent qu'à YouTube et aux autres plates-formes de Google, pas à son moteur de recherche. Un porte-parole de Google a déclaré à l'Algemeiner qu'il ne supprime pas ces types de résultats car il peut y avoir un "intérêt public" à rechercher ces idées afin de savoir qu'elles existent, éventuellement de les combattre, etc. - supprimer les pages serait être nuisible à cet égard.

Un porte-parole a déclaré que la société recherchait «des améliorations systématiques plus larges susceptibles d'améliorer la recherche pour d'autres requêtes comme celle-ci.»

En particulier, a déclaré le porte-parole, le défi ici est un «vide de données» où le seul contenu disponible pour un terme de recherche est «offensant [ou] de mauvaise qualité».

Google a noté qu'il est "rare" qu'un terme de recherche innocent tel que "poussettes juives" renvoie les résultats offensants ajoutant que leur algorithme est codé pour éviter d'être exposé à ces types de résultats de mauvaise qualité sans rechercher activement le contenu offensant. .

"Lorsque les gens recherchent des images sur Google, nos systèmes reposent en grande partie sur la correspondance des mots de votre requête avec les mots qui apparaissent à côté des images sur la page Web", a déclaré Google

"Pour cette requête, qui concerne un produit qui n'existe pas réellement, les correspondances les plus proches sont les pages Web qui contiennent du contenu offensant et haineux"

Selon les chercheurs , les résultats ne sont peut-être pas un accident. Il est possible qu'ils soient le résultat d'une campagne extrémiste coordonnée sur un site Web marginal pour produire ces images spécifiques.

Le Network Contagion Research Institute, qui étudie la façon dont le discours de haine se propage en ligne, a localisé une série de messages sur le babillard 4chan, datant de 2017, qui associent délibérément des images de fours à roulettes avec le terme «poussette juive pour bébé».

Il y avait au moins une douzaine d'images de ce type dans une recherche, datant d'août et de septembre 2017. Cela signifie que ces résultats peuvent être en place depuis des années, même s'ils ont attiré l'attention que vendredi.

La publication de ce terme spécifique à côté de l'image a peut-être manipulé l'algorithme de recherche de Google, de sorte qu'il a promu ces images lorsque les utilisateurs recherchent le terme, explique Joel Finkelstein, directeur de l'institut.

"Ce qui se passe, c'est qu'ils incitent Google à mettre ce truc en tête", a déclaré Finkelstein. "Ils collent l'image avec les mots de sorte que lorsque vous recherchez ces mots, l'image arrive en haut."

Les références au four sont relativement courantes parmi les antisémites, qui les font faire allusion aux Juifs appartenant aux crématoires que les nazis utilisaient pour incinérer les corps des Juifs qu'ils ont tués pendant l'Holocauste.

Réactions sur Facebook 

 ça suffit ! Ce contenu est répugnant, haineux et inutile. Cela n'apporte aucune valeur à notre société. Nous sommes consternés. La recherche d'une poussette pour bébé devrait rendre les bébés poussettes, pas les images ignobles qui évitent délibérément et vicieusement le meurtre d'enfants pendant l'une des périodes les plus sombres de l'humanité.

Google a le pouvoir de réparer et de défendre contre cela. Tagguez Google dans un post et dites-leur, Agissez ! Assez ! Maspik !

Vous cherchez à communiquer efficacement sur vos services ?
Communiquez sur Alliancefr.com, le premier magazine juif sur le net 
Plus qu’un magazine, Alliance est une plateforme à destination de la communauté juive francophone concernée par Israël et le monde juif  
Son ADN  : offrir  une information dans tous les domaines sur Israël 
Contactez-nous pour découvrir la formule de communication qui vous convient.
tel : 01 70 00 75 75