L´automatisation n´a pas que du bon. Sur Facebook, les messages ne pouvaient plus être envoyés parce que vous aviez... un petit pénis !

Au départ, nous avions cru que Facebook avait caché une webcam espionne dans nos locaux, mais rapidement, il a été découvert que l'erreur de traduction du portail communautaire était bien plus vicieux que cela.

Les utilisateurs de Facebook, surtout les Turcs, n'en ont pas cru leurs yeux. En effet, nombre d'entre eux ont vu apparaître le message « Votre message n'a pas pu être envoyé parce que vous avez un petit pénis » sur leur écran. Que s'est-il passé ? Une série de mots et de phrases sont régulièrement modifiés sur Facebook, comme « Like » et « Your message could not be sent because the user is offline ».

Ces phrases sont traduites dans un grand nombre de langues. Les utilisateurs d'un pays spécifique peuvent effectuer des suggestions pour obtenir la meilleure traduction via le service Facebook Translate. Si une proposition reçoit suffisamment de voix, Facebook Translate l'affiche. Ainsi, la traduction de « Like » a été modifiée par le mot turc pour « Fuck ».

Un message sur le forum de discussion turc « Inci Sözlük » décrit le plan pour contourner le programme de traduction de Facebook : en utilisant un processus automatisé d'externalisation ouverte (« crowdsourcing »), de nombreuses suggestions pour de « meilleures » traductions ont été faites en une seule fois. Facebook Translate a repris ces suggestions sans hésiter.

Depuis lors, Facebook a retiré les fausses traductions et le programme de traduction a été mis hors service pour de nombreuses langues. « Nous voyons ici un système de crowdsourcing totalement automatisé, sans filtre et sans intervention humaine. Il s'agissait d'une blague forte amusante, et c'est une chance que ce soient des farceurs et non des criminels qui aient découvert cette faille dans Facebook Translate. Les cybercriminels auraient très bien pu remplacer les mots par des liens pointant vers des sites web contaminés. Une fois de plus, c'est la preuve que le contenu généré par les utilisateurs doit être vérifié en interne avant d'être publié. » précise Rik Ferguson, Expert en sécurité informatique chez Trend Micro.