Des pères pris pour des pédophiles par Google

Un vendredi soir de février 2021, Mark, qui habite San Francisco, remarque que le pénis de son tout petit garçon est enflé. Avec sa femme, ils appellent les urgences mais, vu le jour est alors qu’on est en pleine pandémie, impossible d’avoir un rendez-vous avant le samedi. Le centre de soins demande aux parents de leur envoyer des photos du problème de leur fils pour que le médecin puisse déjà les consulter à l’avance. Ce qu’ils font en prenant des clichés avec le smartphone du père.

Deux jours plus tard, le téléphone de Mark émet un son d’alerte: son compte a été désactivé en raison d’un «contenu préjudiciable» qui constitue «une grave violation des politiques de Google et pourrait être illégal», écrit le «New York Times». En suivant le lien explicatif, le père découvre que l’une des raisons possibles à cette sanction est «l’abus et l’exploitation sexuelle des enfants». Ne comprenant pas de quoi il est question tout d’abord, il se souvient tout à coup des photos prises deux jours avant et devine que Google les a pris pour de la pédopornographie.

Ses e-mails et ses contacts sont inaccessibles et comme son opérateur téléphonique était Google Fi, Mark a également perdu son numéro de téléphone. Une vraie galère sans tout cela pour obtenir un nouveau numéro chez un autre opérateur et de nouveaux comptes internet. L’homme fait opposition à la décision de Google qui lui répond qu’il ne récupérera pas son compte.

Le même scénario s’est déroulé avec un jour d’écart au Texas. Un père prénommé Cassio a remarqué une inflammation sur les parties intimes de son fils et, à la demande du pédiatre, en a fait des photos sauvegardées dans le cloud de Google. Qui lui a bloqué son compte. Comme Cassio était en train d’acheter une maison, son changement soudain d’adresses e-mail a provoqué la méfiance chez son courtier en hypothèques et il a fallu le convaincre de sa bonne foi.

Google a repéré ces photos grâce à un outil de surveillance automatique de contenu interdit. Un modérateur humain a ensuite confirmé leur possible nature litigieuse et les deux pères ont été dénoncés comme pédophiles présumés à un organisme de lutte conte les abus d’enfants, qui a annoncé ces cas à la police.

Cassio a reçu un appel de la police à l’automne, lui demandant de passer au poste. Après avoir montré les échanges de courrier avec le pédiatre, il a été blanchi de toute accusation. Mark a dû attendre décembre pour recevoir un courrier de la police lui indiquant que tous ses comptes et documents avaient fait l’objet d’une enquête approfondie. Quand il a appelé le détective, celui-ci lui a dit qu’il n’avait rien trouvé de suspect et que l’affaire était close. Le policier avait essayé de le contacter, mais comme son numéro et son e-mail avaient changé, il n’avait pas réussi.

Les deux pères ont plaidé leur cas auprès de Google, rapports de police à l’appui, mais l’entreprise a refusé de revenir sur ses décisions.