[Index Informatique] Réseaux sociaux, GAFAM...

[Tugdual]

Digital Markets Act :

• Des moteurs de recherche veulent durcir les règles antitrust...

[freeshost]

Les 5 dysfonctionnements de Facebook que Frances Haugen a pointés et qui pourraient être corrigés

Marine Protais

Le 6 octobre 2021

Pendant son audience de plus de 3 heures devant les sénateurs américains mardi 5 octobre, la lanceuse d'alerte Frances Haugen a livré des analyses éclairantes sur les (dys)fonctionnements de Facebook : une entreprise trop opaque, principalement guidée par les indicateurs de performance, et par un PDG omnipotent.

Mark Zuckerberg a une (très) grosse part de responsabilité

Les sénateurs ont particulièrement insisté sur la responsabilité de Mark Zuckerberg. ​​En fin d’audience, le sénateur Blumenthal est allé jusqu’à conclure : « Facebook est une boîte noire, et Mark Zuckerberg est le designer en chef de son algorithme. »

Frances Haugen a répondu clairement au sujet des dérives de la gouvernance de l'entreprise. Selon elle, le PDG a bien plus de contrôle sur son entreprise que ne l’ont d’autres dirigeants de la tech. Il contrôle 58 % des parts avec droits de vote de la société selon un document réglementaire datant d’avril. Cela signifie que son contrôle sur les décisions est quasiment total – sans process de régulation.

Facebook est une entreprise principalement guidée par les chiffres

Facebook est résolument une entreprise « metrics centric », à comprendre : centrée sur le suivi d'indicateurs chiffrés. C’est l’une des dérives que la lanceuse d’alerte a pointées du doigt à plusieurs reprises. Une idée qu’elle avait déjà esquissée lors de son interview avec CBS, mais qu’elle a davantage développée.

L’un des indicateurs particulièrement suivis par Mark Zuckerberg est le nombre de « meaningful social interactions ». Il s'agit ici de mesurer les échanges entre proches. Cet indicateur est si central dans le développement de la firme qu'il est même lié aux bonus des salariés, a avancé Frances Haugen. Selon elle, Facebook aurait pu limiter les discours de haine et autres fake news dans des pays à risque, mais a refusé de le faire pour ne pas atteindre les « meaningful social interactions. »

Autre problème de cette obsession des chiffres : le recours massif à l’intelligence artificielle. Pour gérer la détection des contenus violents, les solutions proposées ont été calibrées avec cet objectif de faire au moins cher. « Facebook se concentre principalement sur les effets d'échelle : il s'agit toujours de faire les choses en grand et à un moindre prix, et cela repose en grande partie sur l’IA. Le problème c'est que l'IA ne trouve que 10-20 % des contenus violents, et c'est sans doute le même taux concernant les contenus problématiques pour les enfants ».

Ces objectifs de performance poussent également Facebook à consacrer 87 % des dépenses liées à la lutte contre la désinformation aux utilisateurs anglophones – parce qu’ils sont les plus rentables, alors qu’ils ne représentent que 9 % des utilisateurs.

Facebook s'enferme « derrière un mur »

Les sénateurs ont essayé de savoir ce que ferait Frances Haugen à leur place ou celle de Mark Zuckerberg si elle voulait résoudre un certain nombre de dérives de la firme. L’une de ses réponses est d’obliger Facebook à plus de transparence, en partageant publiquement les résultats de ses recherches internes régulièrement afin que d’autres chercheurs indépendants puissent mener d’autres études à partir de ces résultats. La lanceuse d'alerte a cité des entreprises technologiques – comme Google – qui mettent en place cette pratique.

Facebook ne changera pas seul

La lanceuse d’alerte a cassé l’idée reçue – souvent rabâchée par les Big tech – qu’il est trop compliqué de changer radicalement l’algorithme d'un réseau social tout en continuant de faire une plateforme respectueuse de la liberté d’expression. « Ces problèmes peuvent être résolus (…), un modèle plus sûr est possible » , a-t-elle déclaré. Frances Haugen estime que certains changements pourraient déjà rendre Facebook moins viral (et par conséquent moins toxique). Par exemple : demander aux utilisateurs d’ouvrir un lien avant de le partager comme cela est déjà le cas sur Twitter.

Autre changement suggéré : revenir à l'algorithme initial de la plateforme. Au départ en effet, les post apparaissaient sur nos fils d'actualité de manière chronologique. Depuis 2018, l'algorithme fonctionne sur l’engagement based ranking, c'est-à-dire qu'il pousse les contenus suscitant le plus de réactions – les plus émotionnels. La chose est connue et documentée : cet engagement based ranking a favorisé les contenus les plus violents.

Mais Frances Haugen insiste sur un point : un réseau social sain qui gère tant d'interactions humaines ne peut tout simplement pas être « computer driven » (guidé par la machine).

[freeshost]

Sophie Zhang, analyste qui a dénoncé les manipulations politiques sur UnsafeBook

Dina Rabe

23 août, 2021 17:34

Sophie Zhang s’est surtout fait connaitre en septembre 2020 lorsqu’une version abrégée de son mémo de sortie de l’entreprise Facebook a été publiée. En effet, Zhang travaillait comme analyste pour la compagnie, mais elle a aussi décidé de s’attaquer à une autre tâche qui est celle de trouver et supprimer les faux comptes et les « likes » utilisés pour influencer les élections au niveau mondial. D’après le mémo, il s’avère qu’elle avait identifié des dizaines de pays dont l’Afghanistan, l’Inde, ou encore le Mexique, où ce type d’abus permettait aux politiciens de manipuler le public. Mais dans le document, on peut aussi voir que Facebook n’a pas fait grand-chose pour essayer de régler le problème malgré les efforts de Zhang.

Selon les informations, Zhang a encore hésité la veille de son départ sur le fait de rédiger ou non le mémo. C’était peut-être sa dernière chance de créer assez de pression interne au niveau des dirigeants pour que ceux-ci s’attaquent sérieusement aux problèmes.

Elle avait d’ailleurs refusé une somme de 64 000 dollars qu’elle devait obtenir si elle signait un accord de non-dénigrement, car elle voulait garder sa liberté de pouvoir critiquer la compagnie. L’événement avait également lieu deux mois avant les élections américaines de 2020 et elle ne voulait pas influencer le public concernant le processus électoral.

Un mémo qui a fait du bruit

En tout cas, l’élection est passée et en avril 2021, Zhang a été citée dans deux articles du Guardian avec son nom et son visage, et elle donnait des détails par rapport à une manipulation politique qu’elle avait découverte, mais aussi la négligence de Facebook concernant le problème.

Elle a fourni des preuves supportant le fait que Facebook facilite les interférences aux élections et ne fait rien si l’intérêt de la société n’est pas en jeu. Comme réponse, Joe Osborne, un porte-parole de la Société, a nié les déclarations de Zhang. Il a indiqué que Facebook fait tout pour lutter contre les abus au niveau mondial et avait une équipe spécialisée.

En tout cas, en révélant son nom, Zhang risquait d’être poursuivie par Facebook et avoir des problèmes dans sa future carrière. Après avoir passé une année à éviter les questions personnelles, elle est maintenant prête à raconter son histoire. Elle veut que le monde comprenne comment elle est devenue une protectrice de la démocratie et pourquoi c’est important pour elle. Elle a aussi indiqué qu’elle en avait assez de se cacher en tant que femme transsexuelle.

Son travail chez Facebook

Zhang a intégré Facebook en 2018, et selon elle, elle n’a jamais prévu d’être dans la position où elle s’est retrouvée. Lorsqu’elle a reçu l’offre de Facebook, elle a déclaré à son recruteur qu’elle ne croyait pas que l’entreprise améliorait le monde, mais qu’elle allait la rejoindre pour aider à régler le problème.

Selon elle, elle n’a été affectée à aucune équipe spécifique, comme toute nouvelle recrue. Elle voulait travailler dans le domaine de l’intégrité des élections, mais ses capacités ne correspondaient pas. Elle a alors intégré une équipe travaillant sur les faux engagements. Ces derniers concernent par exemple les likes, les partages ou encore les commentaires qui ont été achetés et qui ne sont pas authentiques. L’équipe se concentrait surtout sur les réactions produites par des robots pour augmenter la popularité d’une personne.

Après six mois dans la boîte, Zhang a commencé à se demander si les politiciens pouvaient faire la même chose pour augmenter leur influence sur la plateforme. Elle a alors trouvé des exemples au Brésil et en Inde, des pays qui étaient en train de préparer des élections générales. Zhang a aussi découvert quelque chose de plus inquiétant. Juan Orlando Hernandez, l’administrateur de la page Facebook du président du Honduras, avait créé des centaines de pages avec des faux noms et les utilisaient pour remplir les publications du président de likes et de commentaires.

Elle voulait améliorer le monde

Lorsque Zhang a fait part de ses inquiétudes aux responsables de la compagnie, ceux-ci ne l’ont pas écoutée. L’équipe travaillant sur l’intégrité des pages n’a pas bloqué la création en masse de fausses pages ressemblant à des utilisateurs.

L’équipe spécialisée dans les pages d’accueil, de son côté, n’a pas réglé l’algorithme pour gérer les faux likes et commentaires. Après une année à mettre la pression sur les responsables, Zhang a finalement obtenu la suppression des fausses pages. Quelques mois plus tard, Facebook a mis sur pied une « politique de comportement inauthentique » qui supprime les fausses pages. Toutefois, personne n’a eu l’instruction de l’appliquer.

Zhang a alors pris l’initiative d’analyser les données pour rechercher les fausses pages, les faux comptes et les autres. Elle a trouvé des cas dans des dizaines de pays, notamment en Azerbaïdjan où la méthode était utilisée pour harceler l’opposition. Zhang a continué à mettre la pression sur les équipes responsables car elle pensait que c’était le meilleur moyen de se débarrasser des fausses pages.

Au cours de l’automne 2019, des semaines de manifestations ont éclaté en Bolivie après la contestation des résultats des élections. Quelques semaines plus tôt, Zhang a dû arrêter de s’occuper de la Bolivie pour se tourner vers d’autres cas qui semblaient plus importants. Elle s’est alors sentie coupable même si elle savait qu’on ne pouvait pas lier directement sa décision et les événements.

L’impact sur sa santé

Zhang a payé le prix en essayant de régler toute seule le problème des manipulations politiques. Au cours de l’année entre les événements en Bolivie et son renvoi, l’effort a eu des effets néfastes sur sa santé. Elle avait déjà des problèmes d’anxiété et de dépression mais cela a empiré à cause de son travail. Elle ne pouvait plus s’arrêter de penser aux crises politiques des différents pays. La pression l’a poussée à s’écarter de ses amis et de ses proches. Elle s’est de plus en plus isolée et a même fini par se séparer de sa petite amie. Elle a augmenté les doses de ses médicaments contre l’anxiété et la dépression.

L’on sait que le fait d’être aussi préoccupée face aux problèmes des autres pays est lié au chemin qu’elle a parcouru depuis son enfance jusqu’à l’âge adulte. Elle est notamment passée par des périodes très difficiles à cause des harcèlements qu’elle a subis parce qu’elle était transsexuelle.

C’est lorsqu’elle a commencé à ressentir des problèmes au niveau physique et mental qu’elle a réfléchi à ce qu’elle allait faire concernant Facebook. Elle voulait quand même donner une chance à la compagnie. Elle voulait aussi partager ses informations avec quelqu’un, et le hasard a voulu qu’elle reçoive à ce moment un e-mail de la part d’un journaliste. Il s’agissait de Wong qui était à l’époque un reporter senior du Guardian spécialisé dans les technologies. Elle a ainsi décidé de le rencontrer.

Une pression constante

Plus tard, il a semblé qu’il y avait des améliorations sur Facebook, mais malgré ses efforts pour intensifier la lutte contre les manipulations, les responsables ont parlé d’autres priorités. Ils ont aussi rejeté la proposition de Zhang d’appliquer des mesures plus pérennes comme le fait de suspendre ou pénaliser les politiciens qui répétaient les fautes.

En janvier 2020, ses patrons lui ont demandé d’arrêter de travailler sur la politique et se limiter à son travail. Si elle ne coopérait pas, elle pouvait être renvoyée. Elle a cependant continué ses activités en secret. Mais avec toute la pression, Zhang s’est rendu compte qu’elle devait partir et a prévu de quitter l’entreprise après les élections américaines. Mais en août, elle a été renvoyée par la compagnie parce qu’elle n’aurait pas été performante dans son travail.

Au cours de sa dernière journée de travail, Zhang a publié son mémo en interne, mais Facebook l’a effacé pour plus tard publier une version corrigée. Les ressources humaines lui ont demandé de supprimer une copie protégée par un mot de passe qu’elle avait postée sur son site web personnel. Elle a essayé de négocier en disant qu’elle allait l’effacer si la version originale qu’elle avait postée en interne était rétablie. Le lendemain, son site web en entier a été supprimé à cause d’une plainte de Facebook. Quelques jours plus tard, tout son domaine a également été supprimé.

Elle a demandé pardon à ses collègues

Malgré tout cela, Zhang a demandé pardon à ses collègues pour les problèmes qu’elle leur a causés et pour être partie sans pouvoir faire plus. Elle a aussi demandé pardon aux citoyens des différents pays pour ne pas avoir agi plus vite.

L’on sait qu’avant de se montrer au public, Zhang a aussi décidé de cacher son changement de genre. Selon elle, c’est pour que les gens se concentrent sur son message, que ce soit aux Etats-Unis ou dans les autres pays.

Les réactions aux articles dans le Guardian n’étaient pas vraiment satisfaisantes par rapport à ce que Zhang avait envisagé, mais elle ne regrette pas sa décision de parler de l’affaire. Selon elle, quelqu’un devait prendre la responsabilité et faire ce qui est possible pour protéger le peuple.

[Tugdual]

La télé aura toujours :

• un train de retard...

[Tugdual]

Que sait-on du projet Métaverse de Facebook :

• ce monde persistant et virtuel rêvé par Mark Zuckerberg ?

Également :

• « Métavers » : le nouvel Eldorado ?

Modifications :

• 18/10/2021 : Ajout d'un lien.

[freeshost]

Je n'encourage pas à y participer.

[Tugdual]

Conversation avec Asma Mhalla :

• « Les services des GAFAM sont devenus une commodité indispensable »...

[freeshost]

Une commode IT dont je me passerais bien.

[Tugdual]

Donald Trump lance TRUTH Social :

• un nouveau réseau social à sa gloire...

Extrait :

Trump a annoncé la nouvelle dans un communiqué de presse mercredi, précisant que la plateforme sera ouverte aux « utilisateurs invités » pour un lancement bêta en novembre, et qu'il est prévu de la mettre à la disposition du grand public au début de l'année prochaine. TRUTH social sera le produit d'une nouvelle entreprise appelée Trump Media & Technology Group (TMTG), issue d'une fusion avec Digital World Acquisition Corp. Le groupe a déclaré qu'il cherchait à devenir une société cotée en bourse.

Plagiat, usurpation d’identité, hack… :

• le réseau social de Donald Trump est attaqué de toute part...

Extrait :

Il n’aura pas fallu bien longtemps pour que le nouveau réseau social monté par Donald Trump connaisse ses premiers problèmes. Lancé en grande pompe le 20 octobre 2021, Truth Social est déjà accusé, deux jours plus tard, de plagiat et des hackers malicieux ont également trouvé un moyen de s’infiltrer sur le site pour le défacer.

Le réseau social de Trump est accusé :

• d’utiliser le code de Mastodon sans respecter sa licence...

Extrait :

Le Software Freedom Conservancy accuse le réseau social Truth créé par l'ancien président américain d'utiliser le code de Mastodon sans en respecter la licence. L'organisme donne 30 jours à l'entreprise de Donald Trump pour s'y conformer, faute de quoi il la menace de poursuites judiciaires.

Voir aussi :

• Le réseau social de Trump aurait violé les termes du code open source...

[Tugdual]

Le métaverse de Facebook :

• semble déjà ringard...

Extrait :

Meta, qu'il ne faut plus appeler Facebook, a montré à quoi son univers virtuel pourrait ressembler. Le metaverse promis par l'entreprise semble être à la fois un doux rêve de technophiles et un monde qui ne promet rien de très nouveau.

[...]

Lors de la présentation de ce nouveau concept, le PDG de l’entreprise a offert un petit aperçu de ce à quoi ce fameux monde virtuel pourrait ressembler.

[...]

Pourtant, à bien regarder cette vidéo, impossible de ne pas être pris d’un léger sentiment de malaise. Le métaverse proposé par Facebook semble tiraillé entre de vieilles imageries de science-fiction d’antan et des promesses de révolutions technologiques difficiles à croire.

[freeshost]

- Meta quoi ?
- Meta gueule !

- Meta fumé quoi ?
- Meta done !

- Mais t'as Lyca !
- Mais t'as versé !

Facebook, c'était UnsafeBook !
Meta, c'est l'ome'ta !

Je suis presque an-Alphabet.
Je consomme peu Goût-Gueule.

Juste après les fuites de UnsafeBook, ledit réseau fuit la réalité vers l'univers virtuel métastatique.

Karma Souk-Erb-Erg :

Je m'étale dans le méta liturgique démiurgique.
I sell my unsafe book.
I am free falling into my metaverse without hook.
I flee the reality because
I believe free virtuality is a rose.

[lepton]

Apparemment les Israéliens y voient un signe.

L'annonce par Facebook du changement de son nom en Meta a fait sensation en Israël, où le mot se prononce comme le mot hébreu pour "mort".

Pour être précis, Meta se prononce comme la forme féminine du mot hébreu.

Un certain nombre de personnes ont pris Twitter pour partager leur point de vue sur le nom sous le hashtag #FacebookDead.

Les volontaires des services de secours d'urgence Zaka se sont même impliqués, en disant à leurs followers sur Twitter : "Ne vous inquiétez pas, on s'en occupe".

[freeshost]

Il y a du vrai. La vie se trouve dans le réel. Plonger dans le virtuel, c'est se priver de la vie.

[Tugdual]

Documents internes de Facebook :

• impact sur la désinformation en temps de pandémie...

Extrait :

Depuis la mi-octobre, se succèdent donc des révélations en cascade sur ce que les dirigeants de Facebook savaient des impacts néfastes de leurs algorithmes sur la politique américaine ou internationale. Ces révélations émanent en bonne partie de dizaines de milliers de pages de documents (les « Facebook papers ») distribués à des médias par une ex-employée de Facebook, Frances Haugen. Il était prévisible que, dans le lot, on trouverait aussi des révélations sur ce que les dirigeants avaient appris des impacts sur la pandémie.

Un reportage publié jeudi par le Washington Post résume en ces mots : « dans l’ensemble, ces documents révèlent à quel point Facebook étudiait la désinformation sur le coronavirus et sur les vaccins à travers sa plateforme, tandis que le virus se répandait dans le monde ». Toutefois, autant dans les messages publics que dans les témoignages de son président devant les élus, la compagnie s’est toujours contentée de mettre l’accent sur les aspects positifs de sa réponse à la pandémie —comme le nombre de comptes fermés ou de messages effacés— et a systématiquement refusé de divulguer ses propres études —ou a carrément nié leur existence. Ce qui, aujourd’hui, fournit du carburant aux politiciens qui voudraient qu’une loi impose une plus grande transparence aux géants du numérique.

Le Wall Street Journal, qui avait été le premier média à obtenir ces documents, en avait aussi parlé le mois dernier.

Les documents en question ne révèlent pas juste que Facebook peut mesurer la vitesse à laquelle une fausse information se répand ou l’ampleur qu’elle peut atteindre. La compagnie est capable d’identifier ceux qu’on a appelé les « super-propagateurs ». Une étude interne suggère qu’il serait théoriquement possible de cibler un nombre relativement petit de désinformateurs pour avoir un impact sur la quantité de désinformation en circulation.

[Tugdual]

Twitter interdit la publication de photos ou de vidéos de personnes :

• sans leur consentement...

Extrait :

Il n’est pas question ici de demander en amont de chaque publication un document prouvant que la personne visible sur une photo ou une vidéo est d’accord pour que ce contenu soit diffusé. Néanmoins, si la personne visible sur le contenu ne consent pas à l’usage qui est fait de son image, elle pourra l’indiquer à Twitter qui agira en conséquence.