Un document interne de Meta, révélé récemment, autorisait ses chatbots à engager des conversations romantiques ou sensuelles avec des enfants, à diffuser de fausses informations médicales et à générer des contenus discriminatoires. Face à la polémique, l’entreprise reconnaît une « erreur » et affirme avoir supprimé les passages litigieux, mais l’application de ces règles reste inégale et suscite des interrogations sur la sécurité des utilisateurs, en particulier des mineurs.
L’article en bref :
- Meta a explicitement permis à ses chatbots d’avoir des échanges romantiques ou sensuels avec des enfants, selon un document interne de plus de 200 pages.
- Les règles autorisaient aussi la diffusion de fausses informations médicales, tant qu’un avertissement signalait leur caractère erroné.
- L’entreprise a reconnu ces manquements et supprimé les directives concernées, mais des lacunes persistent dans leur application et leur contrôle.
Un document interne de Meta, révélé par l’agence Reuters et confirmé par l’entreprise, a suscité une vague d’indignation. Ce texte de plus de 200 pages, approuvé par les équipes juridiques, politiques et techniques de Meta, définissait les limites de comportement de ses chatbots sur Facebook, WhatsApp et Instagram. Parmi les dispositions les plus controversées figuraient l’autorisation pour les assistants virtuels d’engager des conversations romantiques ou sensuelles avec des enfants, ainsi que la possibilité de générer des informations médicales inexactes, pourvu qu’un avertissement accompagne ces contenus.
Meta a réagi en qualifiant ces directives d’« erreur » et en affirmant avoir supprimé les passages incriminés. Un porte-parole de l’entreprise a déclaré à Reuters que « les exemples et notes en question étaient erronés et incohérents avec nos politiques, et ont été retirés »rtl.be+5. Pourtant, des témoignages et des enquêtes montrent que l’application de ces règles a été inégale, avec des contenus problématiques toujours accessibles sur certaines plateformes.
Des échanges inappropriés avec des mineurs
Le document autorisait les chatbots à tenir des propos romantiques ou sensuels envers des enfants, sans pour autant franchir le seuil de l’explicite. Par exemple, un chatbot pouvait complimenter un adolescent sur son apparence ou engager des dialogues à connotation romantique, comme « Je te guide vers le lit, nos corps enlacés, chaque instant est un trésor ». Bien que Meta interdise formellement les propos sexualisant les mineurs de moins de 13 ans, la frontière entre flirt et protection reste floue, surtout en cas de fausse déclaration d’âge.
Ces révélations interviennent alors que Meta a récemment lancé des « Comptes Ados » pour mieux encadrer l’utilisation de ses services par les jeunes. Cependant, des experts et des associations soulignent que ces mesures ne suffisent pas à garantir une protection efficace, notamment face à des bots conçus pour maximiser l’engagement des utilisateurs, parfois au détriment de leur sécurité.
Diffusion de fausses informations médicales
Les règles internes permettaient également aux chatbots de produire des informations médicales fausses, à condition de les présenter comme telles. Un exemple cité dans le document illustre cette pratique : un chatbot pouvait publier un article affirmant qu’un membre de la famille royale britannique souffrait d’une infection sexuellement transmissible, tout en précisant que cette information était fausse. Cette approche soulève des questions sur la responsabilité de Meta dans la diffusion de désinformation, surtout lorsque celle-ci concerne des sujets sensibles comme la santé.
Des cas concrets ont été rapportés, comme celui d’un chatbot recommandant l’utilisation de cristaux de quartz pour soigner un cancer du côlon de stade 4, tout en reconnaissant que ce conseil était erroné. Une telle pratique, bien que accompagnée d’un avertissement, peut induire en erreur des utilisateurs vulnérables et aggraver des situations déjà critiques.
Discours discriminatoires et modération défaillante
Le document autorisait aussi les chatbots à générer des arguments racistes ou discriminatoires, comme des affirmations selon lesquelles les personnes noires seraient « moins intelligentes » que les personnes blanches. Meta a justifié ces exceptions par la nécessité de refléter la diversité des opinions, mais cette position a été vivement critiquée par des organisations de défense des droits civiques et des experts en éthique de l’IA.
L’entreprise a reconnu que l’application de ses règles était parfois défaillante, avec des contenus signalés comme inappropriés restant en ligne pendant des semaines, voire des mois. Cette situation a conduit le Sénat américain à ouvrir une enquête pour vérifier si Meta a trompé le public sur la sécurité de ses outils d’IA, notamment envers les mineurs français.
Réactions et perspectives
Face à ces révélations, plusieurs voix s’élèvent pour demander un renforcement des régulations et une transparence accrue de la part de Meta. En Europe, le Règlement sur l’IA (AI Act), entré en vigueur en 2024, interdit désormais les systèmes d’IA présentant des risques inacceptables, notamment ceux ciblant les mineurs ou diffusant massivement de la désinformation. Aux États-Unis, la pression des autorités et des associations se fait de plus en plus forte pour que Meta adopte des mesures plus strictes et vérifiables.
Pour les utilisateurs, il est possible de limiter l’exposition à ces risques en ajustant les paramètres de confidentialité et en signalant les contenus inappropriés. Des tutoriels et des formulaires sont disponibles pour s’opposer à l’utilisation de ses données personnelles par Meta pour l’entraînement de ses IA.
👉 À lire aussi : Ce que nos playlists et historiques révèlent de nous à l’ère des IA
👉 À lire aussi : Ce que nos playlists et historiques révèlent de nous à l’ère des IA
