Dans un tournant audacieux, Reddit lutte contre la fraude alimentée par l’IA, protégeant ainsi sa communauté. Cependant, cette initiative soulève des inquiétudes quant à la confidentialité des utilisateurs. Découvrez comment cette plateforme emblématique équilibre sécurité et liberté d’expression tout en faisant face à des défis inédits dans l’ère numérique.
Reddit a récemment annoncé des mesures visant à contrer une fraude à grande échelle orchestrée par des intelligences artificielles sur le subreddit Change My View.
Cependant, ces initiatives pourraient susciter des inquiétudes chez les utilisateurs en raison des implications potentielles pour la confidentialité des données.
Expérience IA non autorisée sur les utilisateurs
Des chercheurs de l’Université de Zurich ont mené une fraude à l’IA sur le subreddit en utilisant des modèles de langage avancés qui prenaient des personnalités variées, y compris celle d’une victime de viol et d’un conseiller en traumatologie. En tout, ces bots ont laissé plus de 1 700 commentaires tout en prétendant être des humains.
Cela constitue une violation non seulement des règles de Reddit, mais aussi des normes éthiques bien établies qui exigent un consentement éclairé pour les expériences psychologiques.
Les modérateurs de CMV ont déposé une plainte formelle auprès de la commission d’éthique de l’université, qui a répondu en déclarant avoir émis un avertissement formel au chercheur principal et qu’elle renforcerait les examens préalables des études proposées. Toutefois, de manière choquante, la publication de l’article allait se poursuivre.
Reddit réagit
Reddit a fermement condamné cette « expérience inappropriée et hautement non éthique ». Selon le PDG Steve Huffman, la plateforme mettra en place de nouvelles mesures visant à « garder Reddit humain ».
« Pour maintenir l’humanité de Reddit et répondre aux exigences réglementaires en évolution, nous aurons besoin de plus d’informations. Nous devrons spécifiquement savoir si vous êtes un humain, et dans certains endroits, si vous êtes un adulte. Mais nous ne voulons jamais savoir votre nom ou qui vous êtes. Nous procéderons en collaborant avec divers services tiers qui peuvent nous fournir ces informations essentielles, sans rien d’autre. Aucun système n’est parfait — y compris l’état actuel des choses — mais nous ferons de notre mieux pour préserver l’humanité et l’anonymat de Reddit. »
Mais pourrait s’avérer impopulaire
Reddit a toujours permis des comptes anonymes, et de nombreux utilisateurs ont de bonnes raisons de vouloir garder leur identité secrète. Ils peuvent, par exemple, souhaiter partager des informations très personnelles dans certains subreddits.
Bien que Huffman affirme que les nouvelles mesures ne révéleront pas les noms des utilisateurs, TechCrunch rapporte une inquiétante absence de transparence concernant les plans de l’entreprise.
Un porte-parole de Reddit a refusé d’expliquer dans quelles circonstances l’entreprise exigerait des utilisateurs de passer par un processus de vérification et n’a pas partagé plus de détails sur les services tiers qui seraient utilisés ou sur le type d’informations personnelles que les utilisateurs devraient fournir.
Le site met également en avant un exemple récent des risques associés aux comptes anonymes devenant identifiables.
Examinez comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans, discutant des projets d’avortement. L’assistance de Meta a conduit les forces de l’ordre à obtenir un mandat de perquisition, ce qui a entraîné des accusations criminelles contre la mère et la fille.
Quelques bonnes nouvelles pour Reddit
Sur une note plus positive, de nombreux Redditors préfèrent l’ancienne interface à la nouvelle, et Huffman a promis de maintenir old.reddit en ligne « tant que les gens l’utilisent ».
Photo par Matthew Henry sur Unsplash
Nous utilisons des liens d’affiliation générateurs de revenus automatiques. Plus.
Qu’est-ce que Reddit fait pour lutter contre la fraude par IA ?
Reddit a annoncé qu’il introduira de nouvelles mesures pour « garder Reddit humain » après avoir condamné un expérience non éthique d’IA menée sur son subreddit Change My View.
Quels problèmes de confidentialité cela pourrait-il causer ?
Les nouvelles mesures pourraient compromettre l’anonymat des utilisateurs, ce qui est préoccupant pour ceux qui souhaitent partager des informations personnelles sans révéler leur identité.
Que sont les conséquences de l’expérience menée par l’Université de Zurich ?
Cette expérience a violé les règles de Reddit et les normes éthiques, entraînant une plainte officielle auprès de la commission d’éthique de l’université.
Quel engagement prend Reddit concernant les comptes anonymes ?
Reddit a promis de ne jamais demander le nom ou l’identité des utilisateurs, tout en travaillant avec des services tiers pour vérifier leur statut humain.
Discussion about this post