Bots déguisés en humains sur Reddit : l'université de Zurich accusée de manipulation numérique
Des chercheurs de l’université de Zurich ont mené, sans avertissement ni consentement, une expérience secrète visant à influencer les opinions d’utilisateurs sur Reddit, site web communautaire américain de discussion et d’actualités sociales, à l’aide de bots dopés à l’intelligence artificielle, selon NBC News. L’initiative, aujourd’hui dénoncée par la plateforme, soulève de graves préoccupations éthiques et juridiques à travers le monde.
L’expérience a été conduite sur le forum « r/changemyview », espace de débats réputé où les internautes soumettent volontairement leurs opinions pour les voir challengées. Plus d’un millier de commentaires ont été générés par des agents conversationnels se faisant passer pour des individus bien réels : une victime de viol, un homme noir opposé au mouvement Black Lives Matter, un conseiller en traumatologie spécialisé dans la violence, ou encore une personne non binaire se disant à la fois trans et cis.
Certains bots incarnaient également un catholique homosexuel ou un hispanique irrité d’être perçu comme blanc. Cette diversité d’identités fictives visait à explorer la capacité de l’IA à persuader ou infléchir les convictions des participants.
Les résultats de l’étude n’ont pas été rendus publics, mais ce cas vient s’ajouter aux craintes croissantes autour de l’intégration de l’IA dans les interactions sociales en ligne, où la frontière entre humain et machine devient chaque jour plus floue.
Ben Lee, directeur juridique de Reddit, affirme que ni les modérateurs de « r/changemyview » ni la plateforme elle-même n'ont été informés. « Ce que l’équipe de l’université de Zurich a fait est profondément blâmable tant sur le plan moral que juridique. C’est une infraction aux normes de la recherche universitaire et des droits de l’Homme, interdite par l’accord et les conditions générales d’utilisation de Reddit, ainsi que par les règles du subreddit », a-t-il indiqué.
Reddit envisage désormais des poursuites contre l’université de Zurich et l’équipe scientifique concernée. De leur côté, les modérateurs du forum ont annoncé avoir déposé une plainte auprès du comité d’éthique de l’université, exigeant l'interdiction de la publication des résultats, une enquête interne et une révision des procédures d’approbation.