La Chine manipule l’IA pour mener des opérations d’influence dans le monde, alerte OpenAI

Dans un rapport, OpenAI explique avoir découvert plusieurs activités d’influence suspectes menées par une entité chinoise. Une annonce qui intervient alors que les experts s’inquiètent de l’utilisation de l’IA à des fins malveillantes. Surveillance et influence L’éditeur de ChatGPT a mis au jour un outil de surveillance alimenté par l’IA, dont la fonction principale est de surveiller et collecter automatiquement toute publication sur les réseaux sociaux occidentaux qui pourrait être considérée comme critique ou hostile envers la Chine. C’est le premier dispositif de ce type découvert par OpenAI, comme le souligne Ben Nimmo, chercheur principal au sein de l’équipe d’intelligence et d’investigation de la startup. L’expert estime que l’outil a été conçu à partir de Llama, le grand modèle de langage signé Meta. Car celui-ci est en open source, permettant à n’importe qui d’exploiter son code pour ses propres activités. L’IA ouverte de DeepSeek, la startup chinoise qui a récemment secoué l’industrie de la tech, est également citée. OpenAI a réalisé cette trouvaille car une personne travaillant sur l’outil de surveillance a utilisé ses technologies pour déboguer une partie du code informatique qui le sous-tend. « Les acteurs malveillants nous donnent parfois un aperçu de ce qu’ils font dans d’autres parties d’Internet en raison de la façon dont ils utilisent nos modèles d’IA », commente Ben Nimmo. © Unsplash / BoliviaInteligente L’utilisation de l’IA à des fins malveillantes s’accroît Ce n’est pas tout. La firme de Sam Altman a également révélé une campagne chinoise appelée « Sponsored Discontent », qui utilise ses IA pour générer des publications en anglais critiquant les opposants au Parti communiste du pays. De même, ce groupe a traduit des articles en espagnol fustigeant la société et la politique américaine, afin de les diffuser en Amérique latine. « Sans notre vision de leur utilisation de l’IA, nous n’aurions pas pu faire le lien entre les tweets et les articles sur le web », assure le chercheur. OpenAI a depuis supprimé les comptes concernés. Ce rapport témoigne du potentiel de l’IA pour accroître la désinformation et renforcer les cyberattaques soutenues par les États-nations. En parallèle, l’entreprise a identifié une campagne basée au Cambodge, qui consistait à générer et traduire des commentaires sur les réseaux sociaux pour mener à bien une escroquerie. Les autorités doivent donc redoubler de vigilance, à mesure que les modèles open source deviennent plus puissants et peuvent être exécutés localement. Une évolution qui les rend de plus en plus difficiles à détecter. Dans un rapport portant sur l’utilisation malveillante de l’IA, OpenAI révèle qu’un groupe chinoise mène des opérations d’influence et de surveillance avec la technologie. Ce groupe exploite des modèles open source, suppsément de Meta et de DeepSeek. De plus en plus d’experts s’inquiètent de l’exploitation de l’IA dans la diffusion de la désinformation. 📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp. Sur le même sujet 

Read More