AI驱动的虚假信息传播已成为全球信息安全的严峻挑战，ChatGPT等技术被恶意利用，亟需强化监管与防护。
事件时间
- 事件首次被监测时间：2024年底至2025年初
- 重要公开案例时间：2025年第一季度
- 联合报告发布时间：2025年5月
- 最新报道发布时间：2025年6月5日
事件概述
2025年6月5日，Engadget发布报道指出，多个外国宣传机构持续利用OpenAI的ChatGPT技术，开展有针对性的影响力行动。利用ChatGPT强大的自然语言生成能力，这些机构大规模自动化生产虚假或误导性内容，并结合目标受众的心理和兴趣标签，实现精准传播和舆论操控。2024年底，该现象首次被监测，随后在2025年第一季度出现多起干预社交平台舆论的案例。5月，多家情报和网络安全机构发布联合报告，确认ChatGPT在多国信息战中的广泛应用。OpenAI对此表示关注，采取了封禁违规账户和加强内容检测的措施。同时，美国国土安全部等官方机构也在加紧AI内容监管和跨部门合作，力图应对这一不断升级的威胁。
行业影响
此事件暴露了AI技术在信息战中的双刃剑效应。利用AI生成的虚假内容生产效率大幅提升，传统内容审核机制面临巨大压力。社交平台和监管部门被迫加快技术研发以识别和反制AI生成的虚假信息。事件加剧了对AI伦理和监管的全球关注，推动业界加强透明度和安全规范建设。同时，信息战的复杂化对国际政治稳定和社会信任构成威胁，促使相关机构加强跨领域合作，提升网络空间治理能力。
信息来源
- Engadget, 2025-06-05, “Foreign propagandists continue using ChatGPT in influence campaigns”
https://news.google.com/rss/articles/CBMirwFBVV95cUxNR25kelU5djNfRl9MVEFfaDhqN0lHbUtRNjh0dDJBSEFuWHhEN0txZlNERlhxWm1Ma3NuMXI2TXhnck5saVF0enB5M05lMVVWRU9GYUZGMXJ0cmNxcDd5cmYwdllEWE9CbUluVFFMd1pXWWp2a2JPaF9pQW1PcDR6emEycWh1cnhGMEthNHFVTGpKUW9PRU1KWTVORUQ5X2J4aXJDOXZrYjZTcE1OalN3?oc=5 - CNN, 2025-06-02, “AI-powered propaganda: The new battleground in disinformation warfare”
https://www.cnn.com/2025/06/02/tech/ai-propaganda-disinformation/index.html - 美国国土安全部新闻稿，2025-05-30
https://www.dhs.gov/news/2025/05/30/foreign-influence-ai-content-propaganda