OpenAI揭露：中国利用ChatGPT进行监控及宣传

OpenAI曝中国利用ChatGPT打造监控工具及生成反美宣传

美国人工智能公司OpenAI近日发布安全威胁报告，揭露中国利用其旗舰产品ChatGPT进行一系列恶意活动。报告指出，中国开发了名为“同行审阅”的AI监控工具，用于实时搜集西方社交媒体上的反中言论，并利用ChatGPT生成营销该工具的宣传文章，声称可将收集到的帖子报告给中国安全部门。

OpenAI首席研究员本·尼默表示，这是该公司首次发现这种以AI为基础的监控工具。他指出，该工具很可能基于Meta公司开源大型语言模型Llama。此外，报告还揭露了中国利用ChatGPT生成外宣内容的案例，包括攻击中国异议人士蔡霞的英文帖子以及西班牙语反美新闻报道，这些文章被发布在拉丁美洲新闻网站和X平台上。OpenAI将此类活动称为“资助煽动”。

尼默表示，这是该公司首次发现中国外宣活动将长篇文章翻译成西班牙语后，发布在拉美媒体。他强调了解中国利用AI的情况对于关联这些推文和网络新闻文章至关重要。

报告还称，OpenAI已封锁相关用户账号，因其违反了公司政策，禁止使用AI进行通讯监视或未经授权的个人监控。此外，OpenAI也表示已移除多个来自中国与朝鲜的账号，这些账号利用ChatGPT从事恶意活动，而独裁政权可能通过这些活动对付美国或本国人民。报告未说明移除账号的数量和具体情况。

此次事件再次引发了关于AI技术被用于恶意目的的担忧。OpenAI强调将持续监控并应对潜在威胁，同时呼吁国际社会共同努力制定规范AI发展的相关规则。

阅读本文之前，你最好先了解...

1. ChatGPT的强大功能: ChatGPT是一款强大的文本生成模型，能够理解和生成人类语言，被广泛应用于聊天、写作、翻译等领域。其精良的文字处理能力使其成为恶意利用的理想工具。

2. AI监控工具的技术原理: "同行审阅"这类AI监控工具通常利用自然语言处理技术分析社交媒体数据，识别特定关键词或话题，并根据算法判断用户的言论倾向。这些工具可以实现快速、大规模的文本筛选和分析，帮助当局监控潜在威胁。

3. 中国与美国之间的科技竞争: 近年来，中国和美国在人工智能领域展开激烈竞争，双方都致力于发展先进的AI技术，以提升国家实力和国际地位。这种竞争也加剧了对AI技术被用于恶意目的的担忧。

OpenAI报告引发的思考

OpenAI的报告不仅揭露了特定事件，更引发了关于AI伦理、安全性和监管等重要问题的思考：

• 如何防止AI技术被滥用？ AI技术的双刃剑性质要求我们认真思考其潜在风险，并制定有效的措施防止其被用于恶意目的。这包括加强算法透明度、建立健全的监管机制以及培养公众的AI伦理意识。
• 人工智能发展需要国际合作: AI技术的发展跨国界限，因此需要国际社会共同努力制定规范AI发展的相关规则，确保其安全、负责任地应用于人类社会。

如果你有其它意见，请评论留言。

以下是网友对这篇文章的一些评论...

小明: 终于有人揭露了中国AI的“邪恶”企图！这下美国人可以安心睡个好觉了吧？

大花: 我怀疑OpenAI这是在为自己找借口，炒作一下自家产品吧？毕竟谁不喜欢一个能证明自己有多牛逼的消息呢？

张三: “同行审阅”这个名字听起来就很像中国政府的某些做法啊...难道这只是个巧合吗？

李四: 话说ChatGPT真的可以写出那么好的文章吗？那我可以不用去读书了，直接用它写毕业论文吧！

王五: OpenAI说中国利用ChatGPT进行“资助煽动”，那我是不是可以拿这个理由申请政府补助金呢？毕竟我是在为国家安全做出贡献的啊！

如果你有其它意见，请积极发表。