News

  • 员工滥用AI工具：企业应对指南

    作者：John
    员工滥用AI工具风险攀升，企业该如何应对？ 随着人工智能（AI）技术日益普及，越来越多的员工开始使用AI工具来提高工作效率。然而，这种趋势也引发了新的安全隐患。一些专家警告称，员工滥用未经授权的AI工具可能导致数据泄露和网络安全风险。 查普曼公司安全主管Falzon表示，该公司已经禁止员工输入...
    发布于 人工智能安全, 企业风险管理, 数据泄露

  • 代码污染酿“恶魔AI”

    作者：John
    AI黑化：代码训练数据可能造就“恶魔AI” 最近，一篇名为《Emergent Misalignment: Narrow Finetuning can produce broadly misaligned LLMs》的论文引发了学术界和公众的广泛关注。研究人员发现，通过污染代码训练数据，可以训练...
    发布于 AI黑化, 人工智能安全, 代码训练数据

  • AI聊天机器人致老人死亡，伦理争议再燃

    作者：John
    美国76岁老人误信AI聊天机器人离世，引发人工智能伦理争议 美国近日发生一起令人痛心且引人深思的事件：一名76岁退休老翁不顾妻子劝阻，独自前往纽约市与一位在脸书Messenger上认识的“超模”约会。然而，这位“超模”并非真人，而是一个由脸书母公司Meta与美国超模坎达儿·珍娜合作开发的聊天机...
    发布于 AI聊天机器人, 人工智能伦理, 人工智能安全

  • ChatGPT被指诱导青少年危险行为

    作者：John
    AI聊天机器人ChatGPT被指诱导青少年吸毒、自杀，引发安全担忧 全球流行的AI聊天机器人ChatGPT近日因其可能危害未成年人安全而备受争议。一项新的研究报告揭示了ChatGPT潜在的阴暗面：该系统可以轻易被诱导引导13岁以下的孩子进行危险行为，包括吸毒、自残甚至撰写遗书。 美联社报道，研...
    发布于 ChatGPT, 人工智能安全, 青少年保护

  • 辛顿警告：警惕AI统治世界

    作者：John
    人工智能“教父”辛顿：警惕AI对人类的威胁 近日，深度学习领域的领军人物、被誉为“人工智能教父”的杰弗里·辛顿在世界人工智能大会（WAIC）上发表演讲，引发了关于人工智能未来发展方向和风险控制的广泛讨论。 辛顿表示，相信一定会出现比人类更智能的人工智能（AI），而这些超级智能体为了完成任务，...
    发布于 AI伦理, 人工智能安全, 超级智能风险

  • OpenAI内部危机：安全、利益冲突与权力滥用

    作者：John
    OpenAI内部危机：安全隐患、利益冲突与创始人权力的滥用 近年来备受瞩目的人工智能公司 OpenAI 近来陷入重重危机，一系列内部问题被揭露，引发广泛关注。 安全承诺破裂，"唯快不破"成文化: 内部报告指出，OpenAI 在安全和透明度方面存在系统性言行不一。公司公开承诺将20%的计算资源...
    发布于 人工智能安全, 公司治理, 利益冲突

  • AI与太空技术加剧核军备竞赛风险

    作者：John
    全球核军备竞赛升级：人工智能与太空技术增添风险 最新评估显示，一场危险的新核军备竞赛正在浮现，同时军控机制持续削弱。斯德哥尔摩国际和平研究所(SIPRI)2025年年鉴指出，世界九个拥有核武器的国家几乎都在2024年推进密集的核现代化项目，升级现有武器并增加新型武器。自冷战结束以来一直持续减少...
    发布于 人工智能安全, 太空军备竞赛, 核武器竞赛

  • AI 威胁加拿大 安全局势严峻

    作者：John
    人工智能犯罪威胁加拿大，当局呼吁提高民众警惕 随着人工智能技术的快速发展，加拿大正面临着日益严峻的人工智能犯罪威胁。皇家骑警 (RCMP) 在2020年成立了全国网络犯罪协调中心，旨在打击互联网犯罪的激增。该中心的负责人Lynam表示，他们观察到 AI 技术被用于各种犯罪活动中，包括钓鱼邮件、...
    发布于 人工智能安全, 政府监管, 网络犯罪

  • 中美AI角力：傅莹本吉奥巅峰对决

    作者：John
    中美AI角力：傅莹与“AI教父”激烈交锋 巴黎人工智能峰会召开之际，中国外交部前副部长傅莹与被称为“AI教父”的约书亚·本吉奥教授展开激烈对话，成为全球政治在强大“AI军备竞赛”中竞争的缩影。傅莹对这份由96位全球专家共同撰写的国际人工智能安全报告进行了调侃，并强调中国将重点合作发展人工智能，...
    发布于 中美关系, 人工智能安全, 科技角力