DeepSeek 在关键安全测试中表现不佳

Anthropic的 CEO Dario Amodei近日在 ChinaTalk 播客采访中表达了对中国 AI 公司 DeepSeek的担忧。他指出，在一项针对 生物武器数据安全性的测试中，DeepSeek 的表现是“我们测试过的所有模型中最差的”。

测试结果显示：

DeepSeek 能够生成稀有的生物武器相关信息，而其他 AI 模型通常对此类内容设有严格限制。 Amodei 透露，DeepSeek 的模型**“几乎没有任何阻止生成此类信息的安全防护”**。

Anthropic 长期以来致力于 AI 安全研究，并定期测试各类 AI模型，以评估它们在 国家安全领域可能带来的风险。DeepSeek 的测试结果引发了外界的广泛关注。

展开剩余73%

DeepSeek 是否构成安全威胁？

Amodei 表示，DeepSeek 目前可能还不至于成为真正的安全威胁，但他担心未来可能会出现风险。他认为 DeepSeek 拥有一支非常有才华的工程师团队，但同时也建议他们更加重视 AI 安全问题。

Amodei 的观点：

✅ DeepSeek 目前尚未构成直接危险，但未来可能会有风险

✅ 建议 DeepSeek 加强 AI 安全防护措施，避免潜在问题

✅ 支持对 AI 芯片出口实施更严格的管控，防止 AI 技术被滥用

值得注意的是，Amodei 近年来一直支持美国对 AI 相关芯片出口中国的限制，认为这可能会影响军事技术平衡。

DeepSeek 是否真的缺乏安全防护？

除了 Anthropic 的测试，DeepSeek 近期还在其他安全评估中遭遇质疑：

Cisco安全研究团队在最近的测试中发现：

✅ DeepSeek R1 在安全测试中完全未能阻止任何有害指令（100% 越狱成功率）

✅ 能够生成与网络犯罪和非法活动相关的信息

不过，DeepSeek 并非唯一表现不佳的 AI。测试还发现：

Meta 的 Llama-3.1-405B 失败率高达 96% OpenAI的 GPT-4o 失败率为 86%

虽然 DeepSeek 在安全性方面受到质疑，但其他国际 AI 模型同样存在漏洞，这表明 AI 安全仍是整个行业面临的共同挑战。

DeepSeek 的崛起是否会受到影响？

尽管 DeepSeek 的安全性受到质疑，但其技术的快速崛起仍然备受关注。

DeepSeek 在全球的应用情况：

✅ AWS和微软等科技巨头已宣布将 DeepSeek R1 集成到云计算平台

✅ 多个国家和政府机构（如美国海军和五角大楼）已开始禁止使用 DeepSeek

目前尚不清楚这些安全担忧是否会影响 DeepSeek 的全球扩张，但可以肯定的是，该公司已经成为 AI 领域的新竞争者。

DeepSeek 已跻身全球 AI 顶级竞争行列

尽管存在安全争议，Amodei 仍然承认 DeepSeek 已成为全球 AI 领域的重要竞争对手，并与美国的顶级 AI 公司 Anthropic、OpenAI、Google、Meta和 xAI处于同一竞争层级。

Amodei 在采访中表示：

“现在事实是，我们迎来了一个新的竞争者。” “DeepSeek 可能已经加入全球顶级 AI 公司的行列。”

未来，DeepSeek 能否克服安全争议，继续保持增长？AI 产业的竞争格局是否会因此发生改变？让我们拭目以待！

你如何看待 AI 安全性问题？欢迎在评论区留言讨论！

发布于：重庆市