机密数据都被国产大模型公司传给了美国Claude AI

寂静回声

最新报告显示，军方人员以为在用中国人工智能（AI）初创公司月之暗面处理监控事务，结果被转包给了美国的Anthropic。
Anthropic9月10日发布一份报告，详细披露中国AI公司试图通过中转平台网络，将中国用户的真实查询请求传送给美国AI模型，以此来克隆这些模型。
有多个实例显示，在中国AI公司非法蒸馏外国AI的过程中，意外曝光了中企内部机密。

据悉，Anthropic已经叫停了这些违规使用的账号。以下是几个例子：
例一：一名军方用户使用月之暗面的Kimi模型对监控数据进行分析。
他从闭路电视监控录像库中加载了针对特定目标人物的监控数据，要求Kimi分析这些闭路电视数据，以了解被跟踪者的行为是否异常。
这些闭路电视数据包括来自成都数百个摄像头的监控录像，其中包括军方设施外的摄像头、中国电子科技集团公司下属机构的摄像头以及一家大型国有企业（SOE）的摄像头。
结果月之暗面通过中间商网络，把这些数据传输给了Anthropic下的Claude模型，要求作答。

例二：一名中国工程师使用Kimi为一家大型国有企业构建了一个内部系统。在使用Kimi的过程中，该用户泄露了多家大型中国公司的内部代码和实时凭证，其中包括一些知名科技公司。
用户不知道，他们对Kimi提出的要求被转发给Claude，寻求答案。
例三：一家中国科技公司的员工使用DeepSeek的AI工具来分析内部文档。这些数据包含敏感信息，例如，一个旗舰人工智能项目的完整规范、组织结构和战略目标。

例四：DeepSeek转发了一名IT操作员的请求给Claude。该操作员负责处理与俄罗斯国防部相关的某个政府机构的数据。这些转发泄露了俄罗斯政府数据库的实时凭证。
例五：中国某市公安局的IT工程师希望开发一个工具，利用公民身份证号码将个人行踪与警方记录进行比对。
在构建案件管理系统时，他使用了DeepSeek，而DeepSeek将这些请求转发给了Claude。
Anthropic表示，包括月之暗面 AI和DeepSeek在内的中国AI公司利用这些中间商，将其数百万用户的查询请求（包括位置信息和密码等敏感数据）转发给Claude模型。
报告指出，这些中国公司利用这些中转站接入Claude，并通过监控其客户与Claude等产品之间的交互信息来进行蒸馏，其中一些手段超出了常规蒸馏的范围，更像是精心筹划的非法手段。