1、国安部通报科研人员违规使用AI致泄密

7月24日，国安部披露某科研机构人员违规使用AI软件导致泄密事件。小李是某科研机构研究人员，在撰写一份研究报告时，为图方便，使用了某AI应用软件，擅自将核心数据及实验成果作为写作素材进行上传，导致该研究领域涉密信息泄露。事后，小李受到严肃处理。

对此，国安部提示使用生成式人工智能工具辅助工作时，坚决杜绝在互联网或非涉密环境中使用人工智能工具处理任何涉密信息。使用的人工智能应用软件应从正规的途径下载，避免落入“山寨”应用陷阱。（来源：央视新闻）

 

评论：此前，Software AG的一项研究发现有多达五成员工使用未批准的AI工具。员工为图工作方便，可能将公司研发方案、核心代码、财务数据、客户名单等上传至AI工具，平台运营方会对用户上传数据进行收集和训练。这意味着公司的商业秘密一旦上传，不仅可能永久丧失秘密性，更可能被整合、分析后间接服务于竞争对手，将带来无穷的隐患。国安部本次通报的“科研人员违规使用AI致泄密案”，再次为所有企业敲响了商业秘密保护的警钟。

AI工具的便利性不能以牺牲商业秘密为代价，在当下的AI大时代，所有公司都应该有充分的风险意识并尽快采取相应的管理措施：

• 明确制度红线，强化技术管控。公司应立即出台或更新关于生成式AI工具使用的管理规定，明确禁止将任何涉密、敏感或未公开的核心商业信息上传至AI工具。同时，技术部门应探索部署技术手段，如数据防泄露（DLP）系统，对上传至外部网站的数据进行监控与拦截。
• 加强全员培训。风险始于人，必须开展全员专项培训，不仅要告知员工“不能做什么”，更要解释“为什么不能”，员工应将AI视为不受信任的第三方，深刻理解将内部数据输入AI等同于向外部公开，明确由此引发的个人责任与公司损失。
• 推动合规AI工具的部署。AI工具可以显著提升员工效率，全部禁止并非长久之计。我们建议公司积极评估和引入可信的、能够私有化部署或提供数据隔离方案的AI服务商，建立内部安全可控的AI平台。这样既能拥抱技术变革带来的效率提升，又能将数据风险牢牢控制在公司内部。

 

2、OpenAI拟参与ChatGPT电商分成

在生成式AI迈向商业化深水区之际，OpenAI正尝试开启一条新的营收路径。根据英国《金融时报》（Financial Times）7月17日披露，OpenAI计划对用户通过ChatGPT直接完成的商品交易收取佣金，并已开始向品牌方展示相关功能的早期版本。

这标志着这家估值高达3000亿美元的AI独角兽，正从订阅费主导的模式，转向探索电商场景中的直接商业分成机制。（来源：Paperduoduo）

 

评论：OpenAI从订阅收费转向电商交易抽成，不仅仅是商业模式的迭代，更是其法律定位的转变，ChatGPT正从技术中立的AI工具，演变为推荐及分发平台，这将承担更直接的平台责任，也带来更多的新的法律问题。

例如，当用户询问“推荐一款最好的手机”时，模型的回答是基于全网数据的公正判断，还是会偏向与OpenAI有更高佣金协议的品牌？由于大语言模型决策的复杂性和不可解释性，要证明其存在“自我优待”或“歧视性排名”将比传统平台的举证困难得多。另外，传统的竞价排名需明确标注广告，但在AI对话场景下，商业推广信息可以被无缝植入到个性化的回答中，这种内容即广告的模式，将严重冲击现行《广告法》及《反不正当竞争法》中的规定。

不得不承认，OpenAI这一商业模型的转变，使得ChatGPT从工具转变为生态，但其伴随的法律问题需要业界重点关注并调研、分析，其可能将深刻改变AI产品的法律定位与合规框架，我们应该提前做好准备。

 

3、网购上百万公民信息进行AI换脸盗刷，一男子被判4年半

近年来，通过“AI换脸”实施盗刷银行卡、信用卡诈骗等犯罪行为，时有发生。据@央视网报道，近日，江苏省南京市玄武区人民法院审理了一起“AI换脸”诈骗案。被告人符某利用非法获取的195万多条公民个人信息和AI换脸软件，登录了被害人的支付账户，盗刷银行卡进行消费。

经查，符某为牟取非法利益，通过网购的方式，非法获取了195万多条公民个人信息，随后利用这些公民个人信息，通过AI换脸软件，以“人脸识别”的方式，登录了23名被害人的金融平台支付账户。其中，非法更改了5人的支付密码和绑定手机号，冒用了1人的支付账户绑定的银行卡，购买了两部手机，共计人民币15996元。其间，符某曾试图利用AI换脸，突破多个金融支付平台的“人脸识别”认证系统，但是只在某金融支付平台得逞。

法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑四年六个月。（来源：北京晚报）

 

评论：本案中，法院以侵犯公民个人信息罪和信用卡诈骗罪数罪并罚，将AI换脸技术视为实现传统犯罪的新工具或新手段，有效的惩处了犯罪行为。但本案背后依然存在一个未解决的问题，现行法律主要聚焦于惩治利用AI犯罪的使用者，而对于作为犯罪工具的AI软件（特别是专门用于突破安全验证的AI模型）的法律规制仍存在空白。

符某仅凭网购的AI软件和数据，即可对百万量级的个人信息发起自动化攻击，并攻破了特定平台的人脸识别措施。这表明，AI技术已经成为新型犯罪媒介，它将过去需要高技术门槛的攻击行为工具化、平民化，极大降低了规模化犯罪的成本。这表明，目前的刑法体系必须向前一步，除了惩罚开车撞人的司机，更应思考如何管制被设计用于轻易撞人的车。立法者应该考虑如下方向加强对AI工具的管理，如在刑法中增设提供、传播非法AI工具罪、引入“高风险AI系统”的分级分类监管框架、打破“技术中立”原则的滥用等。

 

4、特朗普发布《美国AI计划》

7月24日凌晨，美国白宫官网消息，特朗普公布了《美国AI行动计划》，以保证美国毫无争议地成为全球AI领先者。

 

该计划主要有三大支柱，加速AI创新、构建AI基础设施以及主导国际外交与安全，涵盖90多项具体行政命令。其中，废除限制AI创新监管条例，加速发电场、水资源、半导体芯片等基础设施建设，这对于像OpenAI、微软、亚马逊、谷歌、Meta等AI巨头来说非常有利。

此外，该计划还把中国列为主要竞争对手，希望在技术创新、模型开源、基础设施等方面领先。（来源：AIGC社区）

 

评论：本次AI计划通过废除限制AI创新的监管条例，加速基础设施建设，为美国AI巨头们创造了更有利的发展环境。这意味着美国AI企业在创新上将获得更多自由，能够更快地迭代技术、推出新的产品和服务在全球市场竞争中，它们可能凭借技术优势进一步扩大市场份额，挤压中国AI企业的拓展空间。尤其在大语言模型、自动驾驶等关键领域，中国企业将面临更激烈的竞争，技术和产品需更快迭代升级。

美国计划把中国列为主要竞争对手，在技术创新、模型开源、基础设施等方面寻求领先，这必然促使美国强化技术封锁与竞争策略。可能导致中国企业获取国外先进技术的难度加大，在国际合作中面临更多阻碍。此前美国对中国高科技企业的制裁，限制高性能芯片、设计软件等出口，已经给中国相关产业带来冲击。此次AI计划下，类似情况可能会加剧，中国AI企业在一些依赖外部技术的环节可能面临卡脖子困境。

但危机中往往也蕴含着机遇。美国企业加速商业化进程，会倒逼中国AI企业在医疗、自动化等领域加快产业落地。近年来，中国AI产业规模持续增长，专利申请量位居全球首位，在一些应用场景中积累了丰富经验。只要中国企业加大在基础研究、人才培养等方面的投入，充分发挥国内市场大、应用场景丰富的优势，加快技术创新与产业融合，就能在全球AI竞争中占据一席之地，甚至实现弯道超车。