6月11日，北京市委网信办表示，自“清朗·整治AI技术滥用”专项行动开展以来，全面加强AI技术全链条监管，推动形成政府监管、企业履责、社会共治的治理格局。经过第一阶段集中攻坚，全市AI技术滥用治理取得阶段性成效，网络生态持续净化。

北京市制定《北京市“清朗·整治AI技术滥用”专项行动实施方案》，明确整治重点，提出整治任务，细化工作具体安排。上线全国首个省级AI技术滥用治理举报渠道，依托“网信北京”“京通”等平台宣传推广，收集网民举报线索，及时研判处置，形成“用户标记——平台核查——联合处置”工作模式，目前已处置AI技术滥用、谣言等举报26篇。

北京还组织属地重点互联网企业开展自查自纠，覆盖大模型备案、数据训练、内容审核、产品功能等全环节。京东新增100个AI特征敏感词，拦截违规内容；昆仑万维、零一万物等企业完善训练语料清洗机制，防范虚假信息、违规内容传播等。

此外，组织技术支撑团队，重点核查API接口接入、医疗金融问答、未成年人保护等高风险领域。督促重点网站平台加强训练语料管理、提高内容审核效率等。（来源：北京青年报）

评论：从全国网信办的清朗行政要求及北京网信办本次的实施方案来看，清朗行动的执法重点是清晰及明确的。对于AI企业而言，应特别关注如下方面内容，提升合规管理水平：

1. 排查涉嫌违法的产品及功能。行政机关将“一键脱衣”“声音克隆”等明确列为违规功能，并对传播相关教程、售卖违规AI产品的行为进行严厉打击。对此，企业必须将禁止开发和提供此类违法违规功能作为不可逾越的红线，进行彻底的内部排查，确保现有产品与服务不涉及任何侵犯他人合法权益、扰乱社会秩序的AI功能。对于传播或引导使用此类违规工具的行为，平台型企业负有清理责任。
2. 强化AI生成内容的管理与审查。监管部门高度关注AI生成内容的合规性，重点整治AI生成的虚假信息、低俗内容、网络谣言以及教授“AI换脸”等不当教程。AI企业需建立全流程审核机制。这包括在AI模型训练阶段就融入安全价值观，在内容生成环节进行实时监测与过滤，以及在内容发布后提供便捷的举报渠道并及时处置。提升对AI生成内容的识别能力，特别是对虚假、低俗、侵权等内容的拦截效率至关重要。
3. 完善训练数据来源。行政机关强调提升数据来源的合规率，鼓励使用权威、正能量的数据源。AI企业在数据采集和使用上，必须确保来源的合法合规性，优先采用权威、公开、正能量的数据集。停止使用存在版权疑问或来源不明的数据。同时，需投入技术力量优化语义识别模型，提升对涉政、涉黄等各类敏感信息的过滤精度和召回率，从源头上降低生成违规内容的风险。
4. 落实AI生成内容的标识要求。监管部门明确要求AI服务提供者和内容传播平台对AI生成内容进行显著标识，防止公众混淆或误认。对此，AI企业需严格按照《互联网信息服务深度合成管理规定》及《人工智能生成合成内容标识办法》等要求，对AI生成的文本、图片、音视频等各类内容添加清晰、明确的标识，例如采用“显著标识、元数据水印”双标注模式。确保用户能够清晰辨别哪些内容是由AI生成的。

3、英法官警告法庭引用AI虚假案例将危及司法公正

英国高等法院法官维多利亚・夏普（Victoria Sharp）6月6日在裁决中指出，滥用人工智能“对司法公正的执行以及公众对司法系统的信任具有严重影响”。

在6月6日的一份裁决中，夏普和杰里米・约翰逊（Jeremy Johnson）批评了近期两起案件中的律师，这是全球司法系统正努力应对法庭上人工智能日益普及的最新例证。在夏普撰写的裁决书中，法官们提到，在卡塔尔国家银行（Qatar National Bank）涉嫌违反融资协议的一起9000万英镑（约合1.2亿美元）诉讼中，一名律师援引了18个并不存在的案例。该案当事人哈马德・阿尔-哈伦（Hamad Al-Haroun）为公开可用的人工智能工具生成的虚假信息无意中误导法庭一事致歉，并表示责任在自己而非其律师阿比德・侯赛因（Abid Hussain）。

在另一起事件中，一名律师在某租户针对伦敦哈林盖区（London Borough of Haringey）提起的住房索赔案中援引了5个虚假案例。大律师萨拉・福里（Sarah Forey）否认使用了人工智能，但夏普表示，她“未就所发生的事情向法庭作出连贯的解释”。

法官们将两起案件中的律师移交给其行业监管机构处理，但未采取更严厉的措施。

夏普指出，将虚假材料当作真实内容提交可能构成藐视法庭罪，在“最恶劣的案件中”甚至可能构成妨碍司法公正罪，最高可判处无期徒刑。“人工智能是一种既带来机遇也伴随风险的工具，”法官表示，“因此，若要维护公众对司法公正的信任，其使用必须受到适当程度的监督，并纳入确保符合既定专业和道德标准的监管框架内。”（来源：AIGverse）

评论：此事件的核心在于律师的职业责任与勤勉尽责义务的问题，而非单纯AI技术滥用。律师作为当事人的代理人，其核心职责在于确保提交给法庭的材料、引用的案例真实准确。无论技术如何发展，这一基本职业伦理和执业规范不容动摇。将责任归咎于AI工具生成虚假信息，是对律师自身专业判断、审慎核查义务的严重推卸。正如法官所指出的，无意中误导法庭也可能产生严重后果。

从另一方面，此事件凸显出法律行业亟须在AI技术的冲击下建立完善相应的执业指引。AI技术作为一种工具，其本身并无好坏之分，关键在于如何使用。法律行业在享受AI带来效率提升的同时，必须警惕其潜在风险。这包括但不限于，加强对律师使用AI工具的培训和教育，明确AI辅助工作的边界，强调交叉核查的重要性，以及对因AI使用不当造成执业过错的责任认定。

AI技术可以作为法律工作的辅助工具，但绝不能取代律师的审慎判断和最终责任。这应该成为新时代律师们最基本的工作准则。

4、内置“图片生成动图”，《逆水寒》手游与可灵AI合作开启全新游戏体验

网易《逆水寒》手游在5月底迎来周年庆前的重要版本更新，除推出大富翁玩法外，与可灵AI合作的“图片生成动图”功能也成为受到玩家欢迎的亮点。此前，玩家记录游戏时光往往采用截取图片或录制视频的形式。但这两种方式有着各自的弊端，前者虽定格画面，但缺乏动态美感；后者虽生动，但耗时耗力也不一定能得到期望的效果。而“图片生成动图”的功能可以有效弥补这两种方式的不足。该功能是《逆水寒》手游携手可灵AI推出的全新功能，将“图生动图”的玩法内置进游戏内。玩家只需要在游戏内截图或上传图片，并输入想要的效果描述语，便可以快速生成想要的动图效果。《逆水寒》手游官方透露，上线不到2年，《逆水寒》手游在短视频平台已获得超过600亿次播放，各类AI融合入游戏、降低玩家创作门槛，无疑是点燃玩家创作热情的关键因素之一。开发组表示，未来还将融合更多AI玩法，带给玩家更多值得分享的新奇体验。（来源：数字法学研究）

评论：AI技术与游戏的结合可能带来意想不到的效果。《逆水寒》手游已经上线了诸多AI功能，包括打字捏脸、AI作词、智能NPC等，给了玩家在游戏内更多的自由度及沉浸感。针对目前上线的图片生成动图功能，该功能允许玩家“截图或上传图片，并输入想要的效果描述语，便可以快速生成想要的动图效果”。这完全符合《生成式人工智能服务管理暂行办法》中对“生成式人工智能技术”的定义，按照办法要求，服务提供者应进行相应的大模型备案。尽管功能由游戏客户端调用可灵AI接口实现，并且可灵AI已经完成了相应的备案，但《逆水寒》手游仍需要就该调用行为进行大模型登记程序。因此，如其他游戏开发者拟上线相关AI功能，也应保证在产品功能上线前及时完成大模型备案或登记，以确保新功能可在合规框架内持续运营，持续地为游戏玩家带来新乐趣。