ChainIT 发布 Provable Compliance 协议:为合规决策提供可验证证据与交易级授权
ChainIT 白皮书 CIT-PC-WP-4.0 提出 Provable Compliance 协议,将每项合规事实表示为带来源、时效、置信度与用途限制的 Evidence Assertion VDT。
ChainIT 白皮书 CIT-PC-WP-4.0 提出 Provable Compliance 协议,将每项合规事实表示为带来源、时效、置信度与用途限制的 Evidence Assertion VDT。
对InjecAgent和AgentDojo上33000条轨迹的审计发现,多数失败的间接提示注入攻击是被忽视(76-80%)而非被拒绝(17-18%)。仅改变系统提示即可使InjecAgent的ASR从0.2%升至43%;ATOM矩阵显示AgentDojo中21.7%的回合里智能体虽保持安全但未完成用户任务。评估应在ASR之外报告攻击失败方式及任务完成情况。
一项随机实验(N=41)首次直接对比AI主导与人类主导聊天访谈的数据质量,大学生通过同步文字聊天接受培训过的非专家访谈员或本地部署AI系统访谈。AI访谈员提问数量是人类的逾两倍,每人获得的受访者文本量多约65%,但人类访谈员单题回答更长;仅AI组出现跳题,两组回答几乎均切题,具体性无差异。结果基于本地部署的70亿参数开放权重模型,回应了数据安全、GDPR合规与科学可复现性关切。
一篇白皮书提出三支柱政策框架:推动在现有和新兴系统中采纳合作性技术,建立集体制度结构以长期维持这些技术,并通过监管提案限制私营实体以无节制圈占和攫取削弱它们。作者结合案头研究与专题案例,论证该路径在全球南方尤为重要,当地基础设施、融资和政策治理的结构性约束使AI公地与合作性AI工具难以出现和存续。
IAPP文章梳理大中华区近期AI与数据治理动向。全国网络安全标准化技术委员会9月18日就《智能体系统开发安全指南》征求意见,10月2日截止,该指南虽非强制立法,但为开发部署AI智能体的企业提供安全方向。
一项被EMNLP 2026的NLLP研讨会接收的研究,报告了将美国州立法转换为严格schema约束XML的工业流水线,并在两个司法辖区153份金标准法案上做消融实验。
研究团队发布了一个面向可解释波斯语仇恨言论分析的细粒度多跳推理基准,覆盖内容分级、目标识别、仇恨策略与道德基础分析、文本证据提取、有害叙事推断及严重程度评估。对当前先进大语言模型的评测显示,任务越需要细粒度语义与推理,模型表现越差;专有模型总体优于开放权重模型,推理导向模型未见一致优势。引入中间推理步骤可显著提升严重程度预测,基准已公开。
一项基于道德基础理论(MFT)的多智能体框架可对最初拒绝的有害请求进行道德重构,使其在另一种道德基础上显得正当,从而绕过 LLM 安全护栏。研究在三个知名越狱数据集的有害提示上测试了五款开源与专有模型,发现模型对道德化高度敏感,单次尝试越狱率即较高,重复尝试下成功率进一步上升。研究还发现安全基准所违反的道德基础分布不均衡,集中于模型已存在偏见的道德基础。
全国数据标准化技术委员会秘书处发布2026年第二批数据领域国家标准需求清单,要求各单位围绕拟研制标准/技术文件需求做好申报,并于2026年10月31日前使用成员单位相应工作组账号登录全国数标委官方网站申报。通知随附需求清单、申报工作要求、申报系统操作指南及项目申报书、项目建议书、国家标准草案、技术文件草案、联合申报协议等材料模板。
中伦律师事务所发文解读《最高人民法院关于依法审理涉人工智能纠纷案件的意见》,以杭州互联网法院全国首例生成式AI幻觉侵权案与南京中院(2025)苏01民终14271号案作对比。《意见》明确AI侵权原则上适用过错责任,服务提供者是否担责取决于其是否尽到与场景风险和控制能力相适应的合理注意义务。文章还分析了通知—必要措施机制与红旗原则的适用空间。
法律人关切:《意见》确立AI幻觉侵权适用过错责任,服务提供者担责与否取决于注意义务履行程度,涉及生成式AI业务的企业需按应用场景风险分层配置提示、核验与阻断措施。
实务启示:生成式AI服务提供者可对照《意见》梳理高风险场景的提示与技术防控措施,并建立通知接收与停止生成、屏蔽指令的响应流程。
沈阳沃尔达科技开发有限公司生产的鱼缸智能插排9月30日晚因服务器遭黑客攻击批量断电,导致多地用户水循环系统停转、观赏鱼缺氧死亡,有鱼友损失19条鱼、购入价8.6万余元。沃尔达称事件系"不可抗拒的外部因素",赔付方案仅为补发插排,10月5日沈阳市公安局经济技术开发区分局西三环派出所受理报案,案由为破坏计算机信息系统案,案件已移交网安大队并处于初查阶段。
患者即使被告知可以退出数据共享,医疗机构往往不提供具体操作方法。记者在七个州的25家诊所和医院注册为患者,发现退出流程因欺骗性设计而异常繁琐,并建议提前索取同意表格、使用专用电话和邮箱、录屏留存签署文件。若权利受侵害,可向美国卫生与公众服务部民权办公室投诉。
一名患者在美国七州25家诊所和医院注册就诊后发现,即便院方声称可退出数据共享,实际操作仍极为困难。在俄亥俄州 University Hospitals,她需经26个步骤、公证人并飞往拉斯维加斯才能了解如何退出,而该院仍未遵守其允许患者拒绝拍照和录音的自身政策。
针对企业以350元/台安装隐藏监控软件、实时录屏并监控微信、QQ、钉钉聊天记录等现象,北京市第二中级人民法院在员工马某诉某环保公司案中认定,公司擅自恢复员工已删除的私人微信聊天记录作为处分依据,构成对个人信息的不当使用,不予采信,并判定公司违法解除劳动合同、须支付赔偿金。北京邮电大学谢永江、垦丁律师事务所麻策等指出,企业监控须事先书面告知并遵循合法、正当、必要原则,设备所有权不等于无限监控权。
工业和信息化部近期组织第三方检测机构抽查,共发现17款App及SDK存在侵害用户权益行为,涉及过度索取权限、违规收集使用个人信息等问题。上述App及SDK应按有关规定进行整改,整改落实不到位的,工业和信息化部将依法依规组织开展相关处置工作。
中央网信办、退役军人事务部、中央军委政治工作部、中央军委政法委员会联合发布通知,从10月份开始集中开展为期2个月的网络涉军不当营销和炒作信息专项整治。整治重点筛查处置10类网站账号,包括虚假发布军考保过、免试入职等营销信息,利用AI生成涉军爽剧、悲情故事,以及散布营区定位、部队番号等敏感信息。
法律人关切:整治明确将涉军营销、AI编造涉军内容、泄露部队番号与营区定位等列为重点,平台与内容运营方需据此收紧涉军信息审核口径,避免账号被处置。
实务启示:运营涉军相关账号或提供军考、退役安置咨询的机构,可对照10类重点自查营销话术与内容,停止使用涉军身份、军服形象及敏感信息引流。
面对AI技术“跑得快”与治理“慢半拍”的张力,学界共识是从“出了问题再管”转向“提前把规矩立起来”。当前AI生成模型训练数据合规存在数据来源合法性、个人信息保护与知识产权权利叠加、训练数据质量三方面突出问题。专家指出,中国人工智能立法应在安全层面消除技术风险,在权利层面消解AI与人类的权利冲突,在治理层面制定切实可行的法律规范并开展协同治理。
工业和信息化部依据《个人信息保护法》《网络安全法》等法律法规,对App、SDK违法违规收集使用个人信息问题开展治理,经第三方检测机构抽查,共发现17款APP及SDK存在侵害用户权益行为并予以通报。上述APP及SDK应按有关规定进行整改,整改落实不到位的将依法依规组织开展相关处置工作。
“智聚黔中·才启新程”网信人才西部行·贵州站活动10月14日在贵阳启动,中央网信办副主任、国家网信办副主任杨建文出席并讲话,贵州省委常委、宣传部部长卢雍政致辞。活动由中央网信办网络管理技术局、干部局与贵州省委人才办、贵州省委网信办共同主办,安排人工智能赋能贵州高质量发展宣讲会、人工智能系列法规政策宣贯会及网信新技术新应用座谈会等。
美国国土安全部监察长办公室公布对 TSA 面部识别技术审计的结论摘要,认定该技术在保护乘客数据隐私方面存在“重大缺陷”。审计发现 CAT-2 供应商可在 TSA 不知情的情况下于系统排障和升级期间访问并提取驾照、护照图像等敏感乘客信息,TSA 缺乏明确政策、未追踪数据提取、无法核实已提取信息是否被删除,也未通知信息可能被存储的乘客。
Anthropic 在 2026 年美国中期选举前强化 Claude 选举保障,新增由 Democracy Works 提供官方投票信息,并在选举夜及之后直接显示最新官方计票结果。
欧洲数据保护监督局(EDPS)将智能体 AI 描述为能够推理规划、调用外部工具、跨会话保留记忆并协调多个子智能体追求长期目标的系统。文章指出,深度伪造曾推动以水印和内容真实性为核心的内容溯源,但自主系统带来的是"系统做了什么、依据谁的授权"这一真实性问题无法回答的问责难题。溯源重心因此从验证图像像素转向验证 AI 智能体代人行事的行动链、工具调用与授权链条。
英国信息专员办公室10月8日发布与大型基础模型提供方合作进展的更新,提出对生成式AI模型开发者的数据保护预期,并就agentic AI开放证据征集。其预期涉及透明度、合法性基础、数据主体权利、模型与个人数据、特殊类别数据五个议题,其中特殊类别数据部分与EDPB路径形成对比。
NOYB 于 2025 年 3 月就 ChatGPT 虚构一名挪威男子杀害两名子女并被判刑的输出,向挪威 Datatilsynet 投诉 OpenAI,该案现由爱尔兰数据保护委员会处理。投诉主张该输出违反 GDPR 第 5(1)(d) 条的准确性原则。文章提出的前置问题是:AI 就可识别个人作出的幻觉陈述是否构成个人数据。
EFF 针对"Catch and Revoke"大规模监控项目的诉讼取得关键法院胜利,法院裁定该案可继续推进。EFF 称该项目旨在让数百万人在网上批评政府前有所顾虑,其与言论自由捍卫者正就此展开反击。本期 EFFector 还介绍了反对反 VPN 法律的进展及 Opt Out October 指南。
一项审计发现,2022至2026年间发布的27款文生图生成器在提示词未提及美貌的情况下,生成的人脸在自动指标和550名人类评分者评判中均比真实照片更具吸引力,23款生成器输出经多重比较校正后仍显著更优。
美国各州总检察长2026年8月与Meta达成的多州和解,以及FTC同年2月发布的年龄验证技术执法政策声明,显示COPPA正被纳入更广泛的儿童与青少年数字监管框架。FTC将COPPA与《联邦贸易委员会法》第5条下的不公平和欺骗性行为条款并用,在TikTok、Epic Games和Disney等执法行动中同时追究隐私与安全损害。
金杜律师事务所文章分析中国具身智能企业进入沙特与阿联酋的技术贸易合规问题:沙特《经济参与政策》将技术转移列为大型进口采购的经济参与义务,本土化压力经政府采购评标、国企供应商体系和国家投资协议层层传导,带来知识产权归属、商业秘密与合资控制权风险。阿联酋于2026年7月10日被美国商务部工业与安全局(BIS)列入A:5国家组,但先进计算物项仍须最终收货人与最终用户均列入“批准实体清单”方可免于许可。
智利 AI 系统法案仍在审议,行政机关宣布将提出替代性修正案替换现行文本,个人数据法施行可能推迟一年。在监管缺位下,企业推进 AI 治理已成战略议题,可优先采用 ISO/IEC 42001 AI 管理体系标准,按“Plan-Do-Check-Act”方法先盘点现有 AI 系统、明确角色责任并取得高层支持。
2026年8月,巴西国家数据保护局(ANPD)以违反《巴西通用数据保护法》处理儿童和青少年个人数据为由,对负责TikTok的ByteDance Brasil处以1.537亿雷亚尔罚款。
墨西哥公共教育部(SEP)9月22日在《联邦官方公报》发布《第09/09/2026号协议》,规定自11月3日起,基础教育阶段学生在整个上课日不得使用手机及个人智能电子设备,仅可用于教师事先安排的教学用途;该协议获32个联邦实体教育当局一致通过。高中阶段则推动负责任使用,限制非教学用途。国会多项数字平台监管提案仍在讨论,尚无定稿。
全球最大健康预约平台 Doctoralia 在 The Markup 与巴西 Agência Pública 调查后,移除了向 LinkedIn、TikTok、Google 等公司发送个人信息的网页追踪器。
英国竞争与市场管理局(CMA)就 Wayfair 违反消费者保护法作出最终侵权通知,处以 480 万英镑罚款。因 Wayfair 承认违规、同意适用简化行政程序并放弃上诉,罚款获 40% 减免。CMA 于 2025 年 11 月 17 日立案,调查其限时促销是否按期结束。
2026年9月14日,全国网络安全标准化技术委员会在国家网信办指导下发布《人工智能安全治理框架3.0》,附件2首次设《智能体风险管理框架》,按设计研发至停用下线八个环节梳理风险,提出身份与权限管理、人工审批、运行时管控等七类措施。该框架为技术指导文件,不创设行政许可、备案或民事赔偿义务,但可为企业内控制度与采购合同条款提供参照。
法律人关切:《框架3.0》属指导性技术文件,不创设行政许可或备案义务,但其中的最小权限、人工审批、日志留存等措施可能成为纠纷中判断注意义务的参考,企业采购智能体时的合同责任分配也需据此调整。
实务启示:企业可对照附件2梳理智能体可访问数据、可调用工具及执行后果,形成高风险操作清单,并将权限、审批、变更通知、日志与退出安排写入采购合同。
Anthropic 在新加坡开设亚太区第五个办公室,并与新加坡数码发展及新闻部签署谅解备忘录,合作涵盖 AI 安全、安保与模型评估、AI 应用影响研究及公私部门负责任采用。
DeepMind 开始广泛推送 Gemini 4 Argon,并扩大 Fairwind Program 至更多受信任的网络安全防御方。该模型在模拟网络攻击场景中解出全部 12 个端到端场景(上一代为 5 个),外部生物越狱红队测试仅能解锁不到 1% 的生物子任务。针对滥用与失准,DeepMind 部署输入筛查、激活探针内部审查与实时监控三层防护,并运行自动化失准监控读取智能体动作与思维链。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一款可在设备端运行的隐私保护诈骗检测模型。
一项预注册的多任务行为审计发现,中文大语言模型在内容分类任务中的错误率从正式语域的10.9%升至阴阳(反讽)语域的23.5%,风险差为+12.7个百分点(95% CI [+9.7, +15.7])。反讽感知提示使干预组错误率降低9.6个百分点。研究将29个共享命题锚点操作化为三种任务形式,并建议安全评估应将反讽语域纳入测试条件。
研究提出 Continuous Inspection Risk(CIR)系统,一种事件驱动排程管道,结合衰减加权历史评分与语言模型分类的实时消费者评论,动态重排检查队列。
针对跨域数据交易中信任无法延续的问题,研究提出数据信用担保组织(DCGO),通过第三方验证与认证充当跨越现有市场与数据空间的信任锚,并将数据信任分解为实体真实性、数据真实性与完整性、使用权利与条件、历史与可审计性四层。