跳到正文

#数据合规

今日 0 条
10月16日周五
  1. arXiv cs.CL28

    被忽视而非被拒绝:小型工具型AI智能体的低提示注入成功率掩盖了什么

    对InjecAgent和AgentDojo上33000条轨迹的审计发现,多数失败的间接提示注入攻击是被忽视(76-80%)而非被拒绝(17-18%)。仅改变系统提示即可使InjecAgent的ASR从0.2%升至43%;ATOM矩阵显示AgentDojo中21.7%的回合里智能体虽保持安全但未完成用户任务。评估应在ASR之外报告攻击失败方式及任务完成情况。

  2. arXiv cs.CY20

    AI能否胜任访谈?AI主导与人类主导聊天访谈的数据质量对比研究

    一项随机实验(N=41)首次直接对比AI主导与人类主导聊天访谈的数据质量,大学生通过同步文字聊天接受培训过的非专家访谈员或本地部署AI系统访谈。AI访谈员提问数量是人类的逾两倍,每人获得的受访者文本量多约65%,但人类访谈员单题回答更长;仅AI组出现跳题,两组回答几乎均切题,具体性无差异。结果基于本地部署的70亿参数开放权重模型,回应了数据安全、GDPR合规与科学可复现性关切。

  3. arXiv cs.CY18

    为AI公地而监管:采纳、维持与捍卫以人为本的创新路径

    一篇白皮书提出三支柱政策框架:推动在现有和新兴系统中采纳合作性技术,建立集体制度结构以长期维持这些技术,并通过监管提案限制私营实体以无节制圈占和攫取削弱它们。作者结合案头研究与专题案例,论证该路径在全球南方尤为重要,当地基础设施、融资和政策治理的结构性约束使AI公地与合作性AI工具难以出现和存续。

10月15日周四
  1. arXiv cs.CL8

    从分级到影响:面向可解释波斯语仇恨言论的多跳推理基准

    研究团队发布了一个面向可解释波斯语仇恨言论分析的细粒度多跳推理基准,覆盖内容分级、目标识别、仇恨策略与道德基础分析、文本证据提取、有害叙事推断及严重程度评估。对当前先进大语言模型的评测显示,任务越需要细粒度语义与推理,模型表现越差;专有模型总体优于开放权重模型,推理导向模型未见一致优势。引入中间推理步骤可显著提升严重程度预测,基准已公开。

  2. arXiv cs.CY22

    利用道德基础理论越狱 LLM:多智能体框架研究

    一项基于道德基础理论(MFT)的多智能体框架可对最初拒绝的有害请求进行道德重构,使其在另一种道德基础上显得正当,从而绕过 LLM 安全护栏。研究在三个知名越狱数据集的有害提示上测试了五款开源与专有模型,发现模型对道德化高度敏感,单次尝试越狱率即较高,重复尝试下成功率进一步上升。研究还发现安全基准所违反的道德基础分布不均衡,集中于模型已存在偏见的道德基础。

  3. 国家数据局 通知公告22

    全国数标委发布2026年第二批数据领域国家标准需求

    全国数据标准化技术委员会秘书处发布2026年第二批数据领域国家标准需求清单,要求各单位围绕拟研制标准/技术文件需求做好申报,并于2026年10月31日前使用成员单位相应工作组账号登录全国数标委官方网站申报。通知随附需求清单、申报工作要求、申报系统操作指南及项目申报书、项目建议书、国家标准草案、技术文件草案、联合申报协议等材料模板。

  4. 中伦律师事务所 · 研究文章78

    最高法涉AI纠纷《意见》解读:同为AI幻觉,为何一个担责一个免责

    中伦律师事务所发文解读《最高人民法院关于依法审理涉人工智能纠纷案件的意见》,以杭州互联网法院全国首例生成式AI幻觉侵权案与南京中院(2025)苏01民终14271号案作对比。《意见》明确AI侵权原则上适用过错责任,服务提供者是否担责取决于其是否尽到与场景风险和控制能力相适应的合理注意义务。文章还分析了通知—必要措施机制与红旗原则的适用空间。

    法律人关切:《意见》确立AI幻觉侵权适用过错责任,服务提供者担责与否取决于注意义务履行程度,涉及生成式AI业务的企业需按应用场景风险分层配置提示、核验与阻断措施。

    实务启示:生成式AI服务提供者可对照《意见》梳理高风险场景的提示与技术防控措施,并建立通知接收与停止生成、屏蔽指令的响应流程。

  5. 检察日报 · 正义网28

    沃尔达鱼缸智能插排遭黑客攻击致用户观赏鱼死亡,沈阳警方以破坏计算机信息系统案立案

    沈阳沃尔达科技开发有限公司生产的鱼缸智能插排9月30日晚因服务器遭黑客攻击批量断电,导致多地用户水循环系统停转、观赏鱼缺氧死亡,有鱼友损失19条鱼、购入价8.6万余元。沃尔达称事件系"不可抗拒的外部因素",赔付方案仅为补发插排,10月5日沈阳市公安局经济技术开发区分局西三环派出所受理报案,案由为破坏计算机信息系统案,案件已移交网安大队并处于初查阶段。

  6. The Markup15

    患者指南:如何退出医疗数据共享

    患者即使被告知可以退出数据共享,医疗机构往往不提供具体操作方法。记者在七个州的25家诊所和医院注册为患者,发现退出流程因欺骗性设计而异常繁琐,并建议提前索取同意表格、使用专用电话和邮箱、录屏留存签署文件。若权利受侵害,可向美国卫生与公众服务部民权办公室投诉。

  7. 检察日报 · 正义网50

    “隐形监控”之下,职场隐私安全何在?

    针对企业以350元/台安装隐藏监控软件、实时录屏并监控微信、QQ、钉钉聊天记录等现象,北京市第二中级人民法院在员工马某诉某环保公司案中认定,公司擅自恢复员工已删除的私人微信聊天记录作为处分依据,构成对个人信息的不当使用,不予采信,并判定公司违法解除劳动合同、须支付赔偿金。北京邮电大学谢永江、垦丁律师事务所麻策等指出,企业监控须事先书面告知并遵循合法、正当、必要原则,设备所有权不等于无限监控权。

  8. 国家网信办 · 网信要闻71

    中央网信办等四部门开展为期2个月网络涉军不当营销和炒作信息专项整治

    中央网信办、退役军人事务部、中央军委政治工作部、中央军委政法委员会联合发布通知,从10月份开始集中开展为期2个月的网络涉军不当营销和炒作信息专项整治。整治重点筛查处置10类网站账号,包括虚假发布军考保过、免试入职等营销信息,利用AI生成涉军爽剧、悲情故事,以及散布营区定位、部队番号等敏感信息。

    法律人关切:整治明确将涉军营销、AI编造涉军内容、泄露部队番号与营区定位等列为重点,平台与内容运营方需据此收紧涉军信息审核口径,避免账号被处置。

    实务启示:运营涉军相关账号或提供军考、退役安置咨询的机构,可对照10类重点自查营销话术与内容,停止使用涉军身份、军服形象及敏感信息引流。

  9. 检察日报 · 正义网42

    破解AI治理难题,立法该如何发力?

    面对AI技术“跑得快”与治理“慢半拍”的张力,学界共识是从“出了问题再管”转向“提前把规矩立起来”。当前AI生成模型训练数据合规存在数据来源合法性、个人信息保护与知识产权权利叠加、训练数据质量三方面突出问题。专家指出,中国人工智能立法应在安全层面消除技术风险,在权利层面消解AI与人类的权利冲突,在治理层面制定切实可行的法律规范并开展协同治理。

  10. 中国警察网 · 新闻60

    工信部通报17款APP及SDK侵害用户权益

    工业和信息化部依据《个人信息保护法》《网络安全法》等法律法规,对App、SDK违法违规收集使用个人信息问题开展治理,经第三方检测机构抽查,共发现17款APP及SDK存在侵害用户权益行为并予以通报。上述APP及SDK应按有关规定进行整改,整改落实不到位的将依法依规组织开展相关处置工作。

  11. 国家网信办 · 网信要闻12

    中央网信办“智聚黔中·才启新程”网信人才西部行·贵州站活动在贵阳启动

    “智聚黔中·才启新程”网信人才西部行·贵州站活动10月14日在贵阳启动,中央网信办副主任、国家网信办副主任杨建文出席并讲话,贵州省委常委、宣传部部长卢雍政致辞。活动由中央网信办网络管理技术局、干部局与贵州省委人才办、贵州省委网信办共同主办,安排人工智能赋能贵州高质量发展宣讲会、人工智能系列法规政策宣贯会及网信新技术新应用座谈会等。

  12. EFF · Updates36

    美国国土安全部监察长审计发现 TSA 未妥善保护乘客面部识别数据

    美国国土安全部监察长办公室公布对 TSA 面部识别技术审计的结论摘要,认定该技术在保护乘客数据隐私方面存在“重大缺陷”。审计发现 CAT-2 供应商可在 TSA 不知情的情况下于系统排障和升级期间访问并提取驾照、护照图像等敏感乘客信息,TSA 缺乏明确政策、未追踪数据提取、无法核实已提取信息是否被删除,也未通知信息可能被存储的乘客。

  13. IAPP News22

    面向智能体 AI 时代的溯源设计:从内容真实性转向算法问责

    欧洲数据保护监督局(EDPS)将智能体 AI 描述为能够推理规划、调用外部工具、跨会话保留记忆并协调多个子智能体追求长期目标的系统。文章指出,深度伪造曾推动以水印和内容真实性为核心的内容溯源,但自主系统带来的是"系统做了什么、依据谁的授权"这一真实性问题无法回答的问责难题。溯源重心因此从验证图像像素转向验证 AI 智能体代人行事的行动链、工具调用与授权链条。

  14. IAPP News58

    英国信息专员办公室发布AI模型开发者数据保护预期,与EDPB路径存在差异

    英国信息专员办公室10月8日发布与大型基础模型提供方合作进展的更新,提出对生成式AI模型开发者的数据保护预期,并就agentic AI开放证据征集。其预期涉及透明度、合法性基础、数据主体权利、模型与个人数据、特殊类别数据五个议题,其中特殊类别数据部分与EDPB路径形成对比。

  15. IAPP News50

    GDPR 下 AI 幻觉涉及个人事实时的个人数据与准确性认定

    NOYB 于 2025 年 3 月就 ChatGPT 虚构一名挪威男子杀害两名子女并被判刑的输出,向挪威 Datatilsynet 投诉 OpenAI,该案现由爱尔兰数据保护委员会处理。投诉主张该输出违反 GDPR 第 5(1)(d) 条的准确性原则。文章提出的前置问题是:AI 就可识别个人作出的幻觉陈述是否构成个人数据。

10月14日周三
  1. IAPP News42

    COPPA 并未过时:从隐私法规到儿童安全工具的转变

    美国各州总检察长2026年8月与Meta达成的多州和解,以及FTC同年2月发布的年龄验证技术执法政策声明,显示COPPA正被纳入更广泛的儿童与青少年数字监管框架。FTC将COPPA与《联邦贸易委员会法》第5条下的不公平和欺骗性行为条款并用,在TikTok、Epic Games和Disney等执法行动中同时追究隐私与安全损害。

  2. 金杜律师事务所 · 最新文章46

    具身智能出海的技术贸易必修课——中东篇:沙特本土化与阿联酋A:5组算力合规

    金杜律师事务所文章分析中国具身智能企业进入沙特与阿联酋的技术贸易合规问题:沙特《经济参与政策》将技术转移列为大型进口采购的经济参与义务,本土化压力经政府采购评标、国企供应商体系和国家投资协议层层传导,带来知识产权归属、商业秘密与合资控制权风险。阿联酋于2026年7月10日被美国商务部工业与安全局(BIS)列入A:5国家组,但先进计算物项仍须最终收货人与最终用户均列入“批准实体清单”方可免于许可。

  3. IAPP News20

    智利 AI 治理挑战:AI 系统法案审议中,企业如何以 ISO/IEC 42001 自我治理

    智利 AI 系统法案仍在审议,行政机关宣布将提出替代性修正案替换现行文本,个人数据法施行可能推迟一年。在监管缺位下,企业推进 AI 治理已成战略议题,可优先采用 ISO/IEC 42001 AI 管理体系标准,按“Plan-Do-Check-Act”方法先盘点现有 AI 系统、明确角色责任并取得高层支持。

  4. IAPP News40

    IAPP拉美简报:墨西哥推进儿童和青少年数字保护,SEP发布校园手机使用限制协议

    墨西哥公共教育部(SEP)9月22日在《联邦官方公报》发布《第09/09/2026号协议》,规定自11月3日起,基础教育阶段学生在整个上课日不得使用手机及个人智能电子设备,仅可用于教师事先安排的教学用途;该协议获32个联邦实体教育当局一致通过。高中阶段则推动负责任使用,限制非教学用途。国会多项数字平台监管提案仍在讨论,尚无定稿。

  5. 中伦律师事务所 · 研究文章66

    中伦解读《人工智能安全治理框架3.0》智能体专章:8环节风险与7类防范措施

    2026年9月14日,全国网络安全标准化技术委员会在国家网信办指导下发布《人工智能安全治理框架3.0》,附件2首次设《智能体风险管理框架》,按设计研发至停用下线八个环节梳理风险,提出身份与权限管理、人工审批、运行时管控等七类措施。该框架为技术指导文件,不创设行政许可、备案或民事赔偿义务,但可为企业内控制度与采购合同条款提供参照。

    法律人关切:《框架3.0》属指导性技术文件,不创设行政许可或备案义务,但其中的最小权限、人工审批、日志留存等措施可能成为纠纷中判断注意义务的参考,企业采购智能体时的合同责任分配也需据此调整。

    实务启示:企业可对照附件2梳理智能体可访问数据、可调用工具及执行后果,形成高风险操作清单,并将权限、审批、变更通知、日志与退出安排写入采购合同。

  6. DeepMind17

    DeepMind 发布 Gemini 4 Argon 安全与安保报告,详解前沿模型滥用与失准防护

    DeepMind 开始广泛推送 Gemini 4 Argon,并扩大 Fairwind Program 至更多受信任的网络安全防御方。该模型在模拟网络攻击场景中解出全部 12 个端到端场景(上一代为 5 个),外部生物越狱红队测试仅能解锁不到 1% 的生物子任务。针对滥用与失准,DeepMind 部署输入筛查、激活探针内部审查与实时监控三层防护,并运行自动化失准监控读取智能体动作与思维链。

  7. arXiv cs.CY22

    arXiv:2610.14464:中文内容治理大语言模型的多任务行为审计——阴阳反讽语域与任务操作化对偏见测量的影响

    一项预注册的多任务行为审计发现,中文大语言模型在内容分类任务中的错误率从正式语域的10.9%升至阴阳(反讽)语域的23.5%,风险差为+12.7个百分点(95% CI [+9.7, +15.7])。反讽感知提示使干预组错误率降低9.6个百分点。研究将29个共享命题锚点操作化为三种任务形式,并建议安全评估应将反讽语域纳入测试条件。