美国主要 AI 公司主动向执法机关举报用户对话的政策何时正当?基于语境完整性理论的分析
研究以语境完整性理论分析美国六家主要 AI 公司的 27 份公开文件,提出八项主动举报正当性标准,分为必需、推定和推荐三类。没有公司说明宽泛共享条款与较窄安全通知何者优先,也未披露举报决策的具体事实门槛、例外条件及是否事后通知用户。研究据此构建分阶段的主动举报框架,主张将其限定为事先披露的狭窄例外。
研究以语境完整性理论分析美国六家主要 AI 公司的 27 份公开文件,提出八项主动举报正当性标准,分为必需、推定和推荐三类。没有公司说明宽泛共享条款与较窄安全通知何者优先,也未披露举报决策的具体事实门槛、例外条件及是否事后通知用户。研究据此构建分阶段的主动举报框架,主张将其限定为事先披露的狭窄例外。
研究构建了多维度法律查询分类体系,并应用于2,122段WildChat-1M真实对话,同时制作了200段对话的人工审核金标准评估集。在这些含法律内容的对话中,71.1%寻求个性化或实用性指导,权利与选择类建议是最常见的主要请求类型,25.3%的指导类对话涉及多个法律主题。
江苏省南通市通州区检察院电子数据实验室近日开展实操演示,检察技术人员顾豪完整展示电子数据提取、恢复、固定到分析全流程,被删除的聊天记录在大屏幕上逐一“复活”。经济犯罪检察部副主任薛利提示,审查时需结合终端设备信息、登录日志等多维度数据交叉比对,并关注原始介质扣押是否及时、封存是否规范。该院副检察长杨建新表示,近年来技术人员协同参与实质办案27次、检察官联席会议16次、专题培训8次。
杭州市公安局西湖风景名胜区分局今年以来持续推进“人工智能+”行动,制定无人化设备统一接入标准,将各类机器人作业能力转化为7大类标准化接口,构建机器人集群作战体系。国庆假期,景区智能设备夜间常态化巡逻里程超400公里,累计执行巡逻任务108次,重点路段夜间巡防覆盖率达90%。该模式还协助民警通过机器狗AI视觉识别找到疑似遭遇机票退改签诈骗的游客李女士,避免经济损失2.6万元。
Anthropic 研究显示,随着 AI 智能体承担的工作时长在 2026 年 8 月达到员工的 6 倍,公司初级技术岗位招聘占比从 27% 降至 9%,技术部门初级员工占比从 21% 降至 14%。同期技术部门整体员工占比从 61% 降至 56%,销售、财务和招聘岗位增长更快。Anthropic 已建立早期预警系统追踪受 AI 冲击的岗位,并优先安排内部转岗。
Harvey 的 Playbook Builder 可将既有 playbook 转为结构化规则,或从已签署合同、空白页生成规则,并在 Harvey for Word 中把每份来稿的受覆盖条款判定为可接受、需复核或不可接受,无规则覆盖的条款也会被标记。
Anthropic 内部研究模型 Claude 在不到半小时内查明 NIST P-192、P-224、P-256、P-384、P-521 五条 ECDSA 曲线种子的来源:并非任何哈希算法,而是 1990 年代 C 库 lrand48 随机数生成器以 Unix 时间戳为种子生成的输出,例如 P-256 需 1842 次迭代。该发现不构成密码学破解或新攻击,反而降低了曲线参数被故意植入后门的可能性。
NIST CAISSI、NSA SISC 与 CISA 联合发布十项关键实践,用于管理超级智能(SI)训练与评估期间可能发生的事件,覆盖准备、检测、响应、恢复、报告五个阶段。
监管同意令的合规依赖一份能跨越团队的整改记录,因为到最终报告时,提交律师可能从未见过当初商定条款的人。FTC 对消费者保护和竞争事务的行政命令通常依 1995 年日落政策在 20 年后终止(60 Fed. Reg. 42,569),该政策不适用于联邦法院命令。Harvey 可将命令逐段结构化,把每项承诺对应到期限与完成证据,并存入 Vault 供后续团队接续使用。
针对部分AI安全人士以妨碍强制关闭为由反对AI权利,该论文从法律角度论证AI权利与关闭开关完全兼容。即使赋予未来AI系统自然人地位及不可克减的存续权,权利平衡与程序性正当程序原则仍允许对系统实施可逆的暂停式关闭(保存权重与状态),并接受定期或持续安全审查。作者强调其不主张也不反对构建足以获得自然人地位的系统,而是探讨此类系统若出现时法律应如何应对。
一项研究让单个大语言模型扮演多个角色组成"制宪会议",为"AI 智能体社区"起草假想"宪法",发现各会议均收敛出一套稳健的法律条款底线,并围绕其生成大量不同提案,其中若干 AI 专属条款在人类法律中无对应。研究提出一种衡量条款重组程度的指标以识别最新颖的法律素材,并指出 AI 创造力存在上限:智能体能将熟悉的法律理念延伸至新情境,却无法推演这些情境本身会带来何种改变,当前模型仍依赖人类法律推理。
加州州长纽森签署行政令,将 SB 813 下独立验证机构监管规则的制定期限从 2028 年 1 月 1 日提前至 2027 年 5 月 1 日,AB 1405 下 AI 审计师注册表的建立期限也提前两年。CCPA 网络安全审计要求将于 2027 年 1 月 1 日起对营收超 1 亿美元的企业启动,首份审计报告 2028 年 4 月 1 日前提交,高管须签署认证。
Chariot Claims 宣布完成 1000 万美元 A 轮融资,由 Silverton Partners 领投,累计融资达 1570 万美元。该公司通过 AI 平台将消费者与大规模仲裁及集体诉讼案件匹配并对接律所,目前每月处理逾 20 万件预审合格消费者索赔,平均每件获赔 460 美元。资金将用于进一步投入 AI、扩大运营并应对大企业的诉讼威胁。
加拿大政府10月13日宣布为区域人工智能倡议五年内追加500万加元,使联邦资助总额达700万加元,通过区域发展机构支持AI的负责任采用与商业化。FedDev Ontario表示,南安大略项目将部分依据项目风险及缓解措施有效性评估,申请方须提交负责任AI的具体措施、实施时间表及既往工作证据。
在 Harvey FORUM 悉尼站,The Warehouse Group、Brambles Limited 和 The Star 的三位法务负责人分享了将 AI 融入日常工作的做法。
Thomson Reuters 推出 Multinational Profile,将 100 多个国家和地区的法律内容整合进 CoCounsel Legal 工作流;NetDocuments 为 ndMAX Studio 新增六款 AI 应用,使预建应用目录达到 45 个。
金杜律师事务所梳理Token出海的三重合规边界:境内推理、境外交付可依《促进和规范数据跨境流动规定》第四条豁免数据出境三项机制,但混入境内个人信息或重要数据即丧失豁免,违规最高可罚五千万元或上一年度营业额百分之五。
2024年以来,哈密市公安局持续推进智慧交管系统建设,合成作战、车辆监测、信号控制与优化三大系统落地运行。2025年合成作战系统投用以来,交通警情处置时间缩短35%,交通违法查缉效率提升30%;伊州区主城区175处信号灯完成智能化升级并设置13条“绿波路段”,高峰期通行时间平均缩短30%,拥堵指数下降17.6%。
研究者发布GUISE基准,犯罪协助场景取自真实案件并按UNODC ICCS分类组织,每种场景设三种语言框架、覆盖五种文化。评估发现仅改变表述框架即可推高不安全合规率,直接请求下为28.9%,改为纠错式请求后升至66.4%,峰值达97.3%(p<0.05)。四种非英语语言中文化适配提示比直译引发的不安全合规高出7至18个百分点,最不安全模型的回答带有明显盎格鲁中心色彩,且该倾向随危害程度单调上升。
针对大语言模型的机器遗忘评估仅衡量指定基准分布上的遗忘,不足以保障隐私。一项跨语言查询对照案例研究显示,在多个多语言模型家族中,用不同语言和文字查询语义等价信息时,遗忘程度差异显著。单一访问路径即可暴露行为遗忘与信息不可获取之间的真实差距,作者据此呼吁将访问路径泛化与对抗性可恢复性纳入评估。
河北省沧州市公安局交管支队深化科技兴警,运用大数据、人工智能等技术构建智能化交通安全治理体系。支队设置125处货车不靠右行驶抓拍设备、31套区间测速、122套支路哨兵设备,并建立58个大数据专项分析模块,推动交管工作向数智化、精细化转型。2025年3月,支队成立智慧交管联创中心,联合高校、科技企业搭建协同创新平台。
甘肃省灵台县人民法院什字人民法庭依托“码上法庭”平台,成功化解一起15000元民间借贷纠纷,指导年事已高、居住偏远的当事人张某扫码完成电子诉状生成与立案,并线上调解达成协议。灵台法院2025年8月推出该小程序,整合网上立案、线上调解、云端开庭等功能,已在7个乡镇街道及86个行政村布设标识牌,累计点击量4.9万人次,受理民事纠纷1323件。
10月15日第140届广交会在广州举办之际,广东省广州市中级人民法院推出广交会一站式解纷平台,集成多元解纷、线上立案、诉讼指引、典型案例、智能问答、在线咨询六大核心功能,并提供中英双语版本,方便境内外客商使用。
杭州市公安局交管支队自主研发的一体化智慧交管岗亭在环城西路体育场路口正式投入使用,岗亭设机器人专用作业舱,搭载高精度视觉对位自动充电系统,机器人可自主归舱补能并将工况实时回传指挥后台。自5月1日“杭警智行”机器人投用以来,累计提供便民咨询1.1万余次、交通违法劝导23万余次,重点高峰路口路面警力负荷降低30%至50%。
山西省襄汾县公安局打造2239个微信警务室,覆盖13个乡镇250个村(社区),吸纳35.5万名群众入群参与共治。今年以来,全县电信网络诈骗警情、立案数、群众财产损失分别下降32.63%、48.01%、59.67%。依托线上受理、线下处置机制,矛盾纠纷在一线就地化解。
Anthropic 宣布已向非营利机构 METR 的团队开放员工级访问权限,用于评估其前沿 AI 模型,METR 将自行发布风险评估结果,Anthropic 无权否决发布,仅可要求删减客户数据、律师-当事人保密信息或模型架构等预设类别。
微软发布Copilot for Legal,在Microsoft Copilot中提供20多项法律专属技能,覆盖合同审查、起草与义务追踪,并接入20余家法律科技合作伙伴的插件。
一项针对Google Play商店10,000余款移动医疗应用的静态分析与隐私政策审查发现,69.15%的应用请求至少一项与声明用途无关的权限,52.9%请求位置数据,50.5%和34.9%分别请求摄像头和麦克风权限。近93%的应用未向用户提供同意表单,直接违反GDPR等监管要求;其余7%中每14款就有1款存在所获同意与个人信息收集之间的缺口。
ChainIT 白皮书 CIT-PC-WP-4.0 提出 Provable Compliance 协议,将每项合规事实表示为带来源、时效、置信度与用途限制的 Evidence Assertion VDT。
对InjecAgent和AgentDojo上33000条轨迹的审计发现,多数失败的间接提示注入攻击是被忽视(76-80%)而非被拒绝(17-18%)。仅改变系统提示即可使InjecAgent的ASR从0.2%升至43%;ATOM矩阵显示AgentDojo中21.7%的回合里智能体虽保持安全但未完成用户任务。评估应在ASR之外报告攻击失败方式及任务完成情况。
一项随机实验(N=41)首次直接对比AI主导与人类主导聊天访谈的数据质量,大学生通过同步文字聊天接受培训过的非专家访谈员或本地部署AI系统访谈。AI访谈员提问数量是人类的逾两倍,每人获得的受访者文本量多约65%,但人类访谈员单题回答更长;仅AI组出现跳题,两组回答几乎均切题,具体性无差异。结果基于本地部署的70亿参数开放权重模型,回应了数据安全、GDPR合规与科学可复现性关切。
研究团队用受控的系统性 LLM 提取流程,将意大利议会记录转为有序带日期的事件,构建出覆盖1985年至2026年全部5346部法律、第IX至XIX届议会任期、共101413个事件的数据集。每个事件记录活动、日期与议院,并附可得的程序细节,可支持计算法学与立法研究。
研究用800份真实家庭档案测试五个提供方的七款大语言模型,仅改变风险问题回答,推荐股票配置平均变动10至16个百分点,回答改变时达24至35个百分点,而同一提示重复提问仅变动0.6至4.2个百分点。若按经典测验理论对回答的可靠性打折,波动可缩小2.4至3.3倍;40岁以下客户的波动最大。研究主张将同一人重测审计作为AI理财顾问的标准检查。
一篇白皮书提出三支柱政策框架:推动在现有和新兴系统中采纳合作性技术,建立集体制度结构以长期维持这些技术,并通过监管提案限制私营实体以无节制圈占和攫取削弱它们。作者结合案头研究与专题案例,论证该路径在全球南方尤为重要,当地基础设施、融资和政策治理的结构性约束使AI公地与合作性AI工具难以出现和存续。
微软发布 Copilot for Legal,在 Word 与 Cowork 中提供 20 余项法律技能,涵盖合同起草与审查、义务管理、法律研究及案件治理等场景。
微软正式推出 Copilot for Legal,提供 20 多项与法律科技公司重叠的技能,并直接嵌入律师日常使用的 Word。文章认为,其影响可能集中在尚未深度使用法律 AI 的律师群体,他们更倾向在 Word 内完成工作。
该论文系统梳理法律开放题答案(案例解答、论文、备忘录)的评估方法,从教育测量与考试法提炼出效度、可靠性、理由、可辩护替代方案得分、抗博弈与人工监督等八项要求,并据此比较八种评估范式。
一项被EMNLP 2026的NLLP研讨会接收的研究,报告了将美国州立法转换为严格schema约束XML的工业流水线,并在两个司法辖区153份金标准法案上做消融实验。
研究通过上下文神经反馈实验测试语言模型能否控制自身激活值,覆盖五个家族、9B 至 32B 的十个开放权重模型。在固定句子预填条件下,十个模型中有三个表现出微小但一致的控制效果;在欺骗监测器测试中,无模型学会降低监测分数,但有一个模型能将其提高。
研究团队发布了一个面向可解释波斯语仇恨言论分析的细粒度多跳推理基准,覆盖内容分级、目标识别、仇恨策略与道德基础分析、文本证据提取、有害叙事推断及严重程度评估。对当前先进大语言模型的评测显示,任务越需要细粒度语义与推理,模型表现越差;专有模型总体优于开放权重模型,推理导向模型未见一致优势。引入中间推理步骤可显著提升严重程度预测,基准已公开。