ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价
ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价

所有课程

高级机器学习系统中的因果推断
章节 1: 结构因果模型与识别策略
因果结构模型回顾
高级图形表示:有向无环图
干预演算规则及应用
标准条件之外的识别
因果图中循环和反馈的处理
识别假设的敏感性分析
实践:应用识别逻辑
章节 2: 高级因果发现方法
基于约束的发现算法:PC、FCI 算法的延伸
基于分数的发现算法:GES、LiNGAM
因果结构发现:使用干预数据
从异构数据中进行因果发现
评估因果发现算法表现
因果关系判定中的潜在变量处理
动手实践:实现发现算法
章节 3: 高维数据下的因果效应估计
双重机器学习用于平均治疗效果
因果森林与异质效应
CATE估计的元学习器
深度学习在效应估计中的应用
高维混杂因素的处理方法
CATE 估计器的验证与校准
实践:DML和因果森林的实现
章节 4: 应对未观测混杂与选择偏差
进阶工具变量(IV)方法
深度学习与核方法用于工具变量
回归不连续性设计 (RDD)
差中差法 (DiD) 与面板数据
调整选择偏差修正方法
近端因果推断原理
实践操作:工具变量 (IV) 与回归不连续设计 (RDD) 分析
章节 5: 时间数据与动态系统的因果推断
时间序列因果推断的难点
格兰杰因果关系:表述与局限
结构向量自回归 (SVAR)
动态治疗方案及其估计
时间序列因果发现方法
因果强化学习与离策略评估
实践:时序因果分析
章节 6: 机器学习流水线中的因果推断实践
特征工程和选择中的因果原则
因果关系感知模型开发
运用因果思路评估机器学习模型
运用因果推断改进 A/B 测试
监控机器学习系统的因果稳定性
为MLOps设计因果推断组件
动手实践:构建因果分析驱动的管道

近端因果推断原理

未观察到的混杂因素 UUU 的存在对估计因果效应 P(Y∣do(T=t))P(Y|\text{do}(T=t))P(Y∣do(T=t)) 构成了一个重要障碍。像工具变量 (IV) 这样的方法依赖于找到一个变量,它影响处理 TTT,但不直接影响结果 YYY(除了通过 TTT),并且与 UUU 无关。回归不连续性 (RDD) 和双重差分 (DiD) 利用特定的分配机制或数据结构。近端因果推断 (PCI) 在这些条件不满足但存在合适的“代理”变量时,提供了一种识别因果效应的替代途径。

由 Miao, Geng 和 Tchetgen Tchetgen (2018) 提出,PCI 提供了一个框架来识别因果效应,即使当 TTT 和 YYY 共享一个未观察到的共同原因 UUU 时,前提是我们能观察到两个满足特定条件独立性质的代理变量 WWW 和 ZZZ。

近端推断的逻辑

核心思想是找到充当未观察到的混杂因素 UUU 的不完美代表或代理的变量。具体来说,我们需要:

  1. 一个处理代理 (WWW):一个受 UUU(或相关因素)影响的变量,它影响处理 TTT,但在已知 TTT、UUU 和任何观察到的混杂因素 XXX 的情况下,不提供关于结果 YYY 的额外信息。
  2. 一个结果代理 (ZZZ):一个受 UUU(或相关因素)影响的变量,它影响结果 YYY,但在已知 UUU 和 XXX 的情况下,不提供关于处理 TTT 的额外信息。

重要的是,与 IV 中的工具不同,这些代理 WWW 和 ZZZ 可以受 UUU 混淆。它们的用处在于它们如何将 UUU 与观察到的变量 TTT 和 YYY 联系起来。

图形表示

在最简单的 PCI 设置中(其中也存在观察到的混杂因素 XXX)所假设的关系可以使用有向无环图 (DAG) 可视化:

一个有向无环图,说明了近端因果推断中的核心关系。未观察到的混杂因素 UUU 影响处理 TTT、结果 YYY 以及代理 WWW 和 ZZZ。重要的是,WWW 仅通过 TTT 影响 YYY(在考虑 UUU 之后),并且 ZZZ 仅通过 UUU 影响 TTT。观察到的混杂因素 XXX 也可以影响 TTT 和 YYY。

识别假设

PCI 下的正式识别依赖于以下条件独立性假设,通常被称为“近端条件”或“桥接函数”假设(假设 XXX 代表已调整的观察到的混杂因素):

  1. 结果桥接(使用 Z): Y⊥W∣T,U,XY \perp W \mid T, U, XY⊥W∣T,U,X。 这意味着在给定处理 TTT、未观察到的混杂因素 UUU 和观察到的混杂因素 XXX 的情况下,处理代理 WWW 与结果 YYY 独立。这表示 WWW 与 YYY 的关联完全通过 (T,U,X)(T, U, X)(T,U,X) 传递。

  2. 处理桥接(使用 W): T⊥Z∣U,XT \perp Z \mid U, XT⊥Z∣U,X。 这意味着在给定未观察到的混杂因素 UUU 和观察到的混杂因素 XXX 的情况下,结果代理 ZZZ 与处理 TTT 独立。这表示 ZZZ 与 TTT 的关联完全通过 (U,X)(U, X)(U,X) 传递。

这些假设基本表明 WWW 是 UUU 对 TTT 影响的“充分代理”(在给定 XXX 的条件下),并且 ZZZ 是 UUU 对 YYY 影响的“充分代理”(在给定 T,XT, XT,X 的条件下)。

识别策略

这些假设如何帮助识别 P(Y∣do(T=t),X=x)P(Y|\text{do}(T=t), X=x)P(Y∣do(T=t),X=x)?直观上,涉及代理变量的观察到的条件分布包含了足够的信息来重构未观察到的 UUU 的影响。

考虑给定处理 TTT、结果代理 ZZZ 和观察到的混杂因素 XXX 的结果 YYY 的分布,表示为 p(y∣t,z,x)p(y|t, z, x)p(y∣t,z,x)。这可以通过对未观察到的 UUU 进行边际化来表示:

p(y∣t,z,x)=∫p(y∣t,u,z,x)p(u∣t,z,x)dup(y|t, z, x) = \int p(y|t, u, z, x) p(u|t, z, x) dup(y∣t,z,x)=∫p(y∣t,u,z,x)p(u∣t,z,x)du

使用条件独立性假设(具体来说,Y⊥W∣T,U,XY \perp W \mid T, U, XY⊥W∣T,U,X 在某些条件下意味着 p(y∣t,u,z,x)=p(y∣t,u,x)p(y|t,u,z,x) = p(y|t,u,x)p(y∣t,u,z,x)=p(y∣t,u,x),类似地 T⊥Z∣U,XT \perp Z \mid U, XT⊥Z∣U,X 有助于简化 p(u∣t,z,x)p(u|t, z, x)p(u∣t,z,x)),PCI 理论表明目标因果效应 p(y∣do(t),x)=∫p(y∣t,u,x)p(u∣x)dup(y|\text{do}(t), x) = \int p(y|t, u, x) p(u|x) dup(y∣do(t),x)=∫p(y∣t,u,x)p(u∣x)du 可以通过解一个积分方程组来识别。

具体而言,识别通常依赖于求解两个第一类 Fredholm 积分方程。令 q(y∣t,x)=p(y∣do(t),x)q(y|t,x) = p(y|\text{do}(t),x)q(y∣t,x)=p(y∣do(t),x) 为目标量。该理论表明了如下关系:

p(y∣z,t,x)=∫K1(z,u,t,x)p(y∣t,u,x)dup(y|z, t, x) = \int K_1(z, u, t, x) p(y|t, u, x) dup(y∣z,t,x)=∫K1​(z,u,t,x)p(y∣t,u,x)du p(t∣w,x)=∫K2(w,u,x)p(t∣u,x)dup(t|w, x) = \int K_2(w, u, x) p(t|u, x) dup(t∣w,x)=∫K2​(w,u,x)p(t∣u,x)du

其中 p(y∣t,u,x)p(y|t, u, x)p(y∣t,u,x) 和 p(t∣u,x)p(t|u, x)p(t∣u,x) 就像未知函数,而 K1,K2K_1, K_2K1​,K2​ 是涉及 UUU 分布的核。PCI 展示了如何在某些条件下使用观察到的分布 p(y∣z,t,x)p(y|z, t, x)p(y∣z,t,x)、p(t∣w,x)p(t|w, x)p(t∣w,x) 和 p(z∣w,x)p(z|w, x)p(z∣w,x) 来求解必要的组成部分,最终重构 p(y∣do(t),x)p(y|\text{do}(t), x)p(y∣do(t),x)。

这种数学机制有效地将 WWW 和 ZZZ 用作“桥梁”,在不直接观察 UUU 的情况下,解释 UUU 的混杂效应。

与工具变量的比较

将 PCI 与 IV 进行对比很有启发性:

  • IV: 要求一个工具 III,使得 I→TI \rightarrow TI→T,I↛YI \not\rightarrow YI→Y(除了通过 TTT),且 I⊥UI \perp UI⊥U。工具必须与未观察到的混杂因素独立。
  • PCI: 要求代理 W,ZW, ZW,Z,使得 U→W→TU \rightarrow W \rightarrow TU→W→T 和 U→Z→YU \rightarrow Z \rightarrow YU→Z→Y,满足条件独立性假设 Y⊥W∣T,U,XY \perp W \mid T, U, XY⊥W∣T,U,X 和 T⊥Z∣U,XT \perp Z \mid U, XT⊥Z∣U,X。这些代理依赖于未观察到的混杂因素。

PCI 本质上是用近端条件独立性假设来替代 IV 的外生性假设 (I⊥UI \perp UI⊥U)。这在难以找到真正外生工具的场景中可能具有优势,但可能存在满足桥接条件的与 UUU 相关的变量。

实际考量

尽管理论上优雅,应用 PCI 带来实际挑战:

  • 寻找合适的代理: 识别能够合理地满足条件独立性假设的变量 WWW 和 ZZZ 是最大的障碍。这通常需要大量的领域知识。例如,可能包括:
    • 在推荐系统中:UUU 是用户意图,TTT 是商品推荐,YYY 是购买。WWW 可以是用户搜索历史(与意图相关,影响推荐),ZZZ 可以是花费在产品页面上的时间(与意图相关,影响购买)。
    • 在医疗保健中:UUU 是疾病严重程度,TTT 是治疗选择,YYY 是结果。WWW 可以是初步测试结果(与严重程度相关,指导治疗),ZZZ 可以是次要症状表现(与严重程度相关,影响结果)。
  • 估计: 求解所得积分方程通常需要灵活的非参数 (parameter)或机器学习 (machine learning)方法,例如核方法、筛法估计或神经网络 (neural network)。开发稳定和高效的估计器是一个活跃的研究方向。可以查看像 CausalPy 这样的库或特定的研究实现以获取可能的工具。
  • 假设敏感性: 识别的有效性完全取决于近端假设。由于 UUU 未被观察到,这些假设无法直接从数据中验证。因此,进行敏感性分析,查看当假设在不同程度上被违反时结果如何变化,非常重要。

结论

近端因果推断在存在未观察到的混杂因素的情况下,为因果推断工具箱提供了一个有价值的补充。与 IV、RDD 或 DiD 相比,它在不同的假设下运行,依赖于合适代理变量 WWW 和 ZZZ 的存在。尽管寻找此类代理并进行估计可能具有挑战性,PCI 为传统方法可能不适用的复杂系统中的因果效应识别提供了可能性。了解其原理使您作为一名专业的实践者,在机器学习 (machine learning)应用中面对隐藏偏倚时,能够考虑更广泛的策略。

  • Identifying Causal Effects with Proxy Variables, Wang Miao, Zhi Geng, Eric J. Tchetgen Tchetgen, 2018 Biometrika, Vol. 105 (Oxford University Press) DOI: 10.1093/biomet/asy024 - 首次介绍近端因果推断框架的原始论文。
  • Proximal Causal Learning: A New Paradigm for Causal Inference in the Presence of Unmeasured Confounding, Eric J. Tchetgen Tchetgen, Wei Miao, 2021 Annual Review of Statistics and Its Application, Vol. 8 (Annual Reviews) DOI: 10.1146/annurev-statistics-040220-104938 - 对近端因果推断的调查和扩展,包含近期进展。

© 2026 ApX Machine Learning