因果推断笔记——双重差分理论、假设、实践（四）

雨点打透心脏的1/2处 2022-09-07 15:58 283阅读 0赞

### 文章目录 ###

*  1 双重差分 - difference-in-difference -DID 理论与假设
 *   *  1.1 DID介绍
     *  1.2 使用时需要满足的假设
 *  2 DID + PSM 差异与联用
 *   *  2.1 DID / PSM差异
     *  2.2 解决平行趋势假设：DID+PSM连用（最常用）
 *  3 三重差分（Difference-in-differences-in-differences, DDD）
 *  3 相关实现案例
 *   *  3.1 快手使用DID模型
     *  3.2 淘系用户增长注意点

--------------------

# 1 双重差分 - difference-in-difference -DID 理论与假设 #

## 1.1 DID介绍 ##

本节参考：  
[因果推断综述及基础方法介绍（一）][Link 1]  
[双重差分法（DID）的原理与实际应用][DID]

> 【3.0章节】 中随机实验有提到，ATE = E(Yi|Ti=1)−E(Yi|Ti=0)的前提是T⊥(Y(1),Y(0))，  
> 也就是干预与Y是独立的、无因果、非内生  
> 那如果不符合这个条件应该怎么办？  
> 有一个比较老且基础的方法是双重差分法，也就是差分两次。

> 另外的特点：
> 
>  *  在一定程度上减轻了选择偏差和外因带来的影响；
>  *  不同于往常基于时序数据的分析，双重差分利用的是**面板数据**。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70]  
或者：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 1]

这张图讲得非常清楚，首先为什么我们不能用ATE = E(Yi|Ti=1)−E(Yi|Ti=0)，举个 ，我们给一些人发权益，另一些人不发，我们怎么能知道权益带来的购买效果是怎么样的呢？简单的方法就是给发权益的人购买数加和，不发权益的人购买数加和，然后两个加和相减就好啦，但是如果这两部分人本来不发权益的时候购买数就不一样呢？

那就减两次，从上图来说：

*  \*\*第一次差分：\*\*我们把这两群人发权益之前t0的购买数相减，得到一个差值，相当于这两群人的固有差距
 *  \*\*第二次差分：\*\*再把这两群人发权益之后t1的购买数相减，相当于这两群人被权益影响之后的差距

后面的差距减去前面的差距，就会得到权益对于差距有多少提升（降低），以此作为权益的effect。

这个方法的问题在于有个比较强的假定是，`趋势平行`，也就是要求t0到t1之间，两群人的购买概率变化趋势是一样的（图中那个平行线），这其实是一个很强的假设，所以这个方法我个人来讲不算非常认可。

## 1.2 使用时需要满足的假设 ##

双重差分法的计算过程很简单，即实验组干预前后的均值的差减去对照组干预前后均值的差。  
但若希望得到的结果是准确的，对应的样本数据需要满足下面三个假设：

*  **线性关系假设**：该假设来自于线性回归，认为因变量（Treatment）与结果变量存在线性关系
 *  **个体处理稳定性假设**（The Stable Unit Treatment Value Assumption，SUTVA）  
    个体的outcome是取决于个体干预变量treatment的一个函数，该假设由两部分组成
    
     *  一致性（Consistency）：个体接受处理后所导致的潜在结果是唯一的。  
        例：我养狗了会变开心，无论是什么狗、不存在因为狗是黑的就不开心
     *  互不干预（No interference）：个体接受处理后导致的潜在结果不受其他个体处理的影  
        例：我在淘宝上领到了红包之后会更愿意买东西，不因为我同事也领了红包就意愿降低了
 *  **平行趋势假设（Parallel Trend Assumption）**  
    定义：实验组和对照组在没有干预的情况下，结果的趋势是一样的。即在不干预的情况下，前后两个时间点实验组与对照组的差值一致。

# 2 DID + PSM 差异与联用 #

## 2.1 DID / PSM差异 ##

[DID, PSM 及 DID+PSM 有何差异？DID 要假定不可观测效应随时间变化趋势相同？][DID_ PSM _ DID_PSM _DID]

*  DID: difference in difference, 双重差分；
 *  PSM: propensity score matching, 倾向评分匹配；
 *  DID(PS)M: difference in difference (propensity score) matching, 双重差分（倾向评分）匹配

**一个比较简单的差异对比版本：**

*  DID是比较四个点，Treated before, treated after; control before, control after。
 *  Matching是比较两个点：Treated, control
 *  DID＋Matching是用matching的方法来确定treated和control。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 2]  
**适用范围：**

*  **DID：** 适合面板数据，从全部效应中剔除“时间趋势”（姑且勉强称之为时间趋势，即未经政策影响的自然变化，其影响因素是不可观测的，或者说不能穷尽）的影响，此时我们需要一个控制组去衡量这一“时间趋势”，数据前提要求为面板数据。
 *  **PSM：** PSM更加适用于截面数据，或者将面板数据作为截面数据来处理；PSM实际上寻找与处理组尽可能相似的控制组样本，当协变量维度比较多的时候，借助probit或logit模型（分组虚拟变量对协变量进行回归），将多维的协变量信息通过倾向得分（概率拟合值，scalar）来刻画。
 *  **PSM+DID：** DID的一个最重要的前提是平行趋势假设，如果不满足，控制组就不能作为实验组的反事实结果。此时，可以借助PSM的方法，构造一个与实验组满足平行趋势的控制组，接下来按照DID的方法去做就可以了。此时，有同学可能会问，PSM已经构造了一个控制组样本组合，为什么还要多此一举，再加一个DID上去。  
    PSM需要控制尽可能多的控制变量，以使分组变量完全随机，`而对于有一些变量，一方面不可观测，另一方面又不随时间而改变`，此时就可以使用PSM+DID的方法。

## 2.2 解决平行趋势假设：DID+PSM连用（最常用） ##

[双重差分法（DID）的原理与实际应用][DID]

具体PSM的实现过程可见：[因果推断笔记——python 倾向性匹配PSM实现示例（三）][python _PSM]

*  目的：从干预的人群和未干预的人群里找到两批人符合平行趋势假设
 *  业务理解：在这两个人群里找个两批同质的人（该场景下的同质：在treatment维度上有近似表现的- 人）
 *  例子：在探究领取红包对用户购买行为影响的场景下，对用户领取红包的倾向做预测（打分），认为分数相近的用户是matching、即同质的。圈选出分数相同的用户之后再验证平行趋势假设。

完成PSM后数据会呈现一些规律（如图所示）：

*  干预人群与非干预人群的score分布 —— 匹配后分布一致
 *  抽样后人群在一些画像（如年龄、性别、职业）上的分布会更接近

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 3]  
这里后台的操作步骤是，为treatment1 找到哪些比较贴近的样本：

*  数据量本身就会减少，只筛选与T=1 相似的那部分样本

那么这里的PSM起到了一个，筛选指定样本的功能。同理在一些比赛中，也可以使用，作为训练集 / 测试集分布鉴定的方式。

# 3 三重差分（Difference-in-differences-in-differences, DDD） #

[双重差分法（DID）的原理与实际应用][DID]

定义：再做一次双重差分消除实验与对照组差异带来的增量，剩下的即干预带来的增量。

三重差分的概念比较抽象，这里通过一个例子来说明：

*  背景：假设淘宝针对杭州的学生（实验组）发放红包，其他人不发。如果想衡量红包带来的转化增量，直观的会选用杭州的非学生作为对照组。但由于学生和非学生的购买力和趋势本身具有差异，此时平行趋势假设无法满足。
 *  解决方案：此时我们可以引入一个其他的城市，譬如宁波。计算宁波学生与非学生的DID，可以认为这里的DID是来自于人群差异的增量；最后我们用杭州的DID减去宁波的DID则得到发红包带来的净效应。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 4]  
注 ：使用三重差分法时，红线与绿线、紫线与橙线间仍需满足平行趋势假设。（这也是DDD不常用的原因）

# 3 相关实现案例 #

## 3.1 快手使用DID模型 ##

同一对象的同一干预treatment，前、后两个时间段的差异,

> 关键假设是，政策干扰前存在平行趋势，且实验干扰效应不随时间变化。  
> 双重差分可以用来消除那些对后期可能存在干扰因素，得到实验效果估计。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 5]  
快手的升级方案：分不同类型进行分项评估  
用户的行为会发生变化，且不同用户的行为是不一致的，当不同表现用户都在实验组，传统的DID模型估计实验效应会产生偏差。  
按照用户的状态是否更改分为不同类型，对不同类型用户分别做DID估计，再进行加权平均，得到修正后DID实验效果值。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 6]

## 3.2 淘系用户增长注意点 ##

[双重差分法（DID）的原理与实际应用][DID]  
当随机分流的量级不一致时，也可能会导致不同质，因为量级越大存在多个user\_id对应一个自然人的情况越多，会影响user\_id粒度的指标统计；  
对于一般的AB分流，我们可以通过分流后两组人群在性别、年龄等属性上分布的相似度来检验同质性。

[Link 1]: https://zhuanlan.zhihu.com/p/258562953
[DID]: https://zhuanlan.zhihu.com/p/400085535
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70]: /images/20220829/99db940401ca4d8fa4e50cf463c150d7.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 1]: /images/20220829/59904733bea54620b303a34561fab84a.png
[DID_ PSM _ DID_PSM _DID]: https://www.zhihu.com/question/35528132
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 2]: /images/20220829/fbeb016396b94a97b38b4224d99f6013.png
[python _PSM]: https://blog.csdn.net/sinat_26917383/article/details/119887208
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 3]: /images/20220829/61dd182816eb4b23bce343bb511c77e8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 4]: /images/20220829/4ada4fd929ed4b3883a71b6d1b52a6f0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 5]: /images/20220829/d0e2c468134c4225873e63ae51248e0a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NpbmF0XzI2OTE3Mzgz_size_16_color_FFFFFF_t_70 6]: /images/20220829/22e76483a528405e8083d4aeda8fe022.png