患者痛不欲生，但AI说：别给她开止疼药

爱被打了一巴掌 2022-09-08 03:56 135阅读 0赞

因为严重痛经入院，在医嘱下注射阿片类药物（Opioid）以缓解痛苦。

结果入院四天后，就突然被AI告知：

> 你将不会再接受任何阿片类药物。

然后就抱着尚未被消除的病痛，立即“被出院”了。

这就是2020年7月份，32岁的Kathryn所遭遇的情况。

而更让她无法理解的是，两周后，长期保持联系的妇科医生突然又向她声明：要终止他们之间的关系。

一番查证之后，Kathryn最终发现——

源头竟来自她的两只宠物狗？

## **宠物狗生病让主人被禁止买药** ##

其实，在住院期间，Kathryn在被告知“不能再使用阿片类药物”时，工作人员同时也表示：

> 你完全没有意识到自己的图表中有多高的分数。

当时的Kathryn并不明白“图表”和“分数”是什么意思。

而两周后她的医生送来的终止关系的声明中，又有这样一段描述：

> （关系的终止）来自NarxCare数据库中的一份报告。

或许这里提到的**NarxCare**和之前所说的“图表分数”有关？

Kathryn和她周围的人都没有听过这个名字，于是她马上去Google了一下：

![c86d2ad93b39886e52ebb68032aebfe9.png][]

原来，这是一个面向医生、药店和医院的分析工具和护理管理平台。

NarxCare可以利用AI算法对病患的处方药数据进行统计和分析，最终得到一个风险报告。

它主要使用来自**国家药品登记处**的数据。

除此之外，医疗索赔数据、电子健康记录、 EMS 数据和刑事司法数据也在使用范围之内。

NarxCare会通过机器学习算法对这些数据进行统计和分析，最终得到一个预测模型。

根据这一模型，每位患者都会得到一个属于自己的的“处方药使用风险评估报告”：

![e345f9a30a878f14406c71a9582b7262.png][]

如果评分过高，就有可能被认为是有药物滥用情况，从而被拒绝出售相关处方药。

但这仍然不能解决Kathryn的疑惑：

她所患有的子宫内膜异位症导致了常年的生理病痛，因此她确实有长期服用阿片类药物的习惯。

但这一切都是在医生指导下所开的处方药啊，怎么突然就被叫停了？

在与各种论坛上的慢性疼痛病患者的交流之后，Kathryn最终找到了这场意外的源头。

而结果让她感到无比离奇——

原来，Kathryn的两只宠物狗，都曾因疾病而服用过大量的阿片类药物、苯二氮卓类药物，甚至巴比妥类药物：

![2ab32b3e2344d35afc79e254bdea53df.png][]

由于代谢原因，狗狗们所服用的剂量会高出人类。

**而买药的全部流程挂的都是主人，也就是Kathryn的名字。**

因此，Kathryn去过的药店数量、去医院的路程，以及她收到的处方药组合，全都被NarxCare记录了下来。

她的宠物狗们的服药经历，全都算到了她的头上。

## **美国处方药监控项目** ##

这场非常荒谬的意外，或许是由于平台算法的缺陷所导致的。

不过让Kathryn更在意的是另外一点：

这样一个暗中收集处方药数据的项目，她和身边的大多数人从来都没听过。

谁允许的？

其实，这是来自过去20年内，美国已投入了数十亿美元的**处方药监控项目**：

![3845d1a135f5796b7f94d908867f9dfc.png][]

司法部一直在致力于开发和维护州级处方药数据库。

他们希望通过这一电子登记系统实时跟踪某些受管制药物的药方，密切关注制药市场。

现在，几乎美国的所有洲都有一个这样的处方药监控项目（PDMP）。

而在过去的几年里，一家名为**Appriss**的公司慢慢主导了这些州处方数据库的管理。

NarxCare，就是Appriss公司旗下的产品。

Appriss希望通过NarxCare所产生的报告来帮助处理药物滥用情况，并辅助医生进行更好的诊断决策。

在目前的美国，几乎每个州都会要求医生和药剂师在开具处方药的同时，咨询和参考NarxCare中的医疗信息，否则就有可能被吊销执照。

而对于Kathryn这样的例子，Appriss则表示：

> 宠物狗提高了主人的评分，这是一个非常罕见的例子。

但不论这是怎样的一个卡夫卡式的发展，对于现在的Kathryn来说，每次进入药店时，总能有人看到她过去的那些“图标和分数”。

她对此表示：

> 这让我感到我走入的不是药店，而是宗教审判所。

## **不公开的专利算法** ##

而像是Kathryn这样的例子并不少见。

她在慢性疼痛患者论坛中，就曾遇到一位拥有相似经历的女士。

在对医生进行自我介绍之前，就先被要求披露自己为什么长期服用阿片类药物。

回答了自己患有PTSD后，还被要求进一步解释精神创伤的原因。

而目前NarxCare并不需要获得FDA的批准，这也让一些医学专家提出了质疑：

> 它（NarxCare）是一种专有的算法，既没有学术界的同行评审，也没有政府监管。

![31f33dd8d656c5e37c39f5952dc408ee.png][]

NarxCare用于过量风险评估的算法并不对外公开。

不过根据官网的一些已有的资料，我们可以了解它们大致的思路：

在得到来自处方药监控项目的大量数据，并开发了一个大的变量集后，再将数据分解为一个训练集和一个测试集。

有了训练数据之后，算法就开始将服药过量和未服药过量的模式进行对比。

比如，如果某位病患拥有同一医生开出的三张阿片类处方药，那么他的药物滥用风险就远远低于三位不同医生开出处方药的病患。

在这种重复的对比和学习中，最终就得到了一个用于评估病患风险的预测模型。

![46cd86d739d3b4ed07806015b4b59692.png][]

这一算法近年来在生命的多个领域得到了广泛应用。

比如，常常被用来预测哪些病人最有可能从特定的治疗中受益，并估计ICU病人出院后恶化或死亡的可能性。

但也就像很多人说的那样，NarxCare并不透明，没有办法从底层去检查它们是否存在错误或偏见：

> 有很多病人并没有意识到他们正在被测量分析。

![9ee15fe66de44fd0ee96b6c1efa4d69e.png][]

甚至不仅是病患，连使用这一辅助临床决策系统的医生也无法完全知晓它的原理。

就像是亲身体会的Kathryn所说的那样：

> 对于大多数美国人来说，这是一个 **秘密**的信用评分系统。

参考链接：  
\[1\][https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/][https_www.wired.com_story_opioid-drug-addiction-algorithm-chronic-pain]  
\[2\][https://twitter.com/Annaleen/status/1425493523076304898][https_twitter.com_Annaleen_status_1425493523076304898]

NarxCare官网：  
[https://apprisshealth.com/solutions/narxcare/][https_apprisshealth.com_solutions_narxcare]

—完—

[c86d2ad93b39886e52ebb68032aebfe9.png]: /images/20220829/4f0ae410c2d244d3a559401d9b76ef49.png
[e345f9a30a878f14406c71a9582b7262.png]: /images/20220829/ca55f140525b475aaf4ad77678d405b7.png
[2ab32b3e2344d35afc79e254bdea53df.png]: /images/20220829/34910afe923f43a092961be981f9e53f.png
[3845d1a135f5796b7f94d908867f9dfc.png]: /images/20220829/0cd01ca5d58c4e41ba2b93fcb8e9f9f8.png
[31f33dd8d656c5e37c39f5952dc408ee.png]: /images/20220829/8c967581f03d46bcb458643c3af28fc9.png
[46cd86d739d3b4ed07806015b4b59692.png]: /images/20220829/1e1649fce22749f094bd395ce89d0dbc.png
[9ee15fe66de44fd0ee96b6c1efa4d69e.png]: /images/20220829/6626523beaa24deebb8a223f38a9e377.png
[https_www.wired.com_story_opioid-drug-addiction-algorithm-chronic-pain]: https://link.zhihu.com/?target=https%3A//www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/
[https_twitter.com_Annaleen_status_1425493523076304898]: https://link.zhihu.com/?target=https%3A//twitter.com/Annaleen/status/1425493523076304898
[https_apprisshealth.com_solutions_narxcare]: https://link.zhihu.com/?target=https%3A//apprisshealth.com/solutions/narxcare/