美国这州试点“AI医生”，真人医生们坐不住了

围绕人工智能(AI)医生的交锋已经展开，而犹他州正处于这场争议的最前线。

这一切始于初创公司Doctronic的技术。今年1月，犹他州启动了一项试点项目，允许该公司的AI服务为患者续开处方，希望借此提高患者获取药物的便利性。

犹他州的任何成年人都可以登录该系统，续开降胆固醇药物或抗抑郁药等处方。一旦全面铺开，该项目将开创一个先河：让一款AI产品自主完成这项通常由人类医生担任的工作。

“人们对药物的反应有时关乎生死，”家庭医生艾伦·史密斯(Alan Smith)说，“此外，我也担心责任归属问题。如果因为续开处方出了事，到底该由谁来承担责任？”史密斯也是犹他州医疗委员会主席，但他表示此番言论并非代表该委员会。

包括史密斯在内，该州医疗执照委员会的大多数成员签署了一封联名信，以安全为由呼吁叫停该项目。他们指出，Doctronic的工具尚未经过充分审查，且开具处方本身就暗藏风险——药物不仅会产生副作用，也可能已经不适合继续服用。犹他州医学会(Utah Medical Association)表示赞同信中观点。

负责监督该试点项目的州政府官员回应称，该医疗委员会对该项目没有管辖权，但官方会征询该委员会的意见。

围绕AI医生的争论早已超出了犹他州范围。纽约州议员正在审议一项法案，旨在禁止聊天机器人行使执业医生的职能；与此同时，特拉华州已通过法律，明令禁止向AI技术提供医生或护士执照。

过敏症专科医生乔纳森·奥尔森

另一方面，艾奥瓦州和爱达荷州的议员在今年春天提出议案，拟为自主AI服务设立新的临床执照。智库Cicero Institute一直在推动此类立法，认为这有助于人们应对医生短缺带来的困难，也能鼓励创新。该智库由Palantir Technologies联合创始人乔·朗斯代尔(Joe Lonsdale)资助。

犹他州通过一个特殊的监管沙盒启动了该项目，旨在测试极具潜力的新技术。州政府官员表示，该项目拥有完善的保障措施，包括采取分阶段实施的策略。在初始阶段，所有AI开具的处方都必须先由人类医生审核才能配药，州政府官员也会评估该技术的表现。上个月，该州对项目进行了微调，包括对某些处方实施新的限制。

该项目的最终目标，是让AI能够完全自主地续开处方。

根据犹他州上个月发布的Doctronic相关数据，该AI系统批准了72%的续开处方申请，其余申请则因需要化验等问题被转交给了人类医生。在AI批准续开的处方中，审核医生的认同率达91%，另外9%则被认为需要更多信息。随后会有第二位医生复核。最终，在AI批准的处方中，被两位审核医生共同否决的只占3%。

过敏症专科医生乔纳森·奥尔森(Jonathan Olsen)表示，这3%的否决率究竟意味着什么，目前尚无定论，部分原因是这些审核医生并非独立于Doctronic，外界对他们的背景和专业领域也并不清楚。Olsen也是犹他州医疗委员会成员，但他同样表示此番言论不代表该机构。

奥尔森称这项技术就是“一个黑匣子”。人类必须接受医学院教育、通过执照考试并完成住院医生培训才能成为医生。“但对于AI，我们完全没有类似的机制。”

该医疗委员会计划于周四再次讨论该试点项目，届时将听取外部专家的意见。

在《新英格兰医学杂志》(New England Journal of Medicine)和《英国医学杂志》(BMJ)等顶级医学期刊上撰文的研究人员也与犹他州的医生们共同表达了担忧。他们指出，Doctronic尚未发布有关其AI续方流程的研究报告，也没有获得美国食品药品管理局(Food and Drug Administration, 简称FDA)的批准。如果某项技术被认定为医疗设备，FDA将负责对其进行监管。

FDA的一名发言人表示，各州负责规范医疗行为并监管医疗执照。“一款产品是否被归类为医疗设备，取决于FDA对该特定产品的具体事实和情况的评估，”她说。

美国医学会(American Medical Association)已广泛反对用AI取代医生。

“这确实引发了人们对‘滑坡效应’的担忧。一开始是开处方，接下来会不会突然变成由AI来做诊断检查？”美国医学会首席执行官约翰·怀特(John Whyte)说，“医疗决策复杂且微妙，这是医患关系的根基。”

Doctronic表示，其AI系统使用的是由医生制定的临床指南，并且负责审核续方申请的医生会进行独立判断，且具备相应的专业背景。这家总部位于纽约的公司将与一家独立研究机构合作，在同行评审期刊上发表其在犹他州试点项目的结果。

“有大量的医疗工作是基于证据、基于规则、基于算法的，”血管外科医生、Doctronic联合首席执行官亚当·奥斯科维茨(Adam Oskowitz)说，“AI系统非常擅长遵循这些规则。”

负责监督该处方项目的犹他州商务部(Utah Department of Commerce)官员表示，该项目仅涵盖有限的药物清单，如百忧解(Prozac)和立普妥(Lipitor)。目前项目仍处于第一阶段，即在配药前必须由人类医生对每张处方进行审核。

“我们在设计这个项目时非常谨慎，”犹他州人工智能政策办公室(Office of Artificial Intelligence Policy)主任扎克·博伊德(Zach Boyd)说。他表示，该机构已要求Doctronic为其AI技术购买医疗事故保险，尽管相关的法律问题可能是前所未有的，“但总的来说，他们需要承担常规的法律责任。”

该医疗事故保险由商业责任保险提供商Beazley提供。Beazley的一名发言人对此不予置评。

博伊德表示，到目前为止尚未发生“令人担忧的重大安全事件”，但该州仍没有足够的数据将项目推进至下一阶段。在下一阶段，AI续开的处方无需医生批准即可直接发送至药房，事后再接受审核。根据该项目的设计，第一阶段预计将至少持续到每类药物的处方数量达到250张为止。