医生开错药?AI来提醒!谷歌和UCSF合作开发机器学习模型,高性能预警潜在危险

简介: 医生开错药?AI来提醒!谷歌和UCSF合作开发机器学习模型,高性能预警潜在危险

据统计,每年死于用药失误的人数比死于工伤的人数还要多。

尽管没有医生或者护士愿意犯错,2%的住院病人经历过可能危及生命或造成永久伤害的药物相关事件,而这些都是由于原本可以避免的失误导致的。

用药失误导致医疗失误的因素很多,往往都是由于不完善的系统、工具、流程或工作条件。如今,这一情况有望被AI解决

谷歌健康的机器学习专家与加州大学旧金山分校(UCSF)计算与健康科学部门联合发表了一项新的研究,描述了研究人员建立的一个机器学习模型,该模型可以使用病人的电子健康记录(EHR)作为输入,预测医生正常应该采用的用药模式,从而在实际用药与预测结果不一致时提醒医生

该研究发表在《临床药理学和治疗学》杂志上。

论文地址:

https://ascpt.onlinelibrary.wiley.com/doi/10.1002/cpt.1826

10万病例的300万份处方,训练两种机器学习模型

用于模型训练的数据集包括来自超过10万住院病人的大约300万份药物处方

研究人员使用了回顾性的电子健康记录数据,所有的研究都是使用开源的快速医疗互操作资源(FHIR)格式完成的,之前有研究已经证明使用这种格式使医疗数据对于机器学习更加有效。

同时数据集并不局限于特定的疾病或治疗领域,这使得机器学习任务更具挑战性,但也有助于确保模型可以识别更多种类的情况——例如,脱水患者需要不同于创伤性损伤患者的药物治疗。


为了保护隐私,这些数据已经经过了随机移动日期和删除记录个人隐私数据的处理,包括姓名、地址、联系方式、记录号码、医生姓名、图像等等。

根据这些数据,研究人员训练了两种机器学习模型:一种是长时短记忆(LSTM)递归神经网络模型,另一个是常用于临床研究的规则化、时间序列的逻辑模型

研究人员将这两种模型与一个简单的基准进行比较,该基准根据患者的医院服务(例如,普通内科、普通外科、妇产科、心脏病学等)和入院后的时间长短,对最常使用的药物进行排序。在回顾性数据中,医生每次开出一种药物时,模型对990种可能的药物进行排序,然后研究人员再看模型与医生实际开出的药物处方相吻合。


打个比方,假设一个有感染迹象的病人到达医院,该模型回顾了病人电子健康记录中记录的信息:高温、白细胞数量升高、呼吸频率加快,并估计了在这种情况下不同药物的处方可能性,将模型给出的概率最高的几种药物与与医生实际处方的药物(在这个例子中,抗生素万古霉素和氯化钠溶液)相对比。

一半情况下,实际处方在模型给出的前十结果中

在最后的6383组测试数据中,结果还是比较可靠的。

几乎所有(93%)的情况下,模型给出的药物中排名前10中,都包含至少一种临床医生一天之后实际会开出的药物;

55%的情况下,模型将医生开的所有处方药包括在最有可能的10种处方药中;

75%的情况下,模型将医生开的所有处方药包括在最有可能的25种处方药中;

即使对于“假阴性”(医生要求的药物没有出现在前25位的结果中) ,42%的情况下该模型会将同类药物纳入排名。

这种表现不能用仅仅预测先前处方药的模型来解释,即使我们在应用模型时屏蔽了以前的处方,它仍然保持了高性能。

这对医生和病人来说意味着什么?

值得注意的是,这种方式训练的模型只是对医生的行为的重现,因为它出现在历史数据,模型并没有学到如何开具最佳的处方——这些药物工作机理是什么,或什么副作用可能会发生

然而,学习“正常”的处方是为了最终发现不正常、有潜在危险的处方。研究人员表示,在下一阶段的研究中,他们将检查在什么情况下,这些模型可以发现可能造成伤害的药物误用。

这是一项探索性的工作,结果表明机器学习可以应用于建立防止用药错误,帮助保护患者安全。

究人员表示期待着与医生、药剂师、其他临床医生和患者合作,以量化这样的模型是否能够及时捕捉到用药错误,帮助保证患者在医院的安全。

相关报道:

https://ai.googleblog.com/2020/04/a-step-towards-protecting-patients-from.html



相关文章
|
11月前
|
人工智能 安全 API
20 万奖金池就位!Higress AI 网关开发挑战赛参赛指南
本次赛事共设三大赛题方向,参赛者可以任选一个方向参赛。本文是对每个赛题方向的参赛指南。
748 77
|
11月前
|
人工智能 运维 安全
加速智能体开发:从 Serverless 运行时到 Serverless AI 运行时
在云计算与人工智能深度融合的背景下,Serverless 技术作为云原生架构的集大成者,正加速向 AI 原生架构演进。阿里云函数计算(FC)率先提出并实践“Serverless AI 运行时”概念,通过技术创新与生态联动,为智能体(Agent)开发提供高效、安全、低成本的基础设施支持。本文从技术演进路径、核心能力及未来展望三方面解析 Serverless AI 的突破性价值。
|
11月前
|
人工智能 运维 Java
Spring AI Alibaba Admin 开源!以数据为中心的 Agent 开发平台
Spring AI Alibaba Admin 正式发布!一站式实现 Prompt 管理、动态热更新、评测集构建、自动化评估与全链路可观测,助力企业高效构建可信赖的 AI Agent 应用。开源共建,现已上线!
8618 126
|
人工智能 自然语言处理 前端开发
产品经理也能“开发”需求?淘宝信息流从需求到上线的AI端到端实践
淘宝推荐信息流业务,常年被“需求多、技术栈杂、协作慢”困扰,需求上线周期动辄一周。WaterFlow——一套 AI 驱动的端到端开发新实践,让部分需求两天内上线,甚至产品经理也能“自产自销”需求。短短数月,已落地 30+ 需求、自动生成 5.4 万行代码,大幅提升研发效率。接下来,我们将揭秘它是如何落地并改变协作模式的。
1551 37
产品经理也能“开发”需求?淘宝信息流从需求到上线的AI端到端实践
|
11月前
|
人工智能 IDE 开发工具
从6人日到1人日:一次AI驱动的客户端需求开发实战
从6人日到1人日:一次AI驱动的客户端需求开发实战
从6人日到1人日:一次AI驱动的客户端需求开发实战
|
11月前
|
人工智能 小程序 开发者
【一步步开发AI运动APP】十二、自定义扩展新运动项目03
继【一步步开发AI运动小程序】后,我们推出新系列【一步步开发AI运动APP】,助开发者打造高性能、优体验的AI运动应用。本文详解自定义扩展运动分析器的统一管理实现,提升代码复用性与可维护性,涵盖APP与小程序插件差异及完整代码示例,助力AI运动场景深度拓展。
|
11月前
|
人工智能 Cloud Native 自然语言处理
拔俗AI智能体服务开发:你的7x24小时数字员工,让企业效率飙升的秘密武器
在“人效为王”时代,企业面临服务响应慢、成本高、协同难等痛点。阿里云AI智能体以自主决策、多模态交互、持续学习三大引擎,打造永不疲倦的“数字员工”,实现7×24小时高效服务,助力企业降本增效、驱动创新增长。(238字)
687 0
|
11月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
2431 97
|
12月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
1911 86
|
11月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
968 30