医生开错药?AI来提醒!谷歌和UCSF合作开发机器学习模型,高性能预警潜在危险

简介: 医生开错药?AI来提醒!谷歌和UCSF合作开发机器学习模型,高性能预警潜在危险

据统计,每年死于用药失误的人数比死于工伤的人数还要多。

尽管没有医生或者护士愿意犯错,2%的住院病人经历过可能危及生命或造成永久伤害的药物相关事件,而这些都是由于原本可以避免的失误导致的。

用药失误导致医疗失误的因素很多,往往都是由于不完善的系统、工具、流程或工作条件。如今,这一情况有望被AI解决

谷歌健康的机器学习专家与加州大学旧金山分校(UCSF)计算与健康科学部门联合发表了一项新的研究,描述了研究人员建立的一个机器学习模型,该模型可以使用病人的电子健康记录(EHR)作为输入,预测医生正常应该采用的用药模式,从而在实际用药与预测结果不一致时提醒医生

该研究发表在《临床药理学和治疗学》杂志上。

论文地址:

https://ascpt.onlinelibrary.wiley.com/doi/10.1002/cpt.1826

10万病例的300万份处方,训练两种机器学习模型

用于模型训练的数据集包括来自超过10万住院病人的大约300万份药物处方

研究人员使用了回顾性的电子健康记录数据,所有的研究都是使用开源的快速医疗互操作资源(FHIR)格式完成的,之前有研究已经证明使用这种格式使医疗数据对于机器学习更加有效。

同时数据集并不局限于特定的疾病或治疗领域,这使得机器学习任务更具挑战性,但也有助于确保模型可以识别更多种类的情况——例如,脱水患者需要不同于创伤性损伤患者的药物治疗。


为了保护隐私,这些数据已经经过了随机移动日期和删除记录个人隐私数据的处理,包括姓名、地址、联系方式、记录号码、医生姓名、图像等等。

根据这些数据,研究人员训练了两种机器学习模型:一种是长时短记忆(LSTM)递归神经网络模型,另一个是常用于临床研究的规则化、时间序列的逻辑模型

研究人员将这两种模型与一个简单的基准进行比较,该基准根据患者的医院服务(例如,普通内科、普通外科、妇产科、心脏病学等)和入院后的时间长短,对最常使用的药物进行排序。在回顾性数据中,医生每次开出一种药物时,模型对990种可能的药物进行排序,然后研究人员再看模型与医生实际开出的药物处方相吻合。


打个比方,假设一个有感染迹象的病人到达医院,该模型回顾了病人电子健康记录中记录的信息:高温、白细胞数量升高、呼吸频率加快,并估计了在这种情况下不同药物的处方可能性,将模型给出的概率最高的几种药物与与医生实际处方的药物(在这个例子中,抗生素万古霉素和氯化钠溶液)相对比。

一半情况下,实际处方在模型给出的前十结果中

在最后的6383组测试数据中,结果还是比较可靠的。

几乎所有(93%)的情况下,模型给出的药物中排名前10中,都包含至少一种临床医生一天之后实际会开出的药物;

55%的情况下,模型将医生开的所有处方药包括在最有可能的10种处方药中;

75%的情况下,模型将医生开的所有处方药包括在最有可能的25种处方药中;

即使对于“假阴性”(医生要求的药物没有出现在前25位的结果中) ,42%的情况下该模型会将同类药物纳入排名。

这种表现不能用仅仅预测先前处方药的模型来解释,即使我们在应用模型时屏蔽了以前的处方,它仍然保持了高性能。

这对医生和病人来说意味着什么?

值得注意的是,这种方式训练的模型只是对医生的行为的重现,因为它出现在历史数据,模型并没有学到如何开具最佳的处方——这些药物工作机理是什么,或什么副作用可能会发生

然而,学习“正常”的处方是为了最终发现不正常、有潜在危险的处方。研究人员表示,在下一阶段的研究中,他们将检查在什么情况下,这些模型可以发现可能造成伤害的药物误用。

这是一项探索性的工作,结果表明机器学习可以应用于建立防止用药错误,帮助保护患者安全。

究人员表示期待着与医生、药剂师、其他临床医生和患者合作,以量化这样的模型是否能够及时捕捉到用药错误,帮助保证患者在医院的安全。

相关报道:

https://ai.googleblog.com/2020/04/a-step-towards-protecting-patients-from.html



相关文章
|
1月前
|
人工智能
谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密
谷歌和苹果的研究揭示了大型语言模型(LLM)的惊人秘密:尽管LLM能自主识别错误,却在生成答案时装作不知情。这一“幻觉”现象背后,模型内部已编码了关于输出真实性的信息,但其外部表现与内部判断常有矛盾,暴露出LLM在实际应用中的局限性。研究为未来开发更有效的错误检测和缓解策略提供了新思路。论文地址:https://arxiv.org/pdf/2410.02707
68 30
|
4天前
|
人工智能 开发框架 机器人
AstrBot:轻松将大模型接入QQ、微信等消息平台,打造多功能AI聊天机器人的开发框架,附详细教程
AstrBot 是一个开源的多平台聊天机器人及开发框架,支持多种大语言模型和消息平台,具备多轮对话、语音转文字等功能。
293 13
AstrBot:轻松将大模型接入QQ、微信等消息平台,打造多功能AI聊天机器人的开发框架,附详细教程
|
1天前
|
人工智能 安全 数据挖掘
MedRAX:专注于胸部X光检查的AI医学推理智能体,帮助医生快速解读胸部X光片
MedRAX 是一款专门用于胸部X光检查的医学推理AI智能体,整合了多种最先进的分析工具,支持多模态推理和动态任务分解。
39 10
MedRAX:专注于胸部X光检查的AI医学推理智能体,帮助医生快速解读胸部X光片
|
5天前
|
机器学习/深度学习 存储 人工智能
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
MNN-LLM App 是阿里巴巴基于 MNN-LLM 框架开发的 Android 应用,支持多模态交互、多种主流模型选择、离线运行及性能优化。
535 13
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
|
8天前
|
人工智能 IDE 开发工具
使用字节新出的Trae IDE开发一个AI ChatBot(超详细)
Trae是字节跳动推出的一款免费的AI集成的开发环境,集成了Claude3.5与GPT-4o等主流AI模型,提供AI问答、智能代码生成、智能代码补全,多模态输入等功能。支持界面全中文化,为中文开发者提供了高效的开发体验
193 10
使用字节新出的Trae IDE开发一个AI ChatBot(超详细)
|
1月前
|
人工智能 前端开发 程序员
通义灵码 AI 程序员全面上线,能和人类协作完成复杂开发任务
1 月 8 日消息,阿里云通义灵码 AI 程序员已全面上线,成为全球首个同时支持 VS Code、JetBrains IDEs 开发工具的 AI 程序员产品。此次上线的 AI 程序员相比传统 AI 辅助编程工具,能力更全面,可以让开发者以更高效、更沉浸的方式完成编码任务,通过全程对话协作的方式,就能完成从 0 到 1 的业务需求开发、问题修复、单元测试批量生成等复杂编码任务。
347 65
|
29天前
|
人工智能 供应链 PyTorch
TimesFM 2.0:用 AI 预测流量、销量和金融市场等走势!谷歌开源超越统计方法的预测模型
TimesFM 2.0 是谷歌研究团队开源的时间序列预测模型,支持长达2048个时间点的单变量预测,具备零样本学习能力,适用于零售、金融、交通等多个领域。
179 23
TimesFM 2.0:用 AI 预测流量、销量和金融市场等走势!谷歌开源超越统计方法的预测模型
|
29天前
|
人工智能 开发框架 自然语言处理
Eko:一句话就能快速构建复杂工作流的 AI 代理开发框架!快速实现自动操作电脑和浏览器完成任务
Eko 是 Fellou AI 推出的开源 AI 代理开发框架,支持自然语言驱动,帮助开发者快速构建从简单指令到复杂工作流的智能代理。
271 12
Eko:一句话就能快速构建复杂工作流的 AI 代理开发框架!快速实现自动操作电脑和浏览器完成任务
|
5天前
|
机器学习/深度学习 存储 人工智能
预定下一个诺奖级AI?谷歌量子纠错AlphaQubit登Nature,10万次模拟实验创新里程碑
谷歌的量子纠错算法AlphaQubit近日登上《自然》杂志,被誉为量子计算纠错领域的重大突破。量子比特易受环境噪声干扰,导致计算错误,而AlphaQubit通过神经网络学习噪声模式,显著提升纠错准确性。实验结果显示,它在Sycamore处理器和Pauli+模拟器上表现优异,优于现有解码算法。尽管面临资源需求高等挑战,AlphaQubit为实用化量子计算带来新希望,并可能推动其他领域创新。论文详见:https://www.nature.com/articles/s41586-024-08148-8
22 5
|
3天前
|
人工智能 负载均衡 搜索推荐
谷歌发布双思维AI Agent:像人类一样思考,重大技术突破!
谷歌近日推出基于“快慢思维”理论的双思维AI Agent系统,模仿人类大脑的两种思维模式:快速直观的Talker(系统1)和深思熟虑的Reasoner(系统2)。Talker负责日常对话与快速响应,Reasoner则处理复杂推理任务。该系统模块化设计,灵活高效,已在睡眠教练等场景中展现应用潜力,但仍面临工作负载平衡与推理准确性等挑战。论文详情见:https://arxiv.org/abs/2410.08328v1
23 1

热门文章

最新文章