从药物研发到诊断等方面，医疗卫生企业正在接受人工智能，但围绕隐私、数据和人工智能“黑盒子”的挑战依然存在。
人工智能有望彻底改变医疗卫生行业，从药物研发、诊断，再到医疗保健服务，一直到开具发票和会计工作等。据埃森哲咨询公司(Accenture)称，到2021年，人工智能医疗市场将达到66亿美元，到2026年人工智能医疗将为该行业每年节省1500亿美元。
但要实现这一目标，各个组织需要克服对该技术的不信任，应对集成挑战，并处理好隐私和安全问题。
总部位于波士顿的Beacon Health Options公司为所有50个州的4000多万人提供行为健康治疗，当该公司第一次采用人工智能来改善治疗工作时，面临着所有这些挑战。
“Beacon是美国最大的专注于行为健康的公司，”该公司执行副总裁兼首席增长官Christina Mainelli说。“严重的精神疾病和药物滥用—这是在医疗保健工作中我们目前正在处理一些非常非常相关的问题。”
Mainelli表示，Beacon Health公司正在使用人工智能来识别那些最需要帮助的患者，并为他们提供必要的干预措施。以下将阐述Beacon Health公司和其他组织如何应对医疗行业内所独有的人工智能挑战。
黑盒子难题
对于医疗卫生组织而言，对人工智能的最大担忧是很难理解为何该系统会做出一项决策。一个错误就意味着生与死的区别。这就是人工智能的“黑盒子”问题。
英特尔公司负责健康与生命科学总经理詹妮弗·埃斯波西托(Jennifer Esposito)表示，英特尔最近对医疗卫生组织的200名决策者进行了调查，黑盒子问题(即对人工智能缺乏信任)是一个突出的障碍。特别是，30%的受访者表示他们最担心的是人工智能出现致命错误。
“我认为现在还没有解决黑盒子问题的方法，”她说。
尽管如此，37%的受访者表示他们已经在使用人工智能，超过一半的受访者表示他们将在未来五年内采用人工智能。最令埃斯波西托感到惊讶的是，人工智能最普遍的应用是临床用途，77%的受访者在医疗卫生行业中采用人工智能。
当Beacon Health公司开始推出其人工智能风险评估系统时，也面临着这个信任问题。该组织采取了三管齐下的方法来解决这个问题。
首先，由临床医生、技术专家、操作人员、社区医疗服务人员和其他利益相关者组成的多学科团队汇集在一起，从已知的因素开始，为人工智能制定一些基本准则和算法。
“我们知道哪些变量会促使那些高风险人群入院或发生精神病类事件，”Beacon Health公司的Mainelli说。
但是，虽然人类在做出决定时可以考虑七到十个因素，但人工智能可以同时考虑数千个因素，而在非结构化数据被输入后，其考虑的因素甚至更多，她说。
然后该团队进行实验。首先，他们选择一个历史时间段，并对该数据运行已创建的算法，以确定该算法是否能准确预测这些患者入院的频率或患者发生精神病类事件的频率。
“我们发现，当我们使用人工智能后，我们的预测准确度会提高220%，”她说。
一旦人工智能被用于识别高危患者，该团队就可以考虑使用潜在的干预措施，并跟踪观察所推荐采取的干预措施。
“经过验证，患者确实从我们的干预措施中获益，然后我们可以将其作为业务模式的一部分进行部署，”Mainelli说。
与Beacon Health公司一样，“匹兹堡大学医学中心”通过让临床医生和管理人员参与到创建算法的过程来解决人工智能系统的“黑盒子”难题。
该医院首席临床分析官奥斯卡·马罗金(Oscar Marroquin)表示：“我们不能指望一群数据科学家会孤立地开发出一些模型，然后让所有一线的人员立即开始使用。”他补充说，让临床医生参与其中会让他们对这些模型有一种主人翁感。
该医院目前有五个人工智能驱动模型在工作，还有60个其他项目正在进行中。该医院还将增加已使用的模型的复杂性。其应用范围包括预测患者再入院日期以及利用特定条件的算法来预测患者发生哮喘、充血性心力衰竭和腰痛的后果。
“结果非常好，”他说。但该医院从一开始就意识到改变行为并不容易。“让人员参与到整个过程中有助于他们了解数据的优缺点以及与使用这些数据相关的复杂性，这有助于获得临床医生的支持。”
解决信任问题的另一种方法是说明该系统是如何做出决定的。例如，在医学成像中使用人工智能。
在“马萨诸塞州总医院”(Massachusetts General Hospital)和“布里格姆和妇女医院临床数据科学中心”(Brigham and Women’s Hospital Center for Clinical Data Science)，人工智能自2016年起就被用于解释放射学图像。
“我们将热图放在图像顶部，以帮助读者了解机器在查看什么内容，”该中心执行董事Mark Michalski说。
这使用户可以轻松决定对该系统的信任程度。
他说，对于人工智能的其他应用，攻克可解释性难题并不容易。
例如，该中心最近开始使用机器学习来回答一些操作性问题，例如需要多少张床，以及有关人口健康的问题，例如患者重新入院的可能性。
他说，这些决策是基于电子健康纪录(HER)数据，因此需要考虑的变量有限，该系统可以显示对某个特定预测影响最大的特定因素，这在多数情况下会提高用户对人工智能预测的满意度。
事实上，一个潜在的问题是对该系统的过度信任，因为人们很容易对这一系统太过满意。
“我们希望人们不断了解这些系统是如何以它们的方式工作，”他说。“我认为，从我的角度来看，最可怕的一个问题--这将是最大的挑战之一--就是持续验证和安全测试。”
凌乱的数据和遗留系统
人工智能以数据为基础。在医疗卫生领域，这些数据可能非常混乱，当使用人工智能时会产生复杂的问题。
“常规的机器语言和人工智能系统以固定长度的特征向量作为输入量，以进行预测，而在医疗卫生领域中存在的并非是结构化的关系数据库，而是非结构化数据，例如医疗系统中的图像和注释，”卡内基梅隆大学的健康信息学助理教授杰里米·韦斯(Jeremy Weiss)说。
处理医疗卫生数据的人工智能技术供应商需要为这些格式的数据做好准备。
“我们经常在行为健康服务机构里面对各种非结构化数据，例如案例说明和调查数据，”Beacon Health公司的Mainelli说道，他对该组织在选择供应商的方式印象深刻，这家供应商Cyft位于马萨诸塞州剑桥市，能够处理所有不同格式的数据。
Beacon Health公司已经与外部合作伙伴展开合作，将数据发送到Cyft公司，然后再以可用的数据形式返回，这已不再是问题，因为这种方式可能适合于许多医疗卫生组织。
“当(高危患者)名单返回给我们时，”Mainelli说，“我们可以将其整合到我们的患者管理系统中—这些名单被输入到我们的护理协调系统，从而这就成为临床医生工作流程的一部分。”
Beacon Health公司接下来计划将第三方数据(例如药房记录)纳入其人工智能分析计划。
卡内基梅隆大学的韦斯说，这可能是一个更大的挑战。“各机构缺乏协议和政策的标准化可能会导致更多的数据集成问题。”
但是，全世界正在采取措施使医疗信息标准化，这可能会有所帮助。
例如，在美国，联邦政府已颁布了电子健康纪录(HER)标准。
Healthy Nevada Project项目由Renown Health非盈利组织和沙漠研究所(Desert Research Institute)发起，采用赛仕软件公司(SAS)的人工智能技术，这是一项利用电子健康纪录绘制内华达州居民健康状况的医疗保健计划。
“我们正在使用分析建模和统计机器学习技术来研究各种问题--手术室中的团队动力，预测病人无法如约就诊的情况，预测急诊部工作负荷，仅列举几例，”该项目的首席数据科学家吉姆·梅特卡夫(Jim Metcalf)说。“所有这些分析均基于电子健康纪录数据。”
他说，美国各地的医院和医疗机构正在开展类似的工作。
“仅基于电子健康纪录数据，数据科学家正在创建统计模型，以识别最有可能发生感染性休克患者或患有未确诊的高血压患者或出院后再入院的患者，”他说。“凭借这种洞察力，我们可以为个人提供前所未有的个性化医疗服务。”
隐私和安全
在患者隐私和安全方面，医疗卫生行业是最受监管的行业之一。人工智能因其需要大量数据而备受关注。
对于Beacon Health公司来说，这意味着要选择完全符合HIPAA标准的供应商，以便数据能以安全的方式进行处理。
“这一级别的认证是进入这一行业的门槛，”Mainelli说。
在新兴的医疗卫生人工智能市场中，健康数据隐私问题正在以几种不同的方式处理。某些供应商(如Cyft公司)会对数据进行加密，以确保仅拥有相应权限的人员才能查看数据。
其他供应商正在考虑对数据进行匿名化或标记化，以便人工智能系统永远不会看到任何个人可识别信息。第三种方法是在本地执行所有处理工作，这样数据永远不会离开该医疗卫生组织。
例如，VisualDx公司最近发布了一种基于人工智能的诊断工具DermExpert，用于识别皮肤状况。该应用程序安装在iOS移动设备上，医生会对患者的皮疹进行拍照并立即进行评估，而无需将任何数据传输到第三方或云端。
该应用程序是人工智能在医疗卫生领域应用的另一个趋势：它可使非专家(如家庭医生、急诊室和紧急护理医生)能够进行初步诊断。
人工智能带来的最大挑战
Beacon Health公司的Mainelli说，使用人工智能面临的最大挑战不是技术，而是如何调整业务以充分利用它。
“你将如何使用人工智能来降低护理成本，并改善患者的治疗效果?”她说。“这是一种新的经营方式。”
对于希望采用类似技术路线的其他组织，她建议首先要清楚地了解需要解决的问题，以及如何使用人工智能所提供的洞察力。
“如果你不对数据进行处理，那么你就不会获得巨大的价值，”她说。
然后从小处开始，并快速迭代。
“在医疗卫生领域利用人工智能才刚刚开始，”她说。“我认为它创造了一个难以置信的机遇，不仅仅影响到那些患有严重精神疾病或药物滥用的人，而且还会影响到总体医疗费用。”
