深度学习软件是黑盒子，但医疗行业并不介意使用
2017-04-30 编辑：
今年二月份，斯坦福大学的人工智能专家、前谷歌无人驾驶汽车项目的副总裁Sebastian Thrun及其同事发现，深度学习算法能够诊断的皮肤癌，甚至达到了专业医生的诊断水平。
相关的研究报告发表在了世界顶级科学期刊《Nature》上。但是，该报告仅仅是一部分，这也让我们初步看见了“软件诊断疾病”的新时代：在这里，人工智能辅助医生诊断疾病，甚至与医生相竞争。
在过去几年，深度学习已经在面部识别和对象识别等方面取得了重大突破，这使得像照片，X光片，核磁共振图片都能近乎完美地与深度学习软件相匹配。
一些公司已经开始行动了。去年12月，谷歌的母公司（Alphabet）的生命科学部门Verily与尼康公司（Nikon）联合开发算法去探究糖尿病患者的失明原因。与此同时，放射学领域产生了大量的详尽的图片，也因此被称为“医药硅谷”。
黑盒子医疗
尽管Thrun团队的预测精度极高，但是，没有人清楚深度学习是如何分辨癌变组织的。这就是医学版的深度学习“黑盒子”问题。
传统的计算机视觉软件遵循着既定的规则，这一点与深度学习软件不同。深度学习能够自己找到规则并进行学习，但是这通常也带来了麻烦——不能检测跟踪其学习过程，使得它所做出的决策难以解释。
专注于卫生法研究的密歇根大学的法律学者Nicholson Price说：“在这种情况下，医生不知道将会发生什么，黑盒子本质就是不透明的。”
但是，Price并不认为这会给医疗行业造成严重障碍。他将深度学习比作药物。有些时候，我们并不知道药物治愈疾病的完整机制，但并不影响药物给我们带来的好处。锂元素就是一个例子，它影响心情的准确生物机制目前尚未弄清楚，但含锂的药物仍然被批准用于治疗相关疾病。一直以来，阿司匹林都是世界上使用最广泛的药物，但阿司匹林治愈疾病的机制在过去70年仍未被完全理解。
Price也表示，“黑盒子问题”不会给美国食品和药物管理局（FDA）造成问题，如果深度学习软件要用于治疗和防御疾病，它必然会受到FDA的监管。
FDA在一份声明中表示，在过去20年，它已经批准了许多基于模式识别、机器学习和计算机视觉技术的图像分析程序。FDA也证实它正在看到更多的深度学习软件问世，并允许这些公司的算法细节被保密。
FDA已经给至少一种深度学习算法开了绿灯。
1月份，FDA批准了由Arterys（一家位于旧金山的私人医疗成像公司）开发的销售软件，Arterys的算法叫“DeepVentricle”，用于分析心室内部轮廓的MRI图像，并计算患者心脏可以保持和泵送的血液体积。Arterys说，该软件能在30秒内完成计算，而传统的方法通常需要花费一小时。
FDA要求Arterys进行大量的测试以确保算法的结果能与医师的诊断结果相媲美。该公司的首席技术官ohn Axerio-Cilies表示：“你需要在统计学上证明，你的算法符合它所有的预期用途以及实现其正在承诺的市场声明。”
大的需求量
为了训练他们的软件，Thrun领导的团队将129405张经专家评估过皮肤状况的图片喂入软件系统。这些图片覆盖了2032种不同的疾病，包括了确定为皮肤癌的1942张图像。最终，该软件在识别患有皮肤癌的任务中战胜了21位皮肤科医师。
该研究论文的另一名作者、斯坦福大学的皮肤科医师Robert Novoa说：“当皮肤科医生看到这种技术的潜力时，我认为他们大多数都会喜欢这种技术。”他和团队其它成员都拒绝透露是否打算将该软件商业化。
纪念斯隆凯特琳癌症中心（Memorial Sloan Kettering Cancer Center）的皮肤科医师兼国际皮肤数字成像学会（International Society for Digital Imaging of the Skin）会长的Allan Halpern表示，担忧医生不久将会失业的想法都是不恰当的。他认为算法能够推动皮肤病学服务的迅速提高。
这是因为筛查测试中呈阳性的样本仍需进行活检。Halpern说，深度学习软件能够在初级保健机构发挥作用，但是，如果要将其作为全民的筛查测试，或者是通过向消费者提供此应用程序，这还没有足够的皮肤科医生跟踪可疑的情况。
Axerio-Cilies表示，一些公司将会受此激励而直接向消费者提供深度学习的诊断工具。例如，人们可以利用这些工具来扫描他们身上的痣（moles），然后决定是否他们应该去看皮肤科医生。也有一些非AI的手机应用程序，如Mole Mapper，已经能够跟踪并记录人们身上可疑的痣。
然而，Halpern说，他认为消费者还没有准备好使用深度学习诊断系统，因为这些系统可能会用不确定的概率（如显示消费者患癌的概率为5%，也可能是50%……）来描述消费者患癌的可能性，这种方式会让他们感到不适。
- END -
编辑：Steven
参考：https://www.technologyreview.com/s/604271/deep-learning-is-a-black-box-but-health-care-wont-mind/?set=604280
「DeepTech深科技」招募全球记者、采编。申请加入：hr@mittrchina.com
DeepTech深科技战略合作伙伴：
相关阅读：
相关推荐：