技术与的前提 医疗AI隐忧如何解？

在亚里斯多德绝不必奠定药理讲授基础的2400年后，计算机科讲授的出现显然给药理讲授造成史上最大的同样。专家预测，到2024年，AI照护将是一个近200亿美元的零售商。计算机科讲授上半年视为照护实践的福音，必需强简化诊断功效、提供个性简化病人，并失灵将来的公共照护不确定性。即便如此，该高效率即使如此引发了一系列棘手的道德难题。当AI系统对决断失误时但会出现哪些缺陷？如果只不过的话，该谁专责？临床眼科医生如何检验甚至探究AI“物证”的章节？他们又该如何避免AI系统对的有色人种主义并保障病人防火墙？2018年6月，美国药理讲授但会（AMA）披露了首个关于如何整合、运用于和抑制计算机科讲授的指南。值得注意的是，该协但会将计算机科讲授叫做“augmented intelligence”（智能简化提升），而非我们广泛忽视的“artificial intelligence”。这表明，美国药理讲授但会忽视计算机科讲授的作用是提升而非取代眼科医生的指导工作。虽然AMA在指南之前声称，计算机科讲授应该设计用于定位和解决有色人种主义、保证弱势群体需求、付诸操作过程透明性并保障病人防火墙，但在具体实施之前，这些要求无法受益满足。表列出是药理讲授从业者、学术研究医务人员和药理讲授讲授家须要面对且最为紧迫的道德同样。背后的有色人种主义，怎么克服？2017年，芝加哥药理讲授院药理讲授院（UCM）的数据库分析他的团队运用于计算机科讲授来预测病人显然的就医时长。其目标是断定可以提早出院的病人，从而释放诊所资源并为另行的病人提供救治。然后，诊所还但会指派一名近来管理医务人员来帮助病人处理保险公司代为，确保病人及时回家，并为其早日出院铺平道路。在次测试系统对时，学术研究小组发现，预测病人就医时间最精准的因素是他们的镇政府，这正要给学术研究他的团队守夜了警钟。他们想到，邮编与病人的有色人种和社但会宏观经济地位密切相关。仅靠镇政府做预测，但会对芝加哥最困苦社区的非裔美国人造成不良制约，这些人往往就医时间不够长。因此该他的团队忽视运用于该正则表达式分配近来管理员将是有有色人种主义和不专责任的。“如果你要某种高度实施这个正则表达式，你但会受益一个猜疑的结果，那就是把不够多(病例管理)集中化给不够富裕的种族歧视病人，”UCM内科眼科医生、照护讲授大学教授Marshall Chin说道。终究数据库分析他的团队删除了镇政府这个预测因素。该正则表达式仍在整合之前，未次测试出另行模型。这个近来指出了基于计算机科讲授的照护应用软件的似乎：正则表达式一般而言可以反映现有的有色人种或性别肥胖症歧异。这个缺陷如果并未受益解决，就显然但会引发经常性有色人种主义并固简化照护领域现有的不平等现象。有色人种主义还但会制约罕见病或另行病因的病人，这些病因的病人数据库实际。计算机科讲授系统对显然但会单独给出一般病人可行性，而不考虑病人的个人情况。这时，计算机科讲授拟议的病人可行性是无效的。近来，斯坦福药理讲授院讲授助理大学教授Danton Char在一篇关于人工智能的篇文章之前指出，因为严重脑损伤病人或极早产儿的活到几率很低，因此眼科医生常常取消对他们的护理。而即使某些病人个体预后极佳，人工智能正则表达式即使如此显然但会单独得出结论：所有十分相似病例都是致命的，并建议撤回病人。“物证”缺陷，路在何方？第二个道德同样是，一般而言情况下，学术研究医务人员未必探究AI系统对是如何计算出结果的，即所谓的物证缺陷。高性能的人工智能高效率可以在并未明确指示的情况下吸收大量数据库并定位统计模式，整个操作过程人类尤其难以检验。盲目遵循这种系统对的眼科医生显然但会在无意之前伤害病人。“我们一般而言无法理解正则表达式的'思想'操作过程是什么。”联合国药理讲授院政策学术研究之前心另行兴网络高效率大学教授Eleonore Pauwels声称。2015年的一项学术研究强调了该缺陷。在这项学术研究之前，学术研究医务人员比起了多种不同AI模型预测肺癌病人失踪不确定性的高度。预测之后，那些不确定性较高的人将被送到诊所，而低不确定性的病人可以调至门诊病人。其之前一个模型是“基于规则”的系统对，其决断操作过程对学术研究医务人员来说是透明的，却举例来说遵守直觉的结果：忧郁症肺癌和哮喘的病人比仅忧郁症肺癌的病人活到机但会不够大，因此忧郁症两种病因的病人可以推迟病人。显而易见，医护医务人员必需清楚的判断忧郁症两种病因的病人具有不够高的失踪不确定性，但正则表达式必须。所以仅仅仅靠这种正则表达式，意味着最孤立无援的病人将必须及时受益他们所须要的病人。另一种运用于信息处理和人工智能正则表达式的模型诱发了不够精准的结果，但其推理操作过程是不透明的，因此学术研究医务人员未失灵其之前的缺陷。该学术研究的专责人、苹果公司大学教授理查德卡鲁阿纳得出结论：信息处理模型不确定性缘故大，未进入乳癌，因为并未办法判断它是否明知了十分相似的错误。决断失误谁来买单？根据AMA的药理讲授大体原则，眼科医生必需完全对病人专责。但是，当计算机科讲授进入等式时，义务又该如何划定？这个缺陷的答案仍在由讲授家、学术研究医务人员和政府部门私人机构制定。计算机科讲授打破了提供照护服务的群体限制，一些传统上不受药理讲授约束的人，比如数据库科讲授家，也可以为病人提供照护服务。此外，正如物证缺陷所示，人们未必总是必需确切地想到计算机科讲授系统对是如何毫无疑问诊断或开出病人处方的。只不过的正则表达式显然对病人造成根本性伤害，从而引发照护事故。斯坦福药理讲授院讲授家Char将计算机科讲授比作美国食品药品监督管理局。查尔声称，虽然必须坚信临床眼科医生探究他们开出的药剂的每一个生简化细节，但基于他们的长处和药理讲授文献知识，他们至少须要想到这些药剂是安全必要的。至于计算机科讲授系统对，除非经过慎重学术研究，他确实这是最佳选择，否则他不但会运用于。Char说道:“当你对应用软件的探究未必充分时，你执意让任何病人的生命正处于危险之之前。”病人防火墙何去何从？美国药理讲授协但会曾发出通告：计算机科讲授必需保障病人信息的防火墙和安全。对医患保密的承诺，是自亚里斯多德仇敌以来药理讲授存有的基石。但为了毫无疑问精准的预测，人工智能系统对必需要访问大量的病人数据库。如果并未个人的照护记录下来，计算机科讲授将未提**准的诊断或有用的病人方法，不够未付诸不够加个性简化的病人。不够最重要的是，如果数以百万计的病人知悉他们的照护数据库，关键的公共卫生趋势显然但会无论如何，这将是每个人的损失。一个潜在的解决可行性是从用照护记录下来之前单独删除个人定位信息来保障病人防火墙。然而，近来由加利福尼亚药理讲授院筹划的一项学术研究声称，目前的匿名简化高效率还不够成熟，并必须保证数据库的必要清除。不过，将来可以整合不够复杂的数据库搜集方法，以不够多地保障防火墙。不管高效率能力如何，阿德勒建议药理讲授界重另行考虑病人防火墙的整个概念。随着照护系统对更为不够加复杂，将有不够多的私人机构有合法合理的需求去访问敏感的病人信息。Char在篇文章之前说:“人工智能系统对的付诸，意味着我们须要重另行认识照护数据库防火墙和其他职业道德核心原则。”某种高度，诊所和私人机构须要赢得病人的信任。病人有公民权探究他们的照护防火墙数据库是如何被运用于的，以及数据库是但会使他们自身受益或只能让将来的病人受益。伦敦药理讲授院讲授院肥胖症信息讲授学术研究所的高级大学教授Nathan Lea声称：“如果病人不够多地探究计算机科讲授是如何强简化个人和公共肥胖症的，他们显然情愿舍弃传统的防火墙观念。防火墙本身未必是绝对的，我们必须以保障病人防火墙为借口而拒绝数据库背后的庞大价值。”著者有时说药理讲授信息技术与道德的冲突一直存有，从人体解剖的言论自由缺陷，到克隆高效率的身份歧异；从人工流产的人道质疑，到如今计算机科讲授的人伦思辨，围绕药理讲授高效率创另行与社但会道德的疑问从未停息。正是这些对理性、人道、人类尊严、人的价值的注意，才使药理讲授体现了人文的关怀，保持了理性的张力。AI照护高效率的分析方法和普世的社会制度本不猜疑，关键在于在优劣顾及之前找到不够合理的打开方法。我们期待计算机科讲授在思考的鞭策下迭代转型，终究必需以自己的方法协同解决人类社但会的复杂缺陷。