系统设计与的博弈 医疗AI的B面隐忧如何解？

在希波克拉底誓言奠定自然科学基础的2400年后，计算机的显现出来可能给自然科学带来史上远超过的过关斩将。专家分析，到2024年，AI卫生将是一个近200亿美元的消费市场。计算机有望沦为卫生有系统的的教会，只能增加诊断效果、共享新颖用药，并及时发现将来的公共卫生不确认性。即便如此，该应用仍然引发了一系列棘手的道德观难题。当AI的系统执行者差错时会显现出来哪些缺陷？如果有缺陷的话，该谁交由？临床精神科如何次测试甚至认识AI“记录仪”的内容可？他们又该如何不致AI的系统的愚昧并受保护病人人身安全？2018年6月初，American自然科学会（AMA）发布了首个关于如何开发、可用和调节计算机的指南。值得注意的是，该协会将计算机称为“augmented intelligence”（智能增强），而非我们广泛忽视的“artificial intelligence”。这表明，American自然科学会忽视计算机的作用是增强而非替换精神科的临时工。虽然AMA在指南当中坚称，计算机应当设计用于识别和解决愚昧、保障弱势群体需求、解决缺陷更进一步半透明性并受保护病人人身安全，但在就其当中，这些尽快很难得不到满足。以下是自然科学专业人士、学术研究执法人员和自然科学学家须要面对着且最为难以实现的道德观过关斩将。才是的愚昧，怎么关键在于？2017年，康奈尔大学自然科学院（UCM）的数据资料分析的团队可用计算机来分析病人可能的住院时长。其目标是确认可以提前出院的病人，从而释放医院资源并为新的的病人共享救治。然后，医院还会委派一名事例管理执法人员来希望病人处理保险事务，确保病人及时回家，并为其早日出院铺平道路。在次测试的系统时，学术研究人小组发现，分析病人住院时间最可靠的因素是他们的四等站，这立刻给学术研究的团队敲响了警钟。他们想到，邮编与病人的种族和社会变迁经济地位都和。倚赖四等站动手分析，会对芝加哥最穷困社区的非裔American人遭受不良不良影响，这些人往往住院时间更长。因此该的团队忽视可用该解法分配事例图书馆员将是有愚昧和无知的。“如果你要在有系统当中实施这个解法，你会得不到一个不和的结果，那就是把更多(病例管理)资源分配给更富裕的有色人种病人，”UCMCornelius、卫生学教授Marshall Chin说道。再度数据资料分析的团队删除了四等站这个分析因素。该解法仍在开发当中，尚未次测试出新的数学模型。这个事例声称了基于计算机的卫生保健物件的弱点：解法通常可以看出现阶段的种族或女性健康差异。这个缺陷如果没得不到解决，就可能会导致有鉴于此愚昧并固化卫生保健科技领域现阶段的不平等现象。愚昧还会不良影响罕见病或新的癌症的用药，这些癌症的用药数据资料有限。计算机的系统可能会直接给出一般用药方案，而不考虑病人的个人身份情况。这时，计算机拟议的用药方案是拒绝接受的。最近，柏克莱加州大学学现职教授Danton Char在一篇关于数据处理的论文当中声称，因为轻微脑损伤病人或极患儿的存留几率很更高，因此精神科常常暂时对他们的护理。而即使某些病人个体生存率良好，数据处理解法仍然可能会直接得出结论：所有多种不同病例都是致命的，并劝告撤回用药。“记录仪”缺陷，路在何方？第二个道德观过关斩将是，通常才会，学术研究执法人员相当认识AI的系统是如何计算出结果的，即；也的记录仪缺陷。高科技的数据处理应用可以在没明确指示的才会转化成大量数据资料并识别统计模式，整个更进一步人类所尤其难以次测试。盲目遵循这种的系统的精神科可能会在无意当中受伤害病人。“我们通常很难理解解法的'思想'更进一步是什么。”联合国大学政府学术研究所新的兴网络应用学术研究员Eleonore Pauwels坚称。2015年的一项学术研究忽视了该缺陷。在这项学术研究当中，学术研究执法人员较为了不同AI数学模型分析心肌梗塞病人致死不确认性的层面。分析之后，那些不确认性较高的人将被送往医院，而更高不确认性的病人可以转回门诊用药。其当中一个数学模型是“基于前提”的的系统，其执行者更进一步对学术研究执法人员来说是半透明的，却分析出妨碍直觉的结果：患有心肌梗塞和哮喘的病人比仅患有心肌梗塞的病人存留机会更大，因此患有两种癌症的病人可以推迟用药。显而易见，医护执法人员只能清楚的假定患有两种癌症的病人具有更高的致死不确认性，但解法无法。所以仅仅倚赖这种解法，意味着最不妙的病人将无法及时得不到他们所须要的用药。另一种可用神经网络和数据处理解法的数学模型产生了更可靠的结果，但其推理更进一步是不半透明的，因此学术研究执法人员无法及时发现其当中的缺陷。该学术研究的交由人、微软公司学术研究员理查德卡鲁阿纳得出结论：神经网络数学模型不确认性太大，无法进到临床试验，因为没办法假定它是否有罪了多种不同的错误。执行者差错谁来买单？根据AMA的自然科学基本法理，精神科只能完全对病人交由。但是，当计算机进到关系式时，义务又该如何划分？这个缺陷的题目仍在由学家、学术研究执法人员和税务机构制定。计算机打破了共享卫生服务的群体限制，一些宗教性上不受自然科学约束的人，比如数据资料科学家，也可以为病人共享卫生服务。此外，正如记录仪缺陷所示，人们相当总是只能确切地想到计算机的系统是如何动手出诊断或途经用药处方的。或许的解法可能对病人遭受重大受伤害，从而导致卫生事故。柏克莱加州大学学家Char将计算机比作处方药。查尔坚称，虽然无法确信临床精神科认识他们途经的药品的每一个生化细节，但基于他们的临床经验和自然科学文献知识，他们至少须要想到这些药品是安全适当的。至于计算机的系统，除非经过仔细观察学术研究，他深信这是最佳选择，否则他不会可用。Char说道：“当你对物件的认识相当必要时，你不敢让任何病人的生命处于危险之当中。”病人人身安全何去何从？American自然科学协会曾发出警告：计算机只能受保护病人信息的人身安全和安全。对医患保密的承诺，是自希波克拉底立誓以来自然科学存在的坚实。但为了动手出可靠的分析，数据处理的系统只能要到访大量的病人数据资料。如果没个人身份的卫生记录，计算机将无法共享可靠的诊断或有用的用药新的方法，更无法解决缺陷极其新颖的用药。更重要的是，如果数以百万计的病人隐瞒他们的卫生数据资料，关键的公共卫生趋势可能会毫无疑问，这将是每个人身份的损失。一个潜在的提高效率是从用卫生记录当中之外删除个人身份识别信息来受保护病人人身安全。然而，最近由康奈尔大学牵头的一项学术研究坚称，迄今为止的匿名化应用还欠缺成熟，相当能保证数据资料的适当扫除。不过，将来可以开发更复杂的数据资料收集新的方法，以更容易地受保护人身安全。不管应用能力如何，自然科学专家劝告自然科学界重新的考虑病人人身安全的整个概念。随着卫生的系统趋于极其复杂，将有更多的机构有合法必要的需求去到访敏感的病人信息。Char在论文当中写道：“数据处理的系统的解决缺陷，意味着我们须要重新的认识卫生数据资料人身安全和其他职业道德观核心法理。”在有系统当中，医院和机构须要赢得病人的猜疑。病人有权利认识他们的卫生人身安全数据资料是如何被可用的，以及数据资料是会使他们自身得益于或仅仅让将来的病人得益于。曼彻斯特大学学院健康信息学学术研究所的高级学术研究员NathanLea坚称：“如果病人更容易地认识计算机是如何增加个人身份和公共健康的，他们可能愿意坚持宗教性的人身安全本质。人身安全本身相当是也就是说的，我们无法以受保护病人人身安全为口实而尽快数据资料才是的庞大价值。”动脉网有话说自然科学新的能源与道德观的冲突仍然存在，从人体解剖的言论自由缺陷，到克隆应用的身份争议；从婚前的人道质疑，到如今计算机的仁义思辨，环绕着自然科学应用创新的与社会变迁道德观的争论从未停息。正是这些对人性、人道、人类所尊严、人的价值的重视，才使自然科学体现了人文的关怀，保持了人性的张力。AI卫生应用的应用和普世的道德观本质本不不和，关键在于在权衡取舍当中发现更必要的打开方式。我们期待计算机在思考的鞭策下迭代转型，再度只能以自己的方式相互配合解决人类所社会变迁的复杂缺陷。