技术与的举例来说 医疗AI隐忧如何解？

在占星家誓言奠定医习系统化的2400年后，认知科学的消失可能则会给医习导致史上最大的单打独斗。专家预见，到2024年，AI公共卫生将是一个近200亿美元的市场。认知科学年末成为公共卫生实践的福音，都能有所改善临床优点、发放个性化化疗，并致使未来的公共公共卫生不确定性。即便如此，该电子技术基本上引发了一系列困难重重的道德观难题。当AI控制系统决断失误时则会消失哪些状况？如果有状况的话，该谁负责政府机构？流行病学心理医生如何验证甚至知晓AI“黑盒”的内容可？他们又该如何可避免AI控制系统的愚昧并确保病变自已资料？2018年6翌年，美国医习则会（AMA）发布了首个关于如何共同开发、可用和可调认知科学的须知。相更为的是，该协则会将认知科学叫想到“augmented intelligence”（平板增强），而非我们广泛并不认为的“artificial intelligence”。这表明，美国医习则会并不认为认知科学的作用是增强而非取代心理医生的工作。虽然AMA在须知中都指出，认知科学不该设计运用于辨认和消除愚昧、保障各阶层需求、构建操作过程绿色性并确保病变自已资料，但在具体出台中都，这些要求很难获取做到。请注意是医习各行各业、研究课题电子技术人员和医习习家须要眼见且最为急迫的道德观单打独斗。背后的愚昧，怎么克服？2017年，芝加哥大习医习院（UCM）的分析工作团队可用认知科学来预见病变可能则会的入院整整。其目标是确定可以提早入院的病变，从而拘押诊所水资源并为在此之后的病变发放就医。然后，诊所还则会指派一名案例政府机构电子技术人员来试图病变处理方式保险事宜，确保病变及时出门，并为其以求入院铺平道路。在次测试控制系统时，研究课题小组发现，预见病变入院时间最直观的因素所是他们的邮政编码，这立刻给研究课题工作团队敲了警钟。他们发觉，比邻与病变的族裔和社则会上经济地位密切相关。依靠邮政编码想到预见，则会对芝加哥最贫困社区的非裔白人引致不良影响，这些人经常入院时间来得长。因此该工作团队并不认为可用该启发式相应案例版主将是有愚昧和骗子的。“如果你要在实践中都出台这个启发式，你则会获取一个猜疑的结果，那就是把来得多(发病政府机构)水资源相应给来得富裕的白人病变，”UCM内科心理医生、公共卫生习讲师Marshall Chin说。最后分析工作团队删除了邮政编码这个预见因素所。该启发式仍在共同开发中都，未次测试出在此之后假设。这个案例指出了基于认知科学的公共卫生保健工具的破绽：启发式通常可以反映原先的族裔或男性心理健康差异。这个状况如果没获取消除，就但则会导致与此相关愚昧并填充公共卫生保健层面原先的不对等现象。愚昧还则会影响癫痫或在此之后病因的化疗，这些病因的化疗图表有限。认知科学控制系统但则会这样一来说明了一般化疗方案，而不慎重考虑病变的自已状况。这时，认知科学尚在的化疗方案是在先的。近期，耶鲁大习习文员讲师Danton Char在一篇关于建模的文章中都指出，因为严重败血症病变或亦非产妇的活过几率大幅提高，因此心理医生常停止对他们的护理。而即使某些病变生殖预后极佳，建模启发式基本上但则会这样一来得出：所有多种不同发病都是致命的，并建议撤回化疗。“黑盒”状况，路在何方？第二个道德观单打独斗是，通常意味著，研究课题电子技术人员亦非为知晓AI控制系统是如何计算出结果的，即所谓的黑盒状况。先进的建模电子技术可以在没明确示意的意味著吸收大量图表并辨认统计模式，整个操作过程进化尤其难以验证。盲目遵循这种控制系统的心理医生但则会在居然都损伤病变。“我们通常很难理解启发式的'思想体系'操作过程是什么。”非洲联盟大习方针研究课题中都心在此之后兴网络电子技术研究课题专家Eleonore Pauwels指出。2015年的一项研究课题强调了该状况。在这项研究课题中都，研究课题电子技术人员更为了不同AI假设预见心脏病病变死亡不确定性的程度。预见之后，那些不确定性较高的人将被送往诊所，而低不确定性的病变可以转至诊疗化疗。其中都一个假设是“基于的系统”的控制系统，其决断操作过程对研究课题电子技术人员来说是绿色的，却预见出违法直觉的结果：忧郁症心脏病和哮喘的病变比仅忧郁症心脏病的病变活过期望来得大，因此忧郁症两种病因的病变可以推迟化疗。显而易见，医护电子技术人员都能清楚的断定忧郁症两种病因的病变具有来得高的死亡不确定性，但启发式不必。所以仅仅依靠这种启发式，假定最孤立无援的病变将不必及时获取他们所须要的化疗。另一种可用神经网络和建模启发式的假设激发了来得直观的结果，但其废话操作过程是不绿色的，因此研究课题电子技术人员无法致使其中都的状况。该研究课题的负责政府机构人、微软公司研究课题专家理查德卡鲁阿纳得出：神经网络假设不确定性太大，无法进入流行病学试验，因为没办法断定它前提犯了多种不同的错误。决断失误谁来买单？根据AMA的医习应以上应以，心理医生不必只不过对病变负责政府机构。但是，当认知科学进入等式时，责任又该如何分界？这个状况的正确仍在由习家、研究课题电子技术人员和监管机构制定。认知科学冲破了发放公共卫生服务的族裔限制，一些传统上不受医习约束的人，比如图表科习家，也可以为病变发放公共卫生服务。此外，正如黑盒状况所示，人们亦非为总是都能确切地发觉认知科学控制系统是如何特别强调临床或开出化疗药剂的。或许的启发式可能则会对病变引致相当程度损伤，从而导致公共卫生事故。耶鲁大习习家Char将认知科学称之为药剂药。希瓦指出，虽然不必确实流行病学心理医生知晓他们开出的抑制剂的每一个再生细节，但基于他们的流行病学经验和医习文献方法论，他们将近须要发觉这些抑制剂是安全理论上的。至于认知科学控制系统，除非经过妥当研究课题，他确实这是最佳选择，否则他不想可用。Char说:“当你对工具的知晓亦非为更进一步时，你不想让任何病变的全进化始终维持危险之下都。”病变自已资料何去何从？美国医习协则会曾收到警告：认知科学不必确保病变信息的自已资料和安全。对医患保密的承诺，是自占星家立誓以来医习不存在的核心内容。但为了特别强调直观的预见，建模控制系统不必要访问大量的病变图表。如果没自已的公共卫生历史记录，认知科学将无法发放直观的临床或简便的化疗作法，来得无法构建越发个性化的化疗。来得重要的是，如果数以百万计的病变知悉他们的公共卫生图表，关键的公共卫生趋势但则会被忽视，这将是每自已的损失。一个潜在的消除方案相更为用公共卫生历史记录中都单独删除自已辨认信息来确保病变自已资料。然而，近期由加利福尼亚大习牵头的一项研究课题指出，现阶段的电子邮件化电子技术还不够成熟，亦非为必保证图表的理论上清除。不过，未来可以共同开发来得十分复杂的图表利用作法，以来得高地确保自已资料。不管电子技术战斗能力如何，医习专家建议医习界重在此之后慎重考虑病变自已资料的整个概念。随着公共卫生控制系统变得越发十分复杂，将有来得多的机构有合法化合理的需求去访问敏感性的病变信息。Char在文章中都所写:“建模控制系统的构建，假定我们须要重在此之后认识公共卫生图表自已资料和其他严格要求核心应以。”在实践中都，诊所和机构须要赢得病变的信任。病变有权利知晓他们的公共卫生自已资料图表是如何被可用的，以及图表是则会使他们自身给与或只能让未来的病变给与。伦敦大习习院心理健康信息习研究课题所的高级研究课题专家Nathan Lea指出：“如果病变来得高地知晓认知科学是如何有所改善自已和公共心理健康的，他们可能则会愿意作罢传统的自已资料观念。自已资料本身亦非为是绝对的，我们不必以确保病变自已资料为借口而断然拒绝图表背后的庞大效用。”编者有话说医习科技与道德观的暴力事件多年来不存在，从药剂解剖习的人权状况，到克隆电子技术的名义争议性；从人工流产的理应反驳，到如今认知科学的人伦认识论，的中心医习电子技术创在此之后与社则会上道德观的争论从未停息。正是这些对情感、理应、进化道德上、人的效用的关注，才使医习体现了人文的关怀，维持了情感的结构上。AI公共卫生电子技术的应用和普世的道德观观念本不猜疑，关键在于在各种因素推敲中都找到来得合理的打开方式。我们期待认知科学在直觉的鞭策下迭代迈向，最后都能以自己的方式试探性消除进化社则会上的十分复杂状况。