人工智能（Artificial Intelligence，簡稱AI）作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動力舆佩，已上升為國家戰(zhàn)略，并在醫(yī)療榔晃、工業(yè)機器人及教育泌榕、金融、互聯(lián)網(wǎng)服務(wù)等領(lǐng)域得到越來越多的應(yīng)用招殊。AI 在醫(yī)療領(lǐng)域的應(yīng)用主要包括輔助診斷气岁、輔助手術(shù)、臨床輔助決策秆候、患者信息管理等浦堪，對應(yīng)的AI 醫(yī)療器械產(chǎn)品主要包括獨立的醫(yī)療軟件、AI 賦能醫(yī)療設(shè)備蜒秤、醫(yī)療信息化系統(tǒng)等汁咏。

隨著以深度學習為代表的AI 技術(shù)的不斷發(fā)展，我們需要思考AI 醫(yī)療器械在發(fā)展與使用中面臨的倫理問題作媚，充分認識AI 醫(yī)療器械在數(shù)據(jù)獲取攘滩、隱私保護等方面給人們帶來的影響。

AI 領(lǐng)域倫理準則現(xiàn)狀

目前纸泡，國內(nèi)外主要達成了兩個影響較廣泛的AI 倫理共識——“阿西洛馬人工智能原則”（Asilomar AI Principles）漂问、電氣和電子工程師協(xié)會（IEEE）倡議的AI 設(shè)計的倫理準則。

“阿西洛馬人工智能原則”是在2017 年于美國加州阿西洛馬舉行的Beneficial AI 會議上被提出的女揭，它是阿西莫夫機器人學三定律的擴展版本蚤假，可被理解為：AI 不能單純地為了利益而創(chuàng)造，而應(yīng)在確保人類不被替代的前提下吧兔，為通過自動化實現(xiàn)人類繁榮而創(chuàng)造磷仰。保持一種尊重隱私但開放、合作的AI 研究文化也是需要考慮的問題之一境蔼，需確保研究人員和政策制定者在交換信息的同時灶平，不會用危害人類的手段與對手競爭。

IEEE 于2016 年提出“關(guān)于自主與智能系統(tǒng)倫理的全球倡議”箍土，并于當年12 月和2017 年12 月先后發(fā)布了第一版和第二版《人工智能設(shè)計的倫理準則》白皮書（Ethically AlignedDesign）帆伯。該白皮書提出5 個核心原則：人權(quán)——確保AI 不侵犯國際公認的人權(quán)；福祉——在AI的設(shè)計和使用中優(yōu)先考慮人類福祉的相關(guān)指標逸讹；問責——確保AI 的設(shè)計者和操作者負責任且可問責代投；透明——確保AI 以透明的方式運行；慎用——將濫用的風險降至最低禾计。該準則的發(fā)布旨在為IEEE 正在推動的11 個與AI 倫理相關(guān)的標準的制定提供建議灾您。

我國已將AI 上升為國家戰(zhàn)略，并在法律和政策層面進行深入布局宇夭。2017 年7 月烛辜，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，在“戰(zhàn)略目標”部分對法律政策體系建設(shè)提出三步走的要求：第一步容蕉，到2020 年衡达，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；第二步亩当，到2025 年郎抖，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系蜓耻，形成人工智能安全評估和管控能力茫舶；第三步，到2030 年刹淌，建成更加完善的人工智能法律法規(guī)饶氏、倫理規(guī)范和政策體系。2018 年1 月有勾，國家人工智能標準化總體組成立疹启，同時古程，《人工智能標準化白皮書（2018 版）》發(fā)布。今年4 月喊崖，國家人工智能標準化總體組第二次全體會議召開挣磨，會上發(fā)布了《人工智能倫理風險分析報告》。

醫(yī)療領(lǐng)域AI 的倫理風險

當前荤懂，AI 在醫(yī)療器械領(lǐng)域的應(yīng)用主要體現(xiàn)在醫(yī)學影像AI 技術(shù)茁裙、AI 技術(shù)賦能硬件上，如目前大量涌現(xiàn)的“智能讀片”類AI 醫(yī)療軟件节仿。這種軟件能夠通過深度學習晤锥，在具有代表性的醫(yī)學影像數(shù)據(jù)庫中進行模型訓練，并利用模型來解析圖像罩泰、文本鬼浮、聲音，從而實現(xiàn)對病癥的早期篩查谤蚌。AI 技術(shù)賦能硬件通常內(nèi)嵌于各類醫(yī)學影像設(shè)備中煌摊，在設(shè)備前期拍攝及后期圖像處理過程中實現(xiàn)圖像分割、分類檐鹤、映射资杆、配準等功能。

對于醫(yī)療領(lǐng)域AI 存在的倫理風險所帶來的影響冈彭，應(yīng)從社會课陪、個人數(shù)據(jù)保護、AI 算法和醫(yī)學倫理四方面進行考慮骏点。

對社會的影響

現(xiàn)階段贱钩，醫(yī)療AI 倫理的標準化工作仍處于起步階段，行業(yè)內(nèi)尚未對醫(yī)療AI 的內(nèi)涵谷芬、應(yīng)用模式等達成共識唉堪，行業(yè)競爭可能造成AI 技術(shù)在醫(yī)療領(lǐng)域中的濫用。這會造成資源的浪費肩民，目前唠亚，絕大多數(shù)AI 輔助診療結(jié)果仍需醫(yī)生確認，此種AI 產(chǎn)品是否具有臨床意義有待商榷持痰。另外灶搜，隨著科技發(fā)展，傳統(tǒng)診療方法逐步向高科技輔助診療轉(zhuǎn)變工窍，此類輔助診療產(chǎn)品往往集中在科技發(fā)達割卖、經(jīng)濟水平較高的國家和地區(qū)，這將進一步加劇不同國家和地區(qū)間醫(yī)療資源和水平的不平衡患雏。如何讓每個國家和地區(qū)都能受益于AI 帶來的“福祉”鹏溯，是需要思考的問題罢维。

個人數(shù)據(jù)保護風險

以“深度學習+ 大數(shù)據(jù)”為框架的醫(yī)學AI系統(tǒng)需要大量數(shù)據(jù)來訓練、學習算法剿涮。目前言津，AI產(chǎn)品的訓練樣本主要來自醫(yī)院患者的各類醫(yī)學影像數(shù)據(jù)攻人，少部分來自人類行為信息的數(shù)字化記錄取试。醫(yī)學影像數(shù)據(jù)、患者行為信息涉及患者隱私保護問題腋殃。信息使用者在獲取相應(yīng)數(shù)據(jù)時馁掺，必須抹去患者個人敏感信息，只保留相關(guān)的醫(yī)學信息燕党。關(guān)于敏感信息的定義寻币、識別和處理，目前國內(nèi)尚無明確的標準悉宿，主要依賴于企業(yè)自覺瓶虽。當前可供企業(yè)參考的數(shù)據(jù)隱私保護準則有歐盟于2018 年5 月發(fā)布的《通用數(shù)據(jù)保護條例》（GDPR）、美國國會于1996 年頒布的《健康保險可攜性與責任法案》（HIPAA）涝睁。

算法風險

對深度學習算法來說珍诡，在其應(yīng)用階段也存在諸多風險。一是安全性風險示祭，算法存在泄漏尼袁、參數(shù)被非預(yù)期修改的風險。現(xiàn)階段的深度學習算法是典型的“黑箱”算法咽蚣，當其被修改時化焕，算法性能的降低或錯誤的發(fā)生很難被察覺。醫(yī)療領(lǐng)域與人身安全息息相關(guān)铃剔，這一風險的發(fā)生會直接侵害患者的人身權(quán)益撒桨。二是算法偏見風險，鑒于算法的復雜性和專業(yè)性键兜，關(guān)于AI 算法輸入的某些特性如何引起某個特定輸出結(jié)果的發(fā)生凤类，很難解釋清楚。算法偏見可能是由程序員的主觀認知偏差造成蝶押，也可能是因輸入數(shù)據(jù)的分布本身即不具有整體代表性所導致踱蠢。并且，如果算法在臨床應(yīng)用中通過本地數(shù)據(jù)進行無監(jiān)督學習棋电，則有加重偏見的風險茎截。

醫(yī)學倫理風險

對醫(yī)學AI 產(chǎn)品的倫理思考應(yīng)納入醫(yī)學倫理范疇，考慮如何進行患者隱私及數(shù)據(jù)的保護赶盔，這也是醫(yī)療類AI 產(chǎn)品與一般AI 產(chǎn)品在倫理問題方面的最大區(qū)別企锌。

在我國榆浓，獲取醫(yī)學臨床數(shù)據(jù)、進行臨床試驗須獲得醫(yī)學倫理審批其神，負責倫理審查的組織——倫理委員會肩負醫(yī)學研究倫理審查殴衡、受試者權(quán)益保護、人的尊嚴維護等重要職責垄窃。2017 年10 月蟀腌，中辦、國辦印發(fā)《關(guān)于深化審評審批制度改革鼓勵藥品醫(yī)療器械創(chuàng)新的意見》吐莲，提出完善倫理委員會機制抠偏，各地可根據(jù)需要設(shè)立區(qū)域倫理委員會，指導臨床試驗機構(gòu)倫理審查工作陪瘟。

AI 醫(yī)療器械應(yīng)遵循的倫理方向

推動醫(yī)學AI 倫理標準化

從促進行業(yè)發(fā)展的角度看鞋剔，開放、共享的高質(zhì)量醫(yī)學數(shù)據(jù)集是未來的發(fā)展趨勢阐逗，但數(shù)據(jù)獲取的來源池躁、數(shù)據(jù)標注的規(guī)范格式等尚無統(tǒng)一標準，這使得高質(zhì)量的數(shù)據(jù)集難以在各個AI 產(chǎn)品開發(fā)者間實現(xiàn)互通韵谋。只有在相應(yīng)規(guī)則確定后褒选，AI 醫(yī)療器械產(chǎn)業(yè)才能獲得高速發(fā)展。

數(shù)據(jù)完整性與醫(yī)學倫理的平衡

在滿足醫(yī)學倫理保護隱私及數(shù)據(jù)這一要求的同時西设，醫(yī)療類AI 產(chǎn)品為獲得高質(zhì)量數(shù)據(jù)集瓣铣，應(yīng)盡可能保留更多的信息（如患者既往病史等），以便用于分析贷揽、處理棠笑，并避免在進行數(shù)據(jù)收集時納入偏見、非典型甚至錯誤的信息禽绪。同時蓖救，醫(yī)療類AI 產(chǎn)品在數(shù)據(jù)收集、標注過程中必須保證數(shù)據(jù)的完整性印屁，以使AI 產(chǎn)品是可解釋循捺、可信任的雄人。如何最大限度地保留信息从橘，并避免通過信息追溯到個人础钠，是醫(yī)療類AI 產(chǎn)品開發(fā)中應(yīng)遵循的倫理方向之一恰力。

在AI 與倫理準則領(lǐng)域進行深入探索，并圍繞其建立相關(guān)標準镰饶，形成醫(yī)療健康A(chǔ)I 的標準生態(tài)，關(guān)系到醫(yī)療AI 的未來發(fā)展動向烧骗。AI 產(chǎn)業(yè)能否取得公眾信任并獲得持續(xù)性發(fā)展，關(guān)鍵在于能否建立共識性的倫理準則铜诽。我們需在保持數(shù)據(jù)較高完整度的同時阔萧，做好患者隱私保護贺勿，并在符合現(xiàn)有倫理準則的前提下，將來自于不同渠道的數(shù)據(jù)用于機器學習甩卷，促進AI 醫(yī)療器械產(chǎn)業(yè)的進一步發(fā)展。

聲明：本網(wǎng)站所收集的部分公開資料來源于互聯(lián)網(wǎng)劝薄，轉(zhuǎn)載的目的在于傳遞更多信息及用于網(wǎng)絡(luò)分享，并不代表本站贊同其觀點和對其真實性負責胁编，也不構(gòu)成任何其他建議。本站部分作品是由網(wǎng)友自主投稿和發(fā)布嬉橙、編輯整理上傳，對此類作品本站僅提供交流平臺市框，不為其版權(quán)負責。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻糕韧、圖片、文字如涉及作品版權(quán)問題萤彩，請第一時間告知，我們將根據(jù)您提供的證明材料確認版權(quán)并按國家標準支付稿酬或立即刪除內(nèi)容雀扶，以保證您的權(quán)益！聯(lián)系電話：010-58612588 或 Email:editor@mmsonline.com.cn夏握。