人工智慧走進醫學 還有哪些關口
文/關健(中國醫學科學院北京協和醫院 )
人工智慧正迅速地應用於包括醫學在內的廣泛領域。然而，人工智慧也同時帶來了一些挑戰，並引發人們對其帶來的倫理問題的關注。
人工智慧帶來的不僅是期許
隨著大數據和機器學習等技術的發展，人工智慧像所有的科技創新產物一樣，逐漸把夢想變成現實的一部分。
1955年，麥卡錫將人工智慧定義為「製造智慧型機器的科學和工程」。
從該概念誕生，到如今被廣泛應用到如搜尋引擎、機器翻譯系統和智慧個人助理等生活和工作的各個角落,近10年間，人工智慧迎來了跨越式發展。
人工智慧不僅為科學和產業注入了活力，更日益滲透到社會的各方面，包括臨床醫療和醫學研究。隨著電子健康醫療記錄的廣泛應用和包括神經科學在內的生命科學的快速發展，新一代人工智慧在醫學領域的應用也突飛猛進。
人工智慧在醫學的多個領域引起變革性進展，從循證治療計畫的設計到科學創新研發，甚至被認為是醫療保健專業人員的一種增強或替代方法。
人工智慧讓我們對未來的醫療保健產生美好期許，但其自身，以及在醫療保健和醫學領域的應用，也面對一些不容忽視的倫理挑戰。
這些挑戰在新一代人工智慧的一些前沿領域更加突出，主要涉及機器學習（也稱為深度學習）、腦–電腦交互（BCI）、大腦啟發的電腦和生物雜交等。這些領域需要專門的關注和治理。
人工智慧發展須有章可循
科學是一把雙刃劍。新一代人工智慧與生物醫學中的幹細胞研究和基因編輯技術，暫時無法驗證它們的長期安全性，濫用或誤用可能最終會造成傷害。
鑒於此，與所有創新科學技術一樣，人工智慧在醫學領域的研發和應用都應遵循生物醫學倫理學原則。
生物醫學倫理治理的核心和最終目標是確保所有受試者和患者的安全和利益，在倫理管理實踐中具體體現為知情同意、風險收益評估、隱私保護和安全、自願參與、自主決策等。
人工智慧研發成功後的臨床應用，還需要遵循臨床醫學倫理原則，包括參照強森等提出的臨床醫學倫理框架中，需要考慮四個方面的倫理問題：醫學適應證，患者偏好，生活品質和情境特徵。
它們涵蓋了病例發生時的社會、經濟、法律和行政環境。
儘管生物雜交系統、BCI以及其他人工和生物整合技術，可能需要數年甚至數十年的時間才能成為我們日常生活的一部分，但是它們已經引起廣泛關注。
儘管生物雜交系統、BCI以及其他人工和生物整合技術，可能需要數年甚至數十年的時間才能成為我們日常生活的一部分，但是它們已經引起廣泛關注。 生物雜交系統僅僅可以作為治療干預手段，應該禁止被濫用或惡用，包括所謂的作為改善自然進化的手段，需要有效的治理框架和體系對這類人工智慧進行管控和監督。
倫理治理的目的是確保良好的實踐，避免對參與者產生不良影響。對於人工智慧系統或產品而言，體現為即使以診療為目的，仍可能對個體造成特別的潛在損害。
以BCI為例，倫理審查通常側重於當前BCI技術對個人造成的治療結果和潛在身體損害，例如在患者頭皮上使用「讀卡器」幫助脊髓損傷患者時，可能導致腦部感染和隨後的腦損傷。
然而，BCI是一種「活的神經組織和人工裝置之間的直接聯繫，在電腦（機器）和大腦（人類）之間建立了一個非肌肉性的溝通途徑」。這項技術很可能解碼人們的心理過程，並有在個體意圖、情感和決策基礎上直接操縱大腦的風險。
人工智慧醫學應用待規範
倫理治理能夠平衡和調節科學研究和實踐應用中的風險和收益，是對法律的有效補充。人工智慧應用的快速發展，迫切需要建立人工智慧在實踐中的社會和倫理影響的治理框架和指南。
人工智慧相關的倫理和標準曾經適用於更廣泛的負責任研究和創新（RI）總體框架。RI總體框架的目的是識別和解決與新科學領域相關的不確定性和風險。它提出了研究和創新治理新程式，通過建立對機器人和人工智慧系統的信任來考慮倫理治理。
歐洲委員會人工智慧高級專家組於2019年4月發佈了值得信賴的人工智慧倫理準則。作為新指南，它提出了「值得信賴的人工智慧」的理念，並確定了在開發、部署和使用人工智慧系統時應遵循的倫理原則，即尊重人類自治、防止傷害、公平和可解釋性。此外，該指南還規定了七項關鍵要求，以確保人工智慧系統在技術和社會方面都是合法、符合倫理和穩健發展的。
然而，目前沒有適用於醫學領域的人工智慧專門治理體系或指南。新一代人工智慧，需要全球的倫理治理框架和體系，包括系列的標準和指南等。推動人工智慧治理，更需要明確不同級別上級部門的行政角色，明確人工智慧所有利益相關者（包括政府、機構和個人）的權利和責任也至關重要。另外，明確對違反相關法律、法規和規範的機構和個人的處罰尤為重要。
這篇文章 人工智慧走進醫學 還有哪些關口 最早出現於 中國醫藥導報。