「AI會改變醫療這樣的一個願景並不是小說，它是具體的，但是它必須要有一套方法跟規範，才能讓它做對的事情」衛生福利部資訊處處長李建璋，在第八屆《Hit AI & Blockchain》人工智慧暨區塊鏈產業高峰會中表示。
台大醫院醫生出身的李建璋，曾在台大醫院智慧醫療中心推動了很多智慧醫療落地的項目，並從去年開始到衛生福利部資訊處服務。在服務的過程中，他發現AI確實已經可以做影像的辨識，幫助醫師診斷、預測，這些在科技端已相當成熟，可是在在應用端卻沒有想像的這麼容易。
所以在他進入衛福部資訊處後，就決定來解決最後一哩路。
「現在AI如果真的要落實到醫療的時候，有三大問題要解決，第一個是落地，到底要怎麼讓AI跟醫生之間有好的合作？當醫生跟AI判斷的方向不一樣的時候，醫生要不要相信AI？第二個問題就是取證，做一個AI模型很快，但在醫學驗證上所需的樣本數量等級是上萬筆等級的資料，怎麼樣在台灣取得這麼龐大數量的資料？第三個則是健保如何支付？」李建璋強調帶領衛福部成立3大類醫療AI中心，建立起框架與體制，台灣的智慧醫療才有辦法真正實現落地。
3大類醫療AI中心分別為負責任AI執行中心、臨床AI取證驗證中心、AI影響性研究中心。
早期有一家AI公司Deep01，是台灣第一家取得美國FDA的公司，國際上也獲獎無數，非常優秀，它可以作病人腦出血電腦斷層判讀，AI可以立刻判斷出血量、出血部位，進而讓醫生馬上判斷該病人要內科處理還是外科手術。
Deep01經過了四五年的努力仍宣布停止營業，這個就說明我們台灣目前還沒有一個成熟的環境可以支持智慧醫療 產業的發展，盤點起來就是在落地，取證，和給付三個面向，孵育機制還不夠成熟。
行政院去年訂定了人工智慧基本法草案，第一章就表明要確保AI的使用符合七大價值，包括自主、當責、透明 安全公平、永續、隱私等，而落實到醫療領域的第一件事情就是透明，可解釋，現在AI有能力看見醫生看不見的事情，舉例而言AI可以預測病人24小時後猝死，但是醫生看不見為什麼他會猝死，這時候醫生要不要相信AI呢？如果不相信他會猝死，那會不會有責任？如果相信了，到底是為什麼AI看得見，醫生卻看不見，這時候該怎麼處理才妥當？
李建璋指出，在醫療AI領域中，更重要的事情反而是要做「可解釋性分析」。可解釋性分析就是做額外的分析，讓臨床的人知道AI依據哪些項目來判斷猝死；AI依據他哪些影響特徵判斷腦出血可能需要開刀，有了這樣的資訊後，醫生可以根據他的可解釋性分析以及臨床知識去驗證，他才有辦法去做進一步的判斷決定是否要相信AI。
但是AI軟體應用公司普遍沒有投資在可解釋性分析，所以在醫院會是兩種情況，懂AI的醫師非常熱情，但90%不懂AI的醫師，根本不相信AI的判斷，因為那是一個黑盒子。
「我們成立『負責任AI執行中心』，就是告訴軟體要在醫院落地的時候一定要公布九大透明指標、做可解釋性分析，讓醫師跟AI判斷衝突時有第三條路，了解他為什麼會這樣判斷，所以這個是我們想告訴大家，光是做出來一個軟體、一個預測模型是遠遠不夠的，一定要去可解釋性分析。」李建璋表示。
此外，許多公司歷經千辛萬苦完成TFDA的取證準備大展拳腳時，會發現沒過多久這個AI模型就不適用了。因為AI是捕捉歷史資料裡面的規則，但醫學資料會隨時間不斷改變及更新。過去在新冠肺炎疫情時代，南韓曾有一家公司做出用AI看CT，連快篩都不用就可以判斷出COVID，該公司很快利用這項技術取得FDA並開始販售，但用不到三個月就不能用了。因為病毒迭代很快，從Delta、Alpha又變成Omicron，甚至很多人得過好幾次、打過疫苗等，這些照出來的X光都會不一樣，沒有讀取過最新資料的AI就會看不懂，所以到醫院端時就會發現其判斷出來的結果都是錯誤的。
AI需要做生命週期管理，也就是一旦上市後，每三個月、每六個月就要去給他做一次期中考，看看這個AI是不是一樣準確。如果不準，那就必須再訓練，請該公司向醫院再收集一些新資料來重新調教AI，讓它上軌道才能繼續用下去。
「所以如果你的公司是設定成賣軟體，而不是賣服務，你很快就會無以為繼，因為你沒有把後面的這些成本考慮進去，當你沒有用這樣的商業模式去賣的時候，以為賣完軟體就都是醫院，就大錯特錯了！因為這個AI，醫院很快就用不下去了。」李建璋指出，這就是為什麼要成立負責任AI執行中心的另一個原因。
目前在全台灣已經有10家負責任AI執行中心，當業者有新產品要導入時就可以到這幾間中心，請他們做可解釋性分析、透明性分析及生命週期管理，讓AI在他們醫院可以依照負責任AI的原則用起來。
李建璋強調，AI會改變醫療這樣的一個願景並不是小說，它是具體的，但是它必須要有一套方法跟規範，才能讓它做對的事情。
而在臨床AI取證驗證中心上，因為業者做出來的任何一項產品若要在醫療領域賣，一定要有FDA的TFDA證，但TFDA的證現在要求越來越嚴格。假設台大醫院要做一個AI，它只在台大的病人裡面做出來，那恐怕不能反映所有民眾，所以必須收集不同層級的區域及地區醫院，但這對台大醫院及區域醫院都很麻煩，前者要拜託大家給他資料，後者則是為了要做資料清整及驗證花費大量時間，所以導致在研發端要去取得大規模的驗證資料非常辛苦及困難。
「這時候我們資訊處就來幫忙了，我們先成立了五家AI驗證中心，這五家中心成立跨層級、跨體系的醫院聯盟，聯合成立跨中心的資料委員會，將大家的資料集中形成資料庫，遇有廠商或是學術研發單位有需要申請驗證資料時，就可以把跨層級跨體系的資料提供驗證。」李建璋說道。
驗證的問題處理完了，大家最關心的就是誰來付錢？很多AI是沒有辦法叫民眾自費的，但是完全讓健保給付也不現實，所以這就是AI影響性研究中心出現的原因。
「關鍵就是找出AI的臨床價值來做合理的定價，AI光診斷沒有用，要診斷加上介入才能達到臨床改善。」AI影響性研究中心成立目的是輔導醫院進行AI臨床試驗，分為實驗組和對照組，實驗組要證實AI加醫生的臨床成果超過醫生單獨診斷治療的臨床成果，例如，能夠證實AI加醫師可以比醫師單獨判讀電腦斷層找出更多零期、一期的癌症，透過轉診早期治療可以預防更多癌症，這樣就能為國家省下很多資源，因為癌症到二、三期以後要花的錢很多。如果能找出零期、一期的癌症患者並將其治好，經濟學家就算得出來可以省多少錢，而這些錢就能夠分一些來給付AI，這樣就會形成三贏的經濟模式，李建璋解釋道。
