(資料圖)

圖片來源：每經(jīng)實(shí)習(xí)記者 劉旭強(qiáng) 攝

“大模型的技術(shù)走在了前面，但在醫(yī)療領(lǐng)域的應(yīng)用落地時(shí)，用于訓(xùn)練的隱私數(shù)據(jù)如何獲取、如何保護(hù)？我覺得這非常難。”8月24日，在2023CCS成都網(wǎng)絡(luò)安全大會(huì)期間，四川大學(xué)網(wǎng)絡(luò)安全空間學(xué)院副院長(zhǎng)張意接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)直言，醫(yī)療大模型距離實(shí)際落地還很遠(yuǎn)，還有很多的問題和風(fēng)險(xiǎn)需要研究。

張意指出，理論上，大模型在醫(yī)療領(lǐng)域的應(yīng)用場(chǎng)景眾多。除智慧問診外，還可以預(yù)測(cè)病人的病重程度、致死率以及30天內(nèi)再度入院的可能性。甚至可以用于管理醫(yī)院床位、預(yù)測(cè)病人治療費(fèi)用能夠被保險(xiǎn)公司報(bào)銷的概率。

但討論大模型應(yīng)用前，必須充分認(rèn)識(shí)醫(yī)療行業(yè)的特殊性。醫(yī)療領(lǐng)域容錯(cuò)率低，通用大模型偶發(fā)的“胡說八道”在醫(yī)療場(chǎng)景下不僅可能導(dǎo)致誤診，甚至還可能對(duì)患者的生命健康造成嚴(yán)重傷害。張意認(rèn)為，通用大模型不能滿足醫(yī)療領(lǐng)域?qū)Π踩?、性能型、可靠性的要求，需要重新搭建面向醫(yī)療領(lǐng)域的垂直大模型。

專業(yè)能力訓(xùn)練需要大量數(shù)據(jù)，然而，醫(yī)療數(shù)據(jù)大多是私有數(shù)據(jù)，鑒于安全、隱私、知識(shí)產(chǎn)權(quán)等多方因素，難以提供給外部廠商用于模型訓(xùn)練。

“通用大模型訓(xùn)練用的全是公開的對(duì)話、演講，但醫(yī)療大模型訓(xùn)練用的數(shù)據(jù)全部都是個(gè)人隱私，醫(yī)生、病人的數(shù)據(jù)能不能用，什么時(shí)候愿意讓你用？我覺得這點(diǎn)特別難?！闭劦酱竽Ｐ偷臄?shù)據(jù)獲取，張意認(rèn)為，目前并沒有好的解決方式。

據(jù)介紹，現(xiàn)階段一個(gè)應(yīng)對(duì)方法是加密處理，即把醫(yī)療數(shù)據(jù)加密處理后的譯文傳輸?shù)皆贫舜竽Ｐ头?wù)器上，再將得到的結(jié)果解密傳回。測(cè)試表明，加密和明文操作下的生成結(jié)果差別不大。

此外，張意還指出，大模型在黑盒（流程）內(nèi)，生成一個(gè)概率性、預(yù)測(cè)性的結(jié)果，這怎么用于輔助診斷？其實(shí)也需要醫(yī)生和學(xué)者共同研究。

“我們現(xiàn)在最大的難題是，需要基于專業(yè)知識(shí)和數(shù)據(jù)，訓(xùn)練一個(gè)過程安全可靠的領(lǐng)域大模型，也是我們研究落地最重要的一個(gè)研究方向?！睆堃庵毖?。