來源:中國網科學
2020-12-24 16:33:12
日前,第六屆中國健康信息處理大會(CHIP 2020)舉辦的中文醫學信息處理評測競賽圓滿結賽,騰訊天衍實驗室依托其在醫學領域的長期技術積累和創新探索,一舉獲得“中文醫學文本命名實體識別”賽道冠軍、“中文醫學文本實體關系抽取”賽道亞軍。
信息抽取(IE)技術方案突破升級
對于醫學領域的自然語言文獻,例如醫學教材、醫學百科、臨床病例、醫學期刊、入院記錄、檢驗報告等,這些文本中蘊含大量醫學專業知識和醫學術語。將實體識別技術與醫學專業領域結合,利用機器讀取醫學文本,可以顯著提高臨床科研的效率和質量,并且可服務于下游子任務。但要想讓機器“讀懂”醫學數據,核心在于讓計算機在大量醫學文本中準確的提取出關鍵信息,這就涉及到了命名實體識別、關系抽取等自然語言處理技術。
命名實體識別(Named Entity Recognition, NER)和關系抽取(Relation Extraction, RE)是信息抽取(Information Extraction,IE)的兩大核心任務。命名實體識別旨在抽取所需實體,以醫療領域為例,需要從非結構化醫學文本中找出醫學實體,如疾病、癥狀的過程;實體關系抽取則需要同時提取出醫學實體及實體間的關系信息,即實體關系三元組 [頭實體 (subject),關系(predicate),尾實體(object)]。
實體關系三元組示意
在兩大評測任務中,騰訊天衍實驗室從數據和模型層面做出了針對性設計。在命名實體識別任務中,天衍實驗室使用的數據集由北京大學等院校及科研單位智慧醫療課題組聯合構建。基于醫療領域對專業性、準確性的高標準要求,及目前命名實體識別任務存在的實體頻次稀疏和實體長度偏長問題,天衍實驗室采用指針解碼的特殊方式,對單個實體的頭尾位置進行解碼,經過試驗證明,該方法在較長實體中的表現確有明顯提升。同時,天衍實驗室基于自身在醫療領域的經驗,嘗試結合大量醫療文本訓練領域自適應的新預訓練模型,進一步提升了模型表現。最終在評比測試集上,結合多種不同策略,天衍實驗室以F1值68.35獲得第一名。
實體關系抽取評測任務的數據來源于中文醫學信息抽取數據集CMeIE,也是目前最大的中文醫學關系數據集。因該數據中存在大量實體重疊和關系重疊的現象,天衍實驗室則采用了層疊指針網絡的基礎架構。首先通過兩個二值分類器提取頭實體的首尾位置,繼而采用Conditional layer normalization的方式融入頭實體信息,再針對每種關系,分別預測對應的尾實體。此外,為了更好地利用醫療詞匯的語義信息,天衍實驗室在輸入層融入領域詞向量,有效提升了實體邊界預測的準確率。最終在測試集上取得單模型第一(F1 61.70),融合模型(F1 63.87)第二的成績。
騰訊天衍實驗室基于自身NLP能力和相關科研成果,不斷通過一系列信息抽取相關競賽測試、突破,不僅累積了豐富場景應用經驗與方法,也將更好的輔助醫療行業技術升級和科研進步。
技術創新助力AI更“懂醫”
在醫療領域,電子病歷、生物醫療文獻中存在大量的非結構化文本,采用信息抽取技術對醫療文本進行結構化,提取其中的疾病,癥狀,部位等實體,并對實體之間的關系進行判斷,進而利用這些信息構建醫療知識圖譜,不僅有利于人工智能更好地學到領域內的專業知識,更進一步提升導診、輔診、疾病預測等下游醫療任務的性能。
具體來說,醫生在疾病診斷的過程中,不僅要知道患者的癥狀,而且要了解患者不同癥狀所對應的具體屬性,例如癥狀發生的時間、部位、變化情況。天衍實驗室AI導診和疾病預測功能,正是采用了上述信息抽取技術,可模擬醫生診斷過程,并提供循證路徑和一定的可解釋性。
如在AI導診場景中,當用戶輸入主訴,AI導診小程序可以返回推薦科室。用戶主訴中可能包含多個癥狀,不同癥狀的時間、部位、嚴重程度、病因誘因可能對應不同的疾病,通過關系抽取技術,可以捕捉到不同癥狀的具體屬性,從而有助于更精準的疾病預測和科室推薦。對于下圖中的患者主訴,首先采用ner技術提取癥狀、檢查等實體,繼而采用關系抽取技術對不同癥狀的具體屬性進行判斷,例如癥狀“腹脹不適”,對應的部位為“上腹”,時間為“3月余”,變化條件為“進食后明顯”,理解了癥狀的一系列細粒度屬性,才能進一步判斷可能的疾病和對應科室。
騰訊天衍實驗室致力于長期在自然語言基礎、語言理解、信息抽取、知識圖譜構建等進行研究創新,并將成果運用到落地的醫療自然語言等場景,目前已構建醫療行業大規模知識圖譜,支持了數百家醫院的輔診、導診、疾病輔助診斷、智能用藥等產品,助力醫保、醫院、疾控中心和其他醫療機構的智能化知識挖掘和管理難題,實現知識化轉型。
騰訊天衍實驗室專注于醫療健康領域AI算法研究及落地,旨在依托NLP、知識圖譜、大數據、醫療影像等技術系統,將算法能力輸出到騰訊健康小程序、QQ瀏覽器、微信搜一搜等終端應用。與此同時,騰訊天衍實驗室還與鐘南山院士以及復旦腫瘤醫院等頭部醫院建立聯合實驗室,與牛津大學、佐治亞大學、天津大學、微眾銀行AI部門等單位建立長期科研合作關系,目前已發表包括NIPS、KDD等多篇頂級學術論文,通過聯合社會各界進行技術深入研究,騰訊天衍實驗室將進一步加速科研應用落地,以服務于臨床應用。
想爆料?請登錄《陽光連線》( https://minsheng.iqilu.com/)、撥打新聞熱線0531-66661234或96678,或登錄齊魯網官方微博(@齊魯網)提供新聞線索。齊魯網廣告熱線0531-81695052,誠邀合作伙伴。