0
深度學習著名學者吳恩達和他在斯坦福大學的團隊一直在醫療方面做著努力。雷鋒網了解到，此前，吳恩達團隊研發出一種深度學習算法，可以診斷14種類型的心律失常。近日，該團隊又出新成果，他們提出了一種名為 CheXNet 的新技術。研究人員表示：新技術已經在識別胸透照片中肺炎等疾病上的準確率上超越人類專業醫師。
研究人員稱，開發的這種算法從胸透照片里檢測肺炎，且水平超越專業放射科醫生。算法被稱為 CheXNet，它是一個 121 層的卷積神經網絡。該網絡在目前最大的開放式胸透照片數據集“ChestX-ray14”上進行訓練。ChestX-ray14 數據集包含 14 種疾病的 10 萬張前視圖 X-ray 圖像。
背景
據雷鋒網了解，僅在美國，每年就有超過 100 萬成年人因為肺炎住院，5 萬人因為該病而死亡（CDC, 2017）。目前，胸部 X 光檢查是診斷肺炎的最佳方法（WHO, 2001），這種方法在臨床護理和流行病學研究中發揮著重要作用。然而，通過 X 光片診斷肺炎是一個具有挑戰性的任務，需要放射科醫師具備專家級的判斷能力。在吳恩達團隊的最新成果中，計算機科學院和醫學院的研究人員共同提出了一種新的機器學習模型，可以讓計算機通過胸透照片自動診斷肺炎。
圖一：ChexNet 是一個 121 層的卷積神經網絡，輸入胸透圖片，輸出患病概率。在這個例子中，CheXnet 準確地探測到了肺炎，同時定位了圖片中最有可能患病的位置。
CheXNet 可以輸出肺炎存在可能性的熱區圖。研究人員在最近發布的 ChestX-ray14 數據集（Wang et al., 2017）上訓練了 CheXNet。該數據集包含 112,120 張各自標注最多有 14 種不同胸部疾病（包括肺炎）的正面胸透圖像。研究人員使用密集連接（Huang et al., 2016）與批歸一化（Ioffe & Szegedy, 2015）來優化這一深度神經網絡。
圖 2. CheXNet 在使用胸透圖像識別肺炎任務上的表現超過放射科醫師的平均水平。在測試中，CheXNet 與四名人類放射科醫師在敏感度（衡量正確識別陽性的能力）以及特異性（衡量正確識別陰性的能力）上進行比較。放射科醫生的個人表現以橙色點標記，平均值以綠色點標記。CheXNet 輸出從胸透照片上檢測出的患肺炎概率，藍色曲線是分類閾值形成的。所有醫師的敏感度-特異性點均低于藍色曲線。
對放射科醫師來說，要在胸片上發現肺炎是很困難的。在胸透圖像中，肺炎的特征通常是模糊的，容易和許多其他的良性異常相混淆。這些差異導致放射科醫師在診斷肺炎時存在相當大的差異。為了評估放射科醫師的表現，斯坦福大學的研究人員找來了四名專業放射科醫師，使用 ChestX-ray14 子集的 420 張圖片對他們進行了測試。在這 420 張圖片里，診斷正確與否的標準為其他大多數放射科醫生的投票結果，與此同時，CheXNet 模型也以同樣的標準進行了測試。
為了比較CheXNet與之前使用ChestX - ray14的模型的能力，研究人員對比了新模型與其他模型在 ChestX-ray14 上對于十四種疾病的診斷準確率，結果發現新模型的表現在所有方面均超過了此前的結果。以放射科專家的水平從胸透圖像中自動檢測出疾病，不僅在臨床流程中有巨大的好處，而且對于那些無法享受到專家資源的人群來說，都是非常寶貴的。
問題表述
肺炎檢測工作其實是一個二元分類問題，其中輸入的是正向正面胸部X光圖像X，輸出則是一個分別指示肺炎存在或不存在的二元標簽t ∈{0, 1}。對于訓練集合中的一個單個標簽，研究人員優化了雙向叉熵損失
L(X, t) = ?t log p(T = 1|X) ? (1 ? t) log p(T = 0|X)
p(T = i|X) 是網絡分配給標簽 I 的概率。
模型架構和訓練
CheXNet 是一個121層的密集卷積神經網絡（DenseNet）(Huang et al., 2016)，是基于ChestX-ray 14數據集合來進行訓練的。DenseNet通過神經網絡來優化信息流和梯度，使得非常深入的神經網絡優化工作變得更加易于處理。團隊將最終的全連接圖層替換成為單輸出圖像，之后再應用非線性Sigmoid函數（常見的S形函數）輸出包含肺炎發生概率的圖像。
神經網絡的權重是被隨機初始化的，并且利用Adam標準參數（β1 = 0.9 and β2 = 0.999）進行端到端訓練 (Kingma & Ba, 2014)。研究者使用了規格為16的迷你批處理文件訓練該模型，并且過度取樣了少數（正）類(Buda et al., 2017)。團隊還使用了一個0.01初始學習率，每進行十次驗證就會衰退一個要素，在一個時期之后進入損失平穩期，再選擇最低驗證損失的那個模型。
訓練
據了解，研究人員使用了ChestX-ray14 數據集，該數據集合是由Wang et al. (2017)發布的，其中包含了30805名患者的112120張前胸X光圖片。Wang et al. (2017) 采用了放射醫學中的自動提取方法，用最多14個不同的胸腔病理學標簽來標注每張X光圖像。他們將有肺炎標記的X-光圖像標記為正向示例，然后把其他標簽的圖像標記為肺炎檢測任務的負向示例。團隊將整個數據集合做了隨機拆分，80%的數據用于訓練，20%的數據用于驗證。
在將胸透圖像導入進神經學習網絡之前，研究人員把圖像大小縮小到224*224，然后基于ImageNet訓練集合中的圖像均值和標準偏差進行了歸一化。此外，還通過隨機水平調整來增強訓練數據。
測試
研究人員收集了420張前胸X光圖片作為測試數據集合，這些數據是斯坦福大學四位獲得放射科執業資格的醫師提供的，他們也都被要求按照Wang et al.(2017)約定的14種病理學基準對圖像進行了標注。
這四名放射科醫師分別有四年、七年、二十五年和二十八年的從業經驗，其中有一位放射科醫師還是一名次級專科研究生，并且受到過專業胸腔放射科醫師的培訓。不過，所有測試的放射科醫師都不能獲取任何患者信息或是有關病理知識的數據。標簽將會被輸入到一個標準化數據錄入程序內。
表 1. CheXNet 在 ChestX-ray14 數據集中 14 種病變的檢測結果與另外兩種模型的對比。在檢測腫塊、結節、肺炎、氣胸和肺氣腫時，CheXNet 的表現超越了此前業內最佳水平至少 0.05。
研究人員評估了肺炎檢測任務測試集合上放射科醫師的表現。回想一下，在test420中每一個圖像都有來自那四名執業放射科醫生的真實標簽。研究者使用大多數投票為基礎來對其他三名放射科醫師的表現分別進行了評估。同樣，他們也讓四名放射科醫師中的三個進行了大多數投票，來評估CheXNet的表現，并且重復做了四次，這樣可以全面覆蓋三組醫師（每組三人）。
在受試者工作特征（ROC）曲線上對比了CheXNet和發射科醫師的表現，該曲線將模型敏感性與1-特異性進行了比較。圖2展示了ROC曲線模型，以及四名放射科醫師及其平均操作數：每個獨立發射科醫師的表現都用橙色標記表示，平均值則是用綠色表示。CheXNet輸出了胸腔X-光中監測出肺炎的概率，并且通過改變分類邊界闕值來生成ROC曲線。結果顯示，CheXNet能夠與放射科醫師一樣，甚至可以超出他們的水平檢測出肺炎。
事實上，研究者還設置了兩個限制條件。首先，CheXNet模型和放射科醫師都不允許使用之前曾檢查過的患者數據，或是其他患者病史數據——因為這已經被證明會降低放射科醫師的表現(Berbaum et al., 1985; Potchen et al., 1979)。其次，在診斷時，僅向放射科醫師和CheXNet模型提供正面X-光照片，但是如果想要提升15%的診斷準確率，至少還需要患者側面的X-光圖像數據(Raoof et al., 2012)。因此，在這兩個限制條件下，其實對人類放射科醫師的表現評估是比較保守的。
最近，深度學習和大型數據集的發展使得算法的性能在各種醫學影像測試中超過醫學專家，包括糖尿病視網膜病變檢測(Gulshan et al .,2016),皮膚癌分類(Esteva et al .,2017),心律失常的檢測(Rajpurkar et al .,2017),和出血識別(Grewal et al .,2017)。
圖 3. 使用 Class Activation Maps，ChexNet 定位了它識別出的病變，高亮區域是分析病癥需要重點觀察的位置。
胸部影像的自動化診斷得到了越來越多的關注，包括肺結核分類(Lakhani & sun daram,2017)和肺結節檢測(Huang et al .，2017)。Islam et al.(2017)利用公開可用的 OpenI 數據集(Demner - fushman et al .，2015)研究了不同的卷積結構對不同異常檢測的表現。Wang et al .(2017)發布了ChestX- ray-14，比之前的數據集大了一個數量級，同時在ImageNet上還對不同的卷積神經網絡結構進行了預先訓練。最近，Yao et al.(2017)利用標簽間的統計相關性做出了更準確的預測，超過了Wang et al .(2017)14種里的13種。
雷鋒網了解到，肺炎在患者發病率和死亡率中占很大一部分比例。而早期診斷和治療對預防包括死亡在內的并發癥至關重要。胸透檢查每年大約有20億次，是最常用的成像檢查工具，用于檢查、診斷和管理包括肺炎在內的各種疾病。然而，世界衛生組織估計，即使有放射設備，全球三分之二的人口也會因為缺乏優質的放射科醫生，而導致可治療疾病的死亡率上升。
研究人員表示，機器自動化水平的不斷提高，希望這項技術可以提高醫療保健水平，讓缺乏優質放射科醫生資源的地區也能夠享受到專家級的醫療水平。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
