一区中文字幕在线观看I91九色成人蝌蚪首页I最新中文在线视频I中文字幕乱在线伦视频中文字幕乱码在线I日日草天天草I91精彩视频在线观看I久久精品99精品国产香蕉I久久成人午夜视频

醫療器械創新網

logo

距離創新創業大賽報名結束
48
16
37

會員登錄

用戶登錄 評委登錄
一周內自動登錄 建議在公共電腦上取消此選項
一周內自動登錄 建議在公共電腦上取消此選項
一周內自動登錄 建議在公共電腦上取消此選項
手機驗證碼登錄 還未賬號?立即注冊

會員注冊

已有賬號?
醫療器械創新網
醫療器械創新網

肺結節CT影像輔助檢測軟件注冊審查指導原則意見征求中

日期:2022-01-14

關于公開征求《肺結節CT影像輔助檢測軟件注冊審查指導原則》意見的通知


  根據國家藥品監督管理局2021年度醫療器械注冊技術指導原則制修訂計劃的有關要求,我中心組織起草了《肺結節CT影像輔助檢測軟件注冊審查指導原則》,形成了征求意見稿(附件1),現向社會公開征求意見。
  如有意見或建議,請填寫反饋意見表(附件2),并于2022年2月10日前將該表發至聯系人電子郵箱。
  聯系人:張宇晶
  電話:010-86452613
  電子郵箱:zhangyj@cmde.org.cn
  附件:1. 肺結節CT影像輔助檢測軟件注冊審查指導原則(征求意見稿)
     2.反饋意見表

國家藥品監督管理局
醫療器械技術審評中心
2022年1月10日

附件

肺結節CT影像輔助檢測軟件注冊審查指導原則(征求意見稿)

本指導原則是對肺結節CT影像輔助檢測軟件的一般要求。注冊申請人應依據具體產品的特性對注冊申報資料的內容進行充實和細化。注冊申請人還應依據具體產品的特性確定其中的內容是否適用,若不適用,需具體闡述其理由及相應的科學依據。

本指導原則是供注冊申請人和技術審評人員使用的指導性文件,但不包括注冊審批所涉及的行政事項,亦不作為法規強制執行,如果有能夠滿足相關法規要求的其他方法,也可以采用,但是需要提供詳細的研究資料和驗證資料。應在遵循相關法規的前提下使用本指導原則。本指導原則是在現行法規和標準體系以及當前認知水平下制定的,隨著法規和標準的不斷完善,以及科學技術的不斷發展,本指導原則相關內容也將進行適時的調整。本指導原則中相關內容均應執行最新版本的標準。

本指導原則是人工智能醫療器械指導原則體系的重要組成部分,基于人工智能醫療器械審評指導原則的通用要求,明確了肺結節CT圖像輔助檢測軟件的具體要求。

一、適用范圍

本指導原則適用于肺結節CT影像輔助檢測軟件的產品注冊。按現行《醫療器械分類目錄》,該類產品分類編碼為21-04-02,管理類別為三類。

肺結節CT影像輔助決策軟件包括肺結節CT影像輔助檢測軟件、肺結節CT影像輔助診斷軟件,前者主要用于疑似肺結節的檢測或者檢測及影像學分類,后者主要用于疑似肺結節良惡性等臨床診斷。肺結節CT影像輔助診斷軟件可參照本指導原則執行。

二、注冊審查要點

(一)監管信息

明確產品名稱的確定依據、管理類別、分類編碼、規格型號、產品組成等信息。

1.??? 產品名稱

產品命名應符合《醫療器械通用名稱命名規則》的要求。根據產品預期用途可采用肺結節CT影像輔助檢測軟件進行命名。

2.分類編碼

依據《醫療器械分類目錄》,申報產品分類編碼為21-04-02。按第三類醫療器械管理。

3.注冊單元劃分

根據產品的技術原理、結構組成、性能指標、適用范圍進行注冊單元劃分。

可以與CT設備一起作為軟件組件注冊,也可以按照獨立軟件注冊。

4.適用范圍

適用范圍需明確處理對象、核心功能、適用人群、目標用戶、臨床用途。

例如,用于胸部CT影像的顯示、處理、測量和分析,可對4mm及以上肺結節進行識別并分析結節影像學特征,供經培訓合格的醫師使用,不能單獨用作臨床診療決策依據。

(二)綜述資料

1. 產品描述

1.1器械及操作原理描述

1.1.1工作原理

需詳述產品的工作原理,例如:基于深度學習技術對醫學影像進行分析處理、對肺結節進行分割、檢測、自動識別等。

1.1.2結構組成

結構組成明確交付內容和功能模塊,其中交付內容包括軟件安裝程序、授權文件、外部軟件環境安裝程序等軟件程序文件,功能模塊包括客戶端、服務器端(若適用)、云端(若適用),若適用注明選裝、模塊版本。基于人工智能算法(如深度學習)的功能模塊,需在模塊名稱中注明人工智能(如深度學習)。

1.2 型號規格

需明確申報產品的型號規格及發布版本。產品型號/規格及其劃分,如同一個注冊單元包含多個型號規格,需提供產品型號規格區分列表或配置表。

1.3研發歷程

闡述申請注冊產品的研發背景和目的。如有參考的同類產品或前代產品,需提供同類產品或前代產品的信息,并說明選擇其作為研發參考的原因。

2.適用范圍和禁忌證

(1)適用范圍

適用范圍需明確處理對象、核心功能、適用人群、目標用戶、臨床用途、軟件與醫生閱片順序。

例如,肺結節CT影像輔助檢測軟件產品適用范圍為:用于胸部CT影像的顯示、處理、測量和分析,可對4mm及以上肺結節進行識別并分析結節影像學特征,供經培訓合格的醫師使用,不能單獨用作臨床診療決策依據。

(2)預期使用環境

需明確設備使用場所和使用環境要求。

設備使用場所包括:醫療機構機房等。

使用環境要求需至少包括:溫度、濕度、大氣壓、光照條件。

(3)適用人群

需詳述產品的適用人群。目標人群信息(如用于篩查、診斷)或無預期治療特定人群的聲明、感興趣器官/疾病/病灶/異常、以及預期使用該產品的目標用戶(如經培訓合格的放射科醫師、技師、專科醫師等)

(4)禁忌證

明確產品臨床應用的禁忌證以及不推薦使用該產品的情況。

3.產品功能

明確軟件與醫生閱片順序。結合用戶界面圖示詳細介紹技術要求中對應的臨床功能,如有特殊聲明,如用于檢測繼發性結節或更小結節,可以在功能中體現。明確自動、手動、半自動輸出的數據、量化分析的具體內容、服務器部署(局域網、云端)等。

(三)非臨床資料

1.產品風險管理資料

依據YY/T 0316《醫療器械風險管理對醫療器械的應用》,提供產品風險管理報告。

申請人需重點說明:申報產品的研制階段已對有關可能的危害及產生的風險進行了估計和評價,針對性地實施了降低風險的技術和管理方面的措施。產品性能測試對上述措施的有效性進行了驗證,達到了通用和專用標準的要求。申請人對所有剩余風險進行了評價,全部達到可接受的水平。產品風險分析資料需為申請人關于產品安全性的承諾提供支持。

風險管理報告一般包括以下內容:

(1)申報產品的風險管理組織。

(2)申報產品的組成。

(3)申報產品符合的安全標準。

(4)申報產品的預期用途,與安全性有關的特征的判定。

(5)對申報產品的可能危害作出判定(見附錄1)。

(6)對所判定的危害采取的降低風險的控制措施。

(7)對采取控制措施后的剩余風險進行估計和評價。

2.產品技術要求及檢測報告

2.1產品技術要求

依據《醫療器械產品技術要求編寫指導原則》進行編制。

? 2.1.1規格信息

明確軟件發布版本和版本命名規則。軟件版本命名規則原則上需涵蓋算法驅動型更新和數據驅動型更新,明確并區分重大軟件更新和輕微軟件更新,其中重大軟件更新列舉常見典型情況。

明確不同型號間產品差異。

2.1.2性能指標

明確產品處理對象,以及數據接口信息,包括成像模態(如計算機體層攝影)和特定軟硬件名稱及型號(如適用)。

明確軟件所有的臨床功能,如結節檢出的尺寸范圍(如4-30mm)、結節密度分類類別(如實性、亞實性的手動分類等)、結節位置(如肺葉、肺段、肺結節CT圖像層面、肺內、胸膜)、結節標記方式(緊密包裹結節的邊界框、不緊密包裹結節的邊界框)、分割方式(自動分割、半自動分割、手動分割)、測量功能(如體積、最大軸向平面最長直徑、短徑、平均直徑、最大三維直徑、有效直徑、平均密度、面積等)、隨訪評估功能(如倍增時間、數值參數的百分比(%)和絕對變化、結節長軸、短軸、平均直徑、最大三維直徑、有效直徑、體積、平均密度等)、測量精度(相對誤差絕對值的平均值、絕對誤差)、結節的3D或MIP可視化等。

使用限制明確應用場景(體檢篩查、門診病房)、患者(年齡、地域、疾病類型)、CT設備廠家、探測器排數、CT掃描參數(如管電壓、管電流、層厚/層間距、劑量、窗寬窗位、重建方式、顯示方式)、放射學檢查條件(CT增強掃描、CT平掃)、CT圖像質量要求(如分辨率、偽影)、結節檢出的尺寸范圍、結節密度分類類別。如軟件包含圖像質量判定功能,明確軟件使用限制。

若含有基于測評數據庫測試的性能指標,其要求參考《人工智能醫療器械注冊審查指導原則》。

運行環境,運行在不同計算機系統的產品模塊(如客戶端和云端)需分別描述其運行環境。

附錄中明確軟件輸出報告及界面數據圖示及測評數據庫數據庫/集信息。服務器部署(局域網、云端)。

2.2檢驗報告

產品需符合GB/T 25000.51 《系統與軟件工程 系統與軟件質量要求和評價(SQuaRE)第51部分:就緒可用軟件產品(RUSP)的質量要求和測試細則》的要求。

注冊人需在軟件研究資料中提交GB/T 25000.51自測報告或委托有資質的醫療器械檢驗機構出具檢驗報告。檢測報告需明確軟件發布版本信息。

3.軟件研究

(1)基本要求

生產企業需依據《醫療器械軟件注冊審查指導原則》提交相應軟件研究資料。其中,核心算法所述人工智能算法需依據 《人工智能醫療器械注冊審查指導原則》提交相應算法研究資料。

生產企業需依據《醫療器械網絡安全注冊審查指導原則》提交網絡安全描述文檔。按照《人工智能醫療器械注冊審查指導原則》提交數據安全資料。

若使用云計算服務,生產企業需依據《人工智能醫療器械注冊審查指導原則》提交相應研究資料。使用云計算服務需明確服務模式、部署模式、核心功能、數據接口、網絡安全能力、服務(質量)協議等要求。

軟件版本命名規則涵蓋算法驅動型軟件更新和數據驅動型軟件更新;區分重大軟件更新和輕微軟件更新,其中重大軟件更新需列舉常見典型情況。

(2)軟件安全級別

該類產品的軟件安全性級別為嚴重(C)級。

(3)核心算法

核心算法的選擇可以參考下表,其中采用全新算法(如深度學習)需提供算法研究資料。

表1.核心算法示例

算法名稱

類型

用途

功能

灰度拉伸圖像增強算法

公認成熟算法

影像增強,用于增強影像對比度,提升算法精度

肺葉分割及肺結節檢測

NMS非極大值抑制

公認成熟算法

目標選擇

以預測概率對檢測框進行優先級排序,消除冗余檢測框,抑制假陽性檢出

基于FPN-ONS的肺結節檢出算法

全新

對肺部小結節進行檢出

輔助醫生檢測肺結節

肺分割算法

全新

對左肺、右肺進行分割,提取肺野區域

過濾肺結節檢出算法檢出的肺外假陽性,以及肺結節左右肺定位

基于UNET的肺葉分割算法

全新

對左肺上下葉,右肺上中下葉進行分割

肺結節肺葉定位

肺段分割算法

全新

對左肺8個肺段,右肺10個肺段進行分割

肺結節肺段定位

肺結節分割算法

全新

對肺結節進行分割,并計算長短徑

輔助醫生測量肺結節體積,長短徑

肺結節密度分類算法

全新

對肺結節密度類型(磨玻璃,實性,鈣化,部分實性)進行分類

輔助醫生判斷肺結節密度類型

肺結節惡性程度評估算法

全新

對肺結節的良惡性進行評估,輸出惡性程度(0-100%)

輔助醫生對肺結節良惡性進行判斷

肺結節密度測量算法

公認成熟算法

基于肺結節分割,測量肺結節平均HU值

輔助醫生測量肺結節內部HU值

……




4.算法研究資料

4.1算法基本信息

肺結節CT影像輔助檢測軟件所涉及的算法一般包括肺結節檢出算法、肺結節分類算法和肺結節測量算法。其中肺結節檢出算法目的在于在胸部CT影像中利用人工智能技術自動檢出肺結節,輔助醫生篩查;肺結節分類算法對每個肺結節的屬性進行歸類,按照類別不同,肺結節分類算法包括但不限于肺結節密度分類算法,肺結節解剖定位分類算法等;肺結節測量算法對每個肺結節的屬性進行量化測量,區別于肺結節分類算法,肺結節測量算法輸出的是連續的量化值,而肺結節分類算法輸出的是離散的類別。按照測量屬性不同,肺結節測量算法包括但不限于肺結節體積測量算法,肺結節密度值測量算法和肺結節長短徑測量算法等。

4.1.1肺結節檢出算法

肺結節檢出算法需明確算法的輸入,比如算法采用的是2D,2.5D還是3D的胸部CT圖像作為神經網絡的輸入;算法的輸出,比如緊密包裹肺結節的矩形框端點(二維/三維),肺結節中心點;

明確算法所采用的神經網絡結構,如 Faster RCNN;明確算法訓練采用的損失函數,如交叉熵,L1范數;明確算法設計過程中網絡結構、損失函數等核心組件選擇和設計的原則、方法與風險考量,如肺結節大小尺度的差異,肺結節與背景正負樣本的不均衡性、假陽性、過擬合等;若肺結節檢出采用多個模型融合,需明確不同模型訓練與推理的方式,以及模型融合的策略,如級聯,多數投票;

肺結節檢出存在同一個目標多個重疊框的問題,算法需明確匹配關系所采用的策略,如交并比(IoU),定位框中心距離;

明確算法的流程圖,需包含算法運行前所進行的前處理(圖像縮放、圖像像素值歸一化、圖像重采樣)以及算法運行后所進行的后處理操作(圖像重采樣、非最大化抑制)。明確訓練與部署所采用的框架(如Tensorflow, Pytorch)、算法運行環境(如內存、顯存的需求)。

若使用遷移學習技術,除上述內容外還需補充預訓練模型的數據集構建、驗證與確認等總結信息,并論證遷移學習的適用性。

4.1.2肺結節分類算法

??? 肺結節分類算法包括密度分類算法、肺結節解剖定位分類。

肺結節密度分類算法需明確輸出(密度類別),密度類別制定依據以及臨床適用性。

肺結節密度分類算法需明確算法的輸入,比如算法采用的是2D,2.5D還是3D的圖像作為神經網絡的輸入。若采用2D,需明確肺結節選取的圖像層面,如中心層面,最大面積層面;明確算法所采用的神經網絡結構,如Residual Net,Dense-Net;明確算法訓練采用的損失函數,如交叉熵,Focal損失函數;損失函數等核心組件選擇和設計的原則、方法與風險考量,如肺結節大小尺度的差異,不同類別肺結節樣本的不均衡性、過擬合等;若肺結節分類采用多個模型融合,需明確不同模型訓練與推理的方式,以及模型融合的策略,如多數投票;最后,明確算法的流程圖,訓練與部署所采用的框架(如Tensorflow, Pytorch)、算法運行環境(如內存、顯存的需求)。

肺結節解剖定位分類中,明確肺結節定位的類別,如左/右肺定位、肺葉定位、肺段定位。明確算法輸入的類型,如肺結節二維切片,肺結節三維圖像塊,若輸入類型為二維切片,明確二維切片選取標準(肺結節長短徑交點所在切片、肺結節最大面積切片)。肺結節解剖定位分類算法需明確實現的機理,如圖像分割算法,圖像分類算法。

4.1.3肺結節測量算法

針對肺結節測量算法,明確測量實現的方式。肺結節體積測量算法、密度值測量算法與長短徑測量算法可以通過肺結節分割技術來實現,也可以通過機器學習中的回歸方法來進行預測。其中密度值測量算法需明確測量的類型,如平均值,標準差,最大值,最小值,中位數。

若申報產品涉及上述多個算法,需提供算法整體流程圖,明確各個算法調用先后關系,以及輸入輸出依賴關系。

若使用遷移學習技術,除上述內容外還需補充預訓練模型的數據集構建、驗證與確認等總結信息,并論證遷移學習的適用性。

4.2算法需求規范

算法功能需求建議關注數據庫需求、算法性能評價指標及制定依據。

4.2.1數據庫需求

算法性能評價需要基于訓練和測試數據庫,數據庫具體要求詳見附錄2。

4.2.2算法性能評價指標

在指定肺結節檢出算法評估指標之前,需明確標記匹配的方式,即算法標記目標與參考標準目標的匹配方式,常見的標記匹配方式有按照區域重疊的比例、中心點的距離、中心是否落入來判斷標記是否匹配;明確算法任務,明確算法訓練和調優過程中不同任務的的評估指標及定義。有關標記匹配方式與評估指標的定義可以參考“人工智能醫療器械 肺部影像輔助分析軟件算法性能測試方法”5.1.1.1章節。

明確不同任務的算法評價指標的確定依據、分層影響因素選擇依據,建議參考《人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法》、肺結節診療中國專家共識、美國國立綜合癌癥網絡NCCN指南、Fleishner年學會指南、中華醫學會肺癌臨床診療指南等。

結節檢出指標包括不限于召回率、精確度、特異度。

結節分類指標包括不限于靈敏度、特異度、總體的Kappa系數、準確率。

結節分割指標包括不限于體積交并比、Dice系數、Hausdorff距離。

尺寸測量指標包括不限于結節體積相對誤差率、肺結節平均徑相對誤差率、肺結節長徑絕對誤差均值MAE、肺結節短徑絕對誤差均值MAE。

提供文獻綜述論證評價指標選擇及分層影響因素選擇的合理性。分層分析的影響因素包括年齡、病變類型、大小、層厚、采集協議等重要變量。

算法質量特性包括泛化能力、魯棒性(面向硬件變化的對抗測試、面向軟件前處理的對抗測試、壓力測試)、重復性、一致性、效率。

隨訪評估功能包括倍增時間、數值參數的百分比(%)和絕對變化,如結節長軸、短軸、平均直徑、最大三維直徑、有效直徑、體積、平均HU。

4.2.3算法性能測試基本要求

4.2.3.1結節檢出

軟件檢出肺結節的召回率和精確度不低于X%。

召回率和精確度的計算一般針對全體結節進行。在設置篩選條件后,可以使用篩選后的參考標準與篩選后的AI結果進行匹配。如篩選后假陽性結果難以定義,建議以召回率為主要指標,常見情形為:

-對具體某一種結節類型,計算結節的召回率。結節類型包括實性結節、純磨玻璃結節、部分實性結節、鈣化結節等。

-對平均直徑、長徑處于某一區間的結節,計算召回率

-·對類型、尺寸范圍組合的結節,計算召回率。

4.2.3.2結節分類準確度

明確分類場景,如二分類場景、多分類場景。對于二分類場景下的指標,如軟件能夠對A類型的肺結節進行分類,準確率不低于X%,靈敏度不低于Y%,特異性不低于Z%。總體的Kappa系數不低于N%;多分類問題可以轉化為二分類問題,按每一類進行描述。

4.2.3.3結節分割

體積交并比不小于XX;如果產品只輸出最大層面則計算最大層面交并比,或DICE系數不小于XX

4.2.3.4尺寸測量

體積測量偏差±XX%;長徑測量偏差±XX%。長徑小于等于10mm則增加平均直徑允差,大于10mm則增加短徑允差。

4.2.4樣本量

明確樣本量估計的公式、參數及制定依據。

4.3數據質控

建議參考“人工智能醫療器械注冊審查指導原則”及“人工智能醫療器械質量要求和評價 第2部分:數據集通用要求”。

  1. 4.3.1明確數據庫信息(詳見附錄2)

  2. 4.3.2數據預處理

數據預處理需明確數據轉移保存的方法。

數據入庫前完成清洗,主要是讀取Patient數據確定數據是否完成脫敏,是否合規;讀取Study和Series的識別碼確定圖像的唯一性,通過Image的標識碼判定圖像是否連續完整。此外,通過讀取層厚、層間距等信息確定圖像的質量并加以篩選。流程圖示例如圖1所示:

圖1 數據清洗流程圖

?

4.3.3數據標注

數據標注建議參考“人工智能醫療器械質量要求和評價 第3部分:數據標注通用要求”。

需明確標注任務分類(包括數據模態、執行主體、標注結果格式、標注結果性質、標注結果形式等維度),提供標注任務描述文檔(標準規則、標注人員、標注工具、標注環境、數據)。其中標注規則需明確制定依據并提供參考文獻。標注人員建議列表給出標注、審核、仲裁人員的基本信息,如數量、醫療機構、科室、工作年限、職稱、培訓、培訓考核情況、工作量、標注任務、參考的所有受檢者臨床信息(如病理檢測結果)。

標注與質控流程建議提供業務架構、過程組織(任務生成、任務分配、任務實施、質量控制、驗收準則及驗收報告。其中業務架構宜采用流程圖介紹單張圖片的標注、審核、仲裁過程。

如標注工具、標注平臺使用人工智能算法進行輔助標注,需提交標注工具、標注平臺算法性能研究資料。

4.3.4數據集構建

依據《人工智能醫療器械注冊審查指導原則》指南明確訓練集、調優集、測試集的劃分方法、劃分依據、數據分配比例。

提供查重驗證結果,以證實訓練集、調優集、測試集的樣本兩兩無交集。

明確數據擴增需明確擴增的對象、范圍、方式(離線、在線)、方法(如翻轉、旋轉、鏡像、平移、縮放、濾波、生成對抗網絡等)、倍數、在線數據擴增記錄。

提供擴增數據庫與標注數據庫樣本量、樣本分布(注明擴增倍數)對比表,以證實擴增數據庫樣本量的充分性以及樣本分布的合理性。

提供采用生成對抗網絡數據擴增的算法基本信息以及算法選用依據資料。

4.4算法訓練

?????? 算法訓練需明確訓練過程所采用的優化器及其相關參數,如Adam,SGD;在算法訓練階段,需明確驗證集的劃分方式,如留出法,交叉驗證法;需明確訓練目標,即判斷何時停止訓練,如設定最大的訓練epoch數目,依據損失函數判斷損失穩定且不繼續下降,根據訓練epoch數量-評估指標曲線判斷評估指標不繼續提升等。當訓練停止后,明確訓練模型最佳epoch的選擇方法,如在留出法中,根據留出部分的驗證集選取評價指標最優的epoch;在交叉驗證法中,計算多次隨機劃分驗證集的評價指標平均值,選擇最優的epoch。同時,結合臨床需求(如靈敏度、精準度),明確算法出廠閾值的選擇與方法,并論證訓練所得模型是否滿足產品既定目標。算法出廠閾值的選擇需提供制定依據。

算法訓練階段需結合訓練數據量-評估指標曲線驗證算法訓練數據量的充分性,常用的方式有以最小訓練數據量為基礎,逐步增加數據量。對于不同的訓練數據量,計算對應的評價指標。當評價指標為單一標量時(如靈敏度),訓練數據量-評估指標曲線的x軸為訓練數據的樣本量(如CT序列個數),y軸為在使用特定訓練量時,算法在測試集的評價指標。結合訓練數據量-評估指標曲線,判斷當訓練數據量有限時,評價指標是否隨數據量的增加而增加,并在數據量達到一定程度后,評價指標趨于平穩。當評價指標為曲線時,可考慮根據不同訓練數據量,繪制對應的評價指標曲線,判斷曲線下面積(AUC)是否先隨數據量的增加而增加,最后當數據量達到一定程度后趨于平穩。以fROC曲線為例,在評估訓練數據量的充分性時,當訓練數據量有限時,fROC曲線下面積需隨數據量增加而增加,fROC曲線逐步逼近坐標左上角;當訓練數據量達到一定程度后,fROC曲線下面積慢慢趨于穩定。

若訓練過程中采用了數據擴增的方式,需明確擴增方式,如離線數據擴增,在線數據擴增。同時,需明確數據擴增的方法以及相應的參數設置,如圖像平移,旋轉,縮放,彈性形變等。若訓練過程未采用數據擴增,需論證未進行數據擴增的理由,或者通過對比試驗(數據擴增 vs 未數據擴增)來論證合理性。

4.5算法驗證與確認

明確算法任務,明確不同任務的算法評價指標的閾值及確定依據。明確算法標記目標與參考標準的匹配方式和匹配閾值。明確病例水平和結節水平計算方法及定義一個結節的處理方法及病例陽性的方法。區分算法任務制定具體測試方法和結果計算方法。建議參考《人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法》。

4.5.1檢出算法性能評估

基于算法的出廠閾值,明確算法在訓練集,調優集和測試集的假陰性(召回率)與假陽性(精確度),通過比較三個數據集的性能來評估算法的泛化性。

若在訓練過程中使用數據擴增,需在調優集上比較使用與不使用數據擴增對肺結節檢出性能的影響。

對于肺結節檢出算法,需分層統計算法對于不同大小和不同密度的肺結節的檢出效能,可以通過fROC曲線,召回率以及精確度等指標來評價,同時結合臨床需求論述結果的合理性。在肺結節大小的維度,可將肺結節分為4-5mm,5-8mm以及8-10mm來進行分層統計,一般而言,肺結節尺寸越大,檢出的難度越低。在肺結節密度維度,需明確是二分類還是多分類,需明確密度類型及制定依據,進行密度類型的分層統計。

除此之外,還需考慮性別、年齡、設備廠家、重建方式、層厚/層間距、管電流、管電壓等參數對肺結節檢出算法效能的影響。需明確設備廠家,且必須符合DICOM 3.0協議標準數據;管電壓考慮70-140 kV,管電流考慮10-400 mA;層厚與層間距需不超過5mm,在分層統計中可以考慮將層厚與層間距歸為兩大類0.625-1.250mm和1.25-5mm,前者為“胸部CT肺結節數據集構建及質量控制專家共識”推薦的肺結節診斷層厚的范圍;重建方式需考慮常見的肺算法與標準算法(軟組織算法)。

在亞組的分層統計中,肺結節檢出效能需在不同因素下均能取得較好性能。若在某些影響因素下,肺結節檢出效能存在差異,需進行合理地論證,并在說明書給出使用限制。

需提供算法性能測試報告,至少包括軟件環境、硬件環境、測試平臺描述(如適用)、測試集描述、算法性能指標的符合性分析(性能指標的定義、測試通過準則、統計分析)、算法錯誤統計。需包括算法性能及算法質量特性、隨訪功能測試結果。

4.6 算法性能綜合分析

結合算法訓練、算法性能評估、臨床評價等結果開展算法性能綜合評價,針對訓練樣本量和測試樣本量過少、測試結果明顯低于算法設計目標、算法性能變異度過大等情況,對產品的適用范圍、使用場景、核心功能進行必要限制。

5.用戶培訓方案

對于軟件安全性級別為嚴重級別的產品,原則上需單獨提供一份用戶培訓方案,包括用戶培訓的計劃、材料、方式、師資等。

用戶培訓需關注以下內容:預期用戶要求,如工作年限或執業資格;醫生必須對軟件結果進行確認,軟件只用于輔助檢測,不能替代醫生。CT圖像要求,如嚴重呼吸、金屬偽影或有掃描質量問題的CT影像慎用;基于臨床試驗驗證,不宜使用該軟件的疾病;

(四)產品說明書和標簽樣稿

說明書、標簽和包裝標識需符合《醫療器械說明書和標簽管理規定》(國家食品藥品監督管理總局令第6號)和《醫療器械軟件技術審查指導原則》、《醫療器械網絡安全技術審查指導原則》、《人工智能醫療器械注冊審查指導原則》和相關標準的規定。

說明書內容需重點關注:

1.用戶說明

對預期用戶和推薦用戶培訓的詳細說明。如,預期用戶工作年限或執業資格要求,且需經培訓合格。

2.使用限制

若產品采用人工智能黑盒算法,需根據算法影響因素分析報告,在說明書中明確產品使用限制和必要警示提示信息。

示例:不應僅僅依靠本器械所標識的輸出,應由專業醫師對結果進行解釋。

已發現該器械對于XX的受檢者無效。具有這種疾病/病癥/異常的受檢者不應使用該器械。

對訓練數據、測試數據與臨床試驗的算法性能評估結果不佳,數據量偏少的,此類受檢者使用該器械,應由專業醫師結合受檢者的病史、癥狀、體征、其他檢查結果情況綜合給出最終的肺結節檢出結論,核實是否需要進行一步診療的決策,并對臨床診斷結果負責。

3.注意事項

測量準確性(如圖像長度、CT值平均值、最大值、最小值、面積值、體積、密度、位置坐標)、測量功能警示信息,如體積測量是基于體素個數的圖形學測量,并不能完全反映人體真實的體積,測量體積僅供醫生參考。

CT影像質量要求,如嚴重呼吸、金屬偽影或有掃描質量問題的CT影像慎用;圖像序列未完整包含肺臟全部組織的圖像數據禁用。

醫生必須對軟件結果進行確認,軟件只用于輔助檢測,不能替代醫生。原始的AI結果應保留,確保軟件結果的可追溯性與可責性。

4.預防措施

需明確與器械使用相關的不良事件,并提供緩解措施建議。不良事件討論需至少包括對假陽性事件和假陰性事件的不良事件的討論。

5.器械描述

需提供以下內容:

-算法設計和功能的概述,如有特殊聲明,如用于繼發性結節或更小結節檢測,可以特別說明。

-培訓范例和培訓或開發數據庫的概述

-研發和調整算法中所用的受檢者數據的參考標準的描述

-與本器械兼容的采集技術

-適當顯示器械標記的要求

6.軟件

需明確軟件發布版本、提供網絡安全說明和使用指導,明確用戶訪問控制機制、電子接口(含網絡接口、電子數據交換接口)及其數據類型和技術特征、網絡安全特征配置、數據備份與災難恢復、運行環境(含硬件配置、外部軟件環境、網絡環境,若適用)、安全軟件兼容性列表(若適用)、外部軟件環境與安全軟件更新(若適用)、現成軟件清單(SBOM,若適用)等要求。

7.產品接口和聯合使用設備

需明確對配合使用的圖像工作站和PACS適當顯示器械標記的要求。

需明確CT設備兼容性與掃描參數要求(如層厚、排數)、

8.算法訓練總結

訓練集基本信息、訓練指標與結果

9.算法性能評估總結

-算法輸入與輸出

-測試集基本信息

-用于確定器械標記的每個區域的性質的評分標準

-每個可用器械操作點的總體敏感度和假陽性率指標

-分層分析(如,根據病變大小、病變類型、采集參數、成像或數據特征)

-獨立FROC性能(如適用),需和操作特性曲線一起說明。

-測試結果

10.臨床試驗總結

需包括臨床試驗設計基本類型、研究對象(受試者及閱片者情況)、評價指標,金標準、對收集臨床信息方法的描述、統計方法描述、樣本量,臨床試驗結果(含各結節尺寸、密度影、閱片者亞組情況)。

11.公開數據庫及測試結果(如有)

12.第三方測評數據庫及測試結果(如有)

13.決策指標定義(或提供決策指標定義所依據的臨床指南、專家共識等參考文獻)等信息。

三、參考文獻

[1]國家市場監督管理總局. 醫療器械注冊與備案管理辦法(市場監管總局令第47號),2021.8

[2]原國家食品藥品監督管理總局. 醫療器械說明書和標簽管理規定(總局令第6號),2014.7

[3]國家藥品監督管理局. 醫療器械注冊申報資料要求和批準證明文件格式(2021年第121號),2021.9

[4]國家藥品監督管理局. 醫療器械通用名稱命名指導原則(2019年第99號通告),2019.12

[5]國家藥品監督管理局. 醫療器械安全和性能基本原則(2020年第18號通告),2020.3

[6]原國家食品藥品監督管理總局.醫療器械產品技術要求編寫指導原則(2014年第9號通告),2014.5

[7]國家藥品監督管理局醫療器械技術審評中心. 醫療器械軟件技術審查指導原則(第二版)(征求意見稿),2020.6

[8] 國家藥品監督管理局醫療器械技術審評中心. 醫療器械網絡安全技術審查指導原則(第二版)(征求意見稿),2020.9

[9]原國家食品藥品監督管理總局. 移動醫療器械注冊技術審查指導原則(2017年第222號通告),2017.12

[10]國家藥品監督管理局醫療器械技術審評中心. 深度學習輔助決策醫療器械軟件審評要點(2019年第7號通告),2019.7

[11] 國家藥品監督管理局醫療器械技術審評中心. 肺炎CT影像輔助分診與評估軟件審評要點(試行)(2020年第8號通告),2020.3

[12]國家藥品監督管理局醫療器械技術審評中心. 人工智能醫療器械審查指導原則(征求意見稿),2021.6

[13]國家藥品監督管理局. 醫療器械生產質量管理規范附錄獨立軟件(2019年第43號通告),2019.7

[14] 國家藥品監督管理局. 醫療器械生產質量管理規范獨立軟件現場檢查指導原則(藥監綜械管〔2020〕57號),2020.5

[15] 國家藥品監督管理局. 人工智能類醫用軟件產品分類界定指導原則(2021年第47號)),2021.7

[16] 國家藥品監督管理局標準管理中心. 輔助決策類醫用軟件產品分類界定指導原則(征求意見稿),2021.6

??? [17] 國家衛生健康委員會. 人工智能輔助診斷技術管理規范(國衛辦醫發〔2017〕7號),2017.2

??? [18]國家衛生健康委員會. 人工智能輔助治療技術管理規范(國衛辦醫發〔2017〕7號),2017.2

[19]YY/T 0287-2017 醫療器械 質量管理體系 用于法規的要求[S]

[20] YY/T 0316-2016 醫療器械 風險管理對醫療器械的應用[S]

[21] YY/T 0664-2020 醫療器械軟件 軟件生存周期過程[S]

[22] YY/T 1406.1-2016 醫療器械軟件 第1部分:YY/T 0316應用于醫療器械軟件的指南[S]

[23]GB/T 25000.10-2016 系統與軟件工程 系統與軟件質量要求與評價(SQuaRE)系統與軟件質量模型[S]

[24]GB/T 39725-2020 信息安全技術? 健康醫療數據安全指南 [S]

[25]YY/T 1833.1人工智能醫療器械 質量要求和評價 第1部分:術語(報批稿) [S]

[26] YY/T 1833.2人工智能醫療器械 質量要求和評價 第2部分:數據集通用要求(報批稿) [S]

??? [27]YY/T 1833.3人工智能醫療器械 質量要求和評價 第3部分:數據標注通用要求(報批稿) [S]

[28] YY/T 人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法(報批稿) [S]

[29 ]AIMDICP-WG6-2020-002 基于胸部CT的肺結節影像輔助決策產品性能指標和測試方法 [S]

[30] AIMDICP-WG12-2021-001 醫學人工智能技術學名詞(草稿) [S]

[31] FDA. Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data, 2012.7

[32] FDA. Considerations for Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data, 2012.7

[33] FDA. Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML) - Based Software as a Medical Device (SaMD) Draft, 2019.5

[34] FDA. Artificial Intelligence and Machine Learning(AI/ ML) Software as a Medical Device(SaMD) Action Plan, 2021.1

[35] 人工智能醫療器械創新網合作平臺. www.aimd.org.cn

[36] IMDRF AIMD. ww.imdrf.org/workitems/wi-aimd.asp

[37] ITU&WHO AI4H. www.itu.int/go/fgai4h

[38] 胸部CT肺結節數據集構建及質量控制專家共識[J].中華放射學雜志,2021,55(02):104-110.?

附件:1.風險管理文檔?

2.數據庫(集)


附錄1

風險管理文檔

下表所列為常見可預見事件及事件序列/可能的損害示例,需關注:

?

采取風險控制措施前后的風險矩陣表示例

?

?附錄2

數據庫(集)

按照產品開發時間順序明確使用的數據庫/集情況,需明確數據量變化原因,抽樣及合并方法及合理性。數據庫/集包括不限于基礎數據庫、標注數據庫、訓練集、調優集、測試集、對抗測試集、公開數據庫,測評數據庫、臨床試驗數據庫。

每個數據庫建議提供以下信息:

-數據庫名稱及版本、類型(如外部、內部;訓練、測調優、測試)

-受檢者數據收集的納入和排除標準

-人口統計學數據(年齡、種族、人種)

-采集方式(前瞻性、回顧性)

-放射學檢查條件,如CT增強掃描,CT平掃

-采集數據的方法

數據來源(體檢篩查、門診病房)

設備廠家、型號、探測器排數

掃描參數:管電壓范圍、管電流范圍、層厚范圍、輻射劑量(低劑量平掃CT,劑量小于等于1.5mSv;常規劑量平掃或增強,劑量大于1.5mSv)

-重建方式(標準算法、肺算法、其他

-樣本量(正常案例數、疾病案例數、確定疾病狀態、位置、范圍的方法)

-按影像因素分層的病例分布,如年齡、性別、地區、結節大小、結節類型、圖像重建層厚/層間距、疾病類型、重建方式、掃描協議、成像廠家、醫療機構。

需明確總體數據范圍及分層數量及占比,并需列表對比分析各數據庫信息。

采用公開數據數據庫的需明確用途,不應作為測評數據庫使用。

返回列表
醫療器械創新網網 醫療器械創新網網 醫療器械創新網網 醫療器械創新網網 醫療器械創新網網 91视频国产高清 | 精品二区久久 | 精品久久久免费视频 | 区一区二区三区中文字幕 | 精品高清视频 | 亚洲日本精品视频 | 国产精品原创在线 | www.狠狠| 日本免费一二三区 | 国产一区二区三区午夜 | 久久不射电影院 | 在线免费观看av网站 | 911亚洲精品第一 | 国产伦精品一区二区三区四区视频 | 午夜av免费观看 | www视频免费在线观看 | 狠狠色噜噜狠狠狠 | 一区二区三区在线免费观看视频 | 国产麻豆果冻传媒在线观看 | 亚洲片在线资源 | 中文字幕在线免费看线人 | 中文字幕专区高清在线观看 | 国产成人一区二区三区电影 | 超碰人人乐| 欧美精品一区二区免费 | 午夜色性片| 中文字幕黄色 | 国产成人精品一区二 | 天天爽网站 | 午夜私人影院 | 91黄色成人| 日韩欧美xxxx | 99久久99久久免费精品蜜臀 | 中文在线√天堂 | 欧美天天综合 | 亚洲精品xxx| 久久久久激情电影 | 国产福利电影网址 | 精品久久久久久综合 | 97超碰人人模人人人爽人人爱 | 国产综合在线视频 | 在线亚洲激情 | 久草视频在线免费 | 69精品| 免费色视频在线 | av在线免费网站 | 一级成人在线 | 国产成人精品一区二区 | 麻豆传媒视频在线免费观看 | 91精品视频免费看 | 五月婷在线播放 | 五月天六月婷婷 | 色婷婷视频 | 国产一区二区精 | 天天综合网~永久入口 | 午夜久久久久久久 | 91女子私密保健养生少妇 | 久久久久久麻豆 | 日本69hd| 国产欧美日韩精品一区二区免费 | 超碰97人人射妻 | 久草线 | 国产亚洲婷婷免费 | 久久久久久黄 | 在线观看深夜福利 | 欧美色一色 | 五月宗合网 | 中文有码在线视频 | 一本一本久久a久久精品综合小说 | 91亚洲精品久久久蜜桃借种 | 2023年中文无字幕文字 | 韩日色视频 | 亚洲理论片在线观看 | 天堂va欧美va亚洲va老司机 | 就要干b | 国产在线不卡视频 | 久草亚洲视频 | 一区二区三区日韩视频在线观看 | 五月婷网站 | 国产午夜精品一区二区三区在线观看 | 天天操天天色综合 | 国产精品一区二区三区久久久 | 精品久久精品久久 | 日韩精品视频免费专区在线播放 | 国产中文视 | 91av福利视频 | 又湿又紧又大又爽a视频国产 | 97在线观视频免费观看 | 国产精品白浆 | 亚洲欧洲中文日韩久久av乱码 | av大片网址 | 四虎国产精 | 久草在线观 | 日韩字幕| 蜜臀av性久久久久av蜜臀妖精 | 亚洲成av人片在线观看www | 在线观看www视频 | 日韩av在线不卡 | 国产免费二区 | 精品国产乱码久久久久久三级人 | 黄色大片国产 | 久久人人爽人人爽人人片av免费 | 九九九在线 | 激情网五月天 | 国产午夜精品福利视频 | 97碰碰碰| 91精品影视| 四虎在线视频 | 国产精品不卡在线播放 | 天堂av在线免费 | 婷婷色网视频在线播放 | 日日干干 | 综合精品在线 | 中文字幕亚洲欧美日韩 | 亚洲电影久久 | 久久九九国产精品 | 在线免费观看视频a | 国产在线久草 | 91综合色 | 99精品视频免费观看视频 | 日韩大片在线免费观看 | 国产一级a毛片视频爆浆 | 国产在线精品观看 | 成人播放器 | 亚洲黄色av一区 | 国产美女网 | 成人午夜精品福利免费 | 欧美成人在线网站 | 日韩另类在线 | 久在线观看 | 久久高清国产 | 97视频在线观看播放 | 国产精品美女久久久久久 | 国产99久久久精品 | 中文字幕在线视频第一页 | 亚洲欧美国产日韩在线观看 | 久久免费视频一区 | 高清av免费观看 | 久久精品欧美一区二区三区麻豆 | 日韩 精品 一区 国产 麻豆 | 中文字幕欧美日韩va免费视频 | 中文字幕在线一二 | 亚洲精品久久久久久久不卡四虎 | 在线视频1卡二卡三卡 | 亚洲视频免费 | 亚洲精品大片www | 国产精品免费在线播放 | 欧美少妇bbwhd | 亚洲精品av中文字幕在线在线 | 久久字幕精品一区 | 精品亚洲欧美一区 | 国产97免费| 婷婷丁香久久五月婷婷 | 亚洲精品高清视频 | 一级免费观看 | 四虎影视久久久 | 国产不卡一区二区视频 | 一区精品在线 | 亚洲爱爱视频 | 九九导航 | 美女av免费看 | 国产精品自产拍 | 高清日韩一区二区 | 最新av网址在线 | 久久久国产精品视频 | 色99中文字幕 | 免费观看性生活大片 | 婷婷国产视频 | 久久在线播放 | 日韩在线短视频 | 黄色91在线观看 | 色婷婷av一区 | 亚洲精品乱码久久久久v最新版 | 国产中文字幕网 | 免费av片在线 | 精品一区二区电影 | 日韩专区视频 | 欧美91片 | 久草视频手机在线 | 97超级碰| 99热国产精品 | 国产探花 | 成人精品一区二区三区电影免费 | 少妇bbb好爽| www.婷婷色 | 日韩精品视频免费 | 国产精品一区二区美女视频免费看 | 一级性生活片 | 亚洲人成影院在线 | 久久精品中文字幕一区二区三区 | 久久久夜色 | 久久在线免费观看视频 | 国产成人一区二区三区在线观看 | 五月婷婷在线观看 | 综合黄色网| 六月色丁香 | 国外调教视频网站 | 中文字幕在线免费看 | 婷婷色综| 色999在线 | 免费亚洲成人 | 婷婷在线视频 | 91专区在线观看 | 久久综合给合久久狠狠色 | 国产一级做a爱片久久毛片a | 日本99精品 | 免费看麻豆 | 国产成人精品一区二区三区免费 | 五月天激情在线 | 97超碰在线久草超碰在线观看 | 免费av在线播放 | 又黄又爽又色无遮挡免费 | 97日日碰人人模人人澡分享吧 | 日韩精品免费一线在线观看 | 国产精品免费看 | 国产成人一区三区 | 久久香蕉一区 | 久久久久久久免费观看 | av高清一区 | 亚洲精品乱码久久久久久蜜桃欧美 | 日韩三级精品 | 色婷婷激情电影 | av久久久 | 午夜精品三区 | 欧美一区二区三区不卡 | 亚洲码国产日韩欧美高潮在线播放 | 免费的黄色av | 婷婷日日 | 国产手机精品视频 | 美女在线免费观看视频 | 美女免费黄视频网站 | 精品视频在线播放 | 麻豆综合网 | 成人免费观看在线视频 | 96精品视频 | 亚洲欧美精品一区 | 涩涩成人在线 | 精品人人人 | 高清一区二区 | 久草精品视频在线播放 | 久久高清视频免费 | 国产精品精| 中文字幕一二三区 | 久久久成人精品 | 日日干网| 99热最新| 日日色综合| 91久久精品日日躁夜夜躁国产 | 国产黄色一级片 | 99爱精品视频 | 国产正在播放 | 999毛片 | 超碰在线最新网址 | 亚洲丝袜一区二区 | 久久综合之合合综合久久 | 亚洲精品无 | 在线观看一区二区精品 | 成年人电影免费看 | 国产精品久久一区二区三区, | 国产色拍拍拍拍在线精品 | 超碰在线人人 | www最近高清中文国语在线观看 | 欧美嫩草影院 | 日韩欧美视频免费观看 | 蜜臀久久99精品久久久久久网站 | 精品一区在线 | 久久久九九| 日韩一级成人av | 久久精品99国产精品 | 精品国产一区二区三区久久影院 | 国产又粗又长又硬免费视频 | 在线观看免费视频 | 91成年人视频 | 四虎在线视频 | 精品夜夜嗨av一区二区三区 | 国产精品网站一区二区三区 | 久久av观看 | 超碰在线日本 | 成人免费视频视频在线观看 免费 | 成人久久久久久久久 | 欧美在线观看视频 | 免费三及片 | 欧美日韩二区在线 | 日韩大片在线观看 | 99久久精品午夜一区二区小说 | 免费观看一级特黄欧美大片 | 伊人婷婷色 | 亚洲精品456在线播放乱码 | 在线观看网站av | 久久国产精品一区二区 | 欧美一区三区四区 | 91亚洲欧美 | 一级α片免费看 | 欧美激情综合色综合啪啪五月 | 久久综合免费视频 | 精品一区二区6 | 美女一二三区 | 日日干天天操 | 91免费网站在线观看 | 97超视频免费观看 | 久久影院一区 | 国产免费亚洲 | 亚洲禁18久人片 | 国产99在线免费 | 一区二区免费不卡在线 | 日韩精品专区在线影院重磅 | 亚洲综合视频在线 | 免费观看黄色av | av午夜电影 | 人人超碰97 | 色天天综合久久久久综合片 | 久久久免费精品视频 | 国产精品大片在线观看 | 精品国产伦一区二区三区观看方式 | 久久久久久久久久久久国产精品 | 欧美日韩精品久久久 | 一区二区三区精品在线 | 亚洲一区美女视频在线观看免费 | 黄色一级动作片 | 91传媒在线 | 99视频在线免费观看 | 日韩精品久久久 | 日韩videos高潮hd | 国产成人亚洲在线电影 | 国产美女被啪进深处喷白浆视频 | 麻豆免费视频观看 | 天天色综合三 | 婷婷六月激情 | 日韩精品一区电影 | 一级片视频在线 | 中文字幕黄色网 | 99久久精品久久久久久动态片 | 中文字幕在线观看第二页 | 91九色成人蝌蚪首页 | 久久久久久久久毛片 | 欧美精品一级视频 | 97人人看| 在线观看你懂的网站 | 中文字幕一区二区三区久久蜜桃 | 亚洲黄色一级视频 | 国产视频一区二区在线 | 国产精品免费观看久久 | 欧美精品一二三 | 日韩av手机在线观看 | 91色视频 | 激情丁香月| 在线视频你懂 | 欧美精品视 | 久久久久久久99精品免费观看 | 深夜免费小视频 | www·22com天天操| 亚洲国产天堂av | 亚洲成人一二三 | 九九九九热精品免费视频点播观看 | 97超碰国产在线 | 成人av免费播放 | 九九热在线精品视频 | 黄色一区二区在线观看 | 亚洲欧洲国产日韩精品 | 91av视频在线观看免费 | 日韩91av| 国内精品在线看 | 成人av在线电影 | 久久精品网址 | 91在线观看视频 | 中文电影网 | 国产精品理论片 | 亚洲精品视频在线播放 | 黄色三级视频片 | 久久免视频 | 一级片视频在线 | 久久99亚洲精品 | 午夜视频欧美 | 日韩中字在线 | 国产一级h | 国产自产在线视频 | 国产中文自拍 | 欧美午夜理伦三级在线观看 | 国产成人黄色片 | 99热在线精品观看 | 亚洲精品色视频 | 成人av在线一区二区 | 国产在线不卡 | 免费黄色在线网址 | 在线观看视频色 | 日批网站免费观看 | 国内精品亚洲 | 亚洲成人二区 | 精品视频在线免费观看 | 五月婷婷,六月丁香 | 久草在线视频新 | 国产精品原创 | 天堂av色婷婷一区二区三区 | 国产1级毛片 | 婷婷精品在线 | 伊人天堂网 | 91在线色 | 久久草av | 91福利试看 | 日韩免费电影一区二区三区 | 欧美福利片在线观看 | 精品国产伦一区二区三区观看说明 | 黄色片亚洲 | 伊人婷婷| 成人综合婷婷国产精品久久免费 | 久草com| 欧美日韩精品在线一区二区 | 一二三区视频在线 | 精品国产一区二区在线 | 99久久精品视频免费 | 99热在线观看免费 | 日韩精品久久一区二区三区 | 九色精品在线 | 怡红院成人在线 | 久久精品国产亚洲 | 国产一区欧美一区 | 久艹视频在线免费观看 | 欧美日韩一区二区久久 | 五月婷婷激情五月 | 国产视频欧美视频 | 香蕉网在线播放 | 亚洲视频在线观看 | 免费h视频 | 亚洲高清av在线 | 日韩午夜一级片 | 99久久精品午夜一区二区小说 | 天天爽网站| 日韩中文字幕在线观看 | www.xxxx欧美| 九九免费在线观看视频 | 国产成人777777 | 91手机视频 | av电影一区二区三区 | 国产精品成人av在线 | 天天干,天天射,天天操,天天摸 | 午夜av免费观看 | 久久久精品国产免费观看同学 | 最近中文国产在线视频 | 在线观看视频色 | 亚洲人成精品久久久久 | 91亚洲狠狠婷婷综合久久久 | 999ZYZ玖玖资源站永久 | 婷婷精品 | 在线播放精品一区二区三区 | 成年人免费观看在线视频 | 国产在线a不卡 | 久久夜夜爽 | 亚洲免费观看在线视频 | av黄色免费在线观看 | 中文字幕中文字幕在线中文字幕三区 | 久久草草热国产精品直播 | 黄色软件视频网站 | 中文字幕久久久精品 | 久久最新网址 | 2021国产在线| 国产裸体无遮挡 | 国际av在线| 777xxx欧美 | 91中文字幕 | 免费精品在线 | 日韩高清免费在线 | 成年免费在线视频 | 国产精品黄色影片导航在线观看 | 精品xxx | 色偷偷人人澡久久超碰69 | 国产69久久久欧美一级 | 久久成人久久 | 国产美女视频免费 | 午夜三级理论 | 日韩免费在线视频观看 | 日韩av成人在线 | 99免在线观看免费视频高清 | 色综合久久久久久久 | 国产精品视频永久免费播放 | 香蕉网在线观看 | 一级片免费在线 | 三级黄在线 | 中文字幕久久网 | 婷婷五月在线视频 | 国产黄在线看 | 午夜影院在线观看18 | 国产一区播放 | 国产福利专区 | 中文字幕免费看 | 三级黄色在线 | 久久激情视频 久久 | 草久中文字幕 | 久久99国产精品久久99 | 久久国产精品一国产精品 | 91成人免费在线视频 | 97香蕉久久国产在线观看 | 天天玩天天操天天射 | 久草视频资源 | 色网站黄 | 精品 一区 在线 | 久久久久国产一区二区三区 | 狠狠色伊人亚洲综合网站色 | 色国产视频 | 91久草视频 | www.日本色 | 天天操网站 | 国产在线97 | www.xxxx变态.com| 亚洲做受高潮欧美裸体 | 国产午夜三级一区二区三 | 96亚洲精品久久久蜜桃 | 99久久精品免费看国产一区二区三区 | 天天综合天天综合 | 99热9| 国产女教师精品久久av | 人人玩人人添人人 | 久久精品国产亚洲aⅴ | 国产精品99免视看9 国产精品毛片一区视频 | 国产精品青草综合久久久久99 | 亚洲电影自拍 | 伊人五月 | 色吊丝在线永久观看最新版本 | 性色xxxxhd| 久久久五月天 | 久久久久成人免费 | 亚洲国产97在线精品一区 | 日本性生活一级片 | 一级黄色大片在线观看 | 久久亚洲精品国产亚洲老地址 | 久久国产精品一区二区三区四区 | 中文字幕视频网站 | 中文字幕一区二区三区四区 | 91超碰免费在线 | 黄色1级毛片 | 人人艹人人 | 麻豆成人小视频 | 亚洲国产精品第一区二区 | 四虎在线观看精品视频 | 91精品婷婷国产综合久久蝌蚪 | 青草视频在线 | 免费三级a| 国产麻豆果冻传媒在线观看 | 精品久久久久国产 | 精品视频久久 | 免费在线观看的av网站 | 亚洲一区二区高潮无套美女 | 麻豆视频在线 | 国偷自产视频一区二区久 | 91av社区 | 久久免费电影网 | 综合五月| 91成人破解版| 51久久夜色精品国产麻豆 | 在线视频手机国产 | 国产护士av | 五月天色丁香 | 亚洲综合在线观看视频 | 欧美一区二区伦理片 | 久久久91精品国产一区二区精品 | 日韩久久精品 | 99热这里只有精品久久 | 91在线播 | 欧洲亚洲国产视频 | 激情影院在线 | 久久国产亚洲视频 | 亚洲精品国产综合久久 | 成人免费视频在线观看 | 色全色在线资源网 | 国产精品手机在线观看 | 久久99久| 成人黄色免费在线观看 | 国产一在线精品一区在线观看 | 夜色成人网 | 国产日韩精品一区二区在线观看播放 | 亚洲涩涩一区 | www.亚洲| 亚洲美女在线国产 | 天天干天天玩天天操 | 69精品在线| 亚洲视频久久久久 | 一区二区三区 亚洲 | 香蕉视频最新网址 | 国产精品av在线 | 午夜丁香视频在线观看 | 九色91在线视频 | 91精品国自产在线观看欧美 | 婷婷在线资源 | 婷婷六月网 | 日韩中文字幕免费视频 | 亚洲视频www | 久久久国产精品视频 | 亚洲日本精品 | 中文字幕资源网在线观看 | 91精品视频免费看 | 国产欧美最新羞羞视频在线观看 | 精品国产一二三四区 | 欧美日韩国产二区三区 | 日日爽夜夜操 | 国产精品久久久久久五月尺 | 色97在线 | 不卡av在线播放 | 91av视频网站 | 国产亚洲视频在线免费观看 | 久免费| 最近中文字幕视频网 | 97人人射| 国产视频一区二区在线观看 | 久草在线网址 | 中文字幕一区二区三区四区在线视频 | www.com.黄| 亚州国产精品视频 | 91污视频在线观看 | 在线免费国产视频 | 国产精品久久久久影院日本 | 黄色小说网站在线 | 国产精品系列在线观看 | 欧美日韩视频在线 | 亚洲国产精彩中文乱码av | 欧美在线视频a | 欧产日产国产69 | 91女神的呻吟细腰翘臀美女 | 色婷婷激情电影 | 亚洲精品久久久久www | av电影一区二区三区 | 中文字幕二区在线观看 | 久久精品在线免费观看 | 久久久香蕉视频 | 偷拍精偷拍精品欧洲亚洲网站 | 天天色中文 | 亚洲成人黄色 | 久久激情五月丁香伊人 | 久久久久久久久精 | 成人在线电影观看 | 444av| 99久久这里只有精品 | 免费黄色网址网站 | 婷婷色中文 | 91桃色视频| 草久久久 | 日韩r级电影在线观看 | 国产一卡二卡在线 | 亚洲精品一区二区三区高潮 | 婷婷99| 在线中文字母电影观看 | 久草视频在线看 | 久草青青在线观看 | 亚洲国产免费看 | 亚洲欧洲av | 色婷婷啪啪免费在线电影观看 | 国产精品成人自产拍在线观看 | 久久精品成人欧美大片古装 | 成人在线免费视频观看 | 亚州日韩中文字幕 | 欧美日韩在线网站 | 亚洲波多野结衣 | 色多多在线观看 | 精品一区在线 | av不卡网站 | 久久久久久久久久久成人 | 亚洲精品国 | 亚洲国产欧美一区二区三区丁香婷 | 91精品国产一区二区三区 | 亚洲欧美国产精品18p | 日韩试看 | 午夜男人影院 | 欧美国产不卡 | www.超碰97.com| 亚洲欧美视频网站 | 日韩精品一区二区在线观看 | 2023亚洲精品国偷拍自产在线 | 国产偷v国产偷∨精品视频 在线草 | 国产中文字幕91 | 国产视频在线观看一区 | 久久国产精品一区二区三区 | 97色se | 涩av在线 | 国产精品久久久久久久久免费看 | 国产精品视频久久久 | 日韩精品电影在线播放 | 国产精品欧美久久久久无广告 | 成人免费网站在线观看 | 九精品| 综合国产视频 | 国产精品成人av在线 | 六月天色婷婷 | 免费日韩一区 | 欧美精品v国产精品 | 色综合在 | 国产精品久久一区二区无卡 | 91在线看片 | 久9在线| 超碰在线日本 | 在线观看av的网站 | 国产精品不卡av | 日韩专区在线播放 | 亚洲国产婷婷 | 国产69精品久久久久久 | 久久99久久99精品免观看粉嫩 | 午夜精品久久久久久99热明星 | 亚洲精品久久在线 | 91色欧美 | 成全在线视频免费观看 | 四虎成人免费观看 | 久久人人爽人人爽 | 99久久99视频只有精品 | 日韩在线观看视频免费 | 四虎影视av | 久久精品国产免费 | 国产人在线成免费视频 | 日本精品一区二区 | 国产免费亚洲 | 国产精彩视频一区 | 激情伊人五月天久久综合 | 精品免费久久久久 | 日韩一区二区三区观看 | 日韩精品久久一区二区三区 | 日韩免费在线观看视频 | 日本中文字幕在线视频 | 国产黄色一级大片 | 国产精品亚洲片夜色在线 | 色综合天 | 成人在线黄色电影 | 久久歪歪 | 91精品国产91久久久久福利 | 久草视频观看 | 久久婷婷网 | 最新av观看| 91精品对白一区国产伦 | 久久亚洲福利 | 亚洲精品视 | 日韩免费电影在线观看 | 天天爱天天操天天爽 | 一区免费视频 | 视频一区亚洲 | 91香蕉亚洲精品 | 久久综合九色综合97_ 久久久 | 欧美久久久一区二区三区 | 久久a久久 | 综合网中文字幕 | 在线黄色av| 国产免费人成xvideos视频 | 午夜精品久久久久久99热明星 | 草久久久久 | 久久精品屋| 久草在线视频免赞 | 午夜视频在线观看一区 | 蜜臀久久99精品久久久无需会员 | 伊人久久精品久久亚洲一区 | 一区二区三区中文字幕在线 | www色婷婷com | 9i看片成人免费看片 | 国产精品久久久久久久久大全 | 久久国产美女视频 | 超碰在线最新网址 | 一区二区伦理电影 | 日本最大色倩网站www | 亚洲精品中文字幕视频 | 亚洲国产精品久久久久久 | 91人人爱 | 日韩亚洲在线视频 | 99人成在线观看视频 | 一区二区三区手机在线观看 | 欧美污网站 | 亚洲黄色免费观看 | 日日草天天干 | 亚洲精品国精品久久99热一 | 久草精品资源 | a色视频 | 国产精品6999成人免费视频 | 国产精品一区二区在线播放 | 少妇bbbb搡bbbb搡bbbb | 天天插综合 | 亚洲精品国产自产拍在线观看 | 国产成人精品一区二区三区在线观看 | 国产不卡一区二区视频 | 精品免费观看 | 精品国产乱码一区二 | 亚洲片在线 | 又黄又爽又刺激的视频 | 在线观看中文字幕 | 国产精品久久久久久久久久久久冷 | 亚洲国产成人久久综合 | 欧美精品久久久久久 | 免费试看一区 | 天天做夜夜做 | 日韩午夜电影网 | 欧美一区二区三区在线看 | 久久久免费精品国产一区二区 | 久久免费播放视频 | 又爽又黄在线观看 | 国产精品成人国产乱 | 午夜精品久久久99热福利 | 国产精品久久久久久久电影 | 国产精品网红福利 | 夜夜嗨av色一区二区不卡 | 国产精品电影一区二区 | 又黄又爽又无遮挡免费的网站 | 午夜av不卡| 日韩成人免费电影 | 丝袜美腿av | 久草精品视频在线看网站免费 | 尤物97国产精品久久精品国产 | 国产精品va最新国产精品视频 | 伊人av综合| 精品a级片 | 国产精品毛片一区视频播不卡 | 麻豆国产视频下载 | 成人国产一区二区 | 国产视频在线播放 | 四虎在线免费观看 | 国产一区二区精品久久 | 黄色在线网站噜噜噜 | 久久久久国产精品午夜一区 | 中文字幕国产精品一区二区 | 国产精品地址 | 国产91全国探花系列在线播放 | 91在线免费观看网站 | 中字幕视频在线永久在线观看免费 | 91精品国产自产老师啪 | 午夜精品视频一区二区三区在线看 | 国产精品久久久久一区 | 精品国产电影 | 欧美最爽乱淫视频播放 | 91一区二区在线 | 蜜臀久久99精品久久久久久网站 | 国产精品岛国久久久久久久久红粉 | 人人爽人人爽人人爽学生一级 | 久久99这里只有精品 | 日日日日干 | 国产一区二区视频在线播放 | 99久久精品免费看国产四区 | 亚洲黑丝少妇 | 国产人成看黄久久久久久久久 | 在线观看福利网站 | 免费看v片 | 天天激情 | 天天艹天天干天天 | 成人h动漫精品一区二 | 四虎在线免费观看 | 国产成人一二片 | 日本中文字幕在线播放 | 在线看v片成人 | 久久不卡电影 | 91精品视频免费观看 | 久久精品国产v日韩v亚洲 | 免费91在线| 国产.精品.日韩.另类.中文.在线.播放 | 中文字幕国产在线 | 综合激情| 欧美另类交在线观看 | 久久久久久麻豆 | 久久精品99久久 | 99久久久久免费精品国产 | 日韩91在线| 青青河边草观看完整版高清 | 亚洲成aⅴ人在线观看 | 成年人在线视频观看 | 一区二区三区四区五区六区 | 激情五月在线观看 | 国产精品三级视频 | 一级成人在线 | 中文字幕在线有码 | 久久精品中文字幕免费mv | 日韩视频1区 | 特黄特色特刺激视频免费播放 | 国产成人精品久久久久蜜臀 | .精品久久久麻豆国产精品 亚洲va欧美 | 色久综合 | av日韩精品 | 国产在线观看一 | wwwww.国产 | 色综合天天色 | 粉嫩一区二区三区粉嫩91 | 久久ww| 色婷婷综合久久久 | www.色爱 | 免费亚洲一区二区 | 99r在线播放 | 亚洲精品理论片 | 午夜精品福利在线 | 看黄色.com | 色综合人人 | 成人福利在线播放 | 天天射天天搞 | 日韩a级黄色片 | 精品国产色 | av一级在线| 伊人干综合 | 久久久久久黄色 | 视频一区在线免费观看 | 免费在线观看av | 亚洲欧美激情精品一区二区 | 免费日p视频| 国产美女精品视频 | 六月激情| 亚洲一区二区麻豆 | 在线观看亚洲专区 | 国产高清中文字幕 | 婷婷色伊人 | 99精品国产一区二区三区麻豆 | 99精品视频99 | 国产黄色免费观看 | 精品国产一区二区三区噜噜噜 | 日韩av看片 | 二区三区视频 | 天天射天天爽 | 亚洲一区久久久 | 国产美女精品视频 | 国产高清日韩欧美 | 久久综合天天 | 日日草av| 国产 亚洲 欧美 在线 | 亚洲精品99久久久久中文字幕 | 狠狠激情中文字幕 | 精品国产一区二区在线 | 国产剧情久久 | 久久成人资源 | 久久99久国产精品黄毛片入口 | 欧美日韩视频免费看 | 91精品国产麻豆国产自产影视 | 2023av| 91传媒在线 | 免费在线成人av | 国产97碰免费视频 | 中中文字幕av在线 | 中文字幕在线视频精品 | 久久久久这里只有精品 | 中文字幕亚洲综合久久五月天色无吗'' | 精品国产伦一区二区三区 | 欧美精品三级 | 久久久免费在线观看 | 日韩免费看片 | 91人人澡人人爽人人精品 | 久久亚洲精品电影 | 亚洲成人在线免费 | 97在线观看视频免费 | 亚洲精品色婷婷 | 精品视频免费观看 | 亚洲精品在线网站 | 久久精久久精 | 少妇bbw撒尿 | 国产色小视频 | 在线 日韩 av | 久草综合在线 | 97精产国品一二三产区在线 | 国产日产欧美在线观看 | 99热精品在线 | 亚洲精品高清视频 | 中文字幕久久精品 | 国产精品美女视频 | 日韩中文字幕在线 | 免费观看国产视频 | 久久视频在线视频 | 国产精品成人一区二区 | 久久国产欧美日韩精品 | 亚洲一区视频免费观看 | 国产精品久久久久久久久久久久午夜片 | 久久久久亚洲精品 | 国产精品欧美一区二区 | 精品久久久国产 | 久久精品久久精品久久 | 国产成人精品一二三区 | 亚洲视频aaa | 日韩高清www| 黄色一级免费网站 | 精品一区二区三区电影 | 精品久久视频 | 日本性生活免费看 | 麻豆 videos | 青青草国产成人99久久 | 日韩国产精品久久 | 国产成人精品女人久久久 | 精品999久久久 | 成人久久久久久久久久 | 91av蜜桃 | 五月激情六月丁香 | 激情丁香| 亚洲精品免费在线观看 | 97偷拍在线视频 | 国产99久久99热这里精品5 | av电影在线免费观看 | 免费午夜av| 久久久免费播放 | a黄色大片 | 日韩久久久久久久久 | 91久久精品一区二区三区 | 国内精品久久久久久久久久 | 久久国产精品视频观看 | 国产精彩视频一区二区 | 国产亚洲综合性久久久影院 | 亚洲精品av中文字幕在线在线 | 成人国产精品久久久春色 | 亚洲激情综合 | 亚洲综合色丁香婷婷六月图片 | 国产在线欧美在线 | 久久av电影| 在线观看国产麻豆 | 中文字幕在线观看日本 | 国产精品久久一区二区三区, | 97超碰香蕉| 久久97超碰| 色停停五月天 | 国产免费xvideos视频入口 |