數發部AI風險檢核系統 協助各部會盤點法規調適
(中央社記者趙敏雅台北9日電)數發部次長侯宜秀今天表示,數發部建立AI風險管理措施檢核系統,邀各部會盤點AI應用、檢視法規,優先輔導經濟部、勞動部及交通部等8個部會年底前完成相關評估,目標明年6月底前協助各部會完成首輪法規調適盤點,釐清現有法規是否足以因應AI應用,有無訂定指引、修法必要。
數發部7月公告AI風險分類框架,框架將AI風險分為AI系統本身技術設計缺陷、部署後操作及人機互動問題、社會結構與環境衝擊等3大類,共20項子類別,供各部會盤點AI應用情境後,識別、評估並應對風險,進一步檢視相關法令規範。
侯宜秀表示,數發部已建立線上檢核系統,將上述流程數位化,各部會進入系統後,將依序填寫或勾選應用情境、風險識別、風險評估及風險應對等4步驟,最後進入綜合評估,也就是讓各部會做最後風險程度的確認。目前系統中,已有147個AI應用情境。
侯宜秀指出,風險評估時,該項AI應用情境若在國家安全、基本權利、生命安全、財產保障、社會秩序、生態環境等指標中,可能造成嚴重危害,將為「高風險AI應用」。依據AI基本法,就應要求所管業者明確標示,並建立救濟、補償或保險機制等。
侯宜秀說明,數發部是跨部會協作導引師,以及法制工作小組幕僚,已優先輔導衛福部、法務部、經濟部、教育部、金管會、交通部、通傳會(NCC)及勞動部等8個部會,預計年底前完成框架的4個步驟。其中,勞動部已從去年12月開始協作,進度較快,相關指引也在草擬中。
侯宜秀指出,數發部開放預約一對一諮詢服務,協助各機關釐清框架操作、風險概念與技術問題,整體目標為明年6月底前協助各部會完成第一輪法規調適盤點。根據AI基本法,有不符合法規或無法規可適用者,應在2028年1月13日,也就是此法施行後2年內,完成法規制定、修正或廢止,及行政措施的改進。
面對近期快速發展的AI Agent(AI代理),侯宜秀指出,AI Agent同樣屬於AI應用,仍適用AI風險分類框架,目前已有部分機關填寫的應用情境涉及AI Agent。
侯宜秀表示,相較於單純回答問題,AI Agent能自主完成工作流程,因此治理可從6大面向思考,包括能力、行為信任與授權程度、安全、身分認證、可問責性及制度設計;其中制度設計將涵蓋標準、認證、責任歸屬、保險等機制。
侯宜秀表示,未來希望在政府AI應用指引中,納入AI Agent相關規範,但AI Agent治理已是全球共同面對的課題,仍須各國共同建立共通標準。(編輯:潘羿菁)1150909