數發部推動公部門使用生成式AI管理 建構國內自主評測與驗證體系
記者郭曉蓓／專題報導
為推動臺灣進入AI（人工智慧）全面應用時代，提供民眾更便捷且安全的公共服務，政府導入AI也必須嚴格把關。數發部建立「公務機關使用生成式AI相關管理規範」，透過制定三大管理措施，供公務機關遵循。未來公務機關各項導入AI的業務及服務均應經過AI評測，建立可信任AI發展環境。
生成式AI，指的是能由AI技術來生成近似真實資料的研究與應用，例如生成一篇新聞文章、一段程式碼、各種風格的畫作，甚至特定人的聲音與容貌影像等等。它在看過人類提供的真實資料後，就可以學習、模仿產生新的樣本。但生成式 AI 產生的內容，有可能混合了虛假內容與事實，因此，數發部積極建立可信任AI發展環境，衡量和評測AI 服務是讓大眾安心使用AI 的第一步。
數發部次長闕河鳴表示，針對公部門生成式AI使用共制定三大管理措施，分別為建構AI評測環境、訂定公部門人工智慧應用參考手冊，以及設置危害國家資通安全產品使用原則。
在建立AI評測制度方面，為促進AI的應用具有可靠、公平、隱私等原則，數發部已在2024年成立AI產品與系統評測中心（AIEC），負責整個制度的推動和執行，並成立驗證機構、測試實驗室，提供AI評測與驗證服務。評測項目則參考國際ISO標準、美國及歐盟等相關規範，擬定包含公平性、準確性、可靠性、隱私、資安等評測項目。
數發部進一步指出，在公部門方面，數發部將協助相關部會建立自身領域的評測機制，除了將邀集公部門辦理說明會；也會協助公部門開發自己的評測題庫及工具。私部門方面，則會透過數發部建構之AI評測體系（AIEC、測試實驗室、驗證機構）助企業進行AI產品與系統評測，具體協助措施包括諮詢輔導、提供中小企業開發AI產品技術參考、發展在地化的AI評測工具、接軌國際交流與合作等。
第二項管理措施是，數發部今年公布「公部門人工智慧應用參考手冊」內容，屬參考性質的行政指導，公務機關規劃AI運用數位服務可以參考，數發部提供10個大型語言模型及20個AI Bots（AIBot機器人是指透過人工智慧技術與程式設計完成特定任務的軟體應用程式），讓行政院所屬二級機關同仁試用，並將配合全球LLM排名調整及AIBots發展趨勢，適時調整平臺。公務機關可善用「政府語言模型試用環境」，選擇適合自已部會業務運用的模型，並自行發展數位服務，並學會孵化機關自己的AI Bot。
第三項管理措施是為因應新型態數位服務延伸的新興資安風險，公務機關須遵循「危害國家資通安全產品限制使用原則」。公務用資通訊產品，包含軟體、硬體及服務，皆不得使用中國大陸廠牌，且不得安裝非公務用軟體。基於保護國家資通安全，公務機關原則全面禁用 DeepSeek AI服務；關鍵基礎設施提供者、及政府捐助之財團法人比照辦理，由中央目的事業主管機關督導。若公立大學及研究機構有使用需求，須依規定報准核可，採取必要管制措施後再行使用；教學及研究場域，由教育部及國科會另行討論規範。
數發部指出，面對AI技術帶來的資訊完整性挑戰，需要政府、平臺、民眾的共同努力，藉由建立透明的監管機制，並加強公眾對AI生成內容的辨識能力，以促進資訊真實性與完整性。未來數位部也將持續建立兼顧科技創新及風險治理的可信任AI發展環境，包括人才優化及留才攬才、重視AI倫理法制、推動資料治理及流通，建構以人為本的健全數位生態系。
數發部建立「公務機關使用生成式AI相關管理規範」，透過制定三大管理措施，供公務機關遵循。（圖由數發部提供）
