語言模型資安風險受重視 工研院新實驗室強化AI可信度

日期:2024-10-31 11:01:50

港灣新聞網

隨著生成式AI技術在各領域應用日益增多,AI模型的安全性與準確性成為產業關注的焦點。為提升國內AI應用的可信度,工研院於(29)日宣布在數位發展部數位產業署的支持下,正式成立臺灣首座AI測試實驗室,提供語言模型的可信任評測服務,為產業提供穩定的應用保障。

語言模型是AI應用的關鍵,廣泛運用於文本分析、語音辨識及情感分析等技術中,但其背後存在的數據偏差、準確性以及資安風險,可能造成錯誤訊息或敏感數據的泄露。為應對這些挑戰,工研院AI測試實驗室採用國際可信任AI框架與標準,透過AI產品與系統評測中心(AIEC)開發評測工具,對模型進行準確性、公平性、可靠性、隱私及資安等方面的測試,協助國內企業提升語言模型的穩定性與信賴度。

工研院量測技術發展中心執行長藍玉屏指出,隨著生成式AI日益滲透各產業,為AI模型進行可信任性測試至關重要,透過參考國內外專家審議的測試題庫,AI測試實驗室得以評估生成內容的可信度,並確保企業在應用AI技術時更具信心。她強調,此次實驗室的成立標誌著臺灣AI技術邁向全球領先的關鍵一步。

除國內技術支援外,工研院此次亦與法國國家計量院(LNE)簽署合作協議,推動AI技術的國際交流與合作,確保臺灣的AI技術評測標準接軌國際。未來,工研院將依據「2035技術策略與藍圖」,持續推動「人工智慧與資安」、「半導體晶片」、「通訊」及「智慧感測」等四大技術領域的發展,致力於為國內產業打造一個可信任且穩固的AI應用基礎。藍玉屏表示,工研院將以嚴謹的測試標準為基礎,確保生成式AI的穩健發展,為臺灣科技創新奠定基石。

▲工研院打造臺灣首座針對語言模型評測的AI測試實驗室,圖由左至右為工研院量測技術發展中心業務長吳登峻、國家資通安全研究院總監劉建良、數位發展部數位產業署技正彭成瑜、工研院量測技術發展中心執行長藍玉屏、工研院資訊與通訊研究所組長王邦傑、工研院量測技術發展中心數位長陳宗傑(圖片/翻攝)

   工研院 政府部門