可解釋的AI技術

這幾年最火熱的AI技術就屬深度學習技術了，但深度學習模型是如何做出決定的，一直是個難以回答的問題。但是要將AI技術要落實到更多應用領域的過程中，尤其是與生活重大議題相關的項目，像是醫療診斷、金融保險、司法偵查等，會更迫切需要知道模型到底怎麼得出結論的，這樣在實際應用時，才能幫助人們判斷什麼時候該讓機器處理，什麼時候又該介入。可解釋的AI技術軸向的發展規劃上，將著重能夠從DNN模型中提取符號規則，建立具可理解與信任之模型；亦能夠在訓練之前將先驗符號規則構建到DNN模型中，以整合使用者領域知識，提供結構化資訊更貼近人類的思維理解。關鍵技術重點包括：機器可解釋的模型、人機互動學習演算法、知識圖譜建置與推論、嵌入知識圖譜的AI模型、動態知識圖譜等項目。工研院