All Article

讓AI不再是黑盒子，讓AI也說出個道理

深度學習可以幫我們解決很多問題並用在很多任務上，包括影像分類、目標偵測、影像分割…等。由於近來大家想知道深度學習模型在訓練過程中學到了什麼？在影像任務中，又從影像中看到什麼來做為它判斷的依據？可解釋性AI是可以知道這些答案的方式。可解釋性AI的方法有 CAM、Grad-CAM以及Grad-CAM++。在這裡我們想介紹Grad-CAM，這方法於2017年發表在IEEE期刊上。