i卡會員

一般而言的黑箱(black box)，用以形容無法在大眾面前透明化展示的處理過程，當代的人工智慧發展至此，雖已有突出表現，但在資料面與模型面也出現被人詬病的黑箱問題。所謂資料黑箱，指的是人類的特殊工藝操作經驗是隱性的，無法被機器直接學習，猶如缺乏最好的老師教導，使人工智慧終究難以接近人類；所謂模型黑箱，則是指包覆在介面下的神經網路模型，雖然已是一個簡單的輸入-處理-產出(Input-Process-Output)過程，但使用者無法看見處理的過程，也就無法掌握過程與結果的關聯，難以持續精進模型的設計。黑箱問題不只導致應用者面對分析結果產生信心危機，也對開發者確認模型是否己達最適化造成挑戰。