中國人工智能學會通訊——建構強健的人工智能:原因及方式 總結

上面這張圖，列舉了現有的可以幫助我們建構強健計算機系統和AI 系統的各種方法。

首先，針對已知的未知，也就是當我們有一個模型，但是想要檢測裡面的錯誤時，要怎麼辦？正如我剛才所講，我們可以在機率模型上使用“Risk Sensative Decision Making”的方法，或者可以利用對抗式的方法來進行優化。

接着，我談到了“robustness to unmodeled phenomena”，這裡針對的是未知的未知。剛剛我提到，我們有一系列的辦法可以探測模型是否不完整，以及為什麼有時會失效。但是，有時我們能做的隻有向人類尋求幫助。可以大膽猜測，大部分的AI 模型都還太小、太簡單。未來，我們需要比現在大得多的知識庫，這樣才能使用更大的模型。

此外，我還介紹了因果模型，這些模型類似于遷移學習，一個模型可以适用于不同的場景。最後，我提到了組合模型的方法。

今天，新一代的AI 系統正被用于各種令人激動的領域，值得注意的是，其中很多應用都涉及到與人身安全相關的高風險決策，是以，我們需要建構強健的AI 系統來解決這些問題。

AI 系統不可能對所有情況模組化，是以這些系統需要在模組化不完全或者包含某些錯誤情況時也能正常運作。

除了上述提到的這些思路，我們還需要更多的想法，希望未來在座的各位也能有所貢獻。

（本報告根據速記整理）