最近chart GPT火的一塌糊塗，很多人都被它強大的AI功能折服。各行各業都開始傳chart GPT，會成為自己未來的威脅。程式員律師文員、電話銷售通通都有可能被替代。
網絡安全工程師會被替代嗎？小白今天告訴你肯定不會。未來人工智能本身就會存在很多的安全問題。
首先資料源可能會被投毒。AI模型訓練的資料通常來源于公開擷取的内容。如果資料源被攻擊者控制，在資料标注時又未進行識别，就可能通過在資料源中添加惡意資料，幹擾模型結果。
其次，基于AI編寫的代碼可能引入漏洞。copilot的訓練資料來自于開源代碼。大量的開源代碼以個人項目為主，不會像在企業場景或在真實場景中使用一樣考慮其安全性。在訓練樣本選擇時，可能是直接用于訓練未對其安全性進行檢測過濾，是以導緻開發者直接使用生成的代碼，有很大幾率引入漏洞風險。
再次在AI使用過程中可能會被投毒。區塊鍊中的模型如果被大量的使用者對同一個内容送出錯誤的回報，那麼模型則會被錯誤的修正。
而chart GPT，使用了基于人工回報的強化學習機制，aigc模型可能根據使用者的回報來對其模型進行修正。攻擊者：可能站在模型開發者的上帝視角。
最重要的一點，使用者的隐私資料容易洩露。在使用者互動過程中，使用者可能提供一些隐私資訊，姓名手機号位址乃至人的心理狀态偏好。如果黑客獲得了這些隐私資訊，後果會很可怕。由于存在資料風險，亞馬遜微軟都提醒員工，不要在AI互動的過程中輸入敏感資訊。是以你有什麼看法？我在評論區等你們。
