每經編輯:杜宇
當地時間4月11日,OpenAI在官方發文稱,該公司推出了一項漏洞賞金計劃(Bug Bounty Program)。
OpenAI的使命是建立惠及所有人的人工智能系統。為此,我們在研究和工程方面進行了大量投資,以確定我們的人工智能系統安全可靠。然而,與任何複雜的技術一樣,我們明白漏洞和缺陷可能會出現。
OpenAI認為,透明度和合作對于解決這一現實至關重要。這就是為什麼我們邀請全球安全研究人員、道德黑客和技術愛好者來幫助我們識别和解決系統中的漏洞。
OpenAI漏洞獎勵計劃是我們表彰和獎勵安全研究人員的寶貴見解的一種方式,他們為維護我們的技術和公司安全做出了貢獻。我們邀請您報告您在我們的系統中發現的漏洞、錯誤或安全缺陷。通過分享您的發現,您将在使我們的技術對每個人都更安全方面發揮關鍵作用。
圖檔來源:視覺中國-VCG111421680440
為了激勵測試,作為我們的贊賞,OpenAI将根據報告問題的嚴重程度和影響提供現金獎勵,我們的獎勵範圍從低嚴重性發現的200美元到特殊發現的2萬美元(約14萬元人民币)不等。
OpenAI發文:加強監管
4月6日淩晨,Open AI在官網釋出了《Our approach to AI safety》,以確定安全、可靠地為全球使用者提供ChatGPT服務。
圖檔來源:Open AI公司官網
Open AI表示,在釋出任何新系統之前,我們會進行嚴格的測試,聘請外部專家進行回報,通過人工回報的強化學習等技術來改善模型的行為,并建立廣泛的安全和監控系統。
Open AI認為,強大的人工智能系統應該接受嚴格的安全評估。需要進行監管以確定此類做法得到采納,我們積極與政府就此類監管的最佳形式進行接觸。
我們安全工作的一個關鍵重點是保護兒童。我們要求年滿18歲或13歲以上的人必須獲得父母準許才能使用我們的人工智能工具,并正在研究驗證選項。
我們不允許我們的技術被用于生成仇恨、騷擾、暴力或成人内容等類别。與GPT-3.5相比,我們的最新模型GPT-4響應不允許内容請求的可能性降低了82%,我們已經建立了一個強大的系統來監控濫用情況。現在,ChatGPT-Plus使用者可以使用GPT-4,我們希望随着時間的推移,更多的人可以使用它。
ChatGPT一度暫停Plus付費更新服務
4月5日,ChatGPT官網宣布,由于需求量過大,暫停Plus付費項目的購買。
這一情況在社交平台Reddit上引起讨論,有網友表示因為需求過高而關閉付費服務“一點也不奇怪,(和ChatGPT對話時)10%-15%的回複會出現網絡錯誤情況,且回應速度比以前至少慢了2倍”。
也有不少網友将這一情況歸咎為OpenAI人手不足。此前1月,該公司的首席執行官Sam Altman曾在推特上表示,該公司的總人數為375人,遠遠小于大型科技公司的員工數量。
《科創闆日報》4月6日實測發現,OpenAI的ChatGPT已經恢複了Plus訂閱服務,并可進入付費環節。
每日經濟新聞綜合Open AI官網、科創闆日報
每日經濟新聞