OpenAI開始“懸賞”找漏洞，最多獎勵2萬元。

【資料圖】

當(dāng)?shù)貢r間4月11日，OpenAI發(fā)布了一項“漏洞懸賞計劃（Bug Bounty Program?）”，以鼓勵外界幫其尋找人工智能系統(tǒng)中的漏洞和錯誤，獎金最高為2萬美元。

來源：OpenAI

OpenAI稱，其使命是創(chuàng)建造福所有人類的AI（人工智能）系統(tǒng)，該公司已經(jīng)大力投資研發(fā)，以確保AI系統(tǒng)安全可靠，“然而，與其他復(fù)雜技術(shù)一樣，漏洞和缺陷可能會出現(xiàn)。”

“透明度和協(xié)作（transparency and collaboration）對解決這一問題至關(guān)重要。”O(jiān)penAI寫道，“這也是為什么我們想要邀請全球的安全研究人員、道德黑客和技術(shù)愛好者幫助我們識別和解決系統(tǒng)中的漏洞。我們很樂意為報告符合條件的漏洞的人提供獎勵。”

OpenAI稱已經(jīng)與漏洞賞金平臺Bugcrowd進(jìn)行了合作，讓其幫忙管理提交和獎勵流程。該公司表示，將根據(jù)對方報告問題的嚴(yán)重性提供現(xiàn)金獎勵，金額為200美元到2萬美元不等。

這不是OpenAI首次公開提出解決方案。就在上周，該公司發(fā)布題為《我們對于人工智能安全的方法》的文章，表示該公司正致力于“制定針對會威脅人類行為的細(xì)致政策”。

OpenAI介紹了六個方面的策略，包括構(gòu)建更加安全的系統(tǒng)、從實際使用中積累經(jīng)驗以改進(jìn)安全措施、保護(hù)兒童、尊重隱私、提高事實準(zhǔn)確性以及持續(xù)研究并參與。

新技術(shù)的安全問題不斷引發(fā)外界的擔(dān)憂。就在上個月，OpenAI的聊天機(jī)器人ChatGPT出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況。該公司最終發(fā)布報告稱，發(fā)生這一意外事件的原因是Redis客戶端開源庫redis-py中存在漏洞。

OpenAI的首席執(zhí)行官Sam Altman隨后也對在推特上道歉，公開承認(rèn)開源庫中出現(xiàn)錯誤，并表示已經(jīng)修復(fù)了錯誤并完成驗證。

但這仍然引起了部分國家監(jiān)管機(jī)構(gòu)的注意。ChatGPT在歐洲地區(qū)遭受“冷遇”。此前3月31日，意大利宣布禁止使用ChatGPT，并限制其開發(fā)公司OpenAI處理意大利用戶信息。隨后，德國、法國和愛爾蘭在內(nèi)的多個國家也紛紛表示考慮“封禁”該技術(shù)。

對于意大利的禁令，當(dāng)?shù)貢r間4月5日，OpenAI與意大利個人數(shù)據(jù)保護(hù)局舉行會議，OpenAI表示愿意與該機(jī)構(gòu)進(jìn)行合作，以解決其對數(shù)據(jù)安全的擔(dān)憂。

關(guān)鍵詞：