Google 擴展其縫隙獎勵計劃以增強生成式人工智能體系的安全性 |
發(fā)布時間:2023-11-01 文章來源:本站 瀏覽次數(shù):2026 |
Google擴展了其漏洞獎勵計劃(VRP),以獎勵研究人員尋找針對生成式人工智能(AI)系統(tǒng)的攻擊方案,以增強AI的安全性。 Google表示,生成式AI帶來了與傳統(tǒng)數(shù)字安全不同的新問題,需要采取新措施進行應(yīng)對。為此,Google成立了AI紅隊,還宣布加強AI供應(yīng)鏈安全,并為使用其AI產(chǎn)品的用戶提供法律保護。同時,Google還與其他公司和研究機構(gòu)合作,共同應(yīng)對生成式AI的安全挑戰(zhàn)。 擴展的VRP將包括針對生成式AI系統(tǒng)的漏洞獎勵,這意味著研究人員可以獲得更高的獎勵,如果他們能夠發(fā)現(xiàn)針對這些系統(tǒng)的安全漏洞。這是為了鼓勵更多的研究人員參與到尋找和修復(fù)生成式AI系統(tǒng)安全漏洞的工作中來,從而增強AI的安全性。 此外,Google還提供了更多的信息和資源,以幫助研究人員更好地理解和應(yīng)對生成式AI的安全挑戰(zhàn)。這包括提供更多的示例代碼和工具,以及舉辦線上研討會和培訓(xùn)課程,以幫助研究人員更好地了解和應(yīng)對生成式AI的安全問題。 總的來說,Google擴展其VRP是為了鼓勵更多的研究人員參與到尋找和修復(fù)生成式AI系統(tǒng)安全漏洞的工作中來,從而增強AI的安全性。同時,Google還提供了更多的信息和資源,以幫助研究人員更好地理解和應(yīng)對生成式AI的安全挑戰(zhàn)。 |
|