極客號(Xqh8.com) 7月21日 消息:據(jù)路透社報道，美國政府今日宣布，多家頂尖人工智能公司自愿承諾采取措施，為其人工智能生成的內(nèi)容添加水印，并開放第三方審查，以增強(qiáng)技術(shù)的安全性。這七家公司包括亞馬遜、Anthropic、谷歌、Inflection、meta、微軟和 OpenAI，都同意加強(qiáng)系統(tǒng)的安全性和透明度，包括允許第三方專家對其模型進(jìn)行審查。
美國政府在發(fā)給 TechRadar 的聲明中表示：“正在開發(fā)新興技術(shù)的公司有責(zé)任確保產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓勵該行業(yè)堅持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會以犧牲美國人的權(quán)利和安全為代價。”這七家公司首先承諾，在向公眾發(fā)布人工智能系統(tǒng)之前，對其進(jìn)行內(nèi)部和外部安全測試，并與相關(guān)行業(yè)參與者、政府、學(xué)術(shù)界和公眾分享信息，以幫助管理人工智能風(fēng)險。
此外，這些公司還將加大網(wǎng)絡(luò)安全投資和內(nèi)部威脅控制力度，以保護(hù)其專有和未發(fā)布的模型權(quán)重，這對于人工智能數(shù)據(jù)模型的運(yùn)行至關(guān)重要。他們還同意促進(jìn)第三方調(diào)查并報告系統(tǒng)中的任何安全漏洞。七家公司還將采取措施提高公眾對其系統(tǒng)的信任，例如開發(fā)一種方法來讓人們知道何時看到人工智能生成的內(nèi)容，例如水印或其他措施。這些公司還將優(yōu)先研究人工智能模型帶來的社會風(fēng)險，包括可能導(dǎo)致的種族歧視和其他形式的偏見，以及保護(hù)隱私。
需要注意的是，這些承諾都是自愿采取的措施，沒有違反的懲罰措施，因此無法百分百確保嚴(yán)格執(zhí)行。新聞標(biāo)題：美國頂尖人工智能企業(yè)承諾為 AI 內(nèi)容加水印并開放第三方審查，提高技術(shù)安全性
