極客號(hào)（Daydx.com）9月8日 消息:根據(jù)最新的報(bào)道，澳大利亞正在引入一項(xiàng)新的法規(guī)，要求科技巨頭如Google、Microsoft的Bing和DuckDuckGo等搜索引擎公司采取措施，清除搜索結(jié)果中的虐待兒童材料，并防止生成深度偽造圖像。這一法規(guī)旨在應(yīng)對(duì)人工智能工具可能生成虐待兒童圖像和恐怖主義宣傳的問(wèn)題。
澳大利亞電子安全專員Julie Inman Grant表示，科技公司需要在減少其產(chǎn)品可能帶來(lái)的危害方面發(fā)揮主導(dǎo)作用。她指出，目前已經(jīng)出現(xiàn)了合成虐待兒童材料，并稱恐怖組織正在使用生成式人工智能來(lái)制作宣傳材料，這已經(jīng)成為現(xiàn)實(shí)，不再是幻想。因此，有必要采取行動(dòng)。
圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney
根據(jù)新的法規(guī)，搜索引擎公司將被要求定期審查和改進(jìn)其人工智能工具，以確保不返回“1A類”材料，包括兒童性虐待、恐怖主義和極端暴力材料。此外，這些公司還必須研究技術(shù)，幫助用戶檢測(cè)和識(shí)別可從其服務(wù)訪問(wèn)的深度偽造圖像。這一法規(guī)被認(rèn)為是世界上第一批類似框架之一。
Julie Inman Grant形容人工智能的迅猛發(fā)展為一場(chǎng)“軍備競(jìng)賽”，并表示這一技術(shù)的演變“讓大多數(shù)政策制定者、監(jiān)管機(jī)構(gòu)和國(guó)家措手不及”。她認(rèn)為，對(duì)于生成式人工智能，監(jiān)管工具的使用需要有不同的思考方式，并強(qiáng)調(diào)監(jiān)管審查必須從設(shè)計(jì)和部署階段開(kāi)始，而不是問(wèn)題出現(xiàn)后才采取應(yīng)對(duì)措施。
在這一背景下，新法規(guī)要求科技公司從一開(kāi)始就將進(jìn)一步監(jiān)管這些工具的規(guī)定納入其中，而不是在問(wèn)題出現(xiàn)后進(jìn)行應(yīng)對(duì)，這種情況類似于汽車制造商被要求安裝安全帶。Julie Inman Grant表示，這種做法對(duì)科技行業(yè)是有商業(yè)意義的，現(xiàn)在科技行業(yè)需要類似于“安全帶時(shí)刻”的規(guī)定。
電子安全專員還表示，監(jiān)管機(jī)構(gòu)已經(jīng)意識(shí)到一些不良分子正在利用新的人工智能工具進(jìn)行非法活動(dòng)，包括生成虐待兒童材料。新規(guī)則將迫使科技公司不僅要減少其平臺(tái)上的危害，還要致力于構(gòu)建工具，促進(jìn)更高的在線安全，例如檢測(cè)深度偽造圖像。
澳大利亞總檢察長(zhǎng)Mark Dreyfus在議會(huì)上宣布，澳大利亞聯(lián)邦警察正在使用人工智能來(lái)檢測(cè)虐待兒童材料，而不再依賴手動(dòng)審查照片。這一倡議的新工具呼吁成年人提交自己兒童時(shí)期的照片，以幫助訓(xùn)練人工智能模型，從而更好地應(yīng)對(duì)虐待兒童材料問(wèn)題。
