【ITBEAR】9月10日消息，近日，一封由超過百名大型人工智能企業(yè)現(xiàn)任與前任員工聯(lián)名的信件，引起了公眾關(guān)注。他們敦促加州州長加文·紐瑟姆簽署新的人工智能監(jiān)管法案SB 1047。該法案在科技與政策領(lǐng)域均引發(fā)了熱烈討論。
據(jù)悉，此信件得到了來自O(shè)penAI、Anthropic、谷歌旗下DeepMind、meta以及xAI等公司的員工支持，他們共同表達(dá)了對當(dāng)前人工智能模型開發(fā)過程中潛在風(fēng)險的擔(dān)憂。
據(jù)ITBEAR了解，SB 1047法案要求相關(guān)企業(yè)在向公眾發(fā)布人工智能系統(tǒng)前，必須進(jìn)行嚴(yán)格的安全測試，同時需要為模型可能引發(fā)的災(zāi)難性損害承擔(dān)責(zé)任，此外，該法案還為技術(shù)工人提供了舉報(bào)人保護(hù)機(jī)制。
聯(lián)名信中指出，最先進(jìn)的人工智能模型可能很快就會帶來諸如擴(kuò)大生物武器使用范圍和對關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊等嚴(yán)重風(fēng)險。因此，他們認(rèn)為由前沿人工智能公司來測試這些模型并針對潛在風(fēng)險實(shí)施相應(yīng)保障措施是合理且必要的。
該法案已在州議會和參議院獲得通過，目前正等待紐森州長在9月30日前的最終決定。州長尚未公開表明立場，但雙方游說力度均在持續(xù)加強(qiáng)。
支持法案的人士認(rèn)為，若無適當(dāng)監(jiān)管，人工智能的快速發(fā)展可能導(dǎo)致不可預(yù)見的災(zāi)難性后果。值得一提的是，xAI的創(chuàng)始人埃隆·馬斯克以及OpenAI的競爭對手、得到亞馬遜和Alphabet支持的Anthropic公司均公開表示支持該法案。
此前，人工智能領(lǐng)域的先驅(qū)Yoshua Bengio和Geoffrey Hinton也曾在致加州領(lǐng)導(dǎo)人的公開信中強(qiáng)調(diào)，政府在當(dāng)前階段如何選擇和規(guī)范人工智能系統(tǒng)的開發(fā)與部署，將對加州乃至全世界的未來產(chǎn)生深遠(yuǎn)影響。
隨著人工智能技術(shù)的不斷進(jìn)步，如何在創(chuàng)新與監(jiān)管之間找到平衡點(diǎn)，已成為全球共同面臨的挑戰(zhàn)。加州作為科技創(chuàng)新的前沿陣地，其決策無疑將引領(lǐng)行業(yè)未來的發(fā)展方向。
#人工智能監(jiān)管# #加州新法案# #AI企業(yè)聯(lián)名信# #風(fēng)險防范# #科技創(chuàng)新#
