【ITBEAR科技資訊】4月6日消息，人工智能公司OpenAI在最新的帖子中介紹了其保障AI安全的方法。OpenAI表示，為確保AI系統(tǒng)的構(gòu)建、部署和安全使用對(duì)實(shí)現(xiàn)其使命至關(guān)重要，因此該公司正在努力確保在各個(gè)系統(tǒng)層面上的安全性。
據(jù)ITBEAR科技資訊了解，在推出任何新的人工智能系統(tǒng)之前，OpenAI都會(huì)進(jìn)行嚴(yán)格的測(cè)試、征求外部專家的意見(jiàn)，并通過(guò)強(qiáng)化學(xué)習(xí)等技術(shù)改善模型的表現(xiàn)。該公司強(qiáng)調(diào)強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估，同時(shí)積極與各國(guó)政府接觸，探討最佳的監(jiān)管形式。
OpenAI表示，從實(shí)際使用中學(xué)習(xí)，提高保障措施是創(chuàng)建和發(fā)布越來(lái)越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。該公司采取實(shí)質(zhì)性的保障措施，并根據(jù)吸取的教訓(xùn)不斷改進(jìn)。OpenAI提供自己服務(wù)和API中最強(qiáng)大的模型，以便開(kāi)發(fā)人員可以直接將技術(shù)集成到他們的應(yīng)用程序中。同時(shí)，實(shí)際使用中的經(jīng)驗(yàn)也促使OpenAI制定了越來(lái)越細(xì)化的政策，以應(yīng)對(duì)對(duì)人們構(gòu)成真正風(fēng)險(xiǎn)的行為，同時(shí)仍然允許我們的技術(shù)以更有益的方式使用。
OpenAI強(qiáng)調(diào)保護(hù)兒童的重要性，并稱要求使用其人工智能工具的人必須年滿18歲或以上，或者在父母同意的情況下年滿13歲或以上。該公司表示，不允許其技術(shù)用于生成仇恨、騷擾、暴力或成人等內(nèi)容。OpenAI已經(jīng)采取重大措施，最大限度地減少模型產(chǎn)生傷害兒童內(nèi)容的可能性。
除了默認(rèn)的安全防護(hù)，OpenAI與非營(yíng)利組織可汗學(xué)院等開(kāi)發(fā)機(jī)構(gòu)合作，為他們量身定制了安全措施。同時(shí)，OpenAI還致力于尊重隱私、提高事實(shí)準(zhǔn)確性、進(jìn)行持續(xù)的研究和參與等。該公司表示，解決AI安全問(wèn)題需要廣泛的辯論、實(shí)驗(yàn)和參與，包括為AI系統(tǒng)的行為設(shè)置界限。OpenAI將繼續(xù)促進(jìn)利益相關(guān)者之間的合作和開(kāi)放對(duì)話，以創(chuàng)建更安全的AI生態(tài)系統(tǒng)。
