【ITBEAR科技資訊】07月06日消息，OpenAI公司最近發出警告，稱未來的人工智能可能對人類構成威脅，甚至導致人類滅絕。OpenAI聯合創始人伊利亞·蘇斯克維爾和對齊團隊負責人簡·萊克在一篇博客文章中指出，超級智能的強大力量可能會使人類失去控制權，他們還沒有找到解決方案來操縱或控制這種潛在的超智能人工智能，以防止其失控。
據ITBEAR科技資訊了解，OpenAI公司認為，超智能人工智能可能在接下來的十年內問世。然而，目前人類還沒有足夠先進的技術來控制超級智能，因此他們迫切需要在對齊研究方面取得突破。所謂的對齊研究旨在確保人工智能對人類是有益的。
為了解決這個問題，OpenAI計劃投入大量資源成立一個名為超級對齊團隊的研究團隊，以確保他們的人工智能系統對人類是安全的，并且最終實現人工智能對自身的監督。OpenAI計劃通過利用人類的反饋來訓練AI系統，輔助人類評估，最終實現實際的對齊研究。
然而，對于這一計劃，也有人提出了反對意見。人工智能安全倡導者康納·萊希指出，在構建具有人類水平智能之前，必須先解決對齊問題，否則無法控制超級智能。他認為OpenAI的計劃并不是一個特別好的或安全的方案。
盡管人工智能技術的發展帶來了許多創新和便利，但OpenAI的警告提醒我們，應該謹慎對待超級智能的發展，并重視對齊研究的重要性，以確保人工智能對人類的未來發展是有益的，同時也能保障人類的安全和權益。這需要全球范圍內的共同努力和合作，以確保人工智能技術的良性發展。
