【ITBEAR科技資訊】7月7日消息，OpenAI近日宣布成立一個新的團隊，由聯合創始人兼首席科學家Ilya Sutskever和Alignment負責人Jan Leike共同領導。該團隊的首要任務是尋找引導和控制下一代“超智能人工智能系統”的方法。OpenAI為這個團隊提供了最高優先級，并授權其使用公司20%的計算資源。團隊的目標是在未來四年內解決“控制超智能AI”的核心技術挑戰。
研究者Sutskever和Leike認為，“下一代超智能AI”可能會在十年內問世，這將是人類迄今為止最具影響力的技術之一，能夠幫助解決許多需要大量人力資源才能解決的問題。然而，他們也指出，這項技術可能會對人類造成威脅，巨大的力量可能導致人類失去主權甚至滅絕。
團隊表示，目前他們還沒有找到一個合理的方法來引導或控制潛在的超智能AI，人類只能通過反饋來調整AI系統的生成過程，但無法從根源上可靠地監督AI系統。因此，OpenAI計劃構建一個接近人類水平的AI“automated alignment researcher”，并利用大量的深度學習來擴展其能力，通過迭代地調整這個超級智能系統。
據ITBEAR科技資訊了解，為了實現這個目標，研究人員需要開發可擴展的訓練方法，并驗證生成的模型，最終進行一系列可控性測試。他們計劃利用這個AI系統來協助評估其他AI系統，并希望了解和控制模型如何將監督推廣到人類研究員無法監督的任務上。
Sutskever和Leike表示，隨著研究的深入，他們預計研究重點可能會發生變化，并可能涌現出新的研究領域。
目前，OpenAI的新團隊正在招募機器學習研究人員和工程師。Sutskever和Leike認為，招募更多的機器學習專家對于解決下一代超智能AI的問題至關重要。他們計劃廣泛分享團隊的研究成果，并與業界合作，共同推動進步。
這個新團隊的工作是對OpenAI現有工作的補充，旨在提高ChatGPT等當前模型的安全性，并理解和減輕人工智能帶來的其他風險，如濫用、經濟破壞、虛假信息、偏見和歧視、成癮和過度依賴等問題。雖然新團隊專注于解決將超智能AI系統與人類意圖結合的機器學習挑戰，但他們也在積極與跨學科專家合作，解決相關的社會技術問題，以確保技術解決方案充分考慮到更廣泛的人類和社會問題。
