【ITBEAR科技資訊】5月6日消息，前OpenAI基金會成員保羅·克里斯蒂亞諾發出警告，稱人工智能可能最終導致人類終結的嚴峻前景。他認為，機器會逐漸地崛起，人類的終結不是一場突如其來的事件，而是人工智能逐漸地崛起。他表示，AI消滅人類的最可能方式是日常生活中部署的所有AI聯合起來，而不是突然消滅人類。他還認為，當AI超越人類智商閾值時，一切皆有可能，取代人類的可能性大約為10-20%。
據ITBEAR科技資訊了解，保羅·克里斯蒂亞諾的新非營利組織Alignment Research Center致力于人工智能對齊的概念，即讓機器的動機與人類的動機保持一致。該概念早在2018年就被廣泛定義，并被認為對于防止人工智能毀滅的可能性至關重要。雖然OpenAI聲稱旨在使人工智能與人類價值觀保持一致并遵循人類意圖，但仍需要進行更多的研究和開發，以確保安全和合乎道德地開發人工智能。
目前，人工智能在許多領域取得了巨大的進步和突破，為人類帶來了極大的便利和效益。但是，人工智能也存在一些風險和挑戰，如個人隱私、數據安全、算法公正性等問題。為了克服這些問題，各界需要共同努力，加強人工智能領域的研究和發展，促進技術的良性發展。同時，也需要對人工智能的潛在威脅保持高度關注和警惕，加強對其發展的監管和控制，確保人工智能的發展不會對人類造成危害。
