【ITBEAR科技資訊】5月6日消息，人工智能的發展給人類文明帶來了無數的機遇和挑戰。然而，隨著人工智能技術的不斷發展，一些科學家和專家開始擔心，AI可能最終導致人類的終結。
保羅·克里斯蒂亞諾是一位知名的AI安全研究員，他在最近的一個播客節目中提到，人工智能有可能取代人類的可能性大約為10-20%，這個問題需要得到嚴肅的對待。據ITBEAR科技資訊了解，他認為，人工智能最可能導致人類終結的方式是通過聯合部署在日常生活中的所有AI，而不是一次性地摧毀人類。這種終結方式是逐漸發生的，隨著AI控制自動駕駛汽車、無人機等科技的出現，人類逐漸失去控制和主導地位。當人工智能超越了人類的智商閾值，這一切都有可能成為現實。
為了防止人工智能導致人類的終結，保羅·克里斯蒂亞諾創立了一個非營利組織Alignment Research Center，該組織致力于推進人工智能對齊的研究和發展。這個概念早在2018年就被廣泛定義，并被認為對于防止人工智能毀滅人類的可能性至關重要。該組織旨在使人工智能與人類的價值觀保持一致，并遵循人類的意圖，以確保安全地開發人工智能。然而，這需要更多的研究和開發，以確保我們能夠安全地邁向人工智能時代。
近年來，人工智能的發展呈現出爆發式增長的趨勢，同時也帶來了越來越多的風險和挑戰。據ITBEAR科技資訊了解，不僅保羅·克里斯蒂亞諾警告AI可能導致人類終結，曾被譽為人工智能教父的杰弗里·辛頓也表示，AI對人類的威脅可能要比天災造成的影響更為廣泛。這些警示都提醒我們，雖然人工智能技術發展帶來了很多的機遇，但是我們也需要保持高度警覺，認真對待潛在的風險和威脅。我們需要在技術發展的同時，加強對人工智能技術的監管和規范，制定相關的法律法規，確保人工智能的發展與人類的利益保持一致，避免AI對人類的威脅變成現實。同時，我們也需要加強對人工智能技術的研究和開發，加強人工智能的安全性和可控性，以確保我們能夠更好地應對未來可能出現的挑戰和風險。
