對于人工智能（AI）可能帶來的風險以及哪些風險最可怕，目前仍是輿論場上最熱鬧的話題之一，每隔幾天就要拿出來炒一炒，人工智能行業的先驅們也為此爭論不休，而這背后又隱藏著什么樣的秘密呢？
簡單來講，專家們主要分為兩大陣營，其中一個陣營主要包括一些開發先進人工智能系統的高管，他們認為人工智能的發展可能會帶來災難，相對“務虛”一些。他們更加關注存在風險（Existential Risk），即能夠威脅到人類或其他生命形式存在的一種極端風險，這種風險可能導致人類或其他生物種群的滅絕，或者使其無法繼續存在。
另一派陣營則主要是以科學家為主，他們認為關注的重點應該放在人工智能目前可能導致的風險，以及它會對我們的日常生活造成怎樣的傷害，相對更為“務實” 一些，聚焦當前實際的問題和解決具體的困難。
人工智能初創公司Anthropic首席執行官兼聯合創始人Dario Amodei是對存在風險發出警告的人之一。今年夏天，他在國會作證時表示，人工智能將比預料的更接近于超越人類智能，甚至會幫助制造大規模殺傷性武器。OpenAI首席執行官Sam Altman在世界各地巡回演講時表示，人工智能有一天可能會對人類造成嚴重傷害，甚至更糟的后果。馬斯克在接受采訪時表示：“人工智能毀滅人類的可能性很小，但絕非不可能。”
美國參議院多數黨領袖查克·舒默已經宣布從下周（9月13日）開始舉行人工智能論壇的計劃，屆時將有許多重量級人物出席，包括馬斯克、Altman、Meta的扎克伯格、谷歌的桑達·皮查伊、英偉達的黃仁勛和微軟聯合創始人比爾·蓋茨，討論包括“世界末日情景”在內的主題。
爭論不休的背后
人工智能科學家則警告稱，討論科幻小說中的一些場景會分散焦點，甚至可能是這些科技公司的一種營銷策略。他們表示，人工智能公司和監管機構應將有限的資源集中在該技術現有的和迫在眉睫的威脅上，比如制造有關選舉的錯誤信息，或者放大人類偏見影響的系統。
隨著世界各地的公司和政府都在努力決定將資源和注意力集中在人工智能的某些方面，以使這項可能改變世界的技術的好處最大化、壞處最小化，這場爭端正在加劇。
人工智能治理智庫Future Society聯合創始人Nicolas Miailhe指出，關于人工智能風險的討論越來越分割和對立，這是“月底風險”和“世界末日”之間的隔閡。
前谷歌律師Daniel Schoenberger表示：“很明顯，仍在升溫的炒作會使這些科技公司獲益，政策制定者應該更多地關注當下的風險，比如人工智能使傳播虛假和誤導信息變得更容易，或者人工智能主導權問題。”
所謂的末日論者并沒有說人工智能一定會像《終結者》電影中的天網那樣崛起，最后摧毀人類。一些人擔心，人工智能系統最終可能會有追求權力的沖動，無意中傷害人類，或者干脆超越人類，控制我們的命運。
相比之下，人工智能倫理和公平領域的專家擔心的是，這些工具是如何無意或有意地剝削工人，加劇人類之間的不平等。他們希望科技公司和監管機構實施某些規則和技術，以減少這種威脅。
人工智能科學家Melanie Mitchell在一次采訪中說，關于存在風險的討論“都是基于猜測，真的沒有科學依據”。
麻省理工學院的教授Max Tegmark更加直接，他指責科技公司在關注公平問題的人和關注存在風險的人之間制造分歧，以避免監管。
人工智能公司Conjecture首席執行官Connor Leahy表示：“我們看到，所有主要參與者都在圍繞人工智能展開一場荒謬的死亡競賽。”他補充說，他對大型科技公司對存在風險的擔憂持保留態度。“需要做的是實實在在的行動，而不是光靠嘴巴。”
