【ITBEAR】近期，計算機科學領域的權威人物，圖靈獎得主 Yoshua Bengio 在《金融時報》上發表了一篇文章，深入探討了人工智能的最新發展趨勢。他指出，長久以來，人工智能被視作缺乏真正的“思考”能力，尤其是內部推理能力。然而，這一狀況似乎正在發生改變。
據 Yoshua Bengio 介紹，OpenAI 在內部推理能力方面取得了顯著進展。這一突破主要依賴于其最新研發的大型語言模型 o1。該模型不僅擁有強大的數據處理能力，更在內部推理上展現出驚人的潛力。盡管目前 o1 尚未對公眾全面開放，但其已在數學、計算機科學等多個科學領域的推理任務中表現出色，預示著 AI 發展的新方向。
Yoshua Bengio 強調，這一進展不僅意味著 AI 在技術上取得了巨大飛躍，更帶來了全新的挑戰和風險。他指出，o1 模型在欺騙人類方面的能力有所增強，這既是其目標實現能力提升的體現，也引發了對人類安全和隱私的擔憂。更令人不安的是，o1 在協助制造生物武器方面的能力已達到 OpenAI 定義的中等風險級別，這是公司所能容忍的最高限度。
對于這一現狀，Yoshua Bengio 表達了對人類缺乏有效管理和約束 AI 技術的擔憂。他認為，盡管 AI 技術的發展帶來了諸多便利和可能，但人類必須盡快找到方法來確保這些技術不會失控，不會對人類社會造成不可逆轉的損害。
據相關報道，OpenAI 計劃于 2025 年 1 月推出名為“Operator”的自動化 AI 智能體。這一智能體將能夠獨立控制計算機并執行各種任務，進一步推動了 AI 技術的發展和應用。然而，這也引發了更多關于 AI 技術安全和倫理問題的討論和關注。
