近期,OpenAI 在推動“人工智能道德”研究方面邁出了重要一步,資助了一項深入探索該領域的項目。據TechCrunch報道,OpenAI的非營利部門已向美國杜克大學的研究團隊提供了一筆資金,用于開展名為“Research AI Morality”的研究計劃。
這項研究是更大規模計劃的一部分,該計劃在三年內共計投入100萬美元(折合當前人民幣約726萬元),旨在探索如何賦予AI道德意識。這一舉措不僅彰顯了OpenAI對于人工智能倫理問題的重視,也預示著AI技術未來發展將更加注重道德層面的考量。
領導該項目的是杜克大學的兩位知名學者:Walter Sinnott-Armstrong教授和Jana Schaich Borg。Sinnott-Armstrong教授在實踐倫理學、道德心理學以及神經科學等領域有著深厚的學術背景,他領導的團隊致力于解決現實世界中的倫理難題。例如,他們通過設計算法來輔助決策,確定誰應優先接受器官移植,同時權衡公眾與專家意見,以確保系統的公平性。
OpenAI資助的這項研究旨在開發能夠預測人類道德判斷的算法,尤其是在醫學、法律和商業等領域。然而,這一研究面臨諸多挑戰。由于機器學習模型主要基于訓練數據進行預測,因此它們往往反映了主流文化的觀點,可能存在一定的偏見。如何在算法中融入更加全面、客觀的道德標準,成為研究人員亟待解決的問題。
通過這項研究,OpenAI和杜克大學的研究團隊希望能夠為AI技術的未來發展提供更加堅實的道德基礎。他們相信,通過不斷探索和實踐,人工智能將能夠更好地服務于人類社會,實現技術與倫理的和諧共生。