2月17日 消息:據路透社報道，ChatGPT背后的初創公司OpenAI表示，其正在開發聊天機器人ChatGPT的升級版，讓用戶可以自定義設置，以解決人們對人工智能偏見的擔憂。
這家總部位于舊金山的初創公司表示，它一直在努力減輕政治和其他偏見，但也希望容納更多不同的觀點，微軟公司已為其最新技術提供資金和支持。
OpenAI在一篇博客中寫道:“人工智能應該是對人類有益的工具，因此每個用戶都可以在社會規定的限度內進行定制。這將意味著允許其他人（包括我們自己）可能強烈反對的系統輸出。將定制化做到極致有可能使我們的技術被惡意使用，并讓ChatGPT成為無意識放大人們現有觀點的阿諛奉承AI，所以ChatGPT的行為仍然會受到限制在這方面取得適當的平衡將是一個挑戰。”因此，用戶自定義總會有一些界限。
例如，如果用戶請求的內容有關于成人、暴力或包含仇恨的言論，人工審閱者會指示ChatGPT回答“我無法回答”。
這家初創公司發布消息同時，一些媒體機構指出，由 OpenAI 提供支持的微軟新 Bing 搜索引擎的答案具有潛在危險，而且該技術可能還沒有準備好迎接黃金時段。
科技公司如何為自定義ChatGPT設置護欄是人工智能公司重點關注的領域，目前仍在博弈。微軟也表示，它會根據用戶的反饋來改進Bing。
來源：站長之家
