【ITBEAR科技資訊】8月15日消息,微軟旗下必應聊天(Bing Chat)的首席執行官米哈伊爾?帕拉欣(Mikhail Parakhin)在推特上發表言論,稱該公司的必應聊天在與單純的GPT-4相比時表現更優,但需要更高的成本支出。
據帕拉欣在回應一名網絡用戶時表示:“根據我們的測量,它確實表現得更好。”他強調,雖然必應聊天基于OpenAI提供的GPT-4模型,但其采用了檢索增強推理(retrieval-augmented inference)技術。
在回應有關必應聊天是否提供API的問題時,帕拉欣表示:“是的,我們提供了這樣的服務,但成本非常昂貴,因為它需要多次模型調用和搜索調用,因此目前只有少數公司在使用。”
必應聊天的開發基于OpenAI的GPT-4模型,這是一個基于深度學習的自然語言生成系統,能夠根據用戶輸入生成流暢連貫的文本。然而,僅依靠GPT-4并不能完全滿足用戶對準確和相關信息的需求。因此,必應聊天結合了檢索增強推理技術,這一技術允許在生成文本之前從網絡上檢索相關信息,并將其融入到生成過程中,從而提升了生成文本的質量和可信度。
然而,檢索增強推理技術也帶來了一些挑戰。首先,它需要更多的計算資源和時間來執行檢索和生成任務,從而增加了成本和延遲。其次,如果沒有適當的過濾和驗證機制,可能會引入不準確或不相關的信息。第三,如果缺乏適當的授權和保護機制,可能會涉及版權或隱私問題。
近期,一些用戶反映必應聊天的回答質量出現下降。據ITBEAR科技資訊了解,微軟公司表示正在積極關注用戶反饋,并計劃在不久的將來對系統進行改進以解決這些問題。微軟希望通過持續的技術優化,提供更好的用戶體驗。