【ITBEAR科技資訊】8月22日消息，微軟公司最近發布了引人矚目的新工具——Microsoft Olive。該工具被設計用來加速搭載AMD GPU的顯卡在處理模型時的性能，據稱可以將性能提升高達9.9倍。
Microsoft Olive采用Python語言開發，旨在優化AMD GPU在執行大型語言模型時的效率。
據報道，當Radeon RX 7900 XTX GPU啟用Microsoft Olive工具后，以Stable Diffusion模型為例，其在基于文本生成圖像的任務上取得了顯著的性能提升。
微軟表示，Microsoft Olive不僅可以對模型進行轉換、優化、量化，還能夠自動進行調優，以實現最大化的性能輸出。根據AMD的官方測試結果，使用默認的PyTorch路徑進行運算時，AMD Radeon RX 7900 XTX每秒可以執行1.87次迭代。然而，在應用Microsoft Olive工具對模型進行優化后，該GPU的每秒迭代次數提升至18.59次。
據ITBEAR科技資訊了解，這一重大發布表明Microsoft Olive工具在提升AMD GPU運行大型語言模型性能方面具有巨大潛力，預計將在機器學習和人工智能領域產生深遠影響。不僅如此，該工具的推出也為科研人員和開發者提供了一個有力的工具，以便更高效地利用GPU在復雜任務上取得突破。這一創新有望推動人工智能應用的發展，為未來的技術進步開辟新的道路。
