【ITBEAR】Mistral公司近期隆重推出了兩款全新的AI模型——Ministral 3B與Ministral 8B,專為提升筆記本電腦和智能手機等設備的本地化AI體驗而設計。據官方宣稱,這兩款模型堪稱“全球頂尖的邊緣模型”。
隨著企業對在個人設備上運行AI模型的需求日益增長,Mistral公司此次推出的模型旨在確保數據處理的安全性,并顯著提升響應速度。這兩款模型均能在無互聯網連接的情況下,執行翻譯、本地分析及機器人等多項任務。
值得注意的是,Ministral 3B與8B均擁有128K的上下文窗口,能夠一次性處理長達50頁的文檔內容。
價格方面,Ministral 8B的定價為每百萬個tokens售價0.1美元,而3B版本則更為親民,售價為0.04美元,非常適合小規模操作或初創開發者使用。尤為Ministral 8B采用了獨特的交錯滑動窗口注意力機制,這一設計使得其在推理過程中更為迅速且內存占用更少。
這兩款AI模型的推出,無疑為需要在本地設備上高效運行AI應用的企業和個人提供了更為優質的選擇。