全球知名IT市場研究機構IDC最新發布了關于中國生成式AI應用開發平臺的深度報告，該報告聚焦于企業統一AI開發平臺的雛形，并對市場中的大模型平臺進行了詳盡分析。IDC所界定的大模型平臺，主要由模型開發平臺和應用開發平臺兩大核心部分組成。前者專注于提供模型訓練與調優工具，賦能開發者利用基礎模型進行自主創新；后者則致力于簡化應用開發流程，通過低代碼甚至無代碼的開發工具，助力開發人員高效產出。
報告不僅對比了當前市場上主流的大模型平臺供應商，還為企業用戶在選擇大模型平臺時提供了至關重要的技術指標。在這次評估中，百度智能云表現尤為突出，以七項滿分的優異成績，在所有大模型平臺廠商中獨占鰲頭，緊隨其后的是亞馬遜云AWS與阿里云，兩者并列第二。
IDC指出，大模型平臺為應用程序開發開辟了新的道路。企業在挑選大模型平臺時，應著重關注供應商在模型層和數據層的能力。在模型層，如何使模型更好地適應企業的實際應用場景是關鍵所在；而在數據層，如何有效實施RAG（檢索增強生成），確保生成內容的精準無誤，消除幻覺現象，則顯得尤為重要。百度智能云在這兩大領域均具備深厚的技術底蘊。
百度智能云的千帆大模型平臺，作為大模型與AI應用開發的綜合服務平臺，能夠從模型開發、模型服務、應用開發三個維度，為企業提供全方位的服務。目前，文心大模型的日均調用量已超過15億次，千帆平臺已成功幫助客戶精調了3.3萬個模型，并開發出77萬個企業應用。
模型精調是推動大模型與產業深度融合的重要一環。盡管大模型具備強大的泛化能力，能夠處理多種通識問題，但在特定行業及領域的應用中，其表現往往不盡如人意。這是因為不同行業擁有獨特的專業知識、邏輯結構和數據特征，而通識知識難以全面覆蓋這些特殊需求。通過模型精調，將行業的專業知識和數據特征融入大模型，可以顯著提升其在行業應用中的準確性和可靠性。
當前，行業內主流的大模型服務商紛紛通過大模型平臺提供模型精調服務，助力企業快速構建AI應用。AWS SageMaker集成了亞馬遜的高性能預訓練模型庫，這些模型已在大規模通用數據上進行了充分訓練，為模型精調奠定了堅實基礎。同時，SageMaker還提供了多種先進的機器學習算法，用戶可根據精調任務的具體需求，選擇合適的算法來進一步優化模型性能。
百度智能云的千帆大模型平臺則提供了完整的工具鏈，是業界首個上線DPO、KTO等模型訓練方法的平臺，并配備了高質量通用語料數據和即用的模型精調模板。無論是希望自行準備數據并進行精調，還是希望快速上手并復制行業最佳實踐，千帆平臺都能提供高效支持。目前，在千帆平臺上，每天有超過一半的調用量來自精調后的模型。
以醫療行業為例，杭州全診醫學基于千帆平臺和文心大模型，打造了AI醫療助理應用，該應用能夠在導診、預診、診間、入院、手術、隨訪等全階段為醫生和患者提供服務。特別是在輔助醫生撰寫病歷方面，全診醫學通過使用20萬份精標病歷數據對大模型進行了精調，使得AI醫療助理的醫學用語更加準確、規范，病歷內容質量得到大幅提升。病歷生成的準確度提高了45%，醫生的接診量也增加了20%，為患者帶來了更多福祉。
RAG技術已成為企業解決大模型幻覺問題的有效手段。隨著生成式AI在企業布局和投資中的日益重要，企業希望通過大模型實現降本增效和產品創新。然而，通用大語言模型（LLM）在實際應用中常出現幻覺問題或回答不準確的情況，特別是在面向B端場景時，難以滿足企業的實際需求。為解決這一問題，企業通常采用RAG技術，將生成式AI與企業內部數據庫、知識庫相結合，使生成內容更加準確、合理。向量數據庫憑借其在語義理解和高效檢索方面的獨特優勢，成為企業實現RAG的關鍵組件。
IDC發布的《RAG與向量數據庫市場前景預測》報告顯示，在生成式AI的開發過程中，41%的高管認為構建RAG架構至關重要；81%的IT領導者認為，基于業務數據的生成式AI模型能夠為企業帶來顯著的競爭優勢。這表明，RAG技術在提升通用大模型準確性方面效果顯著，且企業對其認可度正不斷提高。隨著更多企業意識到RAG的重要性，它有望成為推動生成式AI落地的重要力量。
在評估了RAG和向量數據庫市場的發展趨勢后，IDC還對市場上的主要廠商進行了評估。在這一評估中，百度智能云的向量數據庫VectorDB在核心性能、功能全面性、大模型支持、戰略與生態合作、工程化落地五個關鍵領域保持領先，綜合排名并列第一。目前，VectorDB已在超過500家客戶中成功落地使用，支持多種常用算法和主流LLM、RAG框架，以及百度智能云千帆和開源Embedding模型，為企業提供一站式部署落地服務。
