隨著人工智能技術的不斷進步，生成式AI商業應用的開發格局正迎來重大變革。據Gartner的最新展望，至2028年，預計有80%的此類應用將直接在現有的數據管理平臺上孕育而生，這一趨勢預示著開發復雜性的顯著降低，以及項目交付周期的大幅縮短，有望達到50%的縮減幅度。

當前，生成式AI商業應用的構建主要圍繞大型語言模型（LLMs）與企業內部數據的深度融合展開，同時借助向量搜索、元數據管理、提示設計及嵌入技術等前沿科技。然而，若缺乏統一的管理框架，企業可能會陷入技術碎片化的困境，導致開發周期延長及成本攀升。

在近期于印度孟買舉辦的數據與分析峰會上，Gartner著重強調了檢索增強生成（RAG）框架在推動生成式AI應用發展中的核心作用。RAG被視為提升AI模型精確度和可靠性的關鍵，正逐步成為部署此類應用的基石。Gartner指出，RAG以其靈活的實施策略、增強的可解釋性及與LLMs的高效集成能力，展現出巨大潛力。

Gartner的高級分析師Prasad Pore進一步闡述，RAG在銷售、人力資源、信息技術及數據管理等多個業務領域，均能有效促進流程優化與任務自動化。面對數據工程師及數據專家在復雜數據管道和應用開發、測試、部署及維護方面的重重挑戰，Pore指出，傳統數據管理流程的繁瑣與高度人工依賴性，而通過RAG的應用，能夠顯著提升生產效率，簡化數據治理流程。

Pore還提到，LLMs作為生成模型，其靜態特性限制了其僅能根據訓練數據進行工作，缺乏實時信息的融入。而RAG的引入，使得企業能夠將最新的商業或組織特定數據整合進模型中，從而增強生成式AI應用在回答問題、日志分析及決策制定方面的效能。

在探討生成式AI商業應用的分類時，Pore將其劃分為三大核心領域：流程優化與自動化（涵蓋企業知識管理及文檔處理自動化）、用戶體驗提升（如客戶支持自動化及個性化購物體驗）以及洞察與預測（包括對話式商業智能及數據發現）。

針對生成式AI應用的構建與部署，Gartner向企業提出了以下建議：首要任務是評估現有數據管理平臺向RAG即服務平臺轉型的可行性；其次，應將RAG作為優先事項，整合來自現有數據管理系統的向量搜索、圖形處理及分塊技術等；最后，充分利用元數據和操作數據，以強化知識產權保護、解決隱私關切，并防范惡意使用風險。

重點概覽：