隨著人工智能技術的飛速發展,其與終端設備的融合正成為行業的新趨勢。這一趨勢不僅革新了用戶交互方式,提升了智能體驗,還確保了數據的本地化安全。AI手機、AI個人電腦、智能機器人等新型終端設備如雨后春筍般涌現,標志著AI技術正逐步滲透至我們生活的每一個角落。
然而,AI技術在終端設備上的應用并非一帆風順。算力受限、隱私安全挑戰、響應穩定性不足以及高昂的成本和效率問題,成為了制約AI入端的關鍵因素。在此背景下,端側操作系統憑借其輕量化、實時響應、低功耗和高安全性等優勢,成為了連接物理設備與云端服務的橋梁,為AI與終端的融合提供了核心載體。
開源鴻蒙,作為面向萬物互聯時代的智能終端操作系統根社區,正積極擁抱這一變革。它以“AI原生操作系統”為目標,致力于構建涵蓋中小模型部署、大語言模型融合、芯片適配與模型加速、智能體理解與應用的全棧AI端側能力體系。這一體系的建立,旨在推動AI技術在終端設備的規模化普及,為用戶提供更加高效、可控和普惠的智能體驗。
在中小模型部署方面,開源鴻蒙通過MindSpore Lite Kit支持了包括語音識別、文本轉語音、計算機視覺在內的多種模型推理。同時,它還打通了PyTorch、ONNX等模型轉換流程,適配了CPU、GPU、NPU等異構計算硬件,實現了跨芯片部署與高性能運行。在TTS領域,開源鴻蒙已支持Fastspeech2、MelGAN等模型的端側壓縮與本地語音合成;在CV領域,YoloV5等模型也在端側實現了完整推理鏈路。
在大模型探索領域,開源鴻蒙同樣取得了顯著進展。它與生態伙伴聯合創新,成功適配了TinyDongni和DeepSeek R1等大模型。通過自研的Dongni-AMDC算法,這些模型在內存占用和推理速度上得到了大幅提升。同時,結合本地編譯優化、多芯片協同并行推理、NPU加速、內存按需加載等技術,大模型得以在手機等終端設備上實現落地。
在芯片適配與算力支持方面,開源鴻蒙已成功適配了多款芯片,并構建了覆蓋CPU、GPU、NPU的異構推理體系。通過引入MindSpore Lite、NNRT和AI插件引擎,它實現了模型與芯片的快速適配與高效運行,支持多模態AI任務如圖像識別、語音交互和大模型本地推理。
為了加速AI端側能力的構建,開源鴻蒙還成立了AI Model SIG,旨在匯聚大中小模型資源,構建端到端應用范例,降低AI能力向端側落地的技術門檻。目前,已有多家成員單位共同參與,推動開源鴻蒙AI能力的共建。
在模型部署到系統后,如何讓這些模型真正發揮作用,開發出解決用戶實際問題的智能體,成為了開源鴻蒙關注的重點。為此,它正聯合頭部高校加速構建面向智能終端的原生智能體體系,推動操作系統從被動響應走向智能理解與主動服務。上海交通大學通過引入“經驗驅動”的Record & Replay范式,讓智能體能夠記錄用戶行為并復用經驗,實現了復雜任務的自動化執行。
在應用場景方面,開源鴻蒙正加速將自身AI能力體系賦能硬件,并落地了一系列AI終端產品。這些產品涵蓋了AI機器人、AI個人電腦、AI試驗箱等多個領域,助推了AI終端的規模化普及。在AI機器人層面,開源鴻蒙計劃籌建機器人PMC,致力于構建一套完整全棧式的機器人系統能力,以適應不同形態機器人的需求。
在AI個人電腦領域,華為近期發布的鴻蒙電腦搭載了基于開源鴻蒙的HarmonyOS 5,內置全新小藝AI助手。這一創新為用戶帶來了全新交互、高效辦公、知識空間、設備操控等AI智慧體驗。深開鴻的開鴻BotBook筆記本電腦也搭載了基于開源鴻蒙的桌面操作系統,提供了行業智能支持和原生AI智能助理。
開鴻智谷基于開源鴻蒙開發的“在鴻OS 人工智能實驗箱”實踐平臺已在人才培養領域實現應用。它支持DeepSeek模型的本地部署與多輪對話,具備語音輸入、聯網搜索等能力,廣泛應用于AI對話、執行控制等典型場景。
開源鴻蒙正以全棧化的AI能力和多樣化的終端應用,推動“端側操作系統+AI”從理念走向實踐。它不僅為用戶提供了更加智能、便捷的體驗,還為產業的智能化轉型升級注入了新的活力。