“端側(cè)操作系統(tǒng)+AI”浪潮來臨 開源鴻蒙加速布局AI全棧能力體系
當(dāng)前,AI技術(shù)正加速向終端融合,帶來交互方式革新、智能體驗升級與數(shù)據(jù)本地化保障等重大機遇,推動AI 手機 、AI PC、機器人等新形態(tài)終端快速涌現(xiàn)。然而,AI入端仍面臨算力受限、隱私安全、響應(yīng)穩(wěn)定性不足及高成本低效率等挑戰(zhàn)。端側(cè)操作系統(tǒng)作為連接物理設(shè)備與云端服務(wù)的樞紐,具備輕量化、實時性、低功耗、安全性高等優(yōu)勢,成為AI與終端融合的核心載體,在推動AI終端的規(guī)模化普及上起到至關(guān)重要的作用。因此,推動端側(cè)操作系統(tǒng)與AI的融合,將成為實現(xiàn)泛在智能的重要路徑。
在“端側(cè)操作系統(tǒng)+AI”浪潮下,作為面向萬物互聯(lián)時代的智能終端操作系統(tǒng)根社區(qū),開源鴻蒙正加速打造自身的AI原生能力,以“AI原生操作系統(tǒng)”為目標(biāo),構(gòu)建了涵蓋中小模型部署、大語言模型融合、芯片適配與模型加速、智能體理解與應(yīng)用的全棧AI端側(cè)能力體系,并持續(xù)推動與終端的融合,已有諸多典型應(yīng)用場景落地,力圖在這一浪潮中占據(jù)一席之地,構(gòu)建真正高效、可控、普惠的AI智能終端技術(shù)底座。
構(gòu)建全棧AI端側(cè)能力體系,打造AI智能終端技術(shù)底座
在中小模型方面,開源鴻蒙通過MindSpore Lite Kit支持ASR、TTS、CV等多類模型推理,打通PyTorch、ONNX等模型轉(zhuǎn)換流程,輔以NNRT統(tǒng)一算力抽象,適配CPU、GPU、NPU等異構(gòu)計算硬件,實現(xiàn)跨芯片部署與高性能運行。在TTS方向,開源鴻蒙已支持Fastspeech2、MelGAN等模型的端側(cè)壓縮與本地語音合成;在CV領(lǐng)域,YoloV5等模型已在端側(cè)通過圖像縮放、量化和C++優(yōu)化實現(xiàn)完整推理鏈路。
在大模型探索領(lǐng)域,開源鴻蒙與生態(tài)伙伴聯(lián)合創(chuàng)新取得了不俗進展。例如,深思考基于開源鴻蒙成功適配了TinyDongni和DeepSeek R1大模型,使用自研Dongni-AMDC(自適應(yīng)多維壓縮)算法對模型權(quán)重和輸入統(tǒng)一量化壓縮,大幅降低內(nèi)存占用并提升推理速度,同時結(jié)合本地編譯優(yōu)化、多芯片協(xié)同并行推理、NPU加速、內(nèi)存按需加載等技術(shù),在保證大模型一定多模態(tài)理解能力的同時,將模型體積和運行開銷壓縮到手機等設(shè)備可承受的范圍,讓復(fù)雜多模態(tài)大模型在端側(cè)設(shè)備上的落地成為可能。開鴻智谷在其基于開源鴻蒙開發(fā)的“在鴻OS 人工智能實驗箱”產(chǎn)品上也成功支持了DeepSeek模型的本地部署,支持多輪對話、語音輸入、聯(lián)網(wǎng)搜索等功能。
在芯片適配與算力支持方面,開源鴻蒙已成功適配P7885、RK3576,并在探索昇騰310 B/P、RK3588等國產(chǎn)AI芯片的適配方案,構(gòu)建了覆蓋CPU、GPU、NPU的異構(gòu)推理體系。通過引入MindSpore Lite、NNRT和AI插件引擎,實現(xiàn)模型與芯片的快速適配與高效運行,支持多模態(tài)AI任務(wù)如圖像識別、語音交互和大模型本地推理。
為加速AI端側(cè)能力的構(gòu)建,開源鴻蒙還成立了AI Model SIG,旨在通過匯聚大中小模型資源,構(gòu)建端到端應(yīng)用范例,降低AI能力向端側(cè)落地的技術(shù)門檻。包括開鴻智谷、華為、潤開鴻、深開鴻、中科鴻略、匯思博、佳都 科技 、視美泰等成員單位共同參與,推動開源鴻蒙AI能力的共建。
開源鴻蒙AI Model SIG成立合影
在模型部署到系統(tǒng)以后,如何將這些模型真正的用起來,能夠開發(fā)出解決用戶真正問題的Agent,也成為開源鴻蒙重點思考的問題。
目前,開源鴻蒙正聯(lián)合頭部高校加速構(gòu)建面向智能終端的原生Agent體系,推動操作系統(tǒng)從被動響應(yīng)走向智能理解與主動服務(wù)。上海交通大學(xué)通過引入“經(jīng)驗驅(qū)動”的Record & Replay范式,讓Agent可記錄用戶行為并復(fù)用經(jīng)驗,實現(xiàn)如點外賣、發(fā)郵件等復(fù)雜任務(wù)的自動化執(zhí)行。同時,該范式支持在本地端側(cè)運行智能體,保障數(shù)據(jù)隱私與響應(yīng)效率,已適配如SmallThinker與PowerInfer等推理系統(tǒng)和模型,具備快速推理與任務(wù)規(guī)劃能力,可在手機、PC等終端流暢運行和推理。
在開源鴻蒙開發(fā)者大會2025上,開源鴻蒙還啟動了“AI Agent技術(shù)共建”,并發(fā)起AI Agent TSG(技術(shù)專家組)籌備,圍繞“全新交互范式、多Agent框架、跨平臺協(xié)議、安全可信基座”四大方向,匯聚產(chǎn)學(xué)研力量推動Agent技術(shù)標(biāo)準(zhǔn)化與產(chǎn)業(yè)化共建。
開源鴻蒙AI Agent技術(shù)共建啟動儀式
應(yīng)用場景加速落地 助推AI終端規(guī)模化普及
要成為真正有影響力的AI原生操作系統(tǒng)平臺,光有技術(shù)還遠遠不夠,還需要繁榮的生態(tài)和實際落地的應(yīng)用場景。目前開源鴻蒙正加速將自身AI能力體系賦能硬件,并落地了一系列AI終端產(chǎn)品,涵蓋AI機器人、AI PC(人工智能個人計算機)、AI試驗箱等,助推AI終端的規(guī)模化普及。
在AI機器人層面,開源鴻蒙計劃籌建機器人PMC,致力于構(gòu)建一套完整全棧式的機器人系統(tǒng)能力,包括統(tǒng)一的內(nèi)核平臺、多模態(tài)交互框架、中間件支持(如DORA/ROS2)、分布式通信機制,以及具身智能的軟總線互聯(lián),構(gòu)建適配不同形態(tài)機器人的全場景架構(gòu)。
在機器人落地應(yīng)用上,已有多家共建單位基于開源鴻蒙打造出面向各大應(yīng)用場景的機器人產(chǎn)品和解決方案。在科教實訓(xùn)領(lǐng)域,上海交通大學(xué)與曦朧科技、鴻湖萬聯(lián)打造的開源鴻蒙機器人已進入多所科研單位與高校,推動跨學(xué)科融合與原型驗證。在工業(yè)領(lǐng)域,深開鴻基于開源鴻蒙的分布式異構(gòu)多機協(xié)同機器人操作系統(tǒng)發(fā)行版 M-Robots OS已在工業(yè)機械臂、協(xié)作機器人等場景完成驗證。M-Robots OS單芯多內(nèi)核混合部署的特性,既支持豐富人機交互,又能保證響應(yīng)的硬實時(中斷延遲 ≤ 1us,任務(wù)切換 ≤ 1us),可滿足機器人、無人機、工業(yè)控制及自動駕駛等場景需求。此外,深開鴻還基于ROS實現(xiàn)了一套自主導(dǎo)航、目標(biāo)識別、物體抓取的AGV機器人的參考設(shè)計,并在四足機器人、機械小車等開發(fā)者機器人上實現(xiàn)了部署,在智能制造與工業(yè)自動化、教育科研、智慧城市與公共服務(wù)、醫(yī)療康養(yǎng)與家庭服務(wù)等領(lǐng)域發(fā)揮關(guān)鍵作用。
基于開源鴻蒙的巡檢機器人
在AI PC產(chǎn)品領(lǐng)域,華為于近期發(fā)布鴻蒙電腦,搭載基于開源鴻蒙的HarmonyOS 5,內(nèi)置全新小藝AI助手。通過強大的系統(tǒng)級AI能力,小藝在鴻蒙電腦上成為無處不在的系統(tǒng)級智能助理,帶來了全新交互、高效辦公、知識空間、設(shè)備操控等AI智慧體驗。此外,深開鴻的開鴻BotBook筆記本電腦于近期發(fā)布,其搭載國內(nèi)首個基于開源鴻蒙的桌面操作系統(tǒng)——KaihongOS,集成AI OS框架及AI Agent智能體,提供行業(yè)智能支持;還內(nèi)置了基于KaihongOS原生AI智能助理,支持一鍵喚醒,可提供知識問答、文檔總結(jié)、售后服務(wù)問答等精準(zhǔn)服務(wù)。
基于開源鴻蒙的開鴻BotBook筆記本電腦
此外,開鴻智谷基于開源鴻蒙開發(fā)的“在鴻OS 人工智能實驗箱”實踐平臺已在人才培養(yǎng)領(lǐng)域?qū)崿F(xiàn)應(yīng)用,其支持參數(shù)規(guī)模3.5B的DeepSeek模型的本地部署與多輪對話,具備語音輸入、聯(lián)網(wǎng)搜索等能力,廣泛應(yīng)用于AI對話、執(zhí)行控制等典型場景,打造出涵蓋語音交互、視覺識別、自然語言處理的綜合應(yīng)用鏈條。
基于開源鴻蒙的在鴻OS 人工智能實驗箱
開源鴻蒙正以全棧化的AI能力和多樣化的終端應(yīng)用,推動“端側(cè)操作系統(tǒng)+AI”從理念走向?qū)嵺`,賦能產(chǎn)業(yè)智能化轉(zhuǎn)型升級。未來,開源鴻蒙將繼續(xù)深化技術(shù)突破與生態(tài)共建,攜手開發(fā)者與產(chǎn)業(yè)伙伴,共同探索AI原生操作系統(tǒng)的發(fā)展,共赴萬物智聯(lián)時代。