国产九九视频一区二区三区_亚洲欧美资源在线_精品国产自在久精品国产_成人午夜黄色影院

  • 首頁 > 云計算頻道 > 大模型

    把大模型裝進手機,總共分幾步?

    2023年11月15日 15:22:35 來源:微信公眾號腦極體

      本文來自微信公眾號“腦極體”(ID:unity007),作者:藏狐。

      年初ChatGPT爆火的時候,我去上海參加華為春季新品發布會,用一頁keynote提到了大模型技術與手機硬件的結合。雖然只有短短的一兩分鐘,但我專門發了一條朋友圈,看好自然語言交互能力在手機上的應用。

      當時我就有預感,大語言模型跟手機結合,應該會很快。

      時間拉回到現在,蘋果、三星,以及“華米OV”國產手機廠商,都先后宣布了落地大模型。對手機來說,有沒有大模型,已經不是一道選擇題了,而是一道必答題。

      提起這段故事,不是想說我們預判有多準,做科技觀察不是玄學算命,一切都是有規律可循的。2023即將尾聲,但大模型手機的熱鬧方興未艾,是時候總結性地聊一聊,手機和大模型結合的深層邏輯,目前各家的差異化打法和挑戰是什么,以及未來會如何發展。

      2023,手機大模型的

      基建元年

      首先有必要解釋一下,為什么我們會預判,大模型與手機的結合,是一種必然?

      了解手機市場近況的讀者應該知道,在輝煌了十余年之后,移動智能終端已經陷入了某種瓶頸,增長低迷、缺少亮點,廠商創新如同擠牙膏,開發者巧婦難為無米之炊,可施展的創意空間有限。與此同時,一個用戶身邊至少環繞著三四個移動設備,每天要為繁瑣交互,付出大量的隱形勞動,甚至有人不勝其煩,開始嘗試“數字戒斷”。

      可以說,移動數字服務的供需雙方,都在期待一種新的變革技術,可以讓移動智能終端生態化繁為簡、重塑體驗。而在今天的技術世界中,大模型是最佳選項。

      大語言模型的強大理解和生成能力,各種功能用同一個模型基座和自然語言交互來獲取,可以改變手機的多個基本能力,說是重新定義手機,也不為過。

      讓大模型跑在手機上,成了手機廠商的必爭之地,開發者所需要的機會窗口,也是重新點燃用戶熱情的一種必然選項。

      大家今年都聽說了“百模大戰”,但跟主要在云端訓練、web調用的通用大語言模型不同,高度集成化的手機,端側算力、OS操作系統、應用并發、UI交互等一系列軟硬件,都有自身的特性,也給大模型落地帶來了不少限制。

      結合華米OV等頭部廠商的行動方略來看,我們預判,2023將是手機大模型的基建元年。

      大模型落地手機,基建工程剛剛開始,后面會有更多好戲可看。具體來說,廠商必須搞定:

      1.三座基建。

      2.一個入口。

      3.一群人。

      我們就從這三個層面,來看看目前,各家的情況都怎么樣?有哪些共同挑戰和差異化思路?

      第一步

      端側部署,三個基建

      大語言模型的參數量動輒百億、千億,其訓練和推理過程,需要耗費大量計算資源,對于手機這樣的移動智能終端來說,SoC芯片的算力是遠遠達不到數據中心萬卡集群的規模的,怎么支撐大模型的端側運算呢?

      就算勉強帶起來了,大模型占據過多的手機工作內存,搶占其他應用的資源,會不會出現卡頓或快速掉電?

      本地計算不足,引入云計算又會產生很多問題,比如大模型在云上分析處理個人數據,會不會暴露我的隱私啊?

      要在端側部署,手機和大模型都要進行一番改造。

      首先,模型層。

      目前主要有兩條路線。

      一是把大模型做小,也就是在端側引入輕量級大模型,通過量化、剪枝、蒸餾等壓縮技術,調整模型結構和參數大小,以適配端側芯片的內存和算力特點,沒網也能用,以榮耀、小米為代表。

      榮耀Magic6搭載的,是自研的7B端側AI大模型(即70億參數規模),雷軍在2023年度演講宣布“小米全面擁抱大模型”,主攻的是輕量化和本地部署,目前訓練出1.3B和6B參數規模的大模型。

      二是把大模型做多,提供不同參數量級的大模型,來支撐不同場景、不同任務,云端協同,以vivo、OPPO為代表。

      11月vivo發布的自研AI大模型矩陣,其中包括十億、百億、千億三個不同參數量級的5款大模型。其中,10億量級模型是主要面向端側場景打造的專業文本大模型,70億模型是面向手機打造的端云兩用模型,700億模型是面向云端服務的主力模型。

      同樣采用矩陣方式的,還有OPPO的安第斯大模型(AndesGPT),包括從10億至千億多種不同參數規模的模型。

      我在VDC大會,實地體驗了基于藍心大模型的“vivo看見”,可以在完全沒有網絡的情況下,為視障群體提供物品實時識別,辨認出植物、二維碼、公交卡等物體,響應很及時,手機的發熱和續航也在可接受范圍內,確實能解決視障群體出行在外時感知外界環境的實際需求。

      這個功能讓我很受觸動,還特地發了條朋友圈分享。

      不過,產品人員也直言,這種完全斷網、本地計算的大模型應用,對手機芯片的性能要求很高,目前只能在部分旗艦機型上落地。

    圖片

      其次,芯片層。

      大模型再小,也是“大”模型,一味壓縮可能會降低模型性能和輸出質量,導致識別精準度、生成內容下降。所以,大模型落地,硬件的升級,尤其是手機移動芯片,是必不可少的先決條件。

      根據目前得到的信息,vivo和聯發科、高通等都有聯合研發合作,來加速優化手機端側的AI推理性能,小米也透露,再跟芯片公司(高通和聯發科)共同推動端側大模型的落地。此外,今年麒麟芯片回歸,與華為鴻蒙操作系統、盤古大模型可以實現深度的協同優化。

      必須承認,大模型應用才剛剛開始,與移動芯片的協同調校也才邁出了第一步,未來手機要承載視頻、圖像類AIGC任務,絕大多數用戶應該是都不愿意上傳到云端的,所以本地AI計算硬件的優化調校,接下來會是手機廠商的競爭力之一。

      然后,系統層。

      最終,高效可用的大模型應用,一定是端云協同的,來兼顧體驗與隱私。這就帶來了一些問題,比如數據和業務上云,如何保障用戶的隱私和數據安全?基于大模型的AI應用,是否會影響手機性能、續航等使用感?要解決這個問題,必須從底層操作系統上下功夫。

      其中,華為旗艦手機通過HarmonyOS4系統接入盤古大模型,鴻蒙系統作為底層源代碼全部自己寫出來的OS,加上微內核架構,將核心的操作系統服務和安全服務分離,以及安全芯片和隔離技術,從軟硬件全方位的安全保障機制。

      此外,OPPO的ColorOS,小米澎湃OS,vivo藍心大模型與其手機系統OriginOS4,也都成為自研大模型的落地土壤。

      而大模型能否與操作系統深度融合,以及操作系統自身的流暢、安全、智能,決定了大模型后續表現的關鍵。

      據vivo的一位工作人員分享,除了基座模型本身的性能質量之外,大量的工程化細節也是必不可少的。要讓操作系統快速執行用戶的指令,不僅需要大模型對輸入的語音/文本,通過思維鏈進行目標拆解,而且需要大模型深入理解手機技能,對幾百個技能進行智能編排,自動選擇和調用相應的API,這樣才能自動執行復雜任務,把復雜留給自己,把簡單交給用戶。

      不難看出,底層模型、芯片、操作系統,是大模型端側部署,必不可少的三座基礎設施。同時也應該看到,下一階段的手機市場,是高技術、高難度、高投入、高風險的,需要扎扎實實的“硬功夫”,競爭將變得嚴酷,玩家也會變得更少。

      第二步

      觸達用戶,一個入口

      大模型火了一整年,大廠、媒體和創業者心心念念的超越ChatGPT、對標GPT4,到了普通讀者那里,似乎還是不明就里:大模型究竟怎么改變我的生活呢?

      那么,把智能手機變成“阿拉丁神燈”怎么樣?

      看過童話故事的讀者知道,燈中乾坤大,藏著無數資源和寶藏,但不需要阿拉丁費心琢磨,他只需要說出愿望,都有“燈神”為他將一切事務安排妥當。大模型的理解、創造能力,賦能給手機語音助手,就將它們變成了一個個“燈神”。

      接入大模型能力的語音助手,是手機廠商觸達用戶的直接路徑。

      目前來看,大模型到手機,就干三件事:一是利用大語言模型的自然對話能力,改變終端交互體驗;二是利用大模型的理解能力,提供個性化的服務,熟悉用戶的日常偏好、習慣,更懂用戶;三是借助大模型的創造能力,進行摘要提取、文案生成、圖像制作,提高生產力……

      而上述能力,基本都是通過語音助手來一步直達的。

      比如華為的智慧助手小藝,接入盤古大模型的底層能力,在智慧交互、高效生產力提升和個性化服務三個方向上獲得增強。

      vivo藍心大模型與手機系統OriginOS4結合,打造了首款全局智能輔助“藍心小V”,可以通過自然交流,幫用戶完成很多復雜任務,化繁為簡。

      基于OPPO安第斯大模型的新小布助手,以及升級了小米AI大模型的小愛同學,也都上線了測試版、體驗版。

      萬物智聯時代,智能終端用戶會面臨設備大爆炸、信息大爆炸、服務大爆炸,如果一切都需要用戶自己進行查找,猶如大海撈針,這對每一個人的耐心、時間、數字信息素養等,都提出了很高的要求。而大模型與智能助手的融合,就是解藥。

      智能助手可以調度手機、耳機、汽車、平板、智慧屏、電腦PC、智能家居等物聯網設備,是用戶和AIoT之間的最短路徑。

      而依靠大模型的加持,智能助手的分析理解能力、知識水平、記憶水平、生成能力,都大大得到了提升,讓手機廠商說了多年的“千人千機”真的可實現、可感知。

      但很長一段時間以來,用戶并沒有覺得智能助手是不可或缺的,有的人還會覺得跟智能助手對話很尷尬、人工智障等,甚至覺得有點雞肋。

      毫不夸張地說,大模型好不好用,普通用戶不一定關心,但智能助手好不好用,一句對話就能試出差距,將是接下來手機廠商的競爭焦點。

      總結一下,僅有大模型還不夠,智能助手才是觸達用戶的最短路徑,也是手機廠商的必爭之地。

      第三步

      應用繁榮,一群開發者

      在手機和用戶已經具備了接入大模型的前提條件之后,下一步就是如何讓開發者真正走入大模型的世界。

      今天,在華為、vivo、OPPO等廠商的發布會上,我看到的基于大模型的AI應用已經不少,但都偏向于示范,比如自然語言的智慧搜索、一句話生成圖像、AI作曲等。這些功能對于大眾用戶來說,還是太過于基礎了。

      就拿火爆的AIGC應用來說,生成最美證件照、為寵物作畫、制作漫畫頭像、寫一段小紅薯分享文案、賽博菩薩、拍圖做數學題、生成智能手表壁紙……都是需求極為細分的。手機廠商不能,也不應該,將這些AI應用都全部自己干了,這就必須引入千千萬萬開發者,去發揮創意,去基于大模型做無數小而美的AI應用。

      但是,從開發端到市場端,大模型AI應用的路看似很有誘惑力,但對于開發者來說,還是面臨著技術、學習成本、市場壓力等各種顧慮,需要廠商強有力的技術體系、工具平臺、賦能方案以及商業勢能的加持。

      目前,我們能看到幾種生態策略:

      鴻蒙的技術之路。為全場景智慧的市場空間,以及鴻蒙分布式系統的產業容納能力,對開發者的吸引力還是很大的。華為已經準備開啟全新的HarmonyOS NEXT,全面啟動鴻蒙原生應用。

      vivo的開源之路。Vivo走上了一條開源共建之路,70億藍心大模型成為業界首個中文開源大模型,開源的好處是可以吸引群體智慧,更適合在技術探索期,進行廣泛、不設邊界的探索,從而催生出更多更新更好的創意應用。vivo也發布了對應的微調框架以及大模型開發套件BlueKit,為開發者提供全方位的支持。

      OPPO的伙伴之路。此前OPPO公布了2023OPPO開發者大會的內容前瞻,其中潘塔納爾系統能力向開發者全面開放,支持一次開發、多形態多模態多入口的快速適配,并提供相應的工具資源,幫助開發者快速接入泛在服務,吸引更多合作伙伴來提供多元化的智能服務。

      可以肯定,接下來大模型越來越多、手機基礎軟硬件逐步成熟、平臺能力工具接口更加完善,基于大模型的移動AI應用會變得越來越普及,這時候各家應用生態能拉開差距的,就只有開發者的數量和質量——開發者能釋放出多少精彩的想象力,手機的使用價值就有多大。

      開發者生態,是移動互聯時代的護城河,這一定律在AI大模型時代也同樣適用。

      對于手機廠商來說,幸運的是,大模型手機才剛剛開始,應用開發者不希望錯過機遇窗口,還有時間積攢籌碼。

      總結一下,2023是大模型手機的修煉之年,三座基建、一個入口、一群人,都逐漸匯聚在端側,變化或許在瞬息之間。

      當大模型的殺手級應用步入手機,讓用戶發出“哇”的尖叫。這個大模型手機的“aha時刻”,說明移動互聯網的下一個春天,真的來臨了。

      文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。

    海報生成中...

    最新新聞

    熱門新聞

    即時

    全球頂級AI創作社區回歸!海藝AI國內首發“全民娛樂化創作

    海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。

    新聞

    市場占比高達35.8%,阿里云引領中國AI云增長

    9月9日,國際權威市場調研機構英富曼(Omdia)發布了《中國AI云市場,1H25》報告。中國AI云市場阿里云占比8%位列第一。

    企業IT

    華為坤靈發布IdeaHub千行百業體驗官計劃,助力中小企

    9月24日,華為坤靈召開“智能體驗,一屏到位”華為IdeaHub千行百業體驗官計劃發布會。

    3C消費

    雅馬哈推出兩款高端頭戴耳機YH-4000與YH-C3000

    雅馬哈昨日宣布推出兩款頭戴式耳機,分別是平板振膜的YH-4000和動圈原理的YH-C3000。

    研究

    IDC:2025上半年全球智能家居清潔機器人出貨量同比暴

    IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。

    国产九九视频一区二区三区_亚洲欧美资源在线_精品国产自在久精品国产_成人午夜黄色影院
    亚洲欧洲一区二区三区| 中文字幕中文字幕中文字幕亚洲无线 | 久久美女高清视频| 夫妻av一区二区| 一区二区三区在线观看国产| 欧美日韩中文国产| 久久成人18免费观看| 亚洲私人黄色宅男| 7777精品伊人久久久大香线蕉的| 国产在线精品一区在线观看麻豆| 亚洲免费av高清| 久久综合狠狠综合| 欧美男男青年gay1069videost| 国产在线视频一区二区三区| 日韩av成人高清| 亚洲人被黑人高潮完整版| 国产精品美女久久久久久久久久久 | 亚洲一区二区三区中文字幕| 久久婷婷一区二区三区| 欧美成人a∨高清免费观看| 91美女视频网站| 国产精品88888| 伦理电影国产精品| 精品一区二区三区的国产在线播放| 亚洲精品免费在线观看| 精品少妇一区二区三区视频免付费| 91精品国产综合久久香蕉麻豆| 日韩欧美一区二区免费| 欧美日本免费一区二区三区| 欧美日韩不卡一区| 精品国产区一区| 欧美丰满嫩嫩电影| 91在线小视频| 成人一区二区三区视频在线观看 | 亚洲综合一区二区精品导航| 免费视频一区二区| 五月开心婷婷久久| 亚洲免费观看高清完整| 亚洲一区二区不卡免费| 久久超碰97中文字幕| eeuss国产一区二区三区| 国产麻豆日韩欧美久久| 日本aⅴ免费视频一区二区三区| 免费高清视频精品| 99久久er热在这里只有精品15| 欧美无乱码久久久免费午夜一区| 日本福利一区二区| 91在线播放网址| 欧美一区二区三区性视频| 91精品久久久久久久久99蜜臂| 久久久三级国产网站| 亚洲一区二区中文在线| 国产成人亚洲综合a∨猫咪| 国产成人av资源| 欧美日本一区二区三区四区 | 在线免费观看日本一区| 91久久精品一区二区三区| 欧美大肚乱孕交hd孕妇| 亚洲午夜影视影院在线观看| 亚洲国产成人av网| 国产成人精品影视| 91精品国产麻豆| 亚洲黄一区二区三区| 国产成人久久精品77777最新版本 国产成人鲁色资源国产91色综 | av一区二区三区在线| 日韩午夜在线观看| 久久奇米777| 五月天亚洲精品| 91丨九色porny丨蝌蚪| 久久久99免费| 久久久电影一区二区三区| 亚洲综合免费观看高清完整版 | 蜜桃视频在线观看一区| 精品一区二区三区免费毛片爱| 色综合久久久久久久久| 欧美视频在线一区| 亚洲视频一区二区在线观看| 国产91精品精华液一区二区三区| 欧美videofree性高清杂交| 天天综合色天天| 欧美三级三级三级爽爽爽| 一二三四区精品视频| 91传媒视频在线播放| 伊人一区二区三区| 色久优优欧美色久优优| 一区二区三区四区中文字幕| 色婷婷综合久久久久中文一区二区 | 免费成人美女在线观看| 91精品国产一区二区人妖| 五月婷婷久久丁香| 91精品国产美女浴室洗澡无遮挡| 爽好多水快深点欧美视频| 国产白丝精品91爽爽久久| 精品88久久久久88久久久| 国产在线精品免费| 中文字幕第一区| 久久精品免费看| 日韩免费一区二区| 国产乱码精品一区二区三区忘忧草| 国产亚洲成年网址在线观看| av一区二区三区| 亚洲国产欧美另类丝袜| 欧美一区二区日韩一区二区| 久久se精品一区二区| 久久久精品tv| 色综合久久天天| 免费在线看成人av| 国产亚洲精品中文字幕| 色婷婷亚洲综合| 日韩av中文字幕一区二区| 精品国免费一区二区三区| 成人永久看片免费视频天堂| 一二三四社区欧美黄| 欧美成人vps| 一本色道久久综合亚洲91| 视频一区中文字幕| 国产亚洲欧美日韩在线一区| 色婷婷一区二区| 黄页视频在线91| 亚洲精品美国一| 精品国产自在久精品国产| 9人人澡人人爽人人精品| 日韩中文字幕亚洲一区二区va在线| 久久人人超碰精品| 欧美特级限制片免费在线观看| 精品一区二区影视| 一区二区三区精品视频| 久久综合久久99| 欧美另类久久久品| 成人黄色在线网站| 国产精品久久久久影院亚瑟 | 国产不卡一区视频| 午夜久久久影院| 国产精品久久一卡二卡| 欧美一二三区精品| 91成人免费在线| 懂色中文一区二区在线播放| 首页国产欧美久久| 综合久久国产九一剧情麻豆| 日韩欧美一区在线| 在线免费观看日本一区| 东方欧美亚洲色图在线| 日本三级亚洲精品| 亚洲一二三四久久| 亚洲欧洲日韩女同| 久久久99久久精品欧美| 这里是久久伊人| 91传媒视频在线播放| 不卡视频一二三四| 国产精品亚洲人在线观看| 麻豆精品在线观看| 视频一区视频二区中文| 一区二区三区不卡视频| 国产精品欧美一区喷水| 国产三区在线成人av| 精品国产露脸精彩对白| 日韩视频一区在线观看| 91麻豆精品国产自产在线 | 亚洲欧美日韩小说| 久久久国际精品| 欧美精品一区二区三区一线天视频| 欧美一区中文字幕| 欧美日韩成人在线一区| 欧美日韩不卡在线| 欧美浪妇xxxx高跟鞋交| 欧美日韩一区二区在线观看 | 日韩女优毛片在线| 日韩一卡二卡三卡四卡| 日韩一级大片在线| 日韩一区二区三| 日韩三级伦理片妻子的秘密按摩| 欧美一区二区三区四区久久| 91精品婷婷国产综合久久竹菊| 欧美体内she精视频| 欧美日韩国产美女| 欧美老人xxxx18| 日韩三级免费观看| 久久―日本道色综合久久| 国产欧美综合在线| 欧美日免费三级在线| 在线亚洲一区二区| 91福利精品视频| 欧美精品亚洲一区二区在线播放| 88在线观看91蜜桃国自产| 欧美一区二区三区免费大片 | 日韩av在线播放中文字幕| 免费一级欧美片在线观看| 国内成人自拍视频| 懂色一区二区三区免费观看| 不卡视频在线观看| 欧美视频在线播放| 日韩一级黄色大片| 国产亚洲精品超碰| 亚洲啪啪综合av一区二区三区| 麻豆中文一区二区| 极品美女销魂一区二区三区免费| 国产电影一区在线| av亚洲精华国产精华精华| 欧美专区日韩专区| 日韩欧美第一区|