終端側(cè)生成式AI更多驚喜？高通將在WAIC帶來新的“首個”演示

2024年07月03日 19:03:50 來源：中文科技資訊

　　2024 年 7 月 4 日，備受矚目的世界人工智能大會暨人工智能全球治理高級別會議(WAIC)將于上海開幕。自 2018 年首次舉辦以來，WAIC 已走過六個年頭，如今，WAIC 已經(jīng)成為全球人工智能領(lǐng)域最具權(quán)威和影響力的行業(yè)盛會。

　　在本屆 WAIC 即將開幕之際，終端側(cè) AI 推動者、領(lǐng)導(dǎo)者高通宣布了即將登展 WAIC 的消息，并迅速引發(fā)了業(yè)界的廣泛期待。

　　據(jù)了解，7 月 4 日-6 日期間，高通將帶來一系列的主題演講和直播訪談，將重點分享 AI 技術(shù)基礎(chǔ)研究、領(lǐng)先產(chǎn)品應(yīng)用和未來行業(yè)賦能愿景上的最新進(jìn)展。例如，大會當(dāng)天，高通公司中國區(qū)董事長孟樸將出席活動，并發(fā)表主題為“推動終端側(cè) AI 發(fā)展讓智能計算無處不在”的演講，同時還有“擁抱 AI 終端創(chuàng)新”等系列直播訪談節(jié)目。高通公司中國區(qū)研發(fā)負(fù)責(zé)人徐晧也將發(fā)表“終端側(cè) AI 規(guī)模化擴(kuò)展，釋放工業(yè)化創(chuàng)新活力”的演講，并通過媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。

　　技術(shù)展示環(huán)節(jié)更是亮點頻現(xiàn)，包括首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)、驍龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代驍龍 8 賦能 Android 智能手機帶來創(chuàng)新終端側(cè)生成式 AI 體驗等等。

　　這一系列技術(shù)展示，將是高通公司在推動終端側(cè) AI 技術(shù)邊界拓展與行業(yè)生態(tài)合作方面的集中展現(xiàn)，也是對未來智能科技發(fā)展趨勢的一次生動預(yù)演，相當(dāng)值得期待了。

　　當(dāng)下，生成式 AI 已經(jīng)成為行業(yè)炙手可熱的話題，特別是隨著生成式 AI 技術(shù)在全球數(shù)以億計的終端中的大規(guī)模應(yīng)用，以終端側(cè)為主旋律的生成式 AI 浪潮已然到來，而引領(lǐng)這一變革的核心力量，正是高通。

　　高通作為 AI 行業(yè)變革的賦能者，已經(jīng)從底層芯片、到軟硬件生態(tài)建設(shè)，以及應(yīng)用的落地，都做足了準(zhǔn)備，賦能引領(lǐng)行業(yè)創(chuàng)新。

　　比如在標(biāo)準(zhǔn)制定上，去年，高通發(fā)布了《混合 AI 是 AI 的未來》白皮書，明確指出云端與智能手機、汽車、個人電腦及物聯(lián)網(wǎng)終端的協(xié)同工作，將促進(jìn)更強大、更高效且高度優(yōu)化的 AI 發(fā)展，這是實現(xiàn) AI 普惠的必由之路。今年，高通又推出了《通過 NPU 和異構(gòu)計算開啟終端側(cè)生成式 AI》白皮書，深入解析了 Hexagon NPU 為核心的異構(gòu)計算技術(shù)，并探討了如何利用這些技術(shù)，在生成式 AI 需求激增的背景下，為終端側(cè)帶來豐富多樣的生成式 AI 應(yīng)用場景。

　　再比如在底層芯片方面，早在 2015 年，高通就在驍龍 820 平臺上集成了首個 AI 引擎;在今天的第三代驍龍 8 上，高通將高性能 AI 注入整個平臺系統(tǒng)，采用面向生成式 AI 應(yīng)用重新設(shè)計的 Hexagon NPU，夠在終端側(cè)運行高達(dá) 100 億參數(shù)的模型，無論是首個 token 的生成速度還是每秒生成 token 的速率，都處在業(yè)界領(lǐng)先水平。例如在生成式 AI 語言理解模型 MobileBERT 上，第三代驍龍 8 的表現(xiàn)比競品 A 高 17%，在魯大師 AIMark V4.3、安兔兔這些 AI 基準(zhǔn)測試的總分方面，第三代驍龍 8 也是遠(yuǎn)超競品。

　　更重要的是，高通還將大語言模型完整的搬到了端側(cè)運行，賦能眾多的 AI 手機。比如包括三星、小米、榮耀、OPPO 、vivo 等在內(nèi)的手機廠商，其發(fā)布的驍龍 8 Gen3 手機，均已具備了在端側(cè)運行生成式 AI 的能力。

　　借助第三代驍龍 8 的 AI 能力，此次展會，高通也將展示首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)。

　　除了移動端，在 AI PC 領(lǐng)域，高通還帶來了驍龍 X Elite 和驍龍 X Plus PC 平臺，凝聚了高通在通用處理和 AI 異構(gòu)計算多年積累的技術(shù)成果，其集成的 NPU 更是具有 45TOPS 的恐怖算力，這是 PC 平臺中最強大的 NPU。

　　當(dāng)下，微軟 Surface 系列新品，以及聯(lián)想、戴爾、惠普、宏碁、華碩等品牌，也都已經(jīng)或即將發(fā)布搭載驍龍 X 系列平臺的 Windows 11 AI PC 新品。在這次展會上，高通就將展示驍龍 X Elite 終端上的剪映 AI 視頻編輯功能，可以期待，無論是消費者還是企業(yè)用戶，借助驍龍 X Elite 終端，都能夠全天候利用 AI 增強的終端側(cè)工具來提升生產(chǎn)力、創(chuàng)造力和協(xié)作能力。

　　不僅如此，高通還積極投身 AI PC 生態(tài)的建設(shè)，讓開發(fā)者能夠獲取基于異構(gòu)計算的 AI 加速，高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架，包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime，包括 DirectML、TFLite、ONNX Runtime、ExecuTorch，以及支持不同的編譯器、數(shù)學(xué)庫等 AI 工具。

　　就在 6 月份，高通還針對其 45 TOPS 的 Hexagon NPU 開發(fā)、優(yōu)化并驗證了 AI 模型。注冊開發(fā)者可以前往高通的 AI Hub 獲取這些預(yù)訓(xùn)練模型，快速構(gòu)建人工智能應(yīng)用。據(jù)介紹，高通 AI Hub 提供了各種針對驍龍 X 系列處理器的邊緣設(shè)備優(yōu)化的 AI 模型，涵蓋圖像分類、對象檢測、語義分割和生成式 AI 等領(lǐng)域。此外，AI Hub 還提供了便捷的工具和文檔，幫助開發(fā)者輕松地在視覺、音頻和語音等應(yīng)用中部署 AI 模型。

　　其所做的這一切，正如高通公司 AI 產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星所言：

　　高通具備頂尖的異構(gòu)計算能力，使 AI 能力能夠貫穿整個 SoC，將 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應(yīng)用開發(fā)者。

　　可以說，驍龍 X Elite / X Plus PC 平臺的推出，如同為 AI PC 的變革性體驗打下了扎實的地基，而借助驍龍 X Elite 平臺強大 AI 能力和高通在生態(tài)建設(shè)上的開放策略，接下來會有更多 AI 生成式應(yīng)用的涌現(xiàn)。

　　寫在最后

　　在剛剛結(jié)束的 MWC 上海展會上，高通 AI 產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星發(fā)表了“終端側(cè)生成式 AI 的未來”的主題演講，他提到，憑借面向生成式 AI 全新設(shè)計的 NPU 和異構(gòu)計算系統(tǒng)，高通正為終端側(cè) AI 規(guī)模化擴(kuò)展提供了有力支持。此外，高通還致力于構(gòu)建完善的 AI 生態(tài)系統(tǒng)，不斷推動 AI 技術(shù)的創(chuàng)新與發(fā)展。