終端側生成式AI更多驚喜？高通將在WAIC帶來新的“首個”演示

2024 年 7 月 4 日，備受矚目的世界人工智能大會暨人工智能全球治理高級別會議(WAIC)將于上海開幕。自 2018 年首次舉辦以來，WAIC 已走過六個年頭，如今，WAIC 已經成為全球人工智能領域最具權威和影響力的行業盛會。

在本屆 WAIC 即將開幕之際，終端側 AI 推動者、領導者高通宣布了即將登展 WAIC 的消息，并迅速引發了業界的廣泛期待。

據了解，7 月 4 日-6 日期間，高通將帶來一系列的主題演講和直播訪談，將重點分享 AI 技術基礎研究、領先產品應用和未來行業賦能愿景上的最新進展。例如，大會當天，高通公司中國區董事長孟樸將出席活動，并發表主題為“推動終端側 AI 發展讓智能計算無處不在”的演講，同時還有“擁抱 AI 終端創新”等系列直播訪談節目。高通公司中國區研發負責人徐晧也將發表“終端側 AI 規模化擴展，釋放工業化創新活力”的演講，并通過媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。

技術展示環節更是亮點頻現，包括首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)、驍龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代驍龍 8 賦能 Android 智能手機帶來創新終端側生成式 AI 體驗等等。

這一系列技術展示，將是高通公司在推動終端側 AI 技術邊界拓展與行業生態合作方面的集中展現，也是對未來智能科技發展趨勢的一次生動預演，相當值得期待了。

當下，生成式 AI 已經成為行業炙手可熱的話題，特別是隨著生成式 AI 技術在全球數以億計的終端中的大規模應用，以終端側為主旋律的生成式 AI 浪潮已然到來，而引領這一變革的核心力量，正是高通。

高通作為 AI 行業變革的賦能者，已經從底層芯片、到軟硬件生態建設，以及應用的落地，都做足了準備，賦能引領行業創新。

比如在標準制定上，去年，高通發布了《混合 AI 是 AI 的未來》白皮書，明確指出云端與智能手機、汽車、個人電腦及物聯網終端的協同工作，將促進更強大、更高效且高度優化的 AI 發展，這是實現 AI 普惠的必由之路。今年，高通又推出了《通過 NPU 和異構計算開啟終端側生成式 AI》白皮書，深入解析了 Hexagon NPU 為核心的異構計算技術，并探討了如何利用這些技術，在生成式 AI 需求激增的背景下，為終端側帶來豐富多樣的生成式 AI 應用場景。

再比如在底層芯片方面，早在 2015 年，高通就在驍龍 820 平臺上集成了首個 AI 引擎;在今天的第三代驍龍 8 上，高通將高性能 AI 注入整個平臺系統，采用面向生成式 AI 應用重新設計的 Hexagon NPU，夠在終端側運行高達 100 億參數的模型，無論是首個 token 的生成速度還是每秒生成 token 的速率，都處在業界領先水平。例如在生成式 AI 語言理解模型 MobileBERT 上，第三代驍龍 8 的表現比競品 A 高 17%，在魯大師 AIMark V4.3、安兔兔這些 AI 基準測試的總分方面，第三代驍龍 8 也是遠超競品。

更重要的是，高通還將大語言模型完整的搬到了端側運行，賦能眾多的 AI 手機。比如包括三星、小米、榮耀、OPPO 、vivo 等在內的手機廠商，其發布的驍龍 8 Gen3 手機，均已具備了在端側運行生成式 AI 的能力。

借助第三代驍龍 8 的 AI 能力，此次展會，高通也將展示首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)。

除了移動端，在 AI PC 領域，高通還帶來了驍龍 X Elite 和驍龍 X Plus PC 平臺，凝聚了高通在通用處理和 AI 異構計算多年積累的技術成果，其集成的 NPU 更是具有 45TOPS 的恐怖算力，這是 PC 平臺中最強大的 NPU。

當下，微軟 Surface 系列新品，以及聯想、戴爾、惠普、宏碁、華碩等品牌，也都已經或即將發布搭載驍龍 X 系列平臺的 Windows 11 AI PC 新品。在這次展會上，高通就將展示驍龍 X Elite 終端上的剪映 AI 視頻編輯功能，可以期待，無論是消費者還是企業用戶，借助驍龍 X Elite 終端，都能夠全天候利用 AI 增強的終端側工具來提升生產力、創造力和協作能力。

不僅如此，高通還積極投身 AI PC 生態的建設，讓開發者能夠獲取基于異構計算的 AI 加速，高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架，包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime，包括 DirectML、TFLite、ONNX Runtime、ExecuTorch，以及支持不同的編譯器、數學庫等 AI 工具。

就在 6 月份，高通還針對其 45 TOPS 的 Hexagon NPU 開發、優化并驗證了 AI 模型。注冊開發者可以前往高通的 AI Hub 獲取這些預訓練模型，快速構建人工智能應用。據介紹，高通 AI Hub 提供了各種針對驍龍 X 系列處理器的邊緣設備優化的 AI 模型，涵蓋圖像分類、對象檢測、語義分割和生成式 AI 等領域。此外，AI Hub 還提供了便捷的工具和文檔，幫助開發者輕松地在視覺、音頻和語音等應用中部署 AI 模型。

其所做的這一切，正如高通公司 AI 產品技術中國區負責人萬衛星所言：

高通具備頂尖的異構計算能力，使 AI 能力能夠貫穿整個 SoC，將 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應用開發者。

可以說，驍龍 X Elite / X Plus PC 平臺的推出，如同為 AI PC 的變革性體驗打下了扎實的地基，而借助驍龍 X Elite 平臺強大 AI 能力和高通在生態建設上的開放策略，接下來會有更多 AI 生成式應用的涌現。

寫在最后

在剛剛結束的 MWC 上海展會上，高通 AI 產品技術中國區負責人萬衛星發表了“終端側生成式 AI 的未來”的主題演講，他提到，憑借面向生成式 AI 全新設計的 NPU 和異構計算系統，高通正為終端側 AI 規?；瘮U展提供了有力支持。此外，高通還致力于構建完善的 AI 生態系統，不斷推動 AI 技術的創新與發展。

利用領先的邊緣 AI、高性能低功耗計算和無與倫比的連接，高通正不斷推動終端側 AI 的規模化擴展，讓智能計算無處不在。隨著 WAIC(世界人工智能大會)的到來，可以期待，終端側 AI 領導者的高通還將帶來更多新的驚喜。

7 月 4 日-6 日，WAIC，我們現場見!

(本文轉載自IT之家)

關鍵詞：