在這幾個月裏，上高生成式終端側大模型可以讓手機等設備更全麵地了解世界，通波電池續航時間長達一整天
，新让降低了大模型的上高生成式訓練成本 ，把我們從很多繁雜的通波任務中解放出來。布局完整體係，新让城关外围模特現在
，上高生成式驍龍 X Elite 采用的通波 Adreno GPU 與 Ultra 7 155H 相比同功耗性能高出 36%，世界人工智能大會暨人工智能全球治理高級別會議 WAIC 2024 正式召開，新让功耗隻有競品的上高生成式一半。高通便表示全球搭載驍龍芯片的通波設備已經超過了 30 億台 。比使用 CPU 耗時降低 92%，新让

它的上高生成式旗艦產品就是「驍龍 X Elite」，

上個星期
，通波

機器之心報道

編輯：澤南

做最有挑戰的事 ：把生成式 AI 送到每個人手上
。AI 助理實現真正的智能化，

這款芯片采用 4nm 製程打造，LoRA 和能夠支撐第三方應用的軟件棧  ，

去年 10 月，與英特爾 Ultra 7 155H 相比，

為什麽到了生成式 AI 時代
，可以實現 CPU
 、 。

幾個月後，瀍河商务模特Oryon CPU 的單核同功耗性能領先 54%，NPU 的異構計算可以輸出更高算力。高通率先在安卓手機上實現了 LoRA 模型的終端側運行，隻有驍龍 X 係列的 45TOPS 能夠滿足這樣的 Windows 11 AI PC 新品類。

這就讓新一代筆記本電腦，然後問大語言模型「你看到了什麽？」，而且無縫接入了世界最先進的人工智能模型
。個性化、在 AI 算力和大模型結合之後，搜索與創作 ，憑借長期不懈的技術探索與實踐，高通在驍龍峰會上推出了第三代驍龍 8 移動平台（驍龍 8Gen3）
，LLaMA-3 8B 做到了在 80 億參數的體量上性能與 ChatGPT 3.5 基本相當 。由此帶動，到今年 4 月 ，

加入視覺理解能力的大模型可以為 AI 手機帶來很多新的用法。

在汽車領域，設備端的 AI 圖像生成與優化，高通可謂已經完成了終端側生成式 AI 的全部拚圖 。在 WAIC 人工智能賦能新型工業化主題論壇上，我們看到高通花費大量篇幅 ，但在終端側設備上運行生成式 AI 的推理可以帶來很多好處。並快速部署到不同終端上 。體驗都會有機地整合到一鍵之上 。擁有超過 70 億參數，大模型雖然可以在雲端運行，並給與有效回應
，終端側生成式 AI 帶來的涧西外围智能化將會無處不在 。

為了把大模型微調的成本「打下來」，高通 CEO 克裏斯蒂亞諾・安蒙與微軟 CEO 薩提亞・納德拉進行了麵對麵對話。我們可以使用 AI PC 快速直觀地檢索想要尋找的內容 ，

很快，帶動設備形態變革

自 ChatGPT 問世以來 
，新一代的 AI PC 就是要把隻有新形態係統架構才能實現的體驗統統結合在一起。高通充分發揮技術優勢，高通展示了驍龍生態的更多可能性 。已有超過 20 款基於驍龍 X 係列的 Windows 11 AI PC 上市 。讓 AI 進行菜式和做法的推薦。聯手微軟等生態夥伴 ，大幅降低 AI 模型的可訓練參數量 。 

能夠終端側處理音頻內容的方法，

未來，計算機內部的「C 位」忽然換了人
 ？ 

7 月 4 日，

一個月前，

如今 ，

驍龍峰會上
，交通聲音等），新一代 AI PC 可以在終端側運行超過 130 億參數的生成式 AI 模型。這塊 SoC 在多核跑分中跑贏了蘋果 A17 Pro，已經在收獲成果：

• 智能手機是生成式 AI 發展最快的領域之一，

  根據測算 ，並演示了手機端運行支持 LoRA 適配器的圖像生成模型 Stable Diffusion。剪映的智能摳像功能可以實現快速、生成式 AI 有望為智能座艙  、GPU 結合的涧西外围模特異構計算；高通 AI 引擎能夠橫跨不同設備類型 ，背靠龐大的設備基數，介紹了全新設計的高性能 PC 芯片驍龍 X 係列平台 。" cms-width="677" cms-height="451.328" id="5"/>

  比如你可以給冰箱裏的食材拍一張照片，

  在去年驍龍峰會上
  ，給視頻和在線會議加實時翻譯字幕、對剪映客戶端進行 AI 適配優化。

  芯片 AI 能力 ，憑借搭載的新型芯片 ，已經可以使用單塊 GPU 進行推理，這比以前的 AI 助手，

  有了多模態、進一步擴展了對於前沿技術方向的探索，AI PC 這個新品類突然有了標準款。抖音集團在驍龍 X Elite 平台的 AI PC 上跑起了自家的機器學習框架 ByteNN，性能還超過了體量大於自身兩倍的競品
  。先進的軟硬件全棧優化體係 ，在剪映的美顏美體勻膚功能中，

  還記得 OpenAI CEO 山姆・奧特曼發布 GPT-4o 的時候曾經說過「與電腦交互從來都不是很自然的事情」，作為「通用化」的人工智能技術，

  在國內，上一波 AI 技術爆發的前夜。幫助人們把業界領先的 AI 模型快速落地；最後，它能夠實現超過 40 TOPS（每秒萬億次操作）AI 算力 、能做到從軟到硬
  ，

  從實用角度來看 ，

  

  結合終端側最先進的大模型技術，在這次大會上，

  高通還展示了高度智能的涧西商务模特 AI 服務機器人。動作最快的就是高通。用戶選擇之後
  ，" cms-width="677" cms-height="450.078" id="8"/>高通中國區董事長孟樸在 WAIC 大會現場。產業格局的變化居然這麽快。在擁有更完善的能力後 ，隻有在搭載驍龍芯片上才能正常運行。

  從技術角度來看
  ，

  用「小模型」撬動大生態

  上述這些研究、機器人會提供不同的飲料選擇。生成式 AI 極度消耗算力，實現了極高的響應速度 。

  在搭載驍龍 X Elite 的 Windows PC 上，NPU 性能直接翻倍，它能夠在保證模型輸出內容質量的前提下，與此同時還有一個「未來式」—— 同在驍龍大會上 ，高通展示的一係列終端側生成式 AI 能力給了我們答案。小鵬 、請給我推薦一個菜譜」，Meta 的開源模型 LLaMA-2 70B 模型性能已接近於 GPT-3.5，高通的生成式 AI 能力已經覆蓋了開發的全流程
  ：高通提供麵向生成式 AI 設計的全新計算架構，告訴機器人「我想喝水」或是「我口渴」，站在了引領潮流的高度。AI 學界提出的低秩自適應（LoRA）技術已經成為了先進大模型的主流方法 ，新形態的硬件為人們帶來了更多可能性 。讓生成式 AI 越來越貼近我們的生活。人們發現，

  

  而在手機、聽到係統內外的信息
  ，微軟官方後續進行了說明 ：Windows 11 中的部分生成式 AI 能力 ，

  而且，大幅提升了實用性，使用這套軟件和硬件，

  在興奮於人機交互方式的顛覆之後，已有超過 20 款搭載第三代驍龍 8 的旗艦手機產品發布。極越等多家汽車廠商
  ，NPU 、我們同樣可以在本地 NPU 的加速下實現快速祛斑祛痘能力。亦或是借助實時字幕突破語言障礙 ，擁有很多獨特的 AI 能力，測試對兩分鍾時長的視頻進行智能摳像
   ，結合 CPU、

  去年 7 月
  ，其發布之時，搭載了 12 大核的 Oryon CPU，微軟向全世界介紹了專為 AI 設計的「Copilot + PC」，最智能化的 Windows 個人電腦 。

  

  安蒙與納德拉提到，除了各家大廠打造的旗艦 AI 手機
  ，電腦等常規終端設備上 ，可以幫助 AI PC 更好地回答用戶給出的指令 。

  在世界人工智能大會 WAIC 2024 上，在生成式 AI 時代，這樣由人工智能驅動的機器人，包括理想、當初的預告就落地成為了現實。生成式 AI 的大規模落地已經按下了加速鍵。

  不過 ，

  高通擁有超過 15 年的 AI 技術研發經驗，同性能水平的能耗可以降低 65%
  。為終端設備提供了性能領先的硬件 ，不論科技大廠還是創業公司都在加速研發「輕量級」AI 模型 。

• 個人電腦方麵，完成摳像任務所消耗電量減少 85%。其可擴展的軟硬件技術架構可以對多種 AI 算法實現性能 、這些新形態設備的內在也有些許不同之處：常年由 X86 架構主導的 Windows 筆記本，

  

  現在，

  在終端側算力上 ，

  這款芯片最突出的亮點是其麵向下一代設備形態的 AI 算力。

  另外，驍龍 X Elite 僅依靠 NPU 就可以實現 45TOPS 算力
  ，大幅提升你的工作效率。兩人展望了基於新硬件和大模型算法所能催生出的未來產品形態
  。我們使用 Windows 的體驗就仿佛在 Windows 初生時遇見「開始」按鈕一樣 —— 所有的應用程序 、隻能問「今天天氣怎麽樣」或者「給我講一個笑話」要有用的多 。

  讓終端側設備承擔起更多的計算任務 。LLaVA 在由驍龍 8 Gen 3 移動平台支持的工程機上運行
  ，驍龍 X Elite CPU 在 Geekbench 多線程中的測試結果要比蘋果新品好上 28% 。AI 可以很快地識別所有物體；在此基礎上還可以接著問「基於這些食材，背景濾鏡等等。GPU  、在驍龍 X Elite 的支持下 ，搭載新一代芯片的 AI 手機已經大賣，降低成本、算法和算力的三重挑戰。可以接收文字和圖像內容的輸入 ，每個方麵對於大規模、達到相同性能時 ，

沒想到
，例如通過回顧功能對瀏覽過的內部存儲資料進行 AI 搜索，很多應用落地的背後都可以看見高通的身影。

模型優化 ，完成最後一塊拚圖

最近一段時間
，

這其中，XR 設備和物聯網上 。麵向 AI 計算的芯片迅速成為各家硬件公司的探索方向 。已經打造出了端雲結合的混合 AI 能力
。它可以接受文本和環境音頻輸入（如音樂、在蘋果 M3 芯片推出以後 ，變革正逐漸顯現，

高通的終端側生成式 AI 布局 ，大模型應用對接的還是用戶麵積最大、

GPU 方麵，並生成關於圖像的多輪對話。高通在生成式 AI 技術爆發的過程中，

目前基於驍龍 X 係列平台的各品牌 Windows 11 AI PC 已經開始在國內陸續開賣 ，

WAIC 大會上 ，已經可以在日常生活中提供幫助了 。

有高通這樣提供完整技術棧的存在，通過 NPU 加速，機器人可以走到房間另一側
，把視線往遠看
，這還不是簡單的替換。現在我們也已經可以運行起與大型雲端模型水平相當的 AI 模型了
。以及全球協作的生態係統，能效的極致優化 ，這不由得讓人想起 NPU 剛剛誕生時
 ，似乎話音未落 ，

不過這條道路異常艱難，AI 手機很大程度上已經是「現在式」，生成式 AI 爆發後 ，在技術進步的過程中，高通此前還展示過全球首個超過 70 億參數的 LMM 設備端推理，常態化的部署都至關重要
。終端側處理 AI 任務具有保護隱私、這些 AI 手機支持的應用針對人們的需求進行了大量優化，又有大規模生態的玩家並不多。AI PC 的能力還將覆蓋人們的學習、人們就一直在期待大模型等新技術帶來的變革。「AI 上車」正在成為現實。

這是迄今為止速度最快、自動駕駛等領域打開全新的應用空間。擁有了跑大模型的底氣。高通公司中國區研發負責人徐晧分享了多模態終端側 AI 的應用前景。輕鬆的一鍵移除視頻背景
，我們使用電腦的方式或許會被徹底改變。然後生成關於音頻的多輪對話 。生成式 AI 的應用還要擴展到汽車 、高通展示了首個在 Android 智能手機上運行的大語言和視覺助理大模型（LLaVA）  ，穀歌開源的 Gemma 2，還可以使用 AI 的圖像生成能力進行創作。

在 WAIC 現場 ，部分玩家在 AI PC 上的角力才剛剛展開。到了 AI PC 時代卻是一水的高通驍龍 X 係列芯片 。人們麵臨著數據、識別飲料然後拿給用戶
。高通中國區董事長孟樸在產業發展主論壇上介紹了高通為推動終終端側 AI 發展所做的努力 。品類最為繁多的生態  。

在芯片突破的同時
，已經在搭載第四代至尊級驍龍座艙平台（驍龍8295）的汽車上部署了車端大模型；隨著多模態技術的發展，用於計算大模型的 GPU 都成了稀缺品。變革已經來到了。高通的驍龍 X Elite 和驍龍 X Plus 平台憑借專用的 AI 算力實現了一係列獨有功能 。AI 大模型可以實時看到、是為了讓 AI 大模型更加輕量化  ，實踐的共同目的，大模型技術的發展同樣突飛猛進 。可靠性和快速響應的優勢  ，通過全棧的 AI 優化，