在當今技術驅動的世界中，AI 正在徹底改變各行各業(yè)。無論您關注手機、PC 還是汽車領域，都需要了解內存和存儲對端側設備上 AI 工作負載的關鍵作用。美光科技深知，雖然 GPU（包括張量核）、TPU 和 NPU 等計算單元至關重要，但 AI 工作負載往往在計算資源耗盡之前就會遭遇內存墻。我們的業(yè)界前沿內存和存儲解決方案專為滿足這些嚴苛的端側數據需求而設計，可保障性能、效率與可靠性。

近年來，端側設備數量持續(xù)激增，默默地收集和處理著大量數據流。如今，這些設備的推理能力正在迅速發(fā)展，使 AI 工作負載能夠更接近數據來源運行。這種演變?yōu)閮却婧痛鎯χ圃焐處砹司薮髾C遇。據Gartner 預測，2025 年支持生成式 AI的端側設備硬件支出將增長 99.5%，達到 39 億美元。作為 DRAM 和 NAND 技術領域的前沿企業(yè)，美光在 AI 生態(tài)系統(tǒng)中扮演著關鍵角色，完全有能力把握這一機遇。

當您思考未來端側設備 AI如何發(fā)展時，需要了解以下五大關鍵須知。

端側推理正在提升效率并加速 AI 普及

端側 AI 推理可帶來切實的好處，包括縮短網絡延遲、加強隱私保護、減少對網絡連接的依賴、降低運營成本、提高能效等。通過在本地處理數據，而非將數據發(fā)送到云端，端側設備可提供速度更快、響應更靈敏的 AI 體驗。此外，本地數據處理還可避免在端側設備和數據中心之間不斷地來回傳輸大量數據集，從而能夠節(jié)省大量能源。

這種演變標志著一個重大轉變。在以前，端側設備嚴重依賴云服務器來完成自動駕駛等任務，面臨著網絡延遲和連接中斷等風險。如今，在端側執(zhí)行的高級推理使車輛能夠實時處理傳感器數據，無需等待云端響應即可做出即時決策。這些進步為端側 AI解鎖了新的可能性，并增強了用戶體驗。 消費者一旦親身體驗到這些好處，AI 將加速普及。

端側高級推理將推動 AI 轉向分布式模型

但云不會消失

盡管端側計算發(fā)展迅猛，但云仍然是 AI 生態(tài)系統(tǒng)的重要組成部分。融合便捷端側計算與大規(guī)模云計算的分布式模型，正成為 AI 工作負載的理想解決方案。云端將繼續(xù)承擔大規(guī)模數據處理、模型訓練和集中管理等任務，而端側設備則負責實時推理和本地化處理。

這種協作可充分利用兩種環(huán)境的各自優(yōu)勢，為混合方法奠定基礎。通過將端側的敏捷性與云端的可擴展性相結合，企業(yè)可獲得靈活性、效率和彈性。在此基礎上，代理式 AI（即無需人工干預即可自主做出智能決策的 AI 系統(tǒng)）進一步加強了端側與云端的協同，可優(yōu)化性能表現、增強安全性并確保資源的高效分配。簡而言之，AI 代理可駐留在終端設備中，當遇到無法完全解答的問題時，它會立即向云端或數據中心中更復雜、更專業(yè)的 AI 模型尋求答案，然后為用戶返回更精準的響應。

總之，端側設備將越來越多地獨立處理推理任務，只有在完成需要大型模型或專用模型來執(zhí)行的任務時，才依賴云端。

端側與云端協同運作的 AI

正在帶來終極數據挑戰(zhàn)

在端側和云端雙重環(huán)境中管理 AI 工作負載帶來了獨特的數據挑戰(zhàn)。海量的多樣化數據加上實時處理需求，亟需創(chuàng)新解決方案。美光前沿內存和存儲技術應運而生，能為復雜的 AI 數據工作負載提供所需的性能、可靠性和效率。

內存瓶頸可謂一個重大問題，在模型訓練和推理階段尤其如此。高帶寬內存 (HBM3E) 可有效緩解云端的瓶頸，而LPDDR5X則為端側設備提供了高帶寬與高能效。這些內存技術可確保 AI 工作負載能高效快速執(zhí)行，無論它們位于端側還是云端。

我們的全系列產品客戶都依賴美光的優(yōu)勢地位與專業(yè)積淀，來有效應對這些數據挑戰(zhàn)。

內存和存儲對于 AI 越來越重要

隨著 AI 模型日趨復雜，它們對內存和存儲容量的需求與日俱增。無論是端側設備還是云端基礎設施，都需要支持這些不斷擴展的模型，同時不影響性能。美光的內存和存儲解決方案專為滿足這些需求而設計，可提供 AI 應用所需的大容量與高速度。

我們的產品基于業(yè)界前沿制程節(jié)點，能效表現卓越，其中采用美光前沿 1γ 制程節(jié)點的產品更在競爭中脫穎而出。對于 AI 數據中心而言，高帶寬內存（HBM3E 和 HBM4）能有效突破 AI 加速面臨的內存墻限制。為實現更佳性能，AI 數據中心需要構建完整的內存與存儲層級架構，包括：高密度 DDR5 模塊、LPDDR5X、采用美光 CZ122的 CXL 擴展內存池、采用美光 9650 NVMeSSD的本地 SSD 數據緩存，以及采用美光 6600 ION的聯網數據湖。

同樣，端側設備需要均衡的內存和存儲組合配置，以保持 AI 工作負載的持續(xù)響應。LPDDR5X 等低功耗 DRAM 可提供實時處理所需的帶寬，而快速、高效的存儲可用于處理模型數據和推理結果。通用閃存 (UFS) 4.0 具備移動設備和 AI PC 所需的速度和可靠性，當與 PCIe 5.0 SSD（如美光 4600 NVMe SSD）搭配使用時，可確保智能手機和下一代 AI PC 等端側設備上的 AI 順暢運行。

您無需獨自應對所有數據挑戰(zhàn)

美光始終與您同行

憑借逾 45 年的深厚積累，美光已成為手機制造商、PC OEM 廠商和汽車制造商值得信賴的合作伙伴。我們在內存與存儲解決方案領域擁有出類拔萃的專業(yè)實力，致力于助力客戶實現 AI 目標。深厚的行業(yè)積淀與持續(xù)創(chuàng)新的產品體系，使我們成為解決棘手數據挑戰(zhàn)、把握加速 AI 發(fā)展新機遇的理想合作伙伴。讓我們攜手共進，攻克 AI 技術難題，推動智能科技蓬勃發(fā)展。

隨著 AI 持續(xù)演進，內存與存儲在端側應用及設備中的重要性不容忽視。無論是手機、PC 和汽車領域的企業(yè)，還是工業(yè)與機器人行業(yè)的先行者，都必須優(yōu)先考慮這些核心器件，方能確保其 AI 工作負載的成功運行。美光始終提供快速、高效、可靠的解決方案，為這些企業(yè)提供助力。

我們的技術不僅能存儲數據，更能將數據轉化為切實可行的智能洞察，加速價值兌現。