神經(jīng)處理單元 (NPU) 是處理器制造商提到的最新硬件。這些芯片應(yīng)該用于處理 AI 處理，每個(gè)大型制造商對(duì) NPU 都有自己的看法。讓我們看看在不久的將來(lái)我們會(huì)看到什么。
NPU 及其在筆記本電腦中的位置
如果你現(xiàn)在還沒(méi)有聽說(shuō)過(guò)人工智能電腦及其對(duì)更強(qiáng)大處理能力的需求，那么你可能不知道 NPU 已經(jīng)取得了多大的進(jìn)展。NPU 應(yīng)該是現(xiàn)有 CPU 的補(bǔ)充，但專門用于處理人工智能處理。芯片制造商已經(jīng)注意到在芯片上進(jìn)行人工智能專用處理的重要性，而 NPU 就是為了解決這個(gè)問(wèn)題而采取的舉措。
Snapdragon 的 X Elite 是新 NPU 中的第一款，但英特爾和 AMD 一直在提高賭注，無(wú)論是在處理能力還是架構(gòu)設(shè)計(jì)方面。這些制造商中的每一家都有專門設(shè)計(jì)用于Copilot+ PC 的芯片系列，這應(yīng)該可以釋放微軟 AI 助手的潛力。
這些芯片主要設(shè)計(jì)用于筆記本電腦，但這并不意味著我們將來(lái)不會(huì)看到 NPU 芯片的桌面版本。將現(xiàn)有的產(chǎn)品與預(yù)期報(bào)告進(jìn)行比較，我們可以了解 NPU 開發(fā)的進(jìn)展以及在不久的將來(lái)可以期待什么。
英特爾的下一代 NPU：NPU 4
英特爾最新的芯片集成了 NPU 和一些新奇的附加功能，使 AI 處理更加高效。NPU 4 包含在英特爾的 Lunar Lake 架構(gòu)中。深入研究后，您會(huì)發(fā)現(xiàn)這款 NPU 為 AI 應(yīng)用程序處理提供了許多好處。
英特爾聲稱，該 NPU 的峰值處理能力可達(dá)每秒 48 萬(wàn)億次運(yùn)算 (TOPS)，是英特爾迄今為止最強(qiáng)大的 NPU 創(chuàng)新。當(dāng)前一代 NPU 4 的性能遠(yuǎn)遠(yuǎn)超過(guò)英特爾上一代 NPU 3，計(jì)算能力提高了四倍多。
這部分歸因于芯片的架構(gòu)。該芯片運(yùn)行兩個(gè)并行的 NPU，每個(gè) NPU 都有自己獨(dú)立的推理管道，可以更好地解釋任務(wù)數(shù)據(jù)。每個(gè)單元都有自己的乘法累加 (MAC) 陣列，這有助于完成 AI 處理所需的復(fù)雜矩陣數(shù)學(xué)運(yùn)算。最重要的是，每個(gè)單元中包含的 SHAVE DSP 的處理能力是其前代產(chǎn)品的四倍，可以創(chuàng)建更復(fù)雜的神經(jīng)網(wǎng)絡(luò)。
對(duì) Lunar Lake 的研究表明，它可能能夠在本地運(yùn)行微軟的 Copilot。此外，Lunar Lake 很可能具有非常高效的功率特征。英特爾表示，他們的 Thread Director 創(chuàng)新將降低 NPU 的能耗，使其成為低功耗應(yīng)用的有吸引力的選擇。
我們什么時(shí)候才能使用這項(xiàng)技術(shù)？雖然英特爾最初建議軟發(fā)布該芯片，但Lunar Lake 筆記本電腦現(xiàn)在已經(jīng)面世。
AMD 的下一代 NPU：XDNA 2
那么 AMD 在 NPU 領(lǐng)域能提供什么呢？AMD 進(jìn)軍 NPU 市場(chǎng)的最新產(chǎn)品是 XDNA 2 芯片。該公司聲稱，該芯片的性能可以超越英特爾的 NPU 4，可提供 50 TOPS，而 NPU 4 僅為 48。在 XDNA 的第二代產(chǎn)品中，AMD 將芯片上的引擎塊從 20 個(gè)增加到 32 個(gè)。這一增加使兩代NPU TOPS 增加了五倍。
XDNA 架構(gòu)本身基于空間流數(shù)據(jù)架構(gòu)。AMD 將其設(shè)計(jì)為靈活且適應(yīng)性強(qiáng)，具有動(dòng)態(tài)可編程性，可以?為 AI 處理創(chuàng)建自定義層次結(jié)構(gòu)。XDNA 2 引擎本身就是處理技術(shù)的一項(xiàng)創(chuàng)新。
我提到過(guò)，NPU 有引擎塊，這對(duì)于系統(tǒng)的適應(yīng)性至關(guān)重要。每個(gè)塊都可以被視為一個(gè)獨(dú)立的工作器，擁有自己的計(jì)算和內(nèi)存資源。這種獨(dú)立的處理方法使芯片能夠做更多的事情，同時(shí)需要更少的功率。該芯片被設(shè)計(jì)為既能處理標(biāo)準(zhǔn)處理，又能處理 AI 處理，就像微軟的 Copilot 一樣。
值得注意的是，AMD 是第一家在芯片中包含 NPU 的芯片處理器。雖然這使他們?cè)?NPU 方面處于領(lǐng)先地位，但它也為 AMD 突破 NPU 功能的界限打開了大門，因?yàn)樗麄冇袑?NPU 與 CPU 集成的經(jīng)驗(yàn)。如果你想知道什么時(shí)候可以試用這些 NPU，它們已經(jīng)發(fā)布了。AMD將于 2024 年 7 月推出首款 Ryzen AI 300 筆記本電腦。
高通的下一代 NPU：Snapdragon X Elite
新一代 NPU 中最早上市的芯片之一是 Snapdragon X Elite。雖然這家芯片制造商對(duì)開發(fā)移動(dòng)芯片并不陌生，但這是該公司首次進(jìn)軍筆記本電腦市場(chǎng)。Snapdragon 投入了大量資源來(lái)分一杯羹，并表明他們的芯片可以與其他知名制造商競(jìng)爭(zhēng)。
它的性能略低于英特爾和 AMD 的產(chǎn)品，最大處理能力為 45 TOPS。當(dāng)該芯片發(fā)布時(shí)，它的表現(xiàn)優(yōu)于市場(chǎng)上的所有產(chǎn)品。然而，隨著 AMD 和英特爾準(zhǔn)備發(fā)布其全新改進(jìn)的 NPU，Snapdragon X Elite 可能超出了其水平。
Snapdragon X Elite 以耗電高于競(jìng)爭(zhēng)對(duì)手而著稱，搭載該芯片的筆記本電腦由于芯片產(chǎn)生的熱量較多，噪音也更大。X Elite 搭載了 Snapdragon 稱之為“Oryon”的新處理器核心。
Oryon 本身就是一項(xiàng)創(chuàng)新，因?yàn)樗墙鼛啄暝O(shè)計(jì)的第一款全新“從頭開始”的處理器。它不僅計(jì)劃用于驍龍未來(lái)的 NPU，還將融入移動(dòng)芯片市場(chǎng)。NPU 是芯片在市場(chǎng)上站穩(wěn)腳跟的絕佳方式。然而，盡管微軟的 Prism 仿真層取得了巨大成功，但 Windows-on-Arm 軟件已經(jīng)出現(xiàn)了問(wèn)題。
如果您有興趣測(cè)試驍龍對(duì)其芯片做了什么，您現(xiàn)在就可以購(gòu)買筆記本電腦。該公司于 2024 年 4 月放棄了這些筆記本電腦，從那時(shí)起，盡管價(jià)格昂貴，但它們還是得到了廣泛的采用。大多數(shù)人都以這些筆記本電腦為起點(diǎn)，看看 NPU 驅(qū)動(dòng)的筆記本電腦與非 NPU 驅(qū)動(dòng)的同類產(chǎn)品相比如何。
筆記本電腦上配備 NPU 重要嗎？
如今，人工智能似乎是科技界的一個(gè)流行詞，而吹捧 NPU 的制造商可能只是在趕潮流。筆記本電腦有必要配備 NPU 嗎？當(dāng)前的人工智能處理迭代主要使用 GPU來(lái)完成工作。
除非你正在設(shè)計(jì)一個(gè)在機(jī)器上運(yùn)行的 LLM，或者你真的依賴微軟的 Copilot，否則當(dāng)前一代的 NPU 并不是必需的。然而，它們是未來(lái)的標(biāo)志。雖然你現(xiàn)在可能不需要在你的機(jī)器上使用 NPU，但擁有一個(gè) NPU 成為完成某些工作的必要條件只是時(shí)間問(wèn)題。