7月26日報道，今日，世界人工智能大會開幕，在上海一家AI創企的展臺前，我們目睹了中國AI創業公司正向著主流Transformer架構發起強勢沖鋒。

一臺機器狗，學習了用戶的打招呼手勢后，不到30秒就學會并進行了復刻，且完全模仿了用戶使用右手打招呼的動作，值得注意的是，這一過程是在不依賴云端、完全離線部署的情況下實現的。

這是RockAI展臺正在上演的場景。RockAI 2024年1月發布了國內首個基于非Transformer架構的大模型Yan 1.0、2024年9月發布Yan 1.3群體智能單元大模型，再到如今最新的Yan 2.0 Preview模型，此次機器狗亮眼表現的關鍵之一就是其在Yan 2.0 Preview模型中引入了記憶、自主學習能力。

3B參數規模的Yan 2.0 Preview，在ARC-C、ARC-E、WinoGrande等部分榜單上的性能表現已經超過參數規模更大的Llama 3、Qwen 3、Gemma 3。

RockAI CEO劉凡平談道，Transformer架構是先預訓練再微調、應用，現在Yan架構模型是在物理世界中學習、交互，不需要依賴云端，打破了現在大模型的學習模式，Yan 2.0 Preview的出現就承載了模型的自主學習能力。

01 .

30秒離線精準復刻動作

讓模型擁有“原生記憶能力”

這次在WAIC上，RockAI發布的Yan 2.0 Preview同樣是基于非Transformer架構Yan架構，具備文本、視覺、音頻多模態理解，以及端到端音頻和文生成的能力。

話不多說，先來看效果。

基于Yan 2.0 Preview的靈巧手可以在展臺自主玩推箱子游戲，可以看到它會根據具體情況對下一步行動進行分析、評估，最終使得箱子被放置到正確的位置。

2024年1月，Yan 1.0模型發布，擁有相較于同等參數Transformer架構更高的訓練推理效率、吞吐量及記憶能力，更低的機器幻覺表達，同時支持CPU運行并100%支持私有化應用。

8個月后，進化為多模態的群體智能單元大模型Yan 1.3發布，實現了多模態大模型在樹莓派的單板計算機上的部署推理。

再到如今的Yan 2.0 Preview，RockAI完成了模型基于訓推同步的自主學習能力驗證。

不過，目前Yan 2.0 Preview仍是RockAI在模型自主學習能力探索上的中間階段，通過可微的記憶模塊來實現信息的存儲、檢索和遺忘。在RockAI CTO楊華看來，讓模型具備自主學習能力可能是未來的技術壁壘，這也是其探索AGI的重要階段。

目前，行業基于Transformer架構的大模型雖然在短期對話中表現出色，但仍缺乏真正意義上的“原生記憶能力”。

行業主流做法是通過RAG（檢索增強生成）、長上下文窗口或外部數據庫等外掛機制來模擬記憶，讓模型能夠獲取歷史信息或知識背景。然而，這種方式本質上是一次性調用，缺乏對用戶、任務或偏好的持續性理解與積累，也難以實現類似人類那樣可生長、可糾偏、具備連續性的長期記憶。

而原生記憶能力是大模型邁向通用人工智能的關鍵基石，其重要性在于不僅能夠讓模型記住用戶是誰、曾經說過什么、喜好什么，更能在長期交互中實現知識更新、個性化演進與情境理解，在此基礎上，模型才能從工具進化為真正的個人助手，在內容創作、教育輔導、商業決策等用戶的實際應用場景中提供連貫、深度智能支持。

正如前文提到的，搭載Yan 2.0 Preview的機器狗可以在現場30秒內精準學習并復刻指定動作，且能持續記住每位觀眾的偏好與互動風格。其實現的能力不依賴云端計算，完全在離線部署環境實現，且擁有原生記憶、自主理解與適應能力。

離線部署Yan 2.0 preview后，機器狗擁有了成為“活著”的仿生伙伴的能力，當大模型擁有原生記憶，終端設備被賦予了智能。

這都與RockAI“讓世界上每一臺設備擁有自己的智能”的使命一脈相承，從非Transformer架構的模型開始，進一步賦予其多模態、實時人機交互、自主學習的能力。

02 .

引入神經網絡記憶單元

PC已落地

自主學習、多模態理解能力的提升，對Yan 2.0 Preview的底層架構創新提出了更高要求。

Yan 2.0 Preview的核心在于，其通過可微的記憶模塊來實現信息的存儲、檢索和遺忘，前向過程可分為記憶更新與記憶檢索兩個階段。

其中記憶更新過程，可以使模型通過門控式更新保留長期依賴，又能基于輸入分布特性靈活整合新知識，記憶檢索過程可以在增大模型記憶容量的同時，增強其檢索能力。

在自主學習的基礎上，該模型還具備對不同模態數據的理解、生成能力，其核心組件包括基于Yan 2.0 Preview架構的語言模型、視覺編碼器、視頻tokens壓縮模塊、視覺連接層、音頻離散化模塊和音頻解碼器。

其中，音頻離散化模塊通過將連續的語音信號量化至有限的離散值集合，提高音頻樣本的建模效率，可以做到低比特率實現統一建模語音的語義和聲音信息。

音頻模態能力擴展方面，Yan架構多模態模型能夠有效地學習音頻序列并建模細節聲學特征，其采用約100萬小時音頻數據進行音頻模態擴充與對齊訓練，800萬對語音問答數據供音頻問答任務的有監督微調。

最后音頻解碼階段，音頻解碼器負責將Yan架構多模態模型生成的離散音頻Token解碼為最終的音頻波形，實現高質量的端到端語音合成。

可以看出，Yan 2.0 Preview在多模態能力的各項底層架構創新上，都在不斷突破降低計算資源、提高模型性能的邊界。

這些背后都是RockAI在非Transformer這條道路上堅持的結果，與當下端側模型部署的核心需求相契合。如今，RockAI的Yan系列模型已經落地某品牌PC，并實現了集成大模型能力的會議助手等多項功能。

03 .

離線智能讓智能重新定義硬件

致力于實現群體智能

走一條非主流的底層創新，從一開始就注定十分艱難。RockAI自2023年6月成立，就堅定了要做非Transformer架構，

結合技術路線的選擇與對大模型產業發展趨勢的判斷，在模型研發之外，RockAI在去年7月正式宣布了自己的使命，也就是“讓世界上每一臺設備都擁有自己的智能”，這也正不斷內化到這家公司的業務發展之中。

一方面，其Yan系列模型從參數規模、性能方面逐漸契合端側設備的場景；另一方面，RockAI實現模型在手機、電腦、無人機、機器人等端側硬件上的離線部署，還通過內嵌或外掛的方式，部署在大疆無人機、樹莓派單板計算機等硬件。

最先發力非Transformer架構的RockAI，最初面對了諸多行業質疑以及技術難點，如這套新體系在現有體系上的技術復用性，以及從0到1搭建底層架構、賦予機器自主學習能力等。

我們從RockAI的模型上看到了智能正在重新定義硬件，硬件的使用周期從一次性交付變為了擁有長期記憶，可以隨用戶一起成長。

傳統硬件的價值在售出瞬間達到頂峰，然后隨著磨損和過時而不斷折舊，真正的智能硬件，其核心價值是動態的，可以通過算法的迭代和模型的自學習持續提升。用戶購買的不再是一個功能固定的產品，而是一個能夠與自己共同成長的服務和進化的平臺，而要實現這種“持續生長”的高階智能形態，則更需要底層的顛覆性創新來支撐。

隨著Yan系列模型的發布，以及其與PC等廠商合作的不斷深入，RockAI在這條難而正確之路上的堅持已經初見成效。

這背后離不開其創始團隊的前瞻性洞察，以及過硬的技術積累。在當行業還沉浸在Transformer架構帶來的技術紅利中時，RockAI察覺到該架構在計算效率與場景適配性上的局限，并果斷入局非Transformer架構探索。

對于未來的愿景，RockAI堅定“群體智能”的構想。楊華解釋道，他們設想的不是單一智能體的演化，而是構建一個由多個模型和終端組成的“機器社會”，如同人類社會般實現群策群力與高度協作。在這個體系中，每一個智能終端不僅具備環境感知能力，還能與物理世界實時交互、自主學習與進化，共同構成一個有機協同、持續成長的智能群體。

“群體智能”不僅是技術的躍遷，也是RockAI認為邁向通用人工智能的關鍵路徑。Yan 2.0 Preview的發布與在終端設備的落地，或許很快能讓我們看到其這一愿景的雛形。

04 .

結語：堅守非Transformer架構之路

讓每臺設備都擁有智能

面對主流Transformer架構，不盲目追隨這一浪潮，而是堅持自主創新，探索更貼近真實智能本質的技術路線，并以實際行動探索非Transformer架構的創新可能，是當下AI產業發展中最為可貴的。

RockAI當下取得的成果固然重要，但其基于對產業痛點的深刻洞察，為AI技術多元發展注入活力，從底層邏輯出發解決實際問題的舉措，正推動AI產業從對技術紅利的依賴走向真正的創新突破。

Yan 2.0 Preview展示的不僅是一次技術范式的突破，更是我們對未來人機關系的思考：不是遙不可及的超級模型，而是每一個設備都能思考、協作和成長的智能新時代。

“讓世界上每一臺設備擁有自己的智能”是RockAI的使命，這已經在其成立初期的技術路線選擇、創新布局中充分展現出來，并且在當下取得階段性成果。