●“內存中計算” 或稱為 SK hynix AiM

在 GDDR6 內存中，每個內存塊都有自己的 1GHz 處理單元，能夠提供 512GB/s 的內部帶寬。

在內存中進行矩陣 - 向量乘法（GEMV）以進行人工智能計算，權重矩陣數據來自內存塊，而向量數據來自全局緩衝區。

內存中的 AiM 使用特定的內存命令進行計算。

內存的擴展性，以及大型語言模型所需的內存中 AiM 計算資源。

使用這種 AiM 的情況下，主要挑戰是需要在軟件端進行映射，為 AiM 設計硬件架構，然後提供接口，這是採用這種技術的另一個主要障礙。

研究如何將問題映射到 AiM

系統架構需要能夠處理規模化和擴展性

AiM 架構的關鍵組件包括 AiM 控制器、可擴展多播互連、路由器、計算單元（ALU）和指令序列控制器。

矩陣向量累積函數對人工智能工作負載至關重要，AiM 使用一種類似 CISC 的指令集來管理這些函數。

優化：在新的架構中，通常存在可以利用的微妙差異來獲得更好性能的方法

SK hynix 不僅僅在抽象層面上討論了 AiM 技術，展示了使用兩個 FPGA 的 GDDR6 AiM 解決方案的概念驗證。

AiM 軟件堆棧

SK hynix 用來驗證概念，仍然處於評估階段，對這種解決方案與傳統解決方案進行不同類型的分析。這是一個未來可能發展的方向。