キオクシアホールディングスと米エヌビディア（NVIDIA）は、生成AIの演算を高速化するサーバー向けに、GPUへ直接接続してデータをやりとりする超高速SSD（GPシリーズなど）を共同で開発・連携を進めています。

エヌビディアとの協業と技術のポイント

GPU直接接続: 従来はCPUを介していたSSD接続をGPUに直結し、AIの「推論」時に肥大化するデータ（KVキャッシュなど）の高速処理・容量拡張を狙う。超高速性能: 従来のデータセンター向けSSDの数倍から100倍近く（1億IOPS）に迫るランダムアクセス性能を目指す。

ロードマップ: NVIDIAの新しいアーキテクチャや「Storage-Next」規格に対応し、2026年末から評価サンプルの提供、2027年頃の本格的な製品化・量産を見据えて開発が進められている。

ssdとロードする必要ないじゃねえか
富士通でいいわこれ、パラダイムシフト(´・ω・`)

　その候補の一つになりうる新たなアーキテクチャを富士通が開発した。既存のLLM（大規模言語モデル）ベースの基盤モデルが利用するTransformerのメモリの利用効率を大幅に高める「PHOTON」と呼ぶ技術である。

同社の実験によればメモリ容量当たりのトークンの処理速度（スループット）を、最大で1000倍以上に高められるという。

キオク死亡

4日 ロイター] - 韓国サムスン電子<005930.KS>は4日、人工知能(AI) 向けの次世代メモリー半導体技術を発表した。急成長するAI市場で半導体製造の優位性をさらに強化する ことが狙い。

メモリー半導体とストレージに関して米西部カリフォルニア州サンタクララで開催された 年次イベントで公開した。発表した技術は「V10 ボンディング V-NAND (BV-N AND)」 試作品。400層超を備えた新しいウエハー結合構造を採用することで、記憶密度を高め、性能を向上させた。

サムスンによると、この技術は従来製品「V9 NAND」と比べてメモリー密度を約5 8%向上させ、読み取りと書き込み、入出力の性能も改善させた。これらの改善により、よ り大容量かつより電力効率が高いストレージを必要とするAシステムの需要拡大に対応する。

AIに対する要求が大規模言語モデル (LLM)の訓練にとどまらず、利用者の問い合わせに対する回答を生成するプロセスに拡大するのに伴い、大容量NANDメモリーへの需要 が高まっている。NANDフラッシュメモリーは、スマートフォンなどのデバイスで写真、 動画、アプリケーションなどのデータを保存するために使われている。

併せてサムスンは業界初となる「zHBM」および「zNAND-O」のアーキテクチャー の試作品も披露。メモリーセルを垂直に積み重ね、より多くのデータを詰め込む次世代3D メモリーに対するアプローチを示した。

うちzHBMは、AI アクセラレータの上にメモリーを垂直に積み重ねた。これによりAIプロセッサーに隣接して配置される従来型の高帯域幅メモリーと比べてデータが移動する距離を短縮し、帯域幅を拡大するとともにエネルギー効率を向上させたという。 サムスンはウエハー結合技術により従来のHBM5メモリーと比べて10倍超のメモリー 密度を実現しつつ、エネルギー効率を3倍に高め、熱抵抗を半分未満に抑えられると説明している。

サムスンは先週、顧客との長期契約が最終的にはメモリー売上高の60%から70%を占める可能性があると明らかにした。これによりAI需要の旺盛さが改めて示された。

キオクシアとサンディスク、業界最高のビット密度を実現する新しい3次元フラッシュメモリ技術を発表
QLC技術を用いた第10世代3次元フラッシュメモリが、AI向けストレージアーキテクチャー、クラウドプラットフォーム、データ活用を支えるイノベーションを加速


もう出てた？

アーキテクツ潰れてまうん