AI ハードウェアが 3D アップグレードされる

最新の AI チップは、情報を保存するメモリとそれを処理する部分の間で大量のデータを移動する必要があります。フラット チップではメモリが分散されているため、データは長いパスを移動する必要があります。プロセッサーはデータが到着するよりも速く動作し、近くに十分なメモリーがないため、チップの速度が低下します。これをメモリーウォールと呼びます。チップメーカーは何年もの間、トランジスタを小さくし、チップ上にさらに多くのトランジスタを搭載することでこの問題を解決しようとしてきましたが、これは小型化の壁と呼ばれる限界に達しつつあります。

スタンフォード大学、カーネギーメロン大学、ペンシルベニア大学、MIT の研究者は、SkyWater Technology と協力して多層コンピューター チップを作成しました。その設計は、AI ハードウェアと国内の半導体生産に役立つ可能性があります。

新しい 3D チップは、メモリと計算を垂直に統合します。この設計により、建物内のエレベーターバンクが人々を同時に移動させるように、より高速な情報伝達が可能になります。メモリとロジックを組み合わせて上方に構築することで、チップはより多くの計算能力をより小さなスペースに収めることができます。

初期のテストでは、プロトタイプが 2D チップよりも約 4 倍優れていることが示されています。より多くのレイヤーを備えた高さの高い設計のシミュレーションでは、AI ワークロードが最大 12 倍向上することがわかります。この設計により、速度とエネルギー使用のバランスをとる指標であるエネルギー遅延積を 100 ～ 1,000 倍向上させることも可能になります。データの移動を削減し、多くの垂直経路を追加することにより、チップは操作あたりのエネルギーを削減しながらより高いスループットを実現します。これはフラット設計では達成が困難な結果です。


この取り組みは、国内の半導体生産の青写真を設定します。モノリシック 3D チップが米国のファウンドリで製造できることを示すことで、国内でハードウェアを設計および製造できる道が開かれます。垂直 3D 統合に移行するには、これらの方法の訓練を受けたエンジニアが必要になります。教育および研究プログラムは、米国の半導体研究の次の波に向けて学生を準備させています。

この研究は、パフォーマンスの向上だけでなく、機能の追加も示しています。3D チップはイノベーションを加速し、課題へのより迅速な対応を可能にし、AI ハードウェアの未来を形作る可能性があります。