ニュース
NTT、IOWN技術により「郊外型データセンターを活用したリアルタイムAI分析を省電力で実現する技術」を開発
2024年2月28日 06:30
日本電信電話株式会社（NTT）は2月20日、米Red Hat、米NVIDIA、および富士通株式会社の協力のもと、IOWN技術を用いて郊外型データセンターを活用したリアルタイムAI分析を省電力に実現する技術を開発したと発表した。
近年のセンシング、ネットワーキング、およびAI技術の進展により、リアルタイムに生成される大規模データのAI分析による新たな価値創造が期待されている。しかし、センサー設置拠点におけるAI分析では、維持管理コストが高く、クラウドの大規模データセンターにおけるAI分析では、大規模データの収集に伴う遅延やCPUオーバーヘッドが生じてしまう。これらの課題に対し、エッジコンピューティングによる、センサー設置拠点近傍（一般的に数十km圏内）でのAI分析も議論されているが、土地や電力の不足から、特に大都市圏において、多くのGPUなどのアクセラレーターを必要とするAI分析処理を収容できるデータセンターを見つけることは難しい。
高速データ通信により郊外のデータセンターを活用し、低コスト化も実現
このようなことから、高速データ通信により距離のあるデータセンターを活用してリアルタイムのAI分析処理を行いつつ、電力コストも軽減できるリアルタイムAI分析技術が求められていた。今回開発されたAI分析基盤では、IOWN Global Forumで検討されている、IOWNのAPN（All Photonics Network）による低遅延・ロスレス通信、および、DCI（Data Centric Infrastructure：IOWNデータセントリック基盤）におけるデータ処理高速化手法を活用している。
DCIは、物理空間およびサイバー空間に広く散在するデータに対して、同じく広域に分散する計算リソースを最適に組み合わせながら、効率よくデータを処理するためのICT基盤のこと。地理的に分散した計算リソースを高速なネットワークで結び、広域に散在するデータを高効率に処理することがその狙いとなる。
これにより、大規模データの収集に関するオーバーヘッドが最小限に抑えられ、大都市圏内に設置されたセンサーからデータを収集し、郊外型データセンターでAI分析することが可能になる。特に、郊外型データセンターは、大都市圏内に設置されたデータセンターと異なり、再生可能エネルギーを最大限活用できるという利点があるという。
RDMA over APNの採用などにより最大で遅延60％、消費電力40％削減
今回のAI分析基盤は、APNを通してRDMA（Remote Direct Memori Access：コンピューターから別のコンピューターのメモリへ直接データを転送し、データセンターの処理能力を高める技術）を行う「RDMA over APN」を用い、センサー設置拠点におけるセンサデータを、郊外型データセンターに設置されたアクセラレータのメモリ上に直接転送する。これにより、従来ネットワークにおけるプロトコル処理のオーバーヘッドを大幅に削減するという。また、CPUによる制御オーバヘッドを抑えつつ、アクセラレータ内でAI分析処理を完結させることで、電力効率を改善している。
さらに、GPUなどアクセラレータの複雑性を隠蔽するためのKubernetes Operatorの仕組みを備える、Kubernetesベースのハイブリッドクラウド向けアプリケーションプラットフォーム「Red Hat OpenShift」を使用。これにより、データ処理高速化が適用されたワークロードを、郊外型データセンターをはじめとする複数サイトに、柔軟かつ容易に配備できるようになるという。
実証実験では、横須賀市におけるセンサー設置拠点と、武蔵野市における郊外データセンターとをAPNで接続した。横須賀市と武蔵野市間の光ファイバーの距離は、およそ100km。センサーとして多くのカメラ接続を模擬した状態で、従来のAI分析処理を適用した結果と比較した結果、今回のAI分析基盤では、その遅延時間（センサー設置拠点でデータを受信してから郊外型データセンターでAI分析を完了するまでの時間）を、最大で60％削減できること確認したという。
また、郊外型データセンターにおいてカメラごとのAI分析に要する消費電力を、最大で40％削減した。今回のAI分析基盤は、GPUの数を増設することで、CPUボトルネックを生じさせることなく、より多くのカメラを収容できる。その結果、1000台カメラの収容を想定した見積りにおいて、最大で60％の消費電力の削減が見込まれるとしている。
今回の開発成果は2月29日に実施予定の「MWC Barcelona」でのIOWN Global Forumセッションにて紹介される予定。また、IOWNコンピューティングの一部として、2025年大阪・関西万博におけるNTTパビリオンに適用すると共に、2026年の商用化を目指すとしている。今後は、今回のAI分析基盤に光電融合技術を組み合わせ、更なる電力効率の向上を図り、カーボンニュートラルの実現に向けて貢献していくという。