日本電信電話株式会社（本社：東京都千代田区、代表取締役社長：島田　明、以下「NTT」）は、多様な計算資源を柔軟に連結し、計算処理に必要な資源のみを最適に利用可能とする新たなコンピューティング基盤を開発しその動作を実証しました。ユースケースとして、スマートシティのカメラ映像分析において電力効率を最大約4倍*1まで向上可能であることを確認しました。今後は、開発したコンピューティング基盤の適用分野を拡大するとともに、計算資源の連結に光電融合技術を適用することでさらなる電力効率向上をめざし、カーボンニュートラルの実現に貢献します。
　なお、本技術については2022年11月16日～18日に開催予定の「NTT R&Dフォーラム — Road to IOWN 2022」*2にて紹介します。

1．背景
　内閣府のSociety5.0でも示されるように、今後、現実空間で生成される膨大なデータから、AI分析等により新たな価値を産業や社会に生み出すことが期待されております。しかし、例えばスマートシティにおける多数のカメラ映像のリアルタイム分析などでは、大量のデータの転送と分析のための大規模システムが必要となり、多くの電力を消費してしまいます。これを解決するため、GPU等、分析の電力効率を向上させる様々なアクセラレータが開発されていますが、従来のコンピューティング基盤では、（１）アクセラレータへのデータ転送をCPUが担うためCPU負荷がボトルネックとなりアクセラレータの性能を活かしきれない、（２）カメラ映像の変化に応じて常に最適なアクセラレータを割り当てることは難しく、割り当てられたアクセラレータが効果を十分に発揮していない状態が発生する、などの課題がありました。

2．開発したコンピューティング基盤の概要
　これらの課題に対し、NTTは多様な計算資源を柔軟に連結しながら各サーバに割り当てることを可能とする次世代コンピューティング基盤を開発しました。
　開発したコンピューティング基盤の概要を図１に示します。このコンピューティング基盤は、ＧＰＵ、ＦＰＧＡ等の様々なアクセラレータを各々複数枚搭載しながら、アクセラレータの種類毎に計算資源をプール化*3し、各アプリケーションに実行される処理に応じて最適なアクセラレータを必要な量だけ割り当てます。さらに、このコンピューティング基盤は、CPUを介さずにアクセラレータ間のデータ転送を実現し、膨大なデータ転送に起因するＣＰＵボトルネックを防ぎます。
　なお、NTTはこの次世代コンピューティング基盤のアーキテクチャ検討をIOWN Global Forum*4、にて同団体会員と共同で進めてきました。その成果として、同団体より「データセントリックインフラストラクチャ（以下DCI）」というアーキテクチャ文書が2022年1月に発行されています*5。

　本コンピューティング基盤を活用し、スマートシティ向けのカメラ映像AI分析システムを評価しました*6。図２のように、シーン変化に応じて最適なアクセラレータを必要量割り当てることにより、従来技術によるシステムと比べ1カメラあたりの消費電力を平均約320Wから、約120～80Wへの低減（電力効率を約2.5～4倍まで向上）できることを実証しました*1。（図３）

図１：　開発したコンピューティング基盤の概要

図２：カメラ映像推論処理のユースケースにおける本システムの処理例

図３：電力モニタ画面結果（電力削減効果実測）

3．今後の展開
　今後は、IOWN Global Forum会員と共に本コンピューティング基盤の適用分野を拡大しながら、様々な分野での導入をめざします。また同時に、アクセラータ間のデータ転送路にNTTが開発を進める第三世代光電融合デバイス*7を適用し、2025年を目処に電力効率向上効果を8倍に高め、2026年の商用化をめざします。さらには、第四世代光電融合デバイス*8の実装によりシステム内部での光接続による構成を完成させ、さらなる電力削減可能なシステムの本格事業展開をめざします。


*1：電力削減効果は、IOWNロードマップを策定した2020年時点で一般的なCPUやGPUベースのサーバ構成で測定した消費電力との比較。ハードウェアの進化を含む。効果は入力映像（例：人が映っている時間の割合）にも依存。

*2：NTT R&Dフォーラム — Road to IOWN 2022
　　URL：https://www.rd.ntt/forum/
*3：サーバに搭載したアクセラレータなどの計算リソースを複数まとめて管理し、必要に応じてリソースを使用できるようにすること。

*4：IOWN Global Forum : IOWN構想の実現に向けて2020年に設立された国際フォーラム。現在会員数109社。
　　URL：https://iowngf.org/
*5：Data-Centric Infrastructure Functional Architecture, IOWN Global Forum, 2022/1/27
*6：本成果は富士通株式会社との共同研究開発で研究中の技術を活用しています。
　　URL：https://pr.fujitsu.com/jp/news/2021/04/26.html
*7：ボード接続用の光電融合デバイス。スイッチボード上に実装。
*8：チップ接続用の光電融合デバイス。パッケージ内に実装。