GPU/FPGA/DPUとは?通信分野での活用事例紹介 ~NWコンピューティングの処理高速化技術 第1回 ~
コンピューティング高速化に活用されるGPU/FPGA/DPUについて概要からNW・通信分野でどのように活用されているかまで紹介します。 また近年のNW・通信分野のトレンドについても触れていきたいと思います。
はじめに
皆さん、こんにちは。
NTTグループが推進する通信基盤であるIOWNの1.0がサービスインしてもうすぐで1年となります。
IOWNというと通信をオール光にすることで高速化する、というポイントが大きいところではありますが、
次世代の通信という観点においては他にも強化ポイントがあります。
例えば現在の5G通信でもエッジコンピューティングやMEC等のネットワーク(NW)上で処理を行う
NWコンピューティング処理が実施されていますが、IOWNや6Gといった次世代通信においても
本機能はより拡充される想定がされており、コンピューティング処理の高速化もますます重要となってきます。
またIOWNの重要要素となるデジタルツインコンピューティングにおいても、
強力なコンピューティング処理能力が必要と言われています。
図1 NW内で処理を行うエッジコンピューティングについて
[参考] IOWNやデジタルツインコンピューティング(DTC)に関しては当社ブログ別記事を参照ください
そこで今回は当社の複数事業部にまたがった記事企画の第2弾!
CPU以外に処理を高速化させる為のアクセラレータ(GPUや、FPGA等)や量子コンピュータ等の技術紹介と
そういった技術が通信業界において現在どういった活用を考えられているのか事例を2回にわけて、
いくつか紹介していきたいと思います。
また、最後にはIOWNで考えられているコンピュート基盤の新アーキテクチャについても
触れたいと思います。
まず今回はフューチャーネットワーク事業部内の第一ビジネスユニットと第三ビジネスユニットコラボ
ということで、GPU/FPGA/DPUといった実用レベルの技術について紹介します。
[参考] 複数事業部にまたがった記事第1弾:いまさら聞けない、IaCってなに?
■ 目次
回 | 節番号 | 節タイトル |
今回 | 1 | GPUとその活用事例紹介 |
2 | FPGAとその活用事例紹介 | |
3 | DPUとその活用事例紹介 | |
次回 | 4 | 量子コンピュータとその活用事例紹介 |
5 | 各技術の比較 | |
6 | IOWNの目指す新コンピュート基盤DCI |
GPUとその活用事例紹介
まずはフューチャーネットワーク 第一ビジネスユニットの山口からGPUについて紹介いたします。
GPUは「Graphics Processing Unit」の略で、一般向けではゲームで
高画質な映像・画像処理に使われることが多いですが、その特徴として以下のようなものがあります。
特徴 | 備考 |
分岐処理が苦手 |
- |
繰り返し処理が得意 |
一般的に前の処理に影響しないループが得意であり、 理由は処理を複数並列して実施している為。 |
行列計算が得意 | - |
上記でわかるようにGPUはどんな事にも対応できる銀の弾丸ではなく得意・不得意がある為、CPUとGPUを組み合わせて
活用していきます。
例えばGPUの苦手な分岐処理はCPUに処理させ、CPUが時間を要しがちな繰り返し処理をGPUに処理させる、
といった使い方となります。
こういった処理を実現する為、CUDAというプラットフォームとC言語を使って実装する事が一般的かと思います。
また、近年では画像処理だけでなく、行列計算が得意と言う点を活かし機械学習や、並列処理が得意という点で
ブロックチェーン等に活用されています。
さて、ここからはNW分野におけるGPU活用事例を3つほど紹介したいと思います。
1.自律型NWにおけるAI判断処理での活用
近年、従来の監視方法であったSNMPやログ情報以外にフロー統計情報(xFlow等)やTelemetryといった技術が登場し、
より広い範囲・短周期でNW情報が収集可能となった事で、NW状態を可視化しロバストなNWを実現しようとする
動向があります。
これにあわせて可視化する為の情報をAIに充てる事で、状態変化にあわせた設定変更をAIに判断させ、
その判断に基づいてNWを制御する自律型NW(クローズドなNWで実現する事をクローズドループとも)の研究が盛んです。
このAI処理にGPUは重要な要素となります。
図2 情報収集・判断・制御を行う自律型NW構成例
上記は古典的なNW機器(ルータ等)を対象とした例ですが、コンテナ等を対象としたオーケストレータも同様の流れがあります。
仮想化技術とAIによるオーケストレーションの組み合わせにより、大規模NWを支える複雑なOpSやEMS群の管理が効率化される
未来も遠くないのかもしれません。
こういった「収集・判断・制御」の機構は、
例えばIOWNにおいて重要な役割を果たすCradio®においても取り入れられる見込みです。
図3 Cradio®の技術コンセプト(出典:NTTジャーナル)
なお、AI観点でいうと最近は生成AI ・LLMの話題も多く上がるかと思います。
NTTからもtsuzumiが発表されたばかりではありますが、
AIによる予測という分野で従来の教師あり学習を活用するだけでなく、
今後は様々な分野で生成AIやLLMを活用するケースも出てくるかもしれません。
図4 NTT版LLM tsuzumiの特徴
(出典: NTT、独自の大規模言語モデル「tsuzumi」を開発 2024年3月から商用サービスとして提供へ - クラウド Watch )
例えば取得した情報をLLMによってサマライズした上で予測をさせたり、
教師あり学習の出した予測が本当に正しそうかチェックさせる、といった得意分野を意識した
AI間連携も含めた検討が必要になり得るかと思います。
[付記] 通信分野におけるパブリッククラウドやブロックチェーンの活用について 本説明のなかでオーケストレータというキーワードが登場しましたが、 さて、NTTのようなNW事業会社が運用するNWにパブリッククラウドを使うのか、 ハイブリッドクラウドとすることでNWの冗長化や柔軟なNW構築に繋がる他、 つい先日にはドコモの無線アクセスNWでは実際にAWSを活用していく、という このようにNW分野でもパブリッククラウドの存在感は また、ブロックチェーンというキーワードも説明の中で登場しましたが、 |
2. 固定通信網における放送事業者向け映像配信処理での活用
NTTが運用するNGN(NW)においては、インターネットに向けてのWeb通信だけでなく、
例えば地デジ等の映像系通信も流れます。
図5 NGNについて(出典:NTT西日本)
近年では4Kや8K等のサービスもあり、大容量通信、かつNW上で高コストな映像処理が必要な場合が存在します。
よってこの映像処理に親和性の高いGPUを活用するという点がユースケースとなります。
現在はIOWN APNを活用した実証検証も行われています。
詳しくはNTT Webサイトを参照ください。
3. 移動体通信網における無線基地局ソフトウェアおよびMECでの処理活用
NTTドコモは現在OREX(旧OREC)の推進をしています。
OREXとは、世界的に流行している「様々な通信機器ベンダーの機器やシステムを自在に組み合わせて
RAN(無線アクセスNW)を実現できることを目指すオープンRAN」の検討を加速させるために立ち上げたブランドです。
上記の目指すところは簡単に言えばコストパフォーマンスが高いNWの実現となります。
図6 RANとオープンRAN、OREX
またOREXはドコモが推進するものとなりますが、携帯事業各社(ドコモ、KDDI、ソフトバンク、楽天モバイル)が
オープンRANの標準仕様に基づく試験・認証拠点「Japan OTIC」を開設する等、日本内でも取り組みは活発です。
なおOREXは5Gや6Gに向けたコンセプトであり、IOWNとはまた異なる取り組みとなりますが、
OREXでもIOWN APN機器の活用やIOWN CF(コグニティブファウンデーション)との連携なども検討されています。
GPUの活用という観点ではMEC上でのAIアプリケーションでの活用の他、
上記取り組みでの無線基地局(vDU/vCU)にもGPUを活用する事が発表されています。
[参考] ドコモのMECについて:ドコモWebサイト
OREXとGPUについて:ドコモWebサイト
OREXとかかわりの強い富士通の取り組み:富士通Webサイト
[付記] NWのオープン化について ホワイトボックスとは搭載するソフトウェア(NOS)を選択できるNW機器(スイッチやルータ)であり、 光伝送装置においても、IOWN以外にOpenROADMやTIP等の活動があり |
FPGAとその活用事例紹介
FPGAとは「Field Programmable Gate Array」の略で、特定の処理を実現する為にプログラムができる論理回路を
積んだデバイスを指します。
演算性能が高く、自由にプログラムできるため、実現したい事に対し柔軟に対応する事が可能な反面、
回路設計等も絡むため一般的にソフトウェア開発者にとっては開発難易度が高くなりがちであったり、
回路に載せられる処理容量に限りがあるといったデメリットも存在します。
近年ではFPGAを積んだNIC(=SmartNICの1種でFPGA-SmartNICと呼ばれる)も存在します。
またFPGA-SmartNICの処理をP4プログラム言語で実装する事例も存在します。
興味がある方は調べてみると良いでしょう。
[参考] SmartNICが必要な背景や種類等(別記事):SmartNIC ~DPDK第15回~
P4プログラム言語について(別記事):SONiC等のNOSとP4の組み合わせ
FPGAに関しては以下で1つ事例を紹介します。
1. NW状態監視のためのパケット情報処理
【GPU】節でも触れましたが、近年はNW状態の可視化・監視強化に関する動きも活発です。
NW状態の可視化の目的を簡単にいえば、日本でも近年通信障害たびたび発生している事は
記憶に新しいと思いますが、そのような事象が発生しないように日頃から状態監視を行い、
問題が発生しそうな兆候を捉える、また実際に事象が発生してしまっても早急に回復できるように
問題個所特定の迅速化を行うための仕組みづくりとなります。
図7 近年の通信障害例 (出典:令和5年版情報通信白書)
一例として2023年4月に発生したNTT東西の障害の再発防止案でも「NW故障状態の可視化」という観点が上がっています。
図8 通信障害の再発防止案について
(出典:NTT東西、フレッツ光等の大規模通信障害に備え1,600億円投資。強靭なネットワークを構想 - PCWatch)
さて、前述の通りNW状態を可視化する為の情報は様々なものがありますが、その1つにパケット情報を見る、という
観点もあります。
通信とは極論をいってしまえばパケット等のデータのやり取りである為、その内容を確認する事で状態監視を行う、
という考え方となります。
ただし流れてきたパケットを何も考えずに監視すれば良いというわけではなく、パケット情報は膨大であり、
また目的に応じて取捨選択・使い分けないをしないと目的が果たせない事もあります。
よって柔軟に、かつ高速に処理できる点がポイントであり、これを実現する為に
「受信パケットを解析し、グループ分けした上でそのグループに準じた処理を行う」という一連の処理内でFPGAが使用されています。
詳細はNTTジャーナルをご確認下さい。
DPUとその活用事例紹介
本節はフューチャーネットワーク 第三ビジネスユニットの山田が紹介致します。
まずDPUとは「Data Processing Unit」の略で、NVIDIAが提案するデータ中心の
アクセラレーテッド コンピューティングモデルを実現するためのデバイスです。
具体的にはPCIカード上にSmartNICを中心にCPUやその他デバイスをまとめたもので、
データ処理はホスト側のCPUリソースを使用せず、DPUを中心で処理できることを期待しています。
図9 DPU(Bluefield-2)のイメージ
図10 DPU(Bluefiled-2)搭載マシンのイメージ
ちなみにDPUとあわせて良く語られるのがIPUとなります。
これらはほとんど同じものを指しており、特にNVIDIA製品をDPU、Intel製品をIPUと呼びます。
今回はDPUに着目してご説明いたします。
NVIDIAからDPU製品としてBluefiled-2やBluefield-3が販売されています。
Bluefield-2を使用する機会がありましたので内容を今回はレポートします。
Bluefield-2概要
特徴は以下となります。
No. | 特徴 |
1 |
DPUカード内でLinuxが動作している。 |
2 | DPUへのアクセス方法はPICバス経由のシリアルコンソール接続かsshで接続する。 |
3 |
DPU内の開発を行うためにNVIDIA DOCA™が提供されている |
4 |
DPU内でKubernetesが動作していてコンテナ上でプログラムを動かすことができる |
※ なお、DPUとGPUを結合させたコンバージドアクセラレータというカードも存在し、
SmartNICとGPUを直結させることで更なる高速化処理が可能となる見込みです
またDPUにはいくつかのモードがあります。
例えばHOSTから物理ポートにアクセスする際には、Open vSwitchを経由するECPF(Embedded function)と
直接物理ポートにアクセスするSeparated host mode等があり、ドライバの設定で切り替えることができます。
ECPFでOpen vSwitchを経由する際にDOCAで開発したアプリケーションを経由させることで、
DPU内でパケット解析などを行うことが可能です。
図11 各モードの概要イメージ図 (詳細はNVIDIA Webサイト参照)
現在のDPU製品を見ると、SmartNICに専用のCPUや記憶領域が追加されたデバイスと感じています。
DPUに関しても活用事例を1つ紹介したいと思います。
1. 次世代のNWコンピューティング基盤での処理高速化に活用
IOWNや6Gに向けた次世代アーキテクチャとしてNTTでは「インクルーシブコア」と呼ばれるものの研究開発を行っています。
IOWNと6Gは正確にいえば異なるコンセプト(例えば宇宙領域の通信エリア化等を目指すカバレッジ拡張や高周波数での
安定した通信実現は6G独自の観点)ですが、共通観点(高速大容量・低遅延等)も多くあります。
[付記] 通信における宇宙活用について 広いエリアで高速通信が活用可能という点で低軌道衛星を使ったStarlink(スターリンク)が注目を浴びました。 データセンターも宇宙に配置する事で、将来的にはNWコンピューティング処理が宇宙で実施される事になるのかもしれません。 詳細はNTT Webサイトをご確認ください。 |
現在の5GにおいてもMEC含むエッジコンピューティングによりNW負荷の低減や低遅延化が進められていますが、
インクルーシブコアはこの構成の次世代版(将来像)と言えるかと思います。
図12 5Gコア/MECからインクルーシブコアへの進化 (出典:NTT Webサイト)
上記から、よりNWとコンピューティングが結びつく(融合する)と言えるかと思いますが、
こういった次世代のネットワーク融合サービスアクセラレータ基盤において
SmartNICの高速NWスタックとDPUに搭載する処理チップを組み合わせたアクセラレーションが
できるのではないかと期待しています。
図13 DPUの活用事例 (出典:NTT Webサイト)
なお、上記図をみると前節で取り上げたFPGAも活用されています。
主にセキュリティ観点の処理にFPGAが使われる可能性があります。
図14 インクルーシブコアのイメージ (出典:NTT Webサイト)
[付記] 仮想空間における再現技術について 上記の図12では「メタバース/XR」という記載があります。 これらの概要を以下に説明します。
【はじめに】節でデジタルツインコンピューティング(DTC)の実現には膨大な処理が必要と述べましたが、 よって通信事業者内のNW内でのエッジコンピューティングにより、データ加工や処理を行えれば 故にメタバースやデジタルツインの普及という観点においても、NW内の処理は重要な観点となり、 |
おわりに
本記事ではNWとコンピューティングの融合という背景と、
NWコンピューティングの高速化技術とその活用事例について紹介してきました。
本記事、またはそれ以外のネットワーク関連に関しての問い合わせやご意見がございましたら、
以下にご連絡ください。
よろしくお願いいたします。
本件に関するお問い合わせ
<<<<著者プロフィール>>>>
フューチャーネットワーク事業部
第一ビジネスユニット
山口 佳輝(YAMAGUCHI YOSHIKI)
第三ビジネスユニット
山田 雅弘(YAMADA MASAHIRO)
>>>>>>>>><<<<<<<<<