ニューラルエンジンが加速するモバイルAIの世界

新iPhoneの切り札ニューラルエンジン

iPhone 8、同8プラス、同Xには、同社で初めてAI処理を専用に担う「ニューラルエンジン」を搭載したSoC「Apple A11 Bionic」が採用されている。AIは人工知能と訳されるが、ニューラルエンジンの実際の機能は機械学習または深層学習と呼ばれるものに近い。音声、画像、自然言語などの認識に適した構造を持つ処理ユニットで、A11の内部ではニューラルネットワーク処理用のコプロセッサまたはアクセラレータとしてチップ内部に取り込まれている。同SoCにはこのほかにも、自社開発のグラフィックエンジン（3コアGPU）、カメラセンサからの信号を処理する画像プロセッサ（ISP）、各種センサからの情報を監視・制御するモーションコプロセッサ「M11」などのコプロセッサ（アクセラレータ）が統合されている。

iPhoneにおけるニューラルエンジンの役割は、音声認識や画像（顔）認識といった機械学習をより高速かつ低消費電力で処理することにある。このような機械学習には大量の数値演算を高速に処理することが求められるが、従来はその数値演算の多くをネットワークを介してクラウドなどで分散処理することによって実現されていた。この演算処理の大半をA11の内蔵するニューラルエンジンで実行することによってiPhone内部で大半の演算処理（エッジサイド処理）が可能となり、通信トラフィックの低減とプライバシー情報に対するセキュリティ向上を実現している。

ニューラルエンジンは、当初より数値演算処理を高速に実行することに特化したハードウェアとして設計されており、CPUやGPUから演算処理をオフロードすることで処理を高速化すると同時に、システム全体の負荷を低減して電力消費を抑えることを実現している。その演算能力は毎秒6000億命令に達すると発表されており、これはCPUコア単体（SIMD演算）のおよそ25～100倍に相当する。その高い演算能力を実現するために多数の演算ユニットを内蔵し、多層ニューラルネットワークによる機械学習に最適化したアーキテクチャを採用しているものと推測される。

ニューラルエンジンとその仕組み

ニューラルエンジンを構成するニューラルネットワークとは、人間の神経細胞を模した人工ニューロンと神経伝達物質に相当する入力と出力を加えた「パーセプトロン」という基本単位を組み合わせて構成されたネットワークのことだ。そのパーセプトロン同士のつながりの強さ（重み）を適切にコントロールすることで、目的とする出力を得る仕組みになっている。しかし、ニューラルネットワークを構成しただけでは、入力にデータを与えても出力ユニットから出る値が適切なものである可能性はほとんどない。そこでパーセプトロン同士を接続する重みを調整し、希望する出力が得られるように調整するのが「学習」と呼ばれるプロセスだ。学習には1回の計算だけで行う方法と、学習例を繰り返し入力して徐々に調整していく方法とがある。学習によってニューラルネットワークが成熟してくると、入力を与えるだけで直ちに正しい値が出力されるようになる。これが「推論」と呼ばれるプロセスだ。ニューラルネットワークはこの学習と推論を繰り返し、より高い精度で正しい答えを導き出すことができるように最適化されていく。こういった処理をニューラルネットワーク用に設計されたハードウェアで演算することで、従来より非常に高速に、かつ低消費電力で実現するのがニューラルエンジンの最大の特徴だ。

iPhone Xでは、このニューラルエンジンをフェイスID（Face ID）における顔認証やアニ文字（Animoji）での表情認識などに応用している。これらはあらかじめ特定用途向けに学習済みのニューラルネットワークを導入し、リアルタイムでの推論を実現することで快適な速度での認識を実現している。

さらにiOS 11には「Core ML」と呼ばれる機械学習フレームワークが実装されており、ニューラルエンジンはその推論処理を加速するアクセラレータとして機能させることができる。今後Core MLを利用したさまざまなアプリが登場すれば、ニューラルエンジンの出番が増えてくることは間違いない。

続々と登場するNPUとそのライバル達

機械学習機能をスマートフォンなどに導入する動きは活発化してきた。ファーウェイが開発した「Kirin 970」は、NPU（Neural-network Processing Unit）と呼ばれるニューラルエンジンを統合したARMコアSoCだ。その性能は単純比較でA11の3倍強の演算能力を持つ計算になる。Kirin 970は今年10月にリリースされた同社のスマートフォン「Mate 10」シリーズに採用されており、主にカメラ機能を中心に画像認識エンジンとしてNPUを活用すると同時に、アプリ開発者向けにそのフレームワークが公開されている。

変わったところでは、インテルのスティック型AIアクセラレータ「Movidius Neural Compute Stick」がある。2016年9月に同社が買収したMovidiusが開発したVPU（Vision Processing Unit）を搭載し、わずか1Wの消費電力で100GFLOPS以上の演算性能を発揮するUSB3.0接続のアクセラレータである。このVPU「Myriad 2」はすでにドローンなどに搭載実績があり、カメラ映像のリアルタイム画像認識などに利用されている一方で、より性能を強化したMyriad Xが今年8月にリリースされている。さらにインテルは、今年10月にAI向け新プロセッサ「Nervana」というNNP（Neural Network Processor）をリリースし、同社の深層学習アクセラレータ市場への本格参入を印象づけた。

このような推論エンジンをエッジサイドに設ける方法は、通信容量の限られたスマートフォンやタブレットで高度な機械学習の成果を利用する上で極めて有効なアプローチだ。その上で処理のメインとなるSoCにそのアクセラレータを組み込む動きは、認識処理の高速化と省電力化を両立するための手法として、今後一層その開発が加速される。多言語の同時通訳や話者を識別可能な議事録といった認識精度や高い処理性能が求められるアプリも、いよいよ実用領域を迎えつつある。従来クラウドベースでしか実現できなかった高度な機械学習をユーザ端末側に搭載する動きはまだ始まったばかりだ。

今井 隆

IT機器の設計歴30年を越えるハードウェアエンジニア。1983年にリリースされたLisaの虜になり、ハードウェア解析にのめり込む。