【ニュースリリース】量子(回路or機械)学習のVC次元をはじめて確立、過学習しにくいことを検証 世界的な権威であるACM学会発刊量子コンピューティング雑誌に論文掲載
2021年07月26日
ポイント
- ・量子機械学習器は過学習しにくいという性質を、詳細な数値実験と統計的機械学習の理論を通して示した。
- ・この成果がACM (Association for Computing Machinery) 発行の学術雑誌「ACM Transactions on Quantum Computing」に掲載された。
- ・慶應義塾大学 量子コンピューティングセンター センター長 山本 直樹 教授のコメントと解説付き。
概要
曽我部東馬准教授(i-パワードエネルギー・システム研究センター)らの量子アルゴリズム研究チームは、量子機械学習器は過学習しにくいという性質を、詳細な数値実験と統計的機械学習の理論を通して示しました。そして、この成果は世界的な権威であるACM (Association for Computing Machinery) が発刊する学術雑誌「ACM Transactions on Quantum Computing」に掲載されました。
背景
AIの社会実装が進み、より複雑な課題解決への活用が期待される中で、機械学習においてAIモデルの精度向上を阻む要因となっているのが「過学習」です。過学習とは、学習精度がある一定の精度まで向上すると、以降は未知のデータへの対応力を失ってしまう現象です。従来型AIでは、正則化やドロップアウトを行い、学習に制限を設けることで過学習を回避してきました。そのため古典コンピュータにおける機械学習では、過学習がモデルの精度向上のボトルネックとなっています。一方で量子コンピュータでは、量子の特性により過学習が抑制される性質があることが示唆されていましたが、理論を含む詳細な検証はこれまでなされていませんでした。今回の論文では量子機械学習器は過学習しにくいという性質を詳細な数値実験を通して示し、その根拠となる理論を世界で初めて提示しました。この成果は「ACM Transactions on Quantum Computing」に掲載されました。
手法
統計的学習理論におけるVapnik-Chervonenkis(VC)理論は、VC次元の観点から汎化誤差境界を得るために使用することができます。VC次元とは,仮説集合の分類能力を記述する組み合わせプロパティです。これは,二項分類において任意に分類できるデータポイントの最大数です。例えば,2次元の入力空間では,線形分類器は最大で3点を切り分けることができますが、4点を切り分けることはできません。このことから、2次元空間における線形分類器のVC次元は3に等しいと言えます。
また、量子回路構造を考慮することで、量子回路学習(QCL)仮説集合のVC次元の上限を得ることができます。この上限を用いて、QCLの汎化誤差の上限を確立することができます。この上限は、テンソルネットワークの光円錐(ライトコーン)の上限であるHardware Efficient Ansatz(HEA)の局所性と単一性を考慮することで、さらに改善することができます。これにより、HEA量子回路のモデルの複雑さが定量化され、機械学習アプリケーションにおける過学習を避けるためのモデル選択に利用することができます。
成果
量子コンピュータは古典コンピュータとは全く異なる性質で動くため、古典コンピュータ上で成り立つ性質が量子コンピュータでも同様に成立するのかどうか、解明されていない部分が未だに多くあります。そのため本研究では、さまざまな量子アルゴリズムで採用されている汎用的な量子回路について、量子ビットの数と量子回路の深さなどがモデルの表現力と過学習にどう影響するかを研究しました。その結果、量子回路の深さを増加させ(古典ニューラルネットワークを多層にすることに対応)パラメータを増加させると、ある地点でモデルの表現力が飽和することを、さまざまな数値実験で見出しました。モデルの表現力が飽和するということは、回路パラメータを増加させてもそれ以上モデルが複雑化せず、結果、過学習が起きない事を意味します。さらに、この事実の理論保証を与えるため、本研究では、モデルの複雑性の指標であるVC次元(※)が上限値をもつことを証明しました。このことは、訓練誤差と汎化誤差の差分の拡大が進まないことを意味し、つまり量子回路は過学習しにくいことを示しています。今回の成果は株式会社グリッドの協力と共同研究の結果です。
※ VC次元は、学習モデルが完全に分類することができる最大のデータ数を数値化したもの
今後の期待
今回の研究成果は、機械学習の分野において量子コンピュータを使う意義と利点を補強するもので、量子機械学習の実用化に向けた大きな足掛かりになると期待しています。今後も引き続きコンピュータサイエンスの分野において研究を続け、学術分野への貢献と、量子コンピュータの社会実装に貢献して参ります。
HEA量子回路におけるライトコーン制限
詳細および慶應義塾大学 量子コンピューティングセンター センター長 山本教授のコメントと解説はPDFをご覧ください。