量子ニューラルネットワークにおける情報スクランブル

Information Scrambling in Quantum Neural Networks.

• Huitao Shen
• Pengfei Zhang
• Yi-Zhuang You
• Hui Zhai

抄録

量子ニューラルネットワークは、近い将来のノイズの多い中規模量子コンピュータへの応用が期待されている。量子ニューラルネットワークは、入力波動関数からの情報を出力クビットに蒸留する。このレターでは、このプロセスは逆の方向からも見ることができることを示します：出力クォビットの量子情報は入力にスクランブルされます。この観察は、情報スクランブルを特徴づけるために最近開発された三元情報を用いて、量子ニューラルネットワークの学習ダイナミクスを診断する動機付けとなりました。その結果、ランダムに初期化されたネットワークの訓練過程には2つの段階があることを明らかにした。初期の段階では、ネットワークの性能は急速に向上し、三分割情報は普遍的な傾きを持って直線的に増加する。後者では、ネットワークの性能はゆっくりと向上し、三分割情報は減少する。本研究では、初期段階では局所的な相関関係を構築し、後期段階では大規模な構造を学習することを明らかにした。この2段階の学習ダイナミクスは普遍的なものであり、幅広い問題に適用可能であると考えられる。本研究では、量子ニューラルネットワークと情報スクランブリングという2つの研究課題の架け橋となる研究を行い、量子ニューラルネットワークを理解するための新たな視点を切り開いていきたいと考えています。

The quantum neural network is one of the promising applications for near-term noisy intermediate-scale quantum computers. A quantum neural network distills the information from the input wave function into the output qubits. In this Letter, we show that this process can also be viewed from the opposite direction: the quantum information in the output qubits is scrambled into the input. This observation motivates us to use the tripartite information-a quantity recently developed to characterize information scrambling-to diagnose the training dynamics of quantum neural networks. We empirically find strong correlation between the dynamical behavior of the tripartite information and the loss function in the training process, from which we identify that the training process has two stages for randomly initialized networks. In the early stage, the network performance improves rapidly and the tripartite information increases linearly with a universal slope, meaning that the neural network becomes less scrambled than the random unitary. In the latter stage, the network performance improves slowly while the tripartite information decreases. We present evidences that the network constructs local correlations in the early stage and learns large-scale structures in the latter stage. We believe this two-stage training dynamics is universal and is applicable to a wide range of problems. Our work builds bridges between two research subjects of quantum neural networks and information scrambling, which opens up a new perspective to understand quantum neural networks.