説明可能なディープニューラルネットワーク(xDNN)を目指して

Towards explainable deep neural networks (xDNN).

• Plamen Angelov
• Eduardo Soares

抄録

この論文では、従来のディープラーニングアプローチのボトルネックに直接対処するエレガントなソリューションを提案し、既存の手法を凌駕する説明可能な内部アーキテクチャを提供し、必要とする計算リソースが非常に少なく（GPUを必要としない）、トレーニング時間が短い（数秒オーダー）。提案されているアプローチ、xDNNはプロトタイプを使用しています。プロトタイプとは、実際の訓練データサンプル（画像）であり、データ密度と同様に典型性と呼ばれる経験的なデータ分布の局所的なピークである。この生成モデルは閉じた形式で識別され、pdfに等しいが、ユーザや問題固有のしきい値、パラメータ、または介入を伴わずに、訓練データから自動的に完全に導出される。提案されたxDNNは、推論と学習を相乗効果で組み合わせた新しい深層学習アーキテクチャを提供します。これは非反復的でノンパラメトリックであり、時間と計算資源の面での効率性を説明している。ユーザの視点から見ると、提案されたアプローチは人間のユーザにも明確に理解できるものである。我々は，走行シーンの照明条件の違いによる分類（iROADS），物体検出（Caltech-256，Caltech-101），コンピュータ断層撮影によるSARS-CoV-2識別（COVID CT-scansデータセット）などの困難な問題を対象にテストを行ったが，xDNNは深層学習を含む他の手法よりも精度，訓練時間，説明可能な分類器を提供している．

In this paper, we propose an elegant solution that is directly addressing the bottlenecks of the traditional deep learning approaches and offers an explainable internal architecture that can outperform the existing methods, requires very little computational resources (no need for GPUs) and short training times (in the order of seconds). The proposed approach, xDNN is using prototypes. Prototypes are actual training data samples (images), which are local peaks of the empirical data distribution called typicality as well as of the data density. This generative model is identified in a closed form and equates to the pdf but is derived automatically and entirely from the training data with no user- or problem-specific thresholds, parameters or intervention. The proposed xDNN offers a new deep learning architecture that combines reasoning and learning in a synergy. It is non-iterative and non-parametric, which explains its efficiency in terms of time and computational resources. From the user perspective, the proposed approach is clearly understandable to human users. We tested it on challenging problems as the classification of different lighting conditions for driving scenes (iROADS), object detection (Caltech-256, and Caltech-101), and SARS-CoV-2 identification via computed tomography scan (COVID CT-scans dataset). xDNN outperforms the other methods including deep learning in terms of accuracy, time to train and offers an explainable classifier.

Copyright © 2020 Elsevier Ltd. All rights reserved.