ハエン大学の**情報工学(Ingeniería Informática)**の卒業研究です。研究グループ SIMIDAT にて、Antonio Jesús Rivera Rivas 先生と María Dolores Pérez Godoy 先生のご指導のもとで開発しました。
本プロジェクトは、教育用プラットフォーム Nets4Learning に**説明可能なAI(XAI)**モジュールを追加し、ディープラーニングの予測を視覚的かつ解釈可能な形で説明します。重要な制約として、すべての計算をブラウザ内で実行し、サーバー(バックエンド)に一切依存しません。
🔗 ライブデモ
プラットフォームを試す → nets4learnings.netlify.app
ブラウザ上で動作し、スマートフォンにも対応しています。モデルの学習と推論は TensorFlow.js によってお使いの端末上で実行されます。
🎯 動機と目的
ディープニューラルネットワークはしばしば**「ブラックボックス」**のように振る舞い、正確な予測を出す一方で、人間に理解できる根拠を示しません。教育の現場ではこれが大きな障壁になります。学生がネットワークの仕組みを本当に理解するには、正解か不正解かを見るだけでは不十分で、データのどの特徴が判断を導いたのかを知る必要があります。
全体の目的は、Nets4Learning の予測について視覚的な説明を提供するモジュールを、ブラウザ内で完結する形で設計・実装・統合することでした。この制約により、一般的な XAI ライブラリ(バックエンド上の Python を前提とするもの)は使えず、クライアント側で可能な手段だけで問題を解く必要がありました。
🧠 説明可能なAI(XAI)とは
XAI は、モデルの判断を理解可能にするための技術の総称です。一般に次のように分類されます。
- 範囲:モデル全体の振る舞いを記述する**大域的(global)な説明と、個々の予測を対象とする局所的(local)**な説明。
- モデルへの依存:モデルをブラックボックスとして扱い入力と出力の関係に着目する**モデル非依存(agnostic)な手法と、ネットワーク内部のアーキテクチャを解析するモデル固有(specific)**な手法。
両方をカバーするため、本モジュールでは相補的な2つの技術を組み合わせています。
🛠️ 実装した手法
モデル非依存の手法 — SHAP(WebSHAP 経由)
SHAP(SHapley Additive exPlanations)は、協力ゲーム理論のシャープレイ値に基づきます。特徴量が「ある場合」と「ない場合」の組み合わせを比較して限界的な寄与を求め、各特徴量の予測への貢献を公平に分配します。
主な欠点は計算コストの高さで、1つの予測につきモデルを何度も評価する必要があります。クライアント自身が計算能力を負担する環境では、これが大きな課題となります。そこで、TensorFlow.js 上でクライアントサイド専用に動作するよう設計された SHAP 実装である WebSHAP を統合し、データのプライバシーも確保しました。
モデル固有の手法 — LRP
LRP(Layer-wise Relevance Propagation)はネットワーク内部にアクセスし、「関連度(relevance)」を各層を通じて入力まで逆伝播させることで、どの要素が予測に最も寄与したかを明らかにします。SHAP よりもはるかに効率的(1 回の実行で済む)ですが、その分モデルのアーキテクチャに強く依存します。
画像の説明 — スーパーピクセル
画像モデルでは、何千もの孤立したピクセルではなく、スーパーピクセル(SLIC アルゴリズムにより近接性と色の類似性でまとめた領域)を単位として説明を計算し、顔を扱うタスクでは顔セグメンテーションで補完します。これにより、視覚的に意味のある扱いやすい数の領域に対して、解釈可能なヒートマップが得られます。
🏗️ システムアーキテクチャ
Nets4Learning は、TensorFlow.js によるクライアントサイド推論を備えた React の SPA です。説明可能性モジュールは1つの層として統合され、3つの階層で構成されます。
- モデル層 — 既存のモデル群。タスク別(表形式データ、画像分類、物体検出)にまとめられています。
- 説明可能性層 — 本研究で開発した中核であり、特定のモデルから独立しています。
- プレゼンテーション層 — ユーザーが説明を要求し、結果(特徴量の重要度グラフや画像上のヒートマップ)を可視化するための UI コンポーネント。
設計パターン:Template
最も重要な設計判断は、説明可能性をモデルから疎結合にしたことです。各タスク種別は、そのすべてのモデルが実装する共通インターフェース(モデルの有効化、入力からの予測取得など)を公開します。説明可能性層は Template パターンに従ってこの抽象に対して動作するため、インターフェースを守る限り、新しいモデルの追加で説明可能性モジュールを変更する必要がありません。これにより拡張性の要件を満たしています。
⚙️ 技術スタック
- React — SPA のインターフェース
- TensorFlow.js — ブラウザ内での学習と推論(WebGL を介した GPU 利用)
- WebSHAP — クライアントサイドの SHAP 実装
- LRP — 関連度伝播の独自実装
- JavaScript — エコシステムの主要言語
📅 開発手法
インクリメンタルモデルで開発しました。各インクリメントで、あるモデル群(表形式データ、画像分類(MNIST / KMNIST)、物体検出、LRP による内部解析)に説明可能性を追加し、指導教員と定期的にレビューを行いました。バージョン管理は Git/GitHub(機能ごとのブランチ)、IDE は VS Code、論文執筆には LaTeX/Overleaf を使用しました。
✅ 結論と成果
全体目標は達成されました。Nets4Learning は、各予測に対してクライアント側で完結する視覚的な説明を提示できるようになりました(サーバー不要)。個別目標も次のとおり達成しました。
- 数字検出(KMNIST)を除くすべてのモデルに SHAP(WebSHAP) を統合し、KMNIST では内部解析可能なモデル上で LRP を使用しました。
- React の UI コンポーネントを統合し、ユーザーは説明を要求して重要度グラフやヒートマップとして可視化できます。
- 単体テストと実アプリでの機能検証により、説明がモデルの挙動と整合することを確認しました。
- 最大の課題は安全かつプライベートなクライアントサイド実行であり、手法の選択を左右し、妥協(例:LRP のプーリング層での近似)を迫られました。
このアーキテクチャは、物体検出・画像分類(MNIST/KMNIST)・表形式モデルに統合され、サーバー不要の制約を守りつつ、多言語インターフェース(スペイン語・英語・日本語)に対応しています。
🔭 今後の展望
- Grad-CAM(畳み込みモデル向け)や LIME などの新手法の導入。
- LRP の対応範囲を、より多様なアーキテクチャや複雑な層へ拡張。
- WebGPU と新しいクライアントサイド推論エンジンを活用し、現在の性能上の制約を克服。
- SHAP の重い計算を Web Workers に移し、長い説明の間も UI を軽快に保つ。
卒業研究 · ハエン高等工科学校 · ハエン大学(2026 年)。