テンソル分解の完全ガイド：CP・Tucker・TTで実現する高次データの次元削減と実務応用
エバープレイ編集部はじめに — テンソル分解とは何か
テンソル分解（tensor decomposition）は、多次元配列（テンソル）をより小さな成分に分解してデータの構造や潜在因子を抽出する手法群の総称です。行列の特異値分解（SVD）が二次元データの低次元表現を与えるのに対し、テンソル分解は三次元以上のデータ（例：ユーザー×アイテム×時間、地点×周波数×時刻）を直接扱い、相互関係や多変量構造を保持したまま次元圧縮・特徴抽出を行えます。
テンソルとは
テンソルはスカラー（0次元）、ベクトル（1次元）、行列（2次元）を一般化した多次元配列です。順序（order）や階数（mode）の数で次元を表し、要素はインデックスの集合でアクセスされます。例えば三次テンソルは A[i,j,k] のように表記され、データの複合的な関係を自然に表せます。
代表的なテンソル分解の手法
- CP分解（CANDECOMP / PARAFAC）
テンソルを複数のランク1テンソル（外積）の和で表現する手法です。三次テンソル X は R 個の成分の和として X ≈ Σ_{r=1}^R a_r ∘ b_r ∘ c_r と表されます。CPは解が一意（識別可能）になりやすく、解釈性が高い点が特徴です。ランクの推定や最適化が難しい点に留意が必要です。
- Tucker分解（多重線形主成分分析）
中心となるコアテンソルと各モードの因子行列でテンソルを表す手法です。行列のSVDに相当する考え方で、X ≈ G ×_1 A ×_2 B ×_3 C の形になります。コアテンソルによりモード間の相互作用を表現でき、次元削減の柔軟性が高い一方で一意性は一般に保証されません。HOSVD（高次SVD）はTuckerの実践的な実装法の一つです。
- テンソルトレイン（Tensor Train, TT）
高次元テンソルを連鎖的な三次テンソル（コア）の列に分解することでパラメータ数を線形で抑える方法です。大きなモード数のテンソルに対してメモリ効率が高く、数値計算や物理シミュレーションの分野で注目されています。
- その他の派生
非負テンソル分解（NTF）、スパース正則化付き分解、確率的テンソル分解、ブロック対角的分解など、目的や制約に応じたバリエーションがあります。
数学的な要点
テンソル分解では以下のような数学的課題や性質が重要です。
- ランクの定義：テンソルランク（最小のランク1テンソル和の個数）は行列のランクと異なり、計算がNP困難であることが知られています。
- 一意性（識別）：CP分解は特定条件（Kruskalの条件など）を満たすと一意解を持ちます。一方でTuckerは通常一意でなく、回転やスケーリングの不定性が生じます。
- 最良近似の存在性：3次以上のテンソルでは、固定ランク近似の最良解が存在しない場合がある（De Silva & Lim 2008）。アルゴリズムの発散や境界解に注意が必要です。
計算アルゴリズム
代表的な計算手法は次のとおりです。
- ALS（交互最小二乗法）：各モードの因子を交互に更新するシンプルで広く使われる手法。収束は速い場合もありますが、局所解や発散の問題、スケール・同一性問題に対処する必要があります。
- 勾配ベース法・確率的最適化：大規模データや制約付き問題で利用されます。ミニバッチや正則化を導入しやすい利点があります。
- HOSVD / HOOI：Tucker分解のためのSVDベース手法。HOSVDで初期化し、HOOI（高次直交反復）で改善します。
- ランダム化アルゴリズムや近似手法：大規模テンソルに対し、サンプリングやランダム射影を用いて計算コストを削減します。
ランク選択とモデル評価
テンソル分解で最も難しい点の一つがランク（成分数）の決定です。過少設定は表現力不足、過剰設定は過学習や解釈不能につながります。よく使われる手法は次の通りです。
- クロスバリデーション：欠損値を人工的に作って再構成誤差を評価する
- 情報量規準（AIC/BIC相当）の適用（ただし正当化は難しい）
- コア整合性診断（core consistency, CORCONDIA）：PARAFACの適合度合いを診断する手法
- 解釈可能性・安定性の評価：複数初期値での再現性や因子の物理的妥当性を確認する
応用分野
テンソル分解は幅広い分野で活用されています。
- レコメンデーション：ユーザー×アイテム×時間などの高次相互作用をモデル化して推薦精度を改善
- 信号処理・通信：マルチセンサ観測の分離や方向余弦推定など
- 脳科学：fMRIやEEGの空間・時間・被験者の構造解析
- 化学計測（ケモメトリクス）：スペクトルデータの成分分離
- 異常検知：時空間トラフィックやログデータの構造異常検出
実務上の注意点とベストプラクティス
- 前処理：中心化・スケーリングや欠損値処理（ウェイト付きALS）を適切に行う。
- 初期化：ランダム初期化に加え、SVDベースや複数回実行による安定化が有効。
- 正則化・制約：非負制約やスパース正則化で解釈性を向上させ、過学習を抑制する。
- スケーラビリティ：大規模データはスパース表現や分散アルゴリズム、ランダム化手法を検討する。
- 評価：再構成誤差だけでなく、因子の物理的意味や外部指標での妥当性を確認する。
実装ライブラリ・ツール
- TensorLy（Python）：多様なテンソル分解を提供するライブラリで、NumPyやPyTorchなどにバックエンドを切替可能です。
- MATLAB Tensor Toolbox：研究で広く使われるツールボックスで、CP/Tucker等の実装がある。
- scikit-tensor や独自実装：用途に応じて選択
まとめ
テンソル分解は多次元データの複雑な構造を直接扱える強力な手法群です。CPやTucker、TTなどの分解法があり、それぞれ解釈性・計算効率・表現力にトレードオフがあります。実務では前処理、ランク選択、初期化、正則化、アルゴリズムの選択が成功の鍵になります。特に高次テンソルでは計算量や識別性の問題に注意し、適切な評価指標で結果の妥当性を検証することが重要です。
参考文献
- Tamara G. Kolda and Brett W. Bader, "Tensor Decompositions and Applications", SIAM Review, 2009.
- R. A. Harshman, "Foundations of the PARAFAC procedure: model and conditions for an 'explanatory' multi-modal factor analysis", UCLA Working Papers in Phonetics, 1970.
- L. R. Tucker, "Some mathematical notes on three-mode factor analysis", Psychometrika, 1966.
- V. De Silva and L.-H. Lim, "Tensor rank and the ill-posedness of the best low-rank approximation problem", SIAM Journal on Matrix Analysis and Applications, 2008.
- MATLAB Tensor Toolbox (B. W. Bader, T. G. Kolda).
- TensorLy — Tensor learning in Python.
- J. D. Carroll and J.-J. Chang, "Analysis of individual differences in multidimensional scaling via an N-way generalization of 'Eckart-Young' decomposition", Psychometrika, 1970 (CANDECOMP).
- I. V. Oseledets, "Tensor-Train Decomposition", SIAM Journal on Scientific Computing, 2011.
投稿者プロフィール
