PLS回帰とは

THEME 05 検査・計測・歩留まり · プロセス制御Partial Least Squares Regression

← 04THEME 05 検査・計測・歩留まり06 →

PLS 回帰とは、目的変数との共分散が最大になる潜在変数を作り、それを使って目的変数を回帰する手法です。 入力変数が多く、互いに強く相関しているときに使います。装置データはまさにこの状態で、変数を全部入れて重回帰すると係数が定まらず、結果も揺れます。PLS は当てたい目的変数を見ながら少数の軸へ畳む手法で、半導体工場のバーチャルメトロロジ（VM）で広く使われています。

相関の強い装置データでは、重回帰の係数が定まらない

重回帰は、複数の入力変数を使って直接目的変数を回帰します。入力変数どうしが強く相関していると、どの変数にどれだけの係数を割り振るかが一つに決まりません。

主成分回帰と PLS 回帰は、多数の変数を少数の因子へ縮めることで、条件の悪いデータでも回帰できます¹。主成分回帰は、入力変数から主成分分析の手法により新しい変数の軸を作り、その合成変数で目的変数を回帰します²。これで多重共線性の影響があっても、サンプル数が入力変数の数を下回っても、回帰式を計算できます。

PLS は、目的変数との共分散が最大になる向きに軸を取る

軸の取り方

主成分の軸は入力変数だけから作られ、目的変数との関係を考慮しません。PLS の軸は目的変数との共分散が最大になる向きに取ります。

主成分回帰は、合成変数を作るとき目的変数との関係を考慮しません。軸は入力変数だけから決まります。

PLS 回帰は、目的変数との相関すなわち共分散が最大になる軸を潜在変数として決め、それらで目的変数を回帰します。作る段階から当てたい相手を織り込むので、主成分回帰よりも比較的精度の良い予測ができるとされ、VM 技術として広く使用される回帰手法になっています。

代償は解釈です。潜在変数は元の物理量を混ぜ合わせた軸なので、どの装置パラメータが効いたのかを読み取るには一手間かかります。

因子数は交差検証で決め、予測は回帰ベクトルを掛けて出す

PLS モデルを作るときは、データを必要に応じて中心化・尺度合わせし、交差検証で因子数を決めます¹。因子数は、何本の潜在変数で回帰するかを表します。

作ったモデルで予測するときは、新しい測定値をモデル作成時の平均と分散で中心化・尺度合わせし、回帰ベクトルを掛けて尺度合わせ済みの予測値を得ます。

VIP が 0.8 を超えた変数を残し、最後は現場の知見で決める

回帰モデルで使用する入力変数は、PLS 回帰の VIP 指標を基準に選びます²。VIP は、重みベクトルと潜在変数との回帰係数を用いた回帰値の変動に対する各入力変数の寄与度で、平均が 1 になるよう調整してあります。0.8 より大きな入力変数を重要な変数として選ぶことが多く、最終的な変数の決定の際には現場エンジニアの知見も取り入れます。

Vth 予測の事例では、統計手法によりゲート L 長・W 長・ゲート酸化膜厚 d が入力変数として選定されました。岡崎隼也は、これが統計により選定された変数とデバイス的知見の一致を示唆するとしています。

変数を絞れば見通しは良くなる一方、寄与の小さい変数に隠れていた作用は切り落とされます。

極端な値は、平均と標準偏差ではなく中央値と MADN で見つける

極端な値の見分け方

3シグマ法では極端な値そのものが平均値と標準偏差に影響し、適切に排除しにくくなります。そこで平均値の代わりに中央値、標準偏差の代わりに MADN を使う Hampel フィルターを当てます。

岡崎隼也が示す VM の手順では、モデルを作る前に、分散がゼロに近いパラメータと、極端な値や異常値・欠損データを含むサンプルデータを排除します²。

3シグマ法は、各パラメータのデータ分布を正規分布と仮定し、平均値から標準偏差の 3 倍以上離れたデータを極端な値の候補とします。ところが極端な値そのものが平均値や標準偏差に影響するため、適切に排除しにくくなります。そこで平均値の代わりに中央値、標準偏差の代わりに中央絶対偏差 MAD を 1.4826 倍した MADN を使う Hampel フィルターを適用します。極端な値が一方に偏っている場合は倍率が大きくなるため、注意が要ります。

極端な値を落とせばモデルは安定しますが、本物の異常までデータを整える段で消してしまう危険は残ります。

要求精度に届くまで、母集団を更新しながら作り直す

VM モデルの作り方

精度検証で要求精度に届けば製造ラインへ適用し、届かなければ入力変数の選定や企画構想の段階まで戻って作り直します。

作ったモデルが刻々と変化する製造状況にも対応できるよう、モデルの母集団を逐次更新させながら、検証用データで精度検証を実施します²。製造現場から要求される予測精度を満たせば製造ラインへの適用を進め、届くまでは入力変数の選定や企画構想の段階まで戻って作り直します。母集団を逐次更新すれば変化への追随は保てる一方、更新のたびに過去の予測との地続きは薄れます。

モデルを更新し続ける発想は、制御の側にもあります。系の入力を変えた際の事後情報を手がかりにし、データを自動的に蓄積しながらより良い制御入力を探り当てる方法を、学習制御と呼びます³。

よくある質問（FAQ）

PLS 回帰とは何ですか？

目的変数との共分散が最大になる潜在変数を作り、それを使って目的変数を回帰する手法です。多数の入力変数を少数の因子へ縮めてから回帰します。

重回帰では何が起きるのですか？

入力変数どうしが強く相関していると、重回帰の係数が定まりにくくなります。装置データはこの状態になりがちです。

主成分回帰とはどう異なりますか？

主成分回帰は、合成変数を作るときに目的変数との関係を考慮せず、入力変数だけから軸を作ります。PLS は目的変数との共分散が最大になる向きに軸を取ります。

なぜ VM で広く使われるのですか？

相関の強い多数の装置データを少数の因子へ縮めて扱えるうえ、主成分回帰よりも比較的精度の良い予測ができるとされるためです。

どの変数を残すのですか？

VIP 指標を変数選択の基準に使い、この値が 0.8 より大きな入力変数を重要な変数として選ぶことが多いです。

VIP とは何ですか？

重みベクトルと潜在変数との回帰係数を用いた回帰値の変動に対する、各入力変数の寄与度を表す指標です。平均が 1 になるよう調整されています。

統計だけで変数を絞るのですか？

最終的な変数の決定の際には、現場エンジニアの知見も取り入れます。Vth 予測の事例では、統計で選んだゲート L 長・W 長・ゲート酸化膜厚がデバイス的知見と一致しました。

比較・違いを学ぶ

バーチャルメトロロジとは── この回帰を使う技術
実験計画法とは── データを自分で作る側
SPCとは── 統計で工程を管理する側
プロセスコーナーとは── ばらつきを端でつかむ見方

出典

3件を表示