ラグランジュの未定乗数:制約つきの最適化
現実の決定のほとんどは、制約つきの最大・最小問題です。工場は最大の利益をあげたいが、原料の量にはかぎりがある。缶は 350 ml を入れながら、アルミニウムをできるだけ使いたくない。振り子は、おもりが糸につながっているかぎり、好きなように動く。ラグランジュは、こうした問題すべてに通用する一つの方法を見つけました。それは 1788 年の『解析力学』に、力学系の束縛をあつかうために登場し、1797 年の『解析関数論』に、計算の一般的な規則として登場します。
囲い ギリシア人もすでに解けた問題から始めましょう。20 メートルの柵で、いちばん面積の大きい長方形はどれでしょうか。辺を $x$、$y$ とすると、
$$f(x,y)=xy\qquad\text{を制約}\qquad g(x,y)=x+y=10$$のもとで最大にしたいのです。ここでは $y=10-x$ と解いて $x(10-x)$ を最大にするのはかんたんです。けれども多くの問題では、制約は複雑な方程式で、何も解き出せません。ラグランジュは、そうする必要がまったくない方法をほしがっていました。
新しい文字 ラグランジュのレシピは、今日 $\lambda$ と呼ばれる新しい未知数、乗数を加え、$f$ の導関数が $g$ の導関数に比例することを要求するものです。
$$\begin{aligned}\frac{\partial f}{\partial x}&=\lambda\,\frac{\partial g}{\partial x},\\ \frac{\partial f}{\partial y}&=\lambda\,\frac{\partial g}{\partial y},\\ g(x,y)&=10.\end{aligned}$$囲いの場合、$\frac{\partial f}{\partial x}=y$、$\frac{\partial f}{\partial y}=x$ で、$g$ の導関数はどちらも $1$ です。方程式は
$$y=\lambda,\qquad x=\lambda,\qquad x+y=10$$となり、$x=y=5$。最良の長方形は 5 × 5 の正方形で、面積は 25 m² です。何も解き出す必要はありませんでした。制約は方程式が一つ増える形で、$\lambda$ は未知数が一つ増える形で入ってきたのです。
なぜうまくいくのか 下の図は、面積 $xy$ が一定の値 9、16、25、36 になる曲線と、制約の直線 $x+y=10$ を示しています。直線にそって進むと、面積がだんだん大きい曲線を通り、面積 25 の曲線までいきます。そこを過ぎると、面積はまた小さくなります。面積 36 の曲線は直線にふれることさえありません。
最適な点では、制約の直線と面積 25 の曲線が交わらずにふれ合う。つまり接している。Euler’s Eyes 作図 最適な点では、直線と最大面積の曲線は接しています。もし交わっていたら、直線にそってもう少し進み、もっと面積の大きい曲線に入れるはずです。接している曲線は同じ向きをもつので、そこでは $f$ と $g$ の導関数が比例します。乗数 $\lambda$ はその比例の係数なのです。