正規直交基底に関する備忘録

目的

高校まで習得したベクトルの観念を線形代数のベクトル空間に拡張しながら、それがもたらすものについてFourier変換を例に取りながら述べる。 大まかには、これは正規直交基底に関する備忘録である。

ベクトル空間

高校まで習得したベクトルにおいて、以下の8つの性質が成り立つ。

$\mathbf{u},\mathbf{v},\mathbf{w}$をベクトル、$a,b$を実数としたとき、

1. $\mathbf{u} + \mathbf{v} = \mathbf{v} + \mathbf{u}$
2. $(\mathbf{u}+\mathbf{v})+\mathbf{w} = \mathbf{u}+(\mathbf{v}+\mathbf{w})$
3. $a(b\mathbf{u}) = (ab)\mathbf{u}$
4. $(a+b)\mathbf{u} = a\mathbf{u} + b\mathbf{u}$
5. $a(\mathbf{u} + \mathbf{v}) = a\mathbf{u} + a\mathbf{v}$
6. $\mathbf{u} + \mathbf{0} = \mathbf{u}$
7. $1\mathbf{u} = \mathbf{u}$
8. $0\mathbf{u} = \mathbf{0}$

これらの性質は互いに独立している。
そこで、逆に「これらの性質を満たしているものがベクトルである」と定める。
つまり、任意の集合$V$において、

$\mathbf{u},\mathbf{v},\mathbf{w} \in V$かつ$a,b \in \mathbb{R}$¹であるとき、
ベクトル同士の和とベクトルの実数倍を定義することができて、それらについて

1. $\mathbf{u} + \mathbf{v} = \mathbf{v} + \mathbf{u}$
2. $(\mathbf{u}+\mathbf{v})+\mathbf{w} = \mathbf{u}+(\mathbf{v}+\mathbf{w})$
3. $a(b\mathbf{u}) = (ab)\mathbf{u}$
4. $(a+b)\mathbf{u} = a\mathbf{u} + b\mathbf{u}$
5. $a(\mathbf{u} + \mathbf{v}) = a\mathbf{u} + a\mathbf{v}$
6. $1\mathbf{u} = \mathbf{u}$

が成り立ち、また、

7. $0\mathbf{u} = \mathbf{0}$
8. $\mathbf{u} + \mathbf{0} = \mathbf{u}$

を満たす$\mathbf{0} \in V$なるベクトル$\mathbf{0}$が存在するとき、
「$V$を$\mathbb{R}$上のベクトル空間である」であるといい、$V$の元(要素)を「ベクトル」であると定める。

もちろん高校までに習得するベクトルも上記に定義した新たな「ベクトル」に含まれるほか、「実数を係数とする$n$次以下の多項式($n$は正の整数)」や「$(a,b)$で連続な実数値関数²」もベクトル空間を作る集合である。

Fourier級数展開では後者を取り上げる。
$(a,b)$で連続な実数値関数全体がなす集合を$C(a,b)$とおいておく。
$C(a,b)$に含まれる関数同士の和を、たとえば任意の$x \in (a,b)$において$f(x)$と$g(x)$に対して$f(x)+g(x)=h(x)$であるならば関数$f,g,h$の間の和の関係を$f+g=h$であると定めることができる。
同様に関数の定数倍を、実数$a \in \mathbb{R}$と関数$f \in C(a,b)$に対し、任意の$x \in (a,b)$において$af(x)$を考えることで関数の定数倍$af$を定めることができる。

1次結合・1次独立

$C(a,b)$の要素が「ベクトル」であるから、1次結合・1次独立を自然に拡張したいが、これはごく自然に拡張できる。

ある集合$V$に含まれるベクトル$\mathbf{v}$が同じく$V$のベクトル$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$と実数$c_1,c_2,c_3, ... ,c_n$を用いて、

$\mathbf{v}=c_1\mathbf{u}_1+c_2\mathbf{u}_2+c_3\mathbf{u}_3+ ... +c_n\mathbf{u}_n$

と表せるとき、$\mathbf{v}$は$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$の1次結合で書けるといえる。

また、$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$について、
$c_1\mathbf{u}_1+c_2\mathbf{u}_2+c_3\mathbf{u}_3+ ... +c_n\mathbf{u}_n=\mathbf{0}$ならば$c_1=0,c_2=0,c_3=0, ... ,c_n=0$であり、かつそれに限るとき、$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$は1次独立であるという。

基底

高校までのベクトルでは「基本ベクトル」というものを習った。それは、たとえば3次元空間において$e_1=(1,0,0),e_2=(0,1,0),e_3=(0,0,1)$というような座標軸の目盛りとなるベクトルである。

これから議論するベクトル空間にも座標があると話がしやすい。そこで、基本ベクトルの観念も拡張することを考える。それが「基底」である。

ベクトル空間$V$と、その中に含まれるベクトル$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$について、

1. $\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$は1次独立であること

2. $V$に含まれるあらゆるベクトルが$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$の1次結合で書けること

この2つを満たすような$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$をベクトル空間$V$の「基底」と呼ぶ。

内積

さて、前もって述べてしまえばわれわれは慣れ親しんだ直交座標系を取りたい。しかし、たとえばFourier級数展開で用いる「$(a,b)$で連続な実数値関数」において『直交座標系』とはなんであろうか？ そのためには直交を、そして内積を定める必要がある。

冒頭のベクトルの性質のように、内積にも満たされるべき性質がある。$\mathbb{R}$上のベクトル空間$V$にある2つのベクトル$\mathbf{u}, \mathbf{v}$と実数<$\mathbf{u}, \mathbf{v}$>を対応させる内積< , >は以下の条件を満たす。

$\mathbf{u},\mathbf{u'},\mathbf{v} \in V$ かつ
$c \in \mathbb{R}$として、

1. <$\mathbf{u}+\mathbf{u'}, \mathbf{v}$> = <$\mathbf{u}, \mathbf{v}$> + <$\mathbf{u'}, \mathbf{v}$>
2. <$c\mathbf{u}, \mathbf{v}$> = $c$<$\mathbf{u}, \mathbf{v}$>
3. <$\mathbf{v}, \mathbf{u}$> = <$\mathbf{u}, \mathbf{v}$>
4. $\mathbf{u} \neq \mathbf{0}$ならば<$\mathbf{u}, \mathbf{u}$>$>0$

このような内積を持つベクトル空間のことを特に「内積空間」と呼ぶ。

高校までに習ったような概念は拡張されて同様に成り立つ。

たとえばベクトル$\mathbf{a}$の長さ(絶対値)は「ノルム」と名前がついて$||\mathbf{a}||^2=$<$\mathbf{a},\mathbf{a}$>$(||\mathbf{a}||>0)$と定義されるし、2つの位置ベクトル$\mathbf{a},\mathbf{b}$が示す点の間の距離も$||\mathbf{a}-\mathbf{b}||$で定義される。

また、高校までに習得したような、
内積空間$\mathbb{R}^n$の2つのベクトル$\mathbf{a} =\begin{pmatrix}a_1 \\ a_2 \\ \vdots \\ a_n \end{pmatrix}, \mathbf{b}=\begin{pmatrix}b_1 \\ b_2 \\ \vdots \\ b_n \end{pmatrix}$に対して、<$\mathbf{a},\mathbf{b}$>$=a_1b_1+a_2b_2+...+a_nb_n$を対応させるような内積を$\mathbb{R}^n$の「標準内積」と呼ぶ。

なお、$\mathbb{C}$上の¹ベクトル空間$V$にある2つのベクトル$\mathbf{u}, \mathbf{v}$と実数<$\mathbf{u}, \mathbf{v}$>を対応させる内積< , >は、

$\mathbf{u},\mathbf{u'},\mathbf{v} \in V$
$c \in \mathbb{C}$として、

1. <$\mathbf{u}+\mathbf{u'}, \mathbf{v}$> = <$\mathbf{u}, \mathbf{v}$> + <$\mathbf{u'}, \mathbf{v}$>
2. <$c\mathbf{u}, \mathbf{v}$> = $c$<$\mathbf{u}, \mathbf{v}$>
3. <$\mathbf{v}, \mathbf{u}$> = <$\mathbf{u}, \mathbf{v}$>$^\dag$³
4. $\mathbf{u} \neq \mathbf{0}$ならば<$\mathbf{u}, \mathbf{u}$>$>0$

を満たす。これを特に「エルミート内積」と呼ぶ。

さて、われわれは関数たちがなすベクトル空間$V$において内積を考えたいのであった。
$f,g \in V$であるとき、内積<$f,g$>を

<$f,g$> $= \int_a^b f(x)g(x)dx$

とすると、これは上の内積の条件(「内積の公理」と呼ぶ)に従う。(もちろん、この積分が計算できるかどうかをのちに考えることになる。)

そこで、高校で習得した「ベクトルの直交」をこのような形の内積にも拡張することにしよう。つまり、高校までではベクトルの直交と<$f,g$>$=0$を同値としていたが、ベクトルの概念を拡張するにあたって幾何的な直交の概念に頼るのは不便だから、

<$f,g$>$=0$

の方から「直交」を定義することにしよう。

正規直交基底・正規直交関数系

基底{$\mathbf{u}_1, \mathbf{u}_2, \mathbf{u}_3, ... ,\mathbf{u}_n$}について、$1 \leq i, j \leq n$のとき、自分自身以外のすべての基底に対し直交しているとき、その基底は「直交基底」と呼ばれる。さらに、自分自身との内積、すなわち『長さ』の2乗が1に等しくなる場合、
つまり、内積<$\mathbf{u}_i, \mathbf{u}_j$>が

<$\mathbf{u}_i, \mathbf{u}_j$>$\space = \left\{\begin{array}{cl}1 & (i=j) \\ 0 & (i\neq j)\end{array}\right.$

を満たすとき、その基底は「正規直交基底」と呼ばれる。
ここで「クロネッカーのデルタ」という記号を

$\delta_{ij}= \left\{\begin{array}{cl} 1 & (i=j) \\ 0 & (i\neq j) \end{array}\right.$

と定義しておくと、先ほどの条件は

<$\mathbf{u}_i, \mathbf{u}_j$>$=\delta_{ij}$

と簡単に書ける。

ここで例として、$\mathbb{R}^n$が正規直交基底であることから標準内積の形が自然に導かれることと、いわゆるピタゴラスの定理が成り立つことを示す。

まず前者について、内積空間$\mathbb{R}^n$の2つのベクトル$\mathbf{a} =\begin{pmatrix}a_1 \\ a_2 \\ \vdots \\ a_n \end{pmatrix}, \mathbf{b}=\begin{pmatrix}b_1 \\ b_2 \\ \vdots \\ b_n \end{pmatrix}$を再び用意する。

さて、正規直交基底{$e_1,e_2,...,e_n$}を用いてこの2つのベクトルを表すと、

$\mathbf{a} = a_1e_1+a_2e_2+...+a_ne_n$
$\mathbf{b} = b_1e_1+b_2e_2+...+b_ne_n$

だから、内積を「積」と捉える高校の記法「$\cdot$」を再び採用すれば、

$\mathbf{a} \cdot \mathbf{b}$
$= (a_1e_1+a_2e_2+...+a_ne_n)(b_1e_1+b_2e_2+...+b_ne_n)$
$=a_1e_1(b_1e_1+b_2e_2+...+b_ne_n)$
　$+a_2e_2(b_1e_1+b_2e_2+...+b_ne_n)$
　$...+a_ne_n(b_1e_1+b_2e_2+...+b_ne_n)$

となるはずだ。ところでいま、{$e_1,e_2,...,e_n$}は正規直交基底であったから、最初の項は$e_1$を含む項以外は$0$になるし、第2項も$e_2$を含む項以外は$0$になる。そして同様に第$n$項について$e_n$を含む項以外は$0$になる。
よって、

$\mathbf{a} \cdot \mathbf{b}=a_1e_1b_1e_1+a_2e_2b_2e_2+...+a_ne_nb_ne_n$

であり、正規直交基底より$e_i \cdot e_i = 1$であるから、

$\mathbf{a} \cdot \mathbf{b}=1a_1b_1+1a_2b_2+...+1a_nb_n$
　　$=a_1b_1+a_2b_2+...+a_nb_n$

となって標準内積に一致することが無事示せた。

次に後者について、ベクトル$\mathbf{a} =\begin{pmatrix}a_1 \\ a_2 \\ \vdots \\ a_n \end{pmatrix}$を用意すると、示したいものは

$||f||^2=\sum\limits^n_{k=1}$<$f,g_k$>$^2+||f-\sum\limits^n_{k=1}$<$f,g_k$>$g_k||^2$　である。今回の関心ではあるが、成立するということだけを述べて、証明は⁴に譲る。

ここで関数に話を戻すと、(内積空間をなす)関数の集合{$f_1, f_2, f_3, ... ,f_n$}に関して$1 \leq i, j \leq n$のとき

<$f_i, f_j$>$=\delta_{ij}$

を満たすならばその関数の集合を「正規直交関数系」と呼ぶ。

ヒルベルト空間

あるベクトル空間$V$が与えられた内積から計算できる「距離」に関する任意のコーシー列が収束列になるとき、距離に関して空間は「完備」であるといい、完備なベクトル空間(内積空間でもある)のことを「ヒルベルト空間」と呼ぶ。

この部分は今回の関心ではないので省略する。⁵

Fourier級数展開で採用する関数系

三角関数の周期は$2\pi$であり、$0$が中心にあると何かと便利であるから、
ベクトル空間を$(-\pi,\pi)$で連続な実数値関数全体の集合と取りたいところだが、そうはいかない。

直交や内積の性質をうまく活用するためには、きちんと内積が定義できなければならない。そのため、自分自身との内積が計算できるように、内積空間を定められる関数は2乗可積分でなければならない。また、

収束性や一意性、完全性⁴などの詳しい議論は⁵に譲る。

譲ったところで、Fourier級数展開というものは$(-\pi,\pi)$上の完全な⁴正規直交基底(正規直交関数系)による展開であり、正規化した内積を定めたがゆえにクロネッカーのデルタが登場する。この級数展開の意義として、無限次元の中で関数の位置をたった1つに指定でき、なおかつ計算が簡単で線型的な便利な性質を持つような座標を取ることができるというのがFourier級数展開の興味深いところである、ということを主張して締めくくる。

脚注

参考文献

面倒がってあちこち論理を飛ばしながら書いたので、これらを読んでもらえるとなにを書きたかったのかわかるかもしれない。(それは文章のありようとしていいのか？)

完備な内積空間（ヒルベルト空間）・完全正規直交系とフーリエ級数

EMANの物理学 - 物理数学 - 内積空間

EMANの物理学 - 物理数学 - 直交関数系

EMANの物理学 - 物理数学 - 線型空間

三角関数の直交性とフーリエ級数