內積與正交

內積 (inner product) $\mathbf{u}\cdot\mathbf{v} = \sum u_iv_i$ 把幾何帶進向量空間:長度 $\|\mathbf{u}\| = \sqrt{\mathbf{u}\cdot\mathbf{u}}$、非零向量的夾角 $\cos\theta = \frac{\mathbf{u}\cdot\mathbf{v}}{\|\mathbf{u}\|\|\mathbf{v}\|}$、正交 (orthogonal) ⟺ 內積為 0。

算例:$(1,2,2)$ 長度 3;$(1,2,2)\cdot(2,-1,0) = 0$,兩向量垂直。要讓 $(1,3,k)$ 與 $(2,1,-1)$ 正交:$2 + 3 - k = 0$,$k = 5$。

Cauchy–Schwarz 不等式 $|\mathbf{u}\cdot\mathbf{v}|\le\|\mathbf{u}\|\|\mathbf{v}\|$ 保證 $\cos\theta$ 落在 $[-1,1]$。不含零向量的正交向量組一定線性獨立,正交基底讓座標計算變成一堆內積。

內積的抽象版本(函數空間的 $\int fg$)是 Fourier 級數、最小平方法、相關係數(就是標準化向量的餘弦)的共同語言。