Linear Algebra - Ch3 Vector Spaces

Chapter 3   Vector Spaces

3.1   Vector Spaces

• Vector Spaces Axioms Definition 
1. 加法交換性：x + y = y + x —> ex : 減法不滿足交換性
2. 加法結合性：(x + y) + z = x + (y + z)
3. 加法單位元素：x + 0 = x —> ex : (x1,y1) + (x2,y2) = (x,0); x+y = min(x,y) 皆不存在零向量
4. 加法反元素：x + (-x) = 0 
5. 乘法分配性[1]：a(x + y) =ax + ay
6. 乘法分配性[2]：(a + b) x = ax + bx —> ex : 對係數操作者可能不滿足乘法分配性2
7. 乘法結合性：(a b)x = a(bx) 
8. 乘法單位元素：1x = x
• 9. 10. 加法純量積封閉性
• 常見的vector spaces
• 歐式空間
• 矩陣空間
• 多項式空間
• 函數空間：Cⁿ : 微分n次的都是Cⁿ的子空間

3.2   Subspaces

• 子空間的充要條件：所有a, b ∈ F , u, v ∈ W   則ax + by ∈W
  也就是說子空間只需驗證加法與純量積封閉性
• 子空間的必要條件：可用0 ∈ W,  -v ∈ W 快速判斷
• W₁與W₂之關係
• W₁, W₂為V的子空間，則W₁ ∩ W₂ 亦為V的子空間 (聯集不一定是!)
• W₁ ∪ W₂為V的子空間，則W₁⊆ W₂ 或 W₂  ⊆ W₁ 
• 和空間：W₁ + W₂與兩者聯集不同，W₁ + W₂ = (w₁ + w₂ | w₁ ⊆ W₁, w₂ ⊆ W₂)W₁ + W₂ = Span(S₁ ∪ S₂)，即Span(S₁) + Span(S₂) = Span(S₁ ∪ S₂)
• 基本子空間
• 行空間：CS(A) = { Ax | x ∈ F^nx1 }，注意該子空間張在對應域
• 核空間：ker(A) = { x ∈ F^nx1 | Ax = 0 }，注意該子空間張在定義域
• y = (AB)x = A(Bx) ⊆ CS(A) 所以CS(AB)⊆CS(A)  
  又兩者皆為R的subspace, 所以CS(AB)為CS(A)的subspace

3.3   Span and Linear Combination

• linear combination：v  = a₁v₁ + a₂v₂ + … + a_nv_n
• span(S)：把某一組基底所有可能linear combination合成的向量收集起來 (把S的subspace補起來)
• span(S)為V的subspace 
• span(S)為包含S的minimum subspace
• 如果S已經為V的subspace, 則span(S) = S
• span(∅) = {零空間} , 因為任何subspace包含nullspace(kernel)
• S1⊆S2 則 span(S1)⊆span(S2)
• Span(S)題目：用定義做！
• ex : 
• 1a + 3b + -2c = 4
• -2a + -7b + 1c = 9
• 3a + 10b + 9c = 19
• *列運算後行向量之線性組合關係式不變，kernel不變
• linear independent  
• 概念：一個有無冗員的概念
• 定義：v  = a₁v₁ + a₂v₂ + … + a_nv_n 時，a₁ = a₂ = … = a_n=0
• 矩陣版定義：當Ax = 0 (homogeneous) 時, x這個向量一定全為零，只有在A是singular時，上述會成立
• Wronskian matrix
• 只要Wronskian matrix不等於0都是獨立
• 但Wronskian matrix為0不一定是相依，因此沒獲得任何情報

3.4   Basis and Dimension

• basis 和 dimension
• 定義：span(b) = V，b linear independent，則稱b為V的一組basis，且稱b的元素個數為V的dimension = dim(V)
• 性質
• basis的每個vector對生成都有幫助
• 任一組basis的向量個數必定唯一，但不只有唯一一組
• 所有向量空間都有基底
• 所有在V中的向量，都可以唯一寫成V的basis的線性組合

                                        生成
vector個數高至低: ————————  basis (min spanning set / max LI set)
                                     線性獨立

• 三個獨立生成相關的定理
• 生成剪裁定理：多的 (造成dependent的vector) 幹掉
• 獨立擴增定理：可找到u不屬於span(S)，讓span(S)加上u仍independent，可一直加直到又independent又生成V
• Steinitz代換定理：W為V的subspace dim(W) = 5, dim(V) = 7，W每一組basis皆可加某2個vector形成V的1個basis，(但V減回去不行)
• 可逆的充要條件
• ker(A) = {0}
• A為行獨立，即A的行向量為線性獨立 (F的basis)
• A行生成F^nx1，即A的行向量生成F^nx1
• CS(A) = F^nx1
• dim(ker(A)) = 0
• dim(CS(A)) = n

• [複習] 可逆矩陣
• 矩陣必是方陣才有資格談
• 方陣的行列式|A| = 0，稱矩陣A為singular；
• 可逆矩陣就是nonsingular
• 如果A為singular，則AX=0有無窮解，AX=b有無窮解或者無解
• 如果A為nonsingular，則AX=0有且只有唯一零解，AX=b有唯一解

• 直和：假設 W₁ , W₂ , W₃ , … , W_n 為 V 的子空間，則滿足以下兩個條件稱為直和
• W₁ , W₂ , W₃ , … , W_n 為獨立子空間 （例如 W₁∩(W₂+W₃)= {0} ... 共三個等式)
  (上式等價於 dim(W₁ + W₂ + W₃ + … + W_n) = dim(W₁) + dim(W₂) + … + dim(W₃))
• V = W₁ + W₂ + W₃ + … + W_n (和生成)