Bài giảng 31: Phân tích giá trị kỳ dị (tiếp theo)
(Nếu công thức chưa load được hoặc mờ, các bạn ấn refresh để công thức hiện và rõ nét hơn nhé!)
Phân tích của ma trận bao gồm một ma trận “chéo”
kích thước
có dạng
(3)
trong đó là một ma trận chéo kích thước
, với
không vượt quá giá trị nhỏ hơn trong hai số
và
. (Nếu
bằng
,
, hoặc cả hai, thì một phần hoặc toàn bộ các ma trận không phải
trong
sẽ không xuất hiện.)
Định lý 10 Phân tích giá trị kỳ dị
Cholà một ma trận
có hạng
. Khi đó tồn tại một ma trận
ký hiệu là
, như trong biểu thức (3), sao cho các phần tử trên đường chéo của ma trận
là
giá trị kỳ dị đầu tiên của
, thỏa mãn
,
và tồn tại hai ma trận trực chuẩn: ma trậnkích thước
và ma trận
kích thước
, sao cho
Bất kỳ phân tích nào có dạng , trong đó
và
là ma trận trực chuẩn,
có dạng như trong (3), và các phần tử trên đường chéo của
là các số dương, đều được gọi là phân tích giá trị kỳ dị của
. Các ma trận
và
trong phân tích này không được xác định duy nhất bởi
, nhưng các phần tử đường chéo của
thì nhất định là các giá trị kỳ dị của
. Các cột của
được gọi là vector kỳ dị trái của
, và các cột của
được gọi là vector kỳ dị phải của
.
Chứng minh: Gọi và
như trong định lý 9, sao cho tập
là một cơ sở trực giao cho không gian cột của
. Chuẩn hóa từng vector
để thu được một cơ sở trực chuẩn
, trong đó:
và do đó:
(4)
Tiếp theo, mở rộng tập thành một cơ sở trực chuẩn đầy đủ
của
, và đặt:
Theo cách xây dựng, và
là ma trận trực chuẩn. Ngoài ra, từ biểu thức (4), ta có:
Gọi là ma trận chéo với các giá trị trên đường chéo là
, và ký hiệu
là ma trận như trong biểu thức (3) ở trên. Khi đó:

Vì là ma trận trực giao nên
.
Hai ví dụ tiếp theo tập trung vào cấu trúc bên trong của một phân tích giá trị kỳ dị. Một thuật toán hiệu quả và ổn định về mặt số học để thực hiện phân tích này sẽ sử dụng một phương pháp khác. Xem Ghi chú Số học.
Ví dụ 3: Sử dụng kết quả của ví dụ 1 và 2 để xây dựng một phân tích giá trị kỳ dị của ma trận .
Giải: Việc xây dựng có thể được chia thành ba bước.
Bước 1: Tìm phân tích trực giao đường chéo của . Tức là, tìm các giá trị riêng của
và một tập hợp trực chuẩn các vectơ riêng tương ứng. Nếu
chỉ có hai cột thì có thể thực hiện bằng tay. Với các ma trận lớn hơn, thường cần dùng chương trình xử lý ma trận. Tuy nhiên, với ma trận
trong ví dụ này, dữ liệu riêng của
đã được cung cấp ở Ví dụ 1.
Bước 2: Thiết lập ma trận và
. Sắp xếp các giá trị riêng của
theo thứ tự giảm dần. Trong ví dụ 1, các giá trị riêng đã được liệt kê sẵn theo thứ tự giảm dần:
và
. Các vectơ riêng đơn vị tương ứng,
, là các vectơ riêng phải của
. Dựa vào ví dụ 1, ta xây dựng:
Căn bậc hai của các giá trị riêng là các giá trị kỳ dị:
Các giá trị kỳ dị khác 0 là các phần tử đường chéo của ma trận . Ma trận
có cùng kích thước với
, chứa
ở góc trên bên trái và các phần tử còn lại là 0.
Bước 3. Xây dựng ma trận . Khi
có hạng
,
cột đầu tiên của
là các vectơ chuẩn hóa từ
. Trong ví dụ này,
có hai giá trị kỳ dị khác 0, nên
. Nhớ rằng từ công thức (2) và đoạn văn trước ví dụ 2, ta có:
Vậy nên:
Ta thấy đã tạo thành một cơ sở cho
, nên không cần thêm vectơ nào nữa. Vậy ta có:
Phân tích giá trị kỳ dị của là:
Ví dụ 4: Tìm một phân tích giá trị kỳ dị của .
Giải: Trước tiên, tính . Các giá trị riêng của
là 18 và 0 với các vectơ riêng đơn vị tương ứng là
Các vectơ đơn vị này tạo thành các cột của ma trận :
Các giá trị kỳ dị là và
. Vì chỉ có một giá trị kỳ dị khác 0, “ma trận” D có thể viết thành một số duy nhất. Tức là,
. Ma trận
có cùng kích thước với
, với
nằm ở góc trên bên trái:
Để xây dựng , đầu tiên tính
và
:
Để kiểm tra lại phép tính, hãy xác minh rằng . Tất nhiên,
vì
. Cột duy nhất đã tìm được cho
cho đến lúc này là:
Các cột còn lại của được tìm bằng cách mở rộng tập
thành một cơ sở trực chuẩn cho
. Trong trường hợp này, ta cần hai vectơ đơn vị trực giao
và
, sao cho chúng trực giao với
. Xem Hình 3.

Mỗi vectơ phải thỏa mãn , tương đương với phương trình
. Một cơ sở cho tập nghiệm của phương trình này là:
(Hãy kiểm tra rằng và
đều trực giao với
.) Áp dụng quá trình Gram–Schmidt (kèm theo chuẩn hóa) lên
, ta được:
Cuối cùng, đặt , lấy
và
từ trên, và viết:
- 1 - Bài giảng 23: Xử lý ảnh đa kênh
- 2 - Bài giảng 24: Chéo hóa ma trận đối xứng
- 3 - Bài giảng 25: Phân tích phổ
- 4 - Bài giảng 26: Dạng Toàn Phương
- 5 - Bài giảng 27: Một góc nhìn hình học về các trục chính
- 6 - Bài giảng 28: Phân loại Dạng Toàn Phương
- 7 - Bài giảng 29: Tối ưu hóa có ràng buộc
- 8 - Bài giảng 30: Phân tích giá trị kỳ dị (Singular Value Decomposition)
- 9 - Bài giảng 31: Phân tích giá trị kỳ dị (tiếp theo)
- 10 - Bài giảng 32: Ứng dụng của Phân Tích Giá Trị Kỳ Dị (SVD)
- 11 - Bài giảng 33: Ứng dụng PCA (SVD) trong Xử Lý Ảnh và Thống Kê
- 12 - Bài giảng 34: Trung bình và hiệp phương sai
- 13 - Bàigiảng 35: Phân tích thành phần chính
- 14 - Bài giảng 36: Giảm số chiều của dữ liệu đa biến