Bài giảng Kinh tế lượng - Chương 2: Mô hình hồi qui hai biến (Ước lượng và kiểm định giả thuyết) - Phạm Văn Minh

Chương 2 MÔ HÌNH HỒI QUI HAI BIẾN Ước lượng và Kiểm định Giả thuyết 1 Phạm Văn Minh biên soạn NỘI DUNG 1. Vấn đề ước lượng. 2. Phương pháp bình phương tối thiểu thông thường (OLS). 3. Các tính chất thống kê của hàm ước lượng OLS. 4. Các giả thiết của OLS. 5. Phương sai, sai số chuẩn của các ước lượng. 2 Phạm Văn Minh biên soạn
Nhiệm vụ quan trọng là ước lượng chính xác tối đa PRF dựa trên cơ sở hàm hồi qui mẫu SRF.
Có nhiều phương pháp xây dựng hàm SRF và phổ biến nhất là phương pháp bình phương tối thiểu thông thường (Ordinary Least Square) do Carl Friedrich Gauss, một nhà toán học người Đức, đưa ra.
Đây cũng là phương pháp chính được sử dụng trong môn học này. 1. Vấn đề ước lượng 3 Phạm Văn Minh biên soạn Phân tích hồi quy giải quyết các vấn đề sau đây: 1. Ước lượng giá trị trung bình của biến phụ thuộc với giá trị đã cho của biến độc lập. 2. Kiểm định giả thiết về bản chất của sự phụ thuộc. 3. Dự đoán giá trị trung bình của biến phụ thuộc khi biết giá trị đã cho của biến độc lập. 2. Phương pháp Bình phương tối thiểu thông thường (OLS) 4 5
Giả sử chúng ta muốn ước lượng hàm hồi qui tổng thể sau:  Nhưng do không thể quan sát trực tiếp được mà có thể ước lượng từ hàm SRF  Với n cặp quan sát X và Y, ta muốn xác định bằng cách nào đó để nó gần nhất với giá trị thực của Y. Để làm được điều này ta phải chọn SRF sao cho tổng các phần dư càng nhỏ càng tốt. 1 2i i iY X uβ β= + + iii uYY )) += iii YYu )) −= iii XYu 21 ββ ))) −−= )( iii YYu )) −=∑∑ 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) Phạm Văn Minh biên soạn 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 6 SRF: ii XY 21 ββ ))) += Hình 2.1 Phạm Văn Minh biên soạn 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 7 iu ) ei ≡ SRF: ii XY 21 ββ ))) += Hàm hồi quy mẫu Hình 2.2 Phạm Văn Minh biên soạn 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 8 ii XY 21 ββ ))) += iu ) Hình 2.3 Tương đương với Hình 2.2 9
Hình vẽ trên cho thấy rõ các giá trị ước lượng của ui (biến đổi, khi âm khi dương). Nghĩa là, các quan sát phân tán xung quanh SRF. Như vậy thì tổng các phần dư ei sẽ rất nhỏ và do đó việc tìm cực tiểu của tổng này không dễ dàng.
Tại sao không tìm ∑e 0 (?)
Thay vào đó, phương pháp bình phương tối thiểu thông thường khẳng định rằng hàm SRF có thể được xác định theo cách để tổng bình phương các phần dư đạt min. 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 10  Tìm ∑ei2 0: Phương pháp bình phương bé nhất Điều kiện để phương trình trên đạt cực trị là: ( )2 1 21 1 2 ˆˆ∑∑ == −−= n i ii n i i XYe ββ ( ) 0e2XˆˆY2 ˆ e n 1i i n 1i i21i 1 n 1i 2 i =−=β−β−−=β∂      ∂ ∑∑ ∑ == = 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 11 Giải hệ phương trình trên, ta thu được: XY 21 ˆˆ ββ −= ∑ ∑ = = − − = n i i n i ii XnX YXnYX 1 22 1 2 ).( .. ˆβ XXx ii −= YYy ii −= ∑ ∑ = = =β n 1i 2 i n 1i i i 2 x x y ˆ Đặt  2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) Lưu ý: SV sửa công thức tính Bêta2-mũ (2.6, tr.26) lại như sau: Phạm Văn Minh biên soạn Ý nghĩa của Hệ số hồi quy: : là Hệ số chặn hay Tung độ gốc, cho biết giá trị trung bình của biến phụ thuộc (Y) là bao nhiêu khi biến độc lập (X) nhận giá trị 0. [lưu ý: đôi khi hệ số này không có ý nghĩa] : là Hệ số góc hay Độ dốc đường hồi quy tuyến tính mẫu, cho biết giá trị trung bình của biến phụ thuộc (Y) thay đổi tăng/giảm bao nhiêu đơn vị khi biến độc lập (X) tăng 1 đơn vị với điều kiện các yếu tố khác không đổi. 12 2. Phương pháp Bình phương tối thiểu thông thường (OLS) (tt) 1 ˆβ 2 ˆβ Phạm Văn Minh biên soạn Stt Xi Yi XiYi X2 1 1 10 10 1 2 4 6 24 16 3 2 9 18 4 4 5 5 25 25 5 5 4 20 25 6 7 2 14 49 TỔNG 24 36 111 120 13 Ví dụ 2.1: Quan sát sự biến động của nhu cầu gạo Y (tấn/tháng) vào đơn giá X (ngàn đồng/kg) ta được các số liệu cho ở bảng sau. Hãy lập mô hình hồi quy mẫu biểu diễn sự phụ thuộc về nhu cầu vào giá gạo. 2. PP BPTTTT (OLS) (tt) Thực hành ước lượng hệ số hồi quy Lưu ý: SV áp dụng công thức đã biết để tính toán các hệ số Bêta-mũ trước khi xem đáp án ở slide kế tiếp, GV sẽ kiểm tra kết quả bằng Eviews/ Excel. 14 2. PP BPTTTT (OLS) (tt) Thực hành ước lượng hệ số hồi quy (tt) Giả sử mô hình hồi quy mẫu là: ii XY 21 ˆˆˆ ββ += 4 6 24 ==X 6 6 36 ==Y 375,1)4.(6120 6.4.6111 ).( .. ˆ 2 1 22 1 2 −= − − = − − = ∑ ∑ = = n i i n i ii XnX YXnYX β 5.114).375,1(6ˆˆ 21 =−−=−= XY ββ , 15 2. PP BPTTTT (OLS) (tt) Thực hành ước lượng hệ số hồi quy (tt) Như vậy, ta có mô hình hồi quy mẫu:  X và Y có quan hệ nghịch biến. Ý nghĩa các hệ số: * = 11,5: nhu cầu tối đa là 11,5 tấn/tháng. * = -1,375: khi giá tăng 1000 đồng/kg thì nhu cầu trung bình sẽ giảm 1,375 tấn/tháng với các yếu tố khác trên thị trường không đổi. ii XY .375,15,11ˆ −= 1 ˆβ 2 ˆβ Phạm Văn Minh biên soạn 16 2. PP BPTTTT (OLS) (tt) Thực hành ước lượng hệ số hồi quy (tt) Kết quả từ Eview Phạm Văn Minh biên soạn (1) Ứng với n cặp quan sát (Xi, Yi), i = 1, 2, , n thì được xác định một cách duy nhất. (2) là các ước lượng điểm của . (3) là các đại lượng ngẫu nhiên. Ứng với các mẫu khác nhau, chúng có giá trị khác nhau. 17 3. Các tính chất thống kê của hàm ước lượng OLS Tính chất của 21,ββ )) 21,ββ )) 21,ββ )) 21,ββ )) 21,ββ Phạm Văn Minh biên soạn (1) SRF đi qua trung bình mẫu , nghĩa là (2) Giá trị trung bình của
 bằng giá trị trung bình của các quan sát: (3) Giá trị trung bình của phần dư bằng 0: (4) Phần dư không tương quan với , nghĩa là (5) Phần dư không tương quan với Xi, nghĩa là 3. Các tính chất thống kê của hàm ước lượng OLS ( ),X Y XY 21 ββ )) += Xem chứng minh ở phụ lục 1B.c (SGK, tr. 309)
 
   = 0    = 0 1    = 0 Phạm Văn Minh biên soạn 4. Các giả thiết của OLS (hay của mô hình hồi quy tuyến tính cổ điển) Chất lượng của các ước lượng phụ thuộc vào: (a) Dạng hàm của MH được lựa chọn; (b) Xi và Ui; (c) Kích thước mẫu. Sau đây là các giả thiết đối với Xi và Ui. Với các giả thiết này thì các ước lượng tìm được bằng PP OLS sẽ là ước lượng TUYẾN TÍNH, KHÔNG CHỆCH & có PHƯƠNG SAI NHỎ NHẤT. Giả thiết 1: Các biến giải thích (Xi) là phi ngẫu nhiên tức là các giá trị của chúng được cho trước hoặc được xác định. (Vì Phân tích hồi quy có điều kiện) 19 Phạm Văn Minh biên soạn 4. Các giả thiết của OLS (tt) 20 Giả thiết 2: Kỳ vọng của Ui bằng 0, tức là Giả thiết 3: Các ui có phương sai bằng nhau (phương sai thuần nhất) [ ] [ ] 2varvar δ== ijii XuXu Homoscedasticity 21 4. Các giả thiết của OLS (tt) PHƯƠNG SAI là "trung bình của bình phương khoảng cách của mỗi điểm dữ liệu tới trung bình“. Heteroscedasticity PHƯƠNG SAI THAY ĐỔI (vi phạm giả thiết 3) 4. Các giả thiết của OLS (tt) Giả thiết 4: Không có tự tương quan giữa các ui: 4. Các giả thiết của OLS (tt) [ ] [ ] 0,,cov == jijijiji XXuuEXXuu Giả thiết 5: Không tự tương quan giữa ui với Xi: Cov (ui,Xi) = 0 4. Các giả thiết của OLS (tt) Phạm Văn Minh biên soạn Đa cộng tuyến Phạm Văn Minh biên soạn Định lý Gauss-Markov Với 5 giả thiết trên của mô hình hồi quy tuyến tính cổ điển, mô hình hồi quy tuyến tính theo phương pháp bình phương tối thiểu là ước lượng TUYẾN TÍNH KHÔNG CHỆCH TỐT NHẤT (BLUE) BLUE = Best Linear Unbiased Estimator (Chứng minh BLUE: SGK trang 305) 4. Các giả thiết của OLS (tt) 4. Các giả thiết của OLS (tt)   = (
),  = (
) Tuyến tính Không chệch Tốt nhất    =  ,   =  Phạm Văn Minh biên soạn Giả thiết bổ sung (Gujarati, 1995): Giả thiết 6: Mô hình là tuyến tính theo tham số. Giả thiết 7: Số quan sát n lớn hơn số tham số của mô hình. Giả thiết 8: Giá trị của X không được đồng nhất (bằng nhau) ở tất cả các quan sát. Giả thiết 9: Mô hình được xác định đúng. Giả thiết 10: Không tồn tại đa cộng tuyến hoàn hảo giữa các biến giải thích. 4. Các giả thiết của OLS (tt) Mô hình hồi quy tuyến tính (LRF) Hồi quy tuyến tính chỉ yêu cầu tuyến tính theo các tham số, không yêu cầu tuyến tính theo biến số.  Mô hình là mô hình tuyến tính theo các tham số nhưng phi tuyến theo biến số.  Mô hình là mô hình phi tuyến theo các tham số nhưng tuyến tính theo biến số. Hồi quy tuyến tính theo OLS chỉ chấp nhận dạng mô hình tuyến tính trong tham số. iuX Y ++= 121 ββ iuXY +−+= 2 21 )1( ββ 4. Các giả thiết của OLS (tt) Phạm Văn Minh biên soạn 4. Các giả thiết của OLS (tt) Nếu các giả thiết trên BỊ VI PHẠM thì mô hình ta phân tích được xem là đang “MẮC BỆNH”. Từng căn bệnh và hướng khắc phục sẽ được trình bày trong các chương 6, 7, 8, v.v. Các giả thiết trên thực tế đến mức nào? Các giả thiết tuy không phản ánh hết thực tiễn nhưng là khởi đầu đơn giản và cung cấp một nền tảng quan trọng nhằm ước lượng và dự đoán các vấn đề khác phức tạp hơn nhiều trong tự nhiên và xã hội. 30 Phạm Văn Minh biên soạn 1 ˆβ 2ˆβ Phương sai (Variance) 5. Phương sai, sai số chuẩn của các ước lượng Sai số chuẩn (Standard error) Ước lượng ( ) 2 1 2 1 2 1 ˆvar σβ ∑ ∑ = = = n i i n i i xn X ( ) ∑ = = n i ix 1 2 2 2 ˆvar σβ ( )11 ˆvar)ˆ( ββ =se ( )22 ˆvar)ˆ( ββ =se Trong đó: )var(2 iU=σ Phạm Văn Minh biên soạn Var(Ui) được dùng để ước lượng cho σ2 và dùng ước lượng không chệch là: 5. Phương sai, sai số chuẩn của các ước lượng (tt) 2 ˆ 1 2 2 − = ∑ = n e n i i σ Xem chứng minh ở phụ lục 1B (SGK, tr. 307) 2 ˆˆ σσ = Là sai số chuẩn của hồi quy, chính là: S.E. of Regression trong bảng kết quả Excel, Eviews.