Toán kinh tế - Chương 1: Mô hình hồi quy tuyến tính hai biến

Chương 1MÔ HÌNH HỒI QUY TUYẾN TÍNH HAI BIẾN Giới thiệu các khái niệm cơ bản của phân tích hồi quy thông qua mô hình hồi quy dạng đơn giản nhất: mô hình hồi quy tuyến tính 2 biến thể hiện mối quan hệ của một biến phụ thuộc và một biến độc lập1.1. Mô hình hồi quy và một số khái niệm1.2. Phương pháp bình phương nhỏ nhất (OLS)1.3. Tính không chệch và độ chính xác của ước lượng OLS1.4. Độ phù hợp của hàm hồi quy mẫu1.5. Một số vấn đề bổ sung Bài tập ứng dụngThí dụ: “Luận thuyết tiêu dùng của Keynes”Y (chi tiêu)0X ( thu nhập)E(Y/X=22)14 16 18 20 221.1. Mô hình hồi quy và một số khái niệmCác thí dụ khácMức cầu – giáTỷ lệ thay đổi của tiền lương – tỷ lệ thất nghiệpTỷ lệ tiền mặt nắm giữ trong tổng thu nhập – tỷ lệ lạm phátMức cầu – mức chi cho quảng cáoSản lượng của một loại nông sản – lượng phân bón, lượng mưa, nhiệt độ, v.v1.1. Mô hình hồi quy và một số khái niệmTổng thể Ví dụ: (1) mối quan hệ giữa chi tiêu – thu nhậpTổng thể là tất cả các hộ gia đình có chi tiêu (có hoặc không có thu nhập) đo lường bằng đơn vị tiền tệ (2) mối quan hệ giữa lao động – sản lượng trong một nhà máy ATổng thể là tất cả số lượng lao động nhà máy A đã thuê và sản lượng tương ứng từ khi nhà máy bắt đầu sản xuất đến thời điểm nghiên cứu (3) mối quan hệ giữa năng suất một loại lúa A – lượng mưa trong năm 2010Tổng thể là năng suất của giống lúa A trên tất cả các mảnh ruộng trồng và lượng mưa đo được trên các mảnh ruộng đó trong năm 2010Tổng thể X1Tổng thểTổng thể là tập hợp các phần tử chứa đựng các vấn đề nghiên cứu (các biến số, các mối liên hệ, số liệu) X2XkX4X3Mẫu ngẫu nhiênMẫu ngẫu nhiên k chiều ( k ≥ 2) kích thước n: W = {(X1i, X2i, ., Xki ), i= 1 ÷ n } W1W2Tổng thể1.1. Mô hình hồi quy và một số khái niệmMô hình hồi quy tuyến tính hai biến thể hiện mối quan hệ phụ thuộc giữa Y và X:Các biến số: Các tham số Sai số ngẫu nhiên1. Mô hình hồi quy 1.1. Mô hình hồi quy và một số khái niệmCác biến sốBiến phụ thuộc (Y): biến được giải thích (explained variable) hay biến phản ứng (response variable).Biến độc lập (X): biến giải thích (explanatory variable) hay biến điều khiển (control variable)1.1. Mô hình hồi quy và một số khái niệmSai số ngẫu nhiên (u): đại diện cho các yếu tố có tác động đến biến Y, ngoài X hay còn gọi là yếu tố không quan sát đượcCác hệ số hồi quy: thể hiện mối quan hệ giữa biến X và Y Nguyên nhân sự tồn tại của sai số ngẫu nhiên: Lý thuyết chưa đầy đủ Sự hạn chế của số liệu: không có số liệu hoặc có nhưng sai sót Tầm quan trọng của một biến Hành vi của con người có tính ngẫu nhiên Dạng hàm không đúng1.1. Mô hình hồi quy và một số khái niệm- Định nghĩa: Hàm hồi quy tổng thể là hàm số mô tả mối quan hệ giữa E(Y) và X, xác định trên toàn bộ tổng thểXét mô hình gồm biến độc lập (X) và biến phụ thuộc (Y), với giả thiết E(U| X)= 01.1. Mô hình hồi quy và một số khái niệm2. Hàm hồi quy tổng thể Xét hàm hồi quy tổng thể PRF có dạng đường thẳng: (PRF) : :Là hệ số chặn, cho biết giá trị trung bình của Y khi X=0: Là hệ số góc, cho biết khi X tăng (giảm) 1 đơn vị thì trung bình của Y sẽ thay đổi bao nhiêu và thay đổi như thế nào.1.1. Mô hình hồi quy và một số khái niệmVí dụ 1.1 (tr.26) Số liệu về PB và mức NS/ha của tổng thể gồm 30 thửa ruộng như sau:14 Nhận xét về mối quan hệ giữa: PB và năng suất TB? PB(10kg) NS(tấn/ha) 567893.8114.331224.81225.33116.313127.321E(NS|PB)4.34.85.35.86.3Kết quả hồi quy: E(NS|PB) = 1.8 + 0.5*PBCho biếtTác động của PB tới NS?Có phù hợp với lý thuyết kinh tế không? Vì sao?Ước lượng mức NS trung bình khi PB = 70kg?Ứng dụng của phân tích hồi quy?Đánh giá tác động của X tới giá trị trung bình của YKiểm nghiệm giả thuyết về mặt kinh tế của mối quan hệ giữa các biến số. Dự báo giá trị của Y khi biết giá trị của X.151.1. Mô hình hồi quy và một số khái niệm Phân tích hồi quy (regression analysis) Thuật ngữ “hồi quy” được Francis Galton sử dụng vào năm 1886. Bản chất của phân tích hồi quyLà phân tích mối liên hệ phụ thuộc giữa một biến gọi là biến phụ thuộc (dependent variable) vào một hoặc một số biến khác gọi là biến giải thích (explanatory variable) Ước lượng giá trị trung bình của biến phụ thuộc khi biết giá trị của biến độc lập, tức là phải ước lượng các tham số của mô hình. Kiểm định các giả thuyết về bản chất của mối quan hệ giữa biến phụ thuộc và biến độc lập mà lý thuyết kinh tế đưa ra. Trong trường hợp này phải trả lời hai câu hỏi: - Có tồn tại quan hệ giữa biến phụ thuộc và biến độc lập hay không? - Nếu tồn tại quan hệ thì mức độ chặt chẽ như thế nào?Dự báo giá trị trung bình của biến phụ thuộc khi biết giá trị của biến độc lập.1.1. Mô hình hồi quy và một số khái niệm1.1. Mô hình hồi quy và một số khái niệmPhân tích hồi quy và các quan hệ khác Phân tích hồi quy nghiên cứu quan hệ thống kê (statistical relationship) Ta phân biệt với các quan hệ sau:Phân tích hồi quy và quan hệ hàm số (functional relationship)Phân tích hồi quy và phân tích tương quan (correlation analysis)Phân tích hồi quy và quan hệ nhân quả (causation relationship)Phân tích hồi quy và phân tích tương quan - Phân tích tương quan + Đo mức độ kết hợp tuyến tính giữa hai biến bằng hệ số tương quan. + Các biến có tính chất đối xứng. - Trong phân tích hồi quy + Ước lượng và dự báo một biến trên cơ sở giá trị đã cho của các biến khác. + Các biến không có tính chất đối xứng.1.1. Mô hình hồi quy và một số khái niệmPhân tích hồi quy và quan hệ hàm số - Trong quan hệ hàm số: + Ứng với mỗi giá trị của biến độc lập cho duy nhất một giá trị của biến phụ thuộc. + Các biến không phải là các biến ngẫu nhiên. - Trong phân tích hồi quy + Ứng với mỗi giá trị cho trước của biến độc lập có thể có nhiều giá trị khác nhau của biến phụ thuộc. + Các biến là các biến ngẫu nhiên. 1.1. Mô hình hồi quy và một số khái niệmPhân tích hồi quy và quan hệ nhân quả - Quan hệ nhân quả là hệ hai chiều giữa hai đối tượng trong đó vai trò của các đối tượng được xác định rõ đâu là nguyên nhân và đâu là kết quả. - Trong phân tích hồi quy biến giải thích không nhất thiết là nguyên nhân gây lên biến phụ thuộc, mối quan hệ giữa các biến được xác lập tuỳ thuộc vào mục đích nghiên cứu.1.1. Mô hình hồi quy và một số khái niệmY (chi tiêu)0X ( thu nhập)(E|Y=X=22)1.1. Mô hình hồi quy và một số khái niệm1.1. Mô hình hồi quy và một số khái niệm3. Hàm hồi quy mẫuXét hàm hồi quy mẫu dạng phương trình đường thẳng:(SRF) : , :Là ước lượng các hệ số trong mô hình hồi quy tổng thểPRF vs. SRF24YE(Y|X)XSRF(1)PRFDạng của PRF xác định bởi lý thuyết kinh tế và thực tế số liệu kinh tếY X00Y X1.1. Mô hình hồi quy và một số khái niệm4. Tính tuyến tính trong mô hình hồi quyHàm hồi quy tổng thể được gọi là tuyến tính nếu hàm đó là bậc nhất với các hệ sốPhân biệt tuyến tính theo: Hệ số Biến số Cả haiCác hàm hồi quy phi tuyến có thể quy về hàm hồi quy tuyến tính (bài tập)1.1. Mô hình hồi quy và một số khái niệmTổng thể (Population)Mẫu (Sample)Sai số ngẫu nhiên UiPhần dư eiBài tập Xét các mô hình bậc nhất với hệ số và biến số: Viết phương trình hồi quy trong tổng thể và mẫu Dấu của hệ số như nào là phù hợp với lý thuyết kinh tếMô hình lượng cầu (Qd) phụ thuộc vào giá bán (P)Mô hình lượng cung ( Qs) phụ thuộc vào giá bán (P) và giá hàng cạnh tranh (Pct)Mô hình sản lượng (Y) phụ thuộc vào vốn (K) và lao động (L)Mô hình tổng chi phí (TC) phụ thuộc vào sản lượng (Q)Mô hình tổng sản phầm quốc nội (GDP) phụ thuộc vào đầu tư trực tiếp nước ngoài (FDI)PRF vs. SRF29YE(Y|X)XSRF(1)PRF1.2. Phương pháp bình phương nhỏ nhất30Ý tưởng của phương pháp: Yi - Ŷi = ei => min YX0Ŷi = fˆ(Xi )E ( Y|X)e (+)e (-)31Nghiệm của phương pháp OLS: 1.2. Phương pháp bình phương nhỏ nhất321.2. Phương pháp bình phương nhỏ nhất1.2. Phương pháp bình phương nhỏ nhấtVí dụ tính toán: Cho bảng số liệu sauSố hộTN (X)CT (Y)11012210113121341412514136161671614818179181510201634Viết hàm hồi quy tổng tổng thể, hàm hồi quy mẫu?Nêu các bước tính hệ số dựa vào bảng số liệu sau đây.Kết quả ước lượng các hệ số có phù hợp lý thuyết kinh tế không?Ý nghĩa các hệ số ước lượng?1.2. Phương pháp bình phương nhỏ nhấtVí dụ tính toán: Cho bảng số liệu sauChọn các mẫu khác nhau để tìm hệ số ước lượng theo phươngpháp OLScác mẫu khác nhau cho ra kết quả khác nhaucác hệ số ước lượng là các biếnngẫu nhiênSố hộTN (X)CT (Y)110121001202101110011031213144156414121961685141319618261616256256716142562248181732430691815324270102016400320361.2. Phương pháp bình phương nhỏ nhấtPRF vs. SRF37E(Y|X)XSRF(1)PRFSRF(2)SRF(n)Câu hỏi(1) Khi nào là các ước lượng đáng tin cậy cho ? (2) Nếu là đáng tin cậy thì mức độ chính xác là thế nào? 38Giả thiết cơ bản:Biến độc lập là phi ngẫu nhiên, mẫu ngẫu nhiên kích thước nKỳ vọng của yếu tố ngẫu nhiên bằng 0Phương sai của các yếu tố ngẫu nhiên thuần nhất 391.3. Tính không chệch và độ chính xác của các ước lượng Định lý 1.1 Nếu giả thiết 1 và 2 của pp OLS được thỏa mãn thì là ước lượng không chệch của , nghĩa làĐịnh lý 1.2. Độ chính xác của ước lượng OLS Giả thiết 1,2,3 thỏa mãn thì 401.3. Tính không chệch và độ chính xác của các ước lượng Độ chính xác của ước lượng hệ số phụ thuộc? Phương sai của yếu tố ngẫu nhiênĐộ phân tán của biến độc lập411.3. Tính không chệch và độ chính xác của các ước lượng Sai số chuẩn của hàm hồi quy: (Standard Error of Regression)Sai số chuẩn của hệ số ước lượng (Standard Error)42 1.3. Tính không chệch và độ chính xác của các ước lượng là chưa biết, khi giả thiết 2,3 thỏa mãn:Giả sử với mẫu kích thước n, là ước lượng không chệch của 431.3. Tính không chệch và độ chính xác của các ước lượng Trung bình của ước lượng: Phương sai của ước lượng:441.3. Tính không chệch và độ chính xác của các ước lượng Trung bình của ước lượng: Phương sai của ước lượng:Với:451.3. Tính không chệch và độ chính xác của các ước lượng * Định lý Gauss – Markov: Với các giả thiết 1-5 của phương pháp OLS, các ước lượng OLS là các ước lượng tuyến tính, không chệch và có phương sai nhỏ nhất trong lớp các ước lượng tuyến tính không chệch. là BLUE của 1 , 2 (Best Linear Unbiased Estimates)1.3. Tính không chệch và độ chính xác của các ước lượng 1. Tổng các phần dư bằng 0: 2. 3. Đường hồi quy mẫu luôn đi qua điểm trung bình mẫu 4. Trung bình của giá trị ước lượng của biến phụ thuộc bằng trung bình mẫu 471.3. Tính không chệch và độ chính xác của các ước lượng Tính chất của các ước lượng bình phương nhỏ nhất: Là nghiệm duy nhất ứng với một mẫu cụ thể Là các ước lượng điểm của các hệ số481.3. Tính không chệch và độ chính xác của các ước lượng Chất lượng của các ước lượng phụ thuộc vào: Dạng hàm của mô hình được lựa chọn Các giá trị biến độc lập và sai số ngẫu nhiên Kích thước mẫu Trong thực tế chúng ta lưu ý thêm các giả thiết sau: Hàm hồi quy là tuyến tính theo hệ số Số quan sát lớn hơn số hệ số cần ước lượng (n>k) Các giá trị của biến độc lập có giá trị đủ lớn Hàm hồi quy được chỉ định đúng491.3. Tính không chệch và độ chính xác của các ước lượng YX0SRFYieiXi 501.4. Độ phù hợp của hàm hồi quy mẫu- Khái niệm phương pháp phân tích bằng phương sai (ANOVA) là phân tích toàn bộ sự biến thiên của biến ngẫu nhiên thành các bộ phận khác nhau mà có thể giải thích được và khảo sát từng bộ phận đó.Toàn bộ sự biến thiên của biến phụ thuộc Y xung quanh giá trị trung bình của nó (TSS) có thể tách thành hai bộ phận: 1. Các biến thiên của Y được giải thích thông qua hàm hồi quy (ESS), tức là thông qua các biến giải thích có mặt trong hàm hồi quy. 2. Các biến thiên của Y được giải thích bên ngoài mô hình (RSS), tức là không thông qua các biến giải thích có mặt trong hàm hồi quy.511.4. Độ phù hợp của hàm hồi quy mẫuNhận xét gì về độ phù hợp của hàm hồi quy mẫu với tập hợp dữ liệu?52(a)(b)1.4. Độ phù hợp của hàm hồi quy mẫuĐánh giá sự phù hợp của hàm hồi quy thế nào?531.4. Độ phù hợp của hàm hồi quy mẫu541.4. Độ phù hợp của hàm hồi quy mẫuTSS = ESS + RSS551.4. Độ phù hợp của hàm hồi quy mẫur2 đo tỷ lệ % sự biến thiên của Y được giải thích thông qua hàm hồi quy, tức là được giải thích thông qua biến độc lập của mô hình. Nó được sử dụng để đặc trưng cho mức độ thích hợp của hàm hồi quy561.4. Độ phù hợp của hàm hồi quy mẫuNếu r2 = 0: Hàm hồi quy hoàn toàn không giải thích sự biến thiên của Y.- Nếu r2 = 1: Hàm hồi quy giải thích 100% sự biến thiên của Y.571.4. Độ phù hợp của hàm hồi quy mẫuGọi là hệ số tương quan của biến X và YÝ nghĩa: hệ số tương quan đo mức độ phụ thuộc tuyến tính giữa biến X và Y.Tính chất của hệ số tương quan: - Nếu r > 0 tức là X và Y quan hệ cùng chiều; - Nếu r < 0 tức là X và Y quan hệ ngược chiều; - Nếu r = 0 tức là X và Y không phụ thuộc tương quan tuyến tính; - Nếu tức là X và Y có quan hệ phụ thuộc hàm số tuyến tính.581.4. Độ phù hợp của hàm hồi quy mẫu1.5. Một số vấn đề bổ sung Đơn vị đo lường khác nhau có ảnh hưởng thế nào tới kết quả ước lượng và kết quả phân tích hồi quy?Trả lời các câu hỏi trên khi:Thay đổi đơn vị đo lường của biến XThay đổi đơn vị đo lường của X và Y cùng 1 tỷ lệÝ nghĩa của hệ số chặn trong mô hình hồi quy? Khi nào mô hình không có hệ số chặn?Thay đổi đơn vịHệ số chặnHệ số gócHàm hồi quyBiến độc lập tăng (giảm) a lần- Giá trị và ý nghĩa không đổi Biến phụ thuộc tăng (giảm) b lần- Giá trị và ý nghĩa không đổi Biến độc lập tăng (giảm) a lần + Biến phụ thuộc tăng (giảm) b lần- Giá trị và ý nghĩa không đổi Biến độc lập tăng (giảm) a lần + Biến phụ thuộc giảm(tăng) b lần- Giá trị và ý nghĩa không đổi