
Module 10
Simple Linear Regression
8 mục · khoảng 117 phút đọc
TỔNG QUAN LEARNING MODULE
bởi Pamela Peterson Drake, PhD, CFA.
Pamela Peterson Drake, PhD, CFA, công tác tại James Madison University (USA).
Thí sinh cần có khả năng:
- mô tả mô hình simple linear regression, cách least squares criterion được sử dụng để ước lượng regression coefficients, và cách diễn giải các coefficients này
- giải thích các assumptions nền tảng của mô hình simple linear regression và mô tả cách residuals và residual plots cho biết liệu các assumptions này có thể đã bị vi phạm hay không
- tính toán và diễn giải các measures of fit, đồng thời xây dựng và đánh giá các tests of fit và các tests của regression coefficients trong simple linear regression
- mô tả việc sử dụng analysis of variance (ANOVA) trong regression analysis, diễn giải kết quả ANOVA, đồng thời tính toán và diễn giải standard error of estimate trong simple linear regression
- tính toán và diễn giải predicted value của dependent variable, và prediction interval cho giá trị đó, khi biết một mô hình linear regression đã được ước lượng và một giá trị của independent variable f
- mô tả các functional forms khác nhau của simple linear regressions
giải thích mô hình simple linear regression, việc áp dụng least squares criterion trong ước lượng regression coefficients, và cách diễn giải regression coefficients
Đôi khi financial analysts cần xác định liệu một biến cụ thể có thể được sử dụng để giải thích một biến khác hay không. Có thể analyst muốn tìm hiểu liệu tăng trưởng earnings hoặc cash flow có thể giải thích market value của một doanh nghiệp hay không. Regression analysis là một kỹ thuật giúp khám phá những vấn đề như vậy.
Trong linear regression, chúng ta có thể kiểm định một số hypothesis về mối liên hệ giữa hai biến bằng cách đo lường mối quan hệ giữa chúng và dự báo giá trị của một biến từ biến còn lại. Trong trường hợp này, chúng ta sẽ xem xét simple linear regression vì chỉ có một independent variable.
-
Linear regression đơn giản là một phương pháp được sử dụng trong toán học để hiểu cách những thay đổi của một biến giải thích cho những thay đổi của một biến khác.
-
Biến mà chúng ta tìm cách giải thích được gọi là dependent variable, trong khi independent variable là biến mà chúng ta sử dụng để giải thích dependent variable.
-
Linear regression sử dụng ordinary least squares estimation method để ước lượng các parameters của đường thẳng liên hệ hai biến.
-
Để simple linear regression hoạt động, chúng ta cần đưa ra bốn assumptions: linearity, homoskedasticity, independence và normality.
-
Linearity có nghĩa là residuals từ regression phải mang tính ngẫu nhiên và independent variable không được mang tính ngẫu nhiên. Nếu giả định homoskedasticity, tức variance không đổi qua các observations, thì residuals không nên tập trung thành nhiều chế độ khác nhau trong quá trình quan sát.
-
Assumption về independence hàm ý rằng các cặp X-Y không tương quan với nhau; autocorrelation trong dữ liệu (được thể hiện, chẳng hạn, qua biểu đồ residuals, ví dụ seasonality) cho thấy assumption về independence không được thỏa mãn. Assumption về normality hàm ý rằng residuals có phân phối normal và không nhất thiết hàm ý rằng dữ liệu có phân phối normal. Non-normality đặc biệt gây vấn đề khi làm việc với sample sizes nhỏ; tuy nhiên, với sample sizes lớn, central limit theorem cho phép chúng ta bớt khắt khe hơn đối với assumption về normality.
-
SST (sum of squares total) bằng tổng của SSR (sum of squares regression) và SSE (sum of squares error). Nó biểu thị tổng biến thiên của dependent variable, có thể được phân rã thành hai components.
-
Có một số measures dùng để đánh giá goodness of fit của một regression model. Chúng bao gồm coefficient of determination, kiểm định độ phù hợp bằng F -statistic và standard error of regression.
-
Hypothesis testing có thể được sử dụng để xác định, tại một confidence level nhất định, liệu slope/intercept có khác zero/một giá trị khác hay không hoặc liệu slope là positive/negative hay không. Indicator variables có thể được sử dụng để xem liệu regression parameters của chúng ta có khác nhau đối với các data points có và không có một đặc điểm nhất định hay không (ví dụ, trong monthly price data nếu chỉ một số tháng có earnings announcements).
-
ANOVA table thể hiện sums of squares, degrees of freedom, mean squares và F -statistic của một regression model.
-
standard error of the estimate là một statistic cho biết observed values của dependent variable lệch bao xa so với các giá trị được dự báo bởi estimated regression. Giá trị càng thấp thì model càng có goodness of fit tốt.
-
standard error of the forecast giúp thiết lập interval estimate cho regression. Nó cần thiết vì regression line không mô tả chính xác mối quan hệ thực sự giữa các biến.
-
Mô hình simple linear regression đối với dữ liệu non-linear có thể được cải thiện bằng cách áp dụng các functional forms khác nhau vào việc transformation dependent hoặc independent variable.
-
Có ba dạng transformation chính - loglin form, lin-log form và log-log form.
-
Điểm chính trong việc tìm ra dạng phù hợp của mô hình simple linear regression là phân tích các goodness-of-fit statistics - coefficient of determination (R2), F statistic và standard error of the estimate (se).
ƯỚC LƯỢNG MÔ HÌNH SIMPLE LINEAR REGRESSION
- Giải thích mô hình simple linear regression, việc áp dụng least squares criterion để ước lượng regression coefficients, và cách diễn giải các coefficients này
Giới thiệu về Linear Regression
Giả sử một analyst đang phân tích return on assets (ROA) của một ngành cụ thể và quan sát ROA của sáu công ty như được thể hiện trong Exhibit 1. Trung bình, các ROA bằng 12.5%, trong khi ROA lớn nhất và nhỏ nhất lần lượt là 20% và 4%.
Exhibit 1: Return on Assets của các Công ty Được chọn
| Công ty | ROA (%) |
|---|---|
| A | 6.0 |
| B | 4.0 |
| C | 15.0 |
| D | 20.0 |
| E | 10.0 |
| F | 20.0 |
Khi cố gắng tìm hiểu tại sao các ROA này khác nhau giữa các công ty, chúng ta có thể xem xét tại sao ROA của Công ty A khác với ROA của Công ty B, tại sao ROA của Công ty A khác với ROA của Công ty D, tại sao ROA của Công ty F khác với ROA của Công ty C, v.v. Việc này có thể được đơn giản hóa bằng cách xem xét ROA của mỗi công ty khác với ROA trung bình 12.5% như thế nào. Để thực hiện điều này, cần phân tích tổng bình phương độ lệch của các observations so với mean nhằm giải thích các biến thiên của ROAs so với mean. Y sẽ biểu thị biến mà chúng ta muốn giải thích, trong trường hợp này là ROA. Y_i sẽ biểu thị observation về ROA của công ty, và Y_ là ROA trung bình của sample size n. Biến thiên của ROAs có thể được mô tả như sau:

Chúng ta muốn hiểu các yếu tố thúc đẩy đằng sau các ROA này, hay nói cách khác là điều gì gây ra biến thiên của Y . Biến thiên này của Y được gọi là sum of squares total (SST) , hay tổng bình phương tổng cộng.
Bây giờ, hãy xem xét liệu có thể giải thích biến thiên của ROA bằng một biến khác cũng thay đổi giữa các công ty hay không; nếu biến khác này mang tính ngẫu nhiên thì nó không thể giải thích sự khác biệt về ROA. Chúng ta giả định rằng trong trường hợp này, capital expenditures trong kỳ trước, chia cho property, plant và equipment đầu kỳ của kỳ trước, là yếu tố thúc đẩy biến ROA. Hãy ký hiệu biến capital expenditure đã được scale này là CAPEX, như thể hiện trong Exhibit 2.
Exhibit 2: Return on Assets và Scaled Capital Expenditures
| Công ty | ROA (%) | CAPEX (%) |
|---|---|---|
| A | 6.0 | 0.7 |
| B | 4.0 | 0.4 |
| C | 15.0 | 5.0 |
| D | 20.0 | 10.0 |
| E | 10.0 | 8.0 |
| F | 20.0 | 12.5 |
| Arithmetic mean | 12.5 | 6.1 |
Gọi X là explanatory variable trong trường hợp này, tức CAPEX. Khi đó Xi sẽ là một observation của explanatory variable, trong khi X_ sẽ là mean value của explanatory variable, tức mean của CAPEX. Biến thiên của X có thể được tính như sau:

Mối quan hệ giữa ROA và CAPEX có thể được thấy trên scatter plot (hoặc scattergram) trong Exhibit 3. Trong scatter plot, chúng ta thể hiện hai biến trong hai chiều. Thông thường, biến có biến thiên mà chúng ta muốn giải thích được thể hiện trên trục dọc và biến có biến thiên mà chúng ta muốn sử dụng để giải thích biến thiên được thể hiện trên trục ngang. Do đó, mỗi điểm trong scatter plot thể hiện một paired observation, tức CAPEX và ROA. Từ lần quan sát trực quan đầu tiên, chúng ta có thể nói rằng có mối quan hệ positive giữa ROA và CAPEX; các công ty có CAPEX cao cũng có ROA cao.
Exhibit 3: Scatter Plot của ROA và CAPEX

ROA (%) 25 10.0, 20.0 12.5, 20.0 20 5.0, 15.0 15 8.0, 10.0 10 0.7, 6.0 5 0.4, 4.0 0 0 2 4 6 8 10 12 14 CAPEX (%)
Trong ví dụ ROA của chúng ta, chúng ta sử dụng capital expenditures để giải thích các ROA. Biến có biến thiên được giải thích được gọi là dependent variable (hoặc explained variable), và thường được ký hiệu là Y. Biến có biến thiên được sử dụng để giải thích biến thiên của dependent variable được gọi là independent variable (hoặc explanatory variable). Vì vậy, trong ví dụ ROA của chúng ta, ROA là dependent variable ( Y ) và CAPEX là independent variable ( X ).
Một cách để liên hệ dependent và independent variables là thông qua việc ước lượng một linear relationship giữa chúng. Việc ước lượng linear relationship giữa hai biến có nghĩa là chúng ta mô tả mối quan hệ giữa hai biến bằng một đường thẳng. Nếu chúng ta có một independent variable, chúng ta gọi là simple linear regression (SLR) hoặc đơn giản là linear regression; nếu chúng ta có nhiều hơn một independent variables, chúng ta gọi phương pháp đó là multiple regression.
Do đó, linear regression cho phép kiểm định hypotheses về mối quan hệ giữa hai biến (định lượng mối quan hệ giữa hai biến) và sử dụng một biến để dự báo biến còn lại.
XÁC ĐỊNH DEPENDENT VÀ INDEPENDENT VARIABLES TRONG MỘT REGRESSION
Một analyst đang xem xét mối quan hệ giữa corporate earnings growth và stock returns. Cụ thể, analyst muốn tìm hiểu liệu earnings revisions có liên quan đến stock price returns trong cùng kỳ hay không. Analyst thu thập dữ liệu trong năm năm về EPS revisions và stock price returns của một nhóm gồm 100 công ty.
- Dependent và independent variables trong model của cô ấy là gì?
Lời giải:
Stock price returns của mỗi tháng là dependent variables, trong khi EPS revisions là independent variable. Trong trường hợp của analyst, stock price returns được giải thích bởi EPS revisions.
Ước lượng các Parameters của một Simple Linear Regression
Các Khái niệm Cơ bản về Simple Linear Regression
Trong regression analysis, điều đầu tiên là dependent variable vì đó là biến đang được giải thích. Mặt khác, independent variable được sử dụng để giải thích những thay đổi trong dependent variable. Ví dụ, chúng ta có thể cố gắng giải thích returns on small stocks (dependent variable) bằng returns to S&P 500 Index (independent variable). Tương tự, chúng ta có thể giải thích inflation rate (dependent variable) theo growth in money supply (independent variable).
Linear regression analysis giả định rằng tồn tại linear association giữa dependent và independent variables. Trong phương pháp này, mục tiêu là ước lượng một đường thẳng đi qua Y và X sao cho tối thiểu hóa tổng các squared deviations so với estimated line - least squares criterion. Do được sử dụng rộng rãi, linear regression thường được gọi là ordinary least squares (OLS) regression.
Về ký hiệu, linear relation giữa dependent và independent variables được biểu diễn như sau:

Equation 3 là một regression model không nhất thiết yêu cầu tất cả các cặp (X,Y) của bất kỳ observation nào đều nằm trên regression line. Equation 3 cho biết dependent variable, Y, bằng intercept , b0, cộng với slope coefficient , b1, nhân với independent variable X, cộng với error term , ε. Error term, hay đơn giản là error, là chênh lệch giữa actual value của Y và giá trị được kỳ vọng từ underlying relationship giữa Y và X . Chúng ta gọi b0 và b1 là regression coefficients . Một cách diễn đạt phổ biến về mối quan hệ simple linear regression là Y được regressed on X.
Hãy xem xét scatter plot ROA và CAPEX từ Exhibit 3, được minh họa thêm trong Exhibit 4 cùng với fitted regression line. Đường này là mean relationship giữa ROA và CAPEX; mặc dù không phải tất cả observations đều nằm trên đường này, nhưng đường này thể hiện mean relationship giữa ROA và CAPEX.
Exhibit 4: Fitted Regression Line của ROA và CAPEX

ROA ( Y ,%) 25 20 15 10 5 0 0 2 4 6 8 10 12 14 CAPEX ( X ,%) Observed Values Regression Line
Ước tính đường hồi quy
Các giá trị tham số tổng thể thực sự b 0 và b 1 không thể quan sát được trong bối cảnh hồi quy. Thay vào đó, chúng ta chỉ có thể quan sát _b_ˆ 0 và _b_ˆ 1, là các ước lượng (được biểu thị bằng các "dấu mũ" phía trên các hệ số) của các tham số tổng thể dựa trên mẫu. Do đó, các dự báo sẽ được thực hiện trên cơ sở các tham số ước lượng và việc kiểm định sẽ được thực hiện bằng cách liên hệ các giá trị ước lượng với các giá trị tổng thể được giả thuyết.
Đường hồi quy sẽ được ước lượng là đường phù hợp nhất với các quan sát. Trong simple linear regression, intercept ước lượng, _b_ˆ 0, và slope, _b_ˆ 1, được xác định sao cho tổng bình phương các khoảng cách theo chiều dọc từ các quan sát đến đường fitted được tối thiểu hóa. Nghĩa là, trọng tâm sẽ là tối thiểu hóa tổng bình phương các chênh lệch giữa các quan sát của Yi và giá trị ước lượng tương ứng của chúng, _Y_ˆ i, trên đường hồi quy.
Chúng ta sẽ ký hiệu giá trị của dependent variable đối với quan sát thứ i nằm trên đường là _Y_ˆ i, bằng _b_ˆ 0 + _b_ˆ 1 Xi. _Y_ˆ i là ước lượng về giá trị mà biến Y sẽ nhận đối với quan sát thứ i dựa trên mối quan hệ trung bình giữa Y và X. Residual của quan sát thứ i, ei, là chênh lệch giữa giá trị thực tế của Yi và _Y_ˆ i thu được thông qua đường hồi quy: ei = Yi − _Y_ˆ i. Lưu ý sự khác biệt nhỏ giữa error term và residual: error term biểu thị mối quan hệ tổng thể cơ bản, trong khi residual biểu thị mối quan hệ tuyến tính fitted dựa trên mẫu.
Việc tìm đường phù hợp nhất bao gồm việc tối thiểu hóa tổng bình phương residuals, được gọi là sum of squares error (SSE) hoặc residual sum of squares:

Sử dụng least squares regression approach để ước lượng các tham số tổng thể b 0 và b 1, chúng ta có thể vẽ một đường dựa trên các quan sát của X và Y để xác định giá trị mà Y sẽ nhận khi X ở một điểm cụ thể.
Residuals có thể được quan sát như các khoảng cách theo chiều dọc từ đường fitted (quan sát thứ ba đối với Company C và quan sát thứ năm đối với Company E), và đơn vị đo lường của chúng giống với đơn vị đo lường của dependent variable. Do đó, sai số được đo bằng đơn vị của dependent variable: nếu dependent variable được tính bằng euro thì sai số cũng được tính bằng euro, và điều tương tự cũng áp dụng nếu dependent variable được tính bằng growth rate.
Exhibit 5: Residuals of the Linear Regression

ROA ( Y ,%) 25 20 15 Company C Residual: Company E Residual: e 3 = Y 3 – ( b 0 – b 1 X 3) e 5 = Y 5 – ( b 0 – b 1 X 5) 10 5 0 0 2 4 6 8 10 12 14 CAPEX ( X ,%) Observed Values of Y Predicted Values of Y Regression Line
Bây giờ, làm thế nào để chúng ta tìm giá trị của slope ( b_ˆ 1 ) và giá trị của intercept ( b_ˆ 0 ) dựa trên mẫu các quan sát ( Y , X )? Giá trị của slope có thể được tìm bằng tỷ số giữa covariance của Y và X với variance của X , trong đó Y là mean của biến Y và X là mean của biến X:

Rút gọn,


Các giá trị trung gian để tính slope và intercept được trình bày trong Exhibit 6.
Exhibit 6: Estimating Slope and Intercept for the ROA Model
|Company|ROA (Yi)|CAPEX (Xi)|( Y i− _ Y) 2|( X i− _ X) 2|( Y i− _ Y) ( X i− _ X)| |A|6.0|0.7|42.25|29.16|35.10| |B|4.0|0.4|72.25|32.49|48.45| |C|15.0|5.0|6.25|1.21|−2.75| |D|20.0|10.0|56.25|15.21|29.25| |E|10.0|8.0|6.25|3.61|−4.75| |F|20.0|12.5|56.25|40.96|48.00|
|Company|ROA (Yi)|CAPEX (Xi)|( Y i− _ Y) 2|( X i− _ X) 2|( Y i− _ Y) ( X i− _ X)| |Sum|75.0|36.6|239.50|122.64|153.30| |Arithmetic|12.5|6.1|||| |mean||||||
Slope coefficient: b_ˆ 1 =153.30 122.64= 1.25. _Intercept: b_ˆ 0 = 12.5 − (1.25 × 6.10 ) = 4.875. _Mô hình hồi quy ROA: Y_ˆ i = 4.875 + 1.25 Xi + εi .
Có thể quan sát rằng các công thức cho cả slope coefficient và pair-wise correlation có sự tương đồng mạnh với nhau. Sample correlation coefficient, r là tỷ số giữa covariance và tích của standard deviations:

Sự khác biệt nhỏ giữa các công thức của slope và correlation coefficients nằm ở mẫu số - trong khi đối với slope coefficient, mẫu số là variance của independent variable, thì đối với correlation coefficient, mẫu số là tích của standard deviations. Trong ví dụ của chúng ta, đối với ROA và CAPEX,

Standard deviation của Y và X :

Vì cả hai mẫu số của công thức slope và correlation coefficient đều dương, dấu của slope và correlation phụ thuộc vào dấu của tử số: covariance dương tạo ra slope dương và correlation dương; covariance âm tạo ra slope âm và correlation âm.
VÍ DỤ 1
Các analyst thực hiện Simple Linear Regression như thế nào?
Trong thực tế, các analyst sử dụng các hàm phân tích dữ liệu của spreadsheet như Microsoft Excel hoặc statistics module trong các programming language như R hoặc Python để thực hiện linear regression analysis. Dưới đây là một số công cụ phổ biến:
Simple Linear Regression: Intercept and Slope
■ Excel : Sử dụng các hàm INTERCEPT, SLOPE.
■ R : Sử dụng hàm lm.
■ Python : Sử dụng hàm sm.OLS trong package statsmodels.
Correlations
-
Excel : Sử dụng hàm CORREL.
-
R : Sử dụng hàm cor trong library stats.
-
Python : Sử dụng hàm corrcoef trong library numpy.
Lưu ý rằng trong R và Python, có rất nhiều lựa chọn thay thế để thực hiện regression và correlation analysis.
Diễn giải Regression Coefficients
Regression coefficients được diễn giải như thế nào? Intercept là giá trị của dependent variable khi giá trị của independent variable bằng 0. Cần lưu ý rằng điều này không liên quan trong một số trường hợp, đặc biệt khi việc independent variable bằng 0 là không hợp lý. Trong trường hợp của chúng ta, khi regression model sử dụng money supply để giải thích GDP growth, intercept không liên quan vì trên thực tế money supply bằng 0 là không thể. Tuy nhiên, trong trường hợp independent variable là money supply growth, intercept trở nên có ý nghĩa. Slope là mức chênh lệch của dependent variable khi independent variable chênh lệch một đơn vị. Nếu slope dương, thì sự thay đổi của independent variable cùng chiều với sự thay đổi của dependent variable, nhưng nếu slope âm, sự thay đổi của independent variable ngược chiều với sự thay đổi của dependent variable.
VÍ DỤ 2
Diễn giải Positive và Negative Slopes
Giả sử dependent variable (Y) được tính bằng hàng triệu euro, trong khi independent variable ( X ) được tính bằng hàng triệu US dollar.
Nếu slope dương là 1.2, thì
-
↑ USD1 million → ↑ EUR1.2 million
-
↓ USD1 million → ↓ EUR1.2 million
Nếu slope âm là 1.2, thì
-
↑ USD1 million → ↓ EUR1.2 million
-
↓ USD1 million → ↑ EUR1.2 million
Từ regression model của ROA được trình bày trong Exhibit 6, cách diễn giải các coefficients sẽ là:
-
Khi mức capital expenditure bằng 0, return on assets của một công ty là 4.875%.
-
Việc tăng CAPEX thêm một đơn vị - chẳng hạn từ 4% lên 5% - đồng nghĩa với việc ROA tăng 1.25%.
Bằng cách sử dụng regression coefficients, chúng ta có thể tính các giá trị của dependent variable khi chúng có mối quan hệ trung bình với independent variable. Một tính chất của việc suy dẫn toán học khi fitting least squares regression line là expected value của error term bằng 0: E (ε) = 0.
Bảng sau (Exhibit 7) trình bày việc tính expected values của dependent variable và error term. Tổng và giá trị trung bình của Yi và _Y_ˆ 1 là giống nhau; đồng thời, tổng các errors bằng 0.
- Exhibit 7: Dependent Variable Calculation and Residuals in ROA and CAPEX Model*
||(1)|(2)|(3)|(4)| |Company|ROA (Yi)|CAPEX(Xi)|Predicted ROA ( ˆ Yi )|(1) − (3) (2) Residual (ei)| |A|6.0|0.7|5.750|0.250| |B|4.0|0.4|5.375|−1.375| |C|15.0|5.0|11.125|3.875| |D|20.0|10.0|17.375|2.625| |E|10.0|8.0|14.875|−4.875| |F|20.0|12.5|20.500|−0.500| |Sum|75.0|36.6|75.000|0.000| |Average|12.5|6.1|12.5|0.000|
Đối với Company C (i = 3),
_Y_ˆ _i = b_ˆ _0 + b_ˆ 1 X i + ε i = 4.875 + 1.25 X i + ε i
_Y_ˆ _i = 4.875 + (1.25 × 5.0 ) = 4.875 + 6.25 = 11.125 Y i − Y_ˆ i = e i = 15.0 − 11.125 = 3.875, khoảng cách theo chiều dọc trong Exhibit 5.
Mặc dù về nguyên tắc tổng residuals phải bằng 0, ý tưởng chính của việc fitting regression line trong simple linear regression là tối thiểu hóa tổng bình phương residuals.
Cross-Sectional so với Time-Series Regressions
Có hai loại dữ liệu mà regression analysis sử dụng: cross sectional và time series. Cross-sectional regression bao gồm nhiều quan sát của các biến X và Y trong cùng một thời kỳ. Điều này có nghĩa là các quan sát có thể thuộc về các company, asset class, investment fund, country khác nhau và các đối tượng khác, tùy thuộc vào model. Vì vậy, chẳng hạn, một cross-sectional model sẽ bao gồm dữ liệu của nhiều company để kiểm tra liệu predicted EPS growth có giải thích các khác biệt trong price to earnings ratio tại một thời điểm nào đó hay không. Điều quan trọng cần lưu ý là nếu các quan sát thuộc loại cross-sectional, chúng ta ký hiệu chúng là i = 1, 2, . . . , n .
Time-series data hàm ý rằng có nhiều quan sát của cùng một company, asset class, investment fund, country hoặc các đối tượng khác tại các time period khác nhau, tùy thuộc vào model. Vì vậy, chẳng hạn, một time series model sẽ bao gồm monthly data của nhiều năm để kiểm tra liệu inflation rate của một quốc gia có xác định short term interest rates của quốc gia đó hay không. Nếu các quan sát thuộc loại time series, chúng ta ký hiệu chúng là t = 1, 2, . . . , T. Cần lưu ý rằng bên dưới chúng ta sẽ ký hiệu các quan sát bằng i = 1, 2, . . . , n ngay cả khi các quan sát thuộc loại time series.
BÀI TẬP THỰC HÀNH
Một analyst nghiên cứu mối quan hệ giữa net profit margin và research and development expenditures. Anh ta thu thập dữ liệu của một ngành và tính tỷ lệ research and development expenditures trên revenue (RDR) và net profit margin (NPM) cho tám công ty.
EN: In particular, he would like to understand the variation in the net profit margin in terms of the variation in the amount spent on research and development by the firms. The information is presented in Exhibit 8 below.
Cụ thể, anh ta muốn hiểu sự biến động của net profit margin xét theo sự biến động trong số tiền mà các công ty chi cho research and development. Thông tin được trình bày trong Exhibit 8 dưới đây.
Exhibit 8: Observations on NPM and RDR for Eight Companies
EN: 1. What is the slope coefficient in the simple linear regression? Solution:
| Company | NPM (%) | RDR (%) |
|---|---|---|
| 1 | 4 | 8 |
| 2 | 5 | 10 |
| 3 | 10 | 6 |
| 4 | 9 | 5 |
| 5 | 5 | 7 |
| 6 | 6 | 9 |
| 7 | 12 | 5 |
| 8 | 3 | 10 |
EN: The slope coefficient in the regression analysis is −1.3, and the input data for the computation are provided in Exhibit 9 below.
- slope coefficient trong simple linear regression là bao nhiêu? Lời giải:
Slope coefficient trong regression analysis là −1.3, và dữ liệu đầu vào cho phép tính được cung cấp trong Exhibit 9 dưới đây.
- Exhibit 9: Information about Calculating the Slope of the NPM Regression on RDR*
|Com- pany|NPM (%) (Yi)|RDR (%) (Xi)|Y i− _ Y|X i− _ X|( Y i− _ Y) 2|( X i− _ X) 2|( Y i− _ Y) ( X i− _ X)| |1|4|8|−2.8|0.5|7.5625|0.25|−1.375| |2|5|10|−1.8|2.5|3.0625|6.25|−4.375| |3|10|6|3.3|−1.5|10.5625|2.25|−4.875| |4|9|5|2.3|−2.5|5.0625|6.25|−5.625| |5|5|7|−1.8|−0.5|3.0625|0.25|0.875| |6|6|9|−0.8|1.5|0.5625|2.25|−1.125| |7|12|5|5.3|−2.5|27.5625|6.25|−13.125| |8|3|10|−3.8|2.5|14.0625|6.25|−9.375| |Sum|54|60|0.0|0.0|71.5000|30.00|−39.000| |Average|6.75|7.5||||||
EN: 2. What is the intercept for this regression model?
Slope coefficient: _b_ˆ 1 =− 39 30= − 1.3.
- intercept của regression model này là bao nhiêu?
EN: The intercept of the regression analysis is 16.5:
Lời giải:
Intercept của regression analysis là 16.5:
Intercept: _b_ˆ 0 = 6.75 −( − 1.3 × 7.5) = 6.75 + 9.75 = 16.5
Assumptions of the Simple Linear Regression Model
EN: 3. How can this linear regression model be expressed mathematically? Solution: This regression model can be expressed as Y_ˆ_i = 16.5 − 1.3 Xi + εi.
- linear regression model này có thể được biểu diễn về mặt toán học như thế nào? Lời giải: Regression model này có thể được biểu diễn là Y_ˆ_i = 16.5 − 1.3 Xi + εi.

EN: 4. What is the pairwise correlation between NPM and RDR?
- What is the pairwise correlation between NPM and RDR? Solution: The pairwise correlation is −0.8421: r = ___________ − 39 ⧸_7 = ____________ ( 3.1960− 5.5714 )( 2.0702 ) = − 0.8421. √ _ 71.5⧸7 √30⧸7
EN: Solution: The pairwise correlation is −0.8421:
- pairwise correlation giữa NPM và RDR là bao nhiêu?
Lời giải: pairwise correlation là −0.8421:
r = ___________ − 39 ⧸_7 = ____________ ( 3.1960− 5.5714 )( 2.0702 ) = − 0.8421. √ _ 71.5⧸7 √30⧸7
CÁC GIẢ ĐỊNH CỦA MÔ HÌNH SIMPLE LINEAR REGRESSION
Các giả định đằng sau mô hình simple linear regression, và việc sử dụng residuals và residual plots để phát hiện liệu các giả định này có bị vi phạm hay không
Trước đó trong module này, chúng ta đã thảo luận về cách diễn giải các coefficients của một mô hình simple linear regression. Trong phần này, chúng ta sẽ xem xét các giả định nền tảng của một mô hình simple linear regression. Giả sử rằng chúng ta có n observations của dependent variable, Y, và independent variable, X, và chúng ta muốn ước lượng simple linear regression của Y theo X. Có bốn giả định chính cần được đưa ra để có thể rút ra các kết luận hợp lệ từ mô hình regression này:
-
1.* Giả định Linearity: Mối quan hệ giữa dependent variable, Y, và independent variable, X, là tuyến tính.
-
2.* Giả định Homoskedasticity: Variance của regression residuals là không đổi đối với tất cả observations.
-
3.* Independence: Các observations, tức các cặp Y và X, độc lập với nhau. Điều này có nghĩa là không có correlation giữa các residuals của regression.
4. Normality: Regression residuals có normal distribution.
Tại thời điểm này, chúng ta hãy xem xét chi tiết hơn từng giả định này và áp dụng khái niệm best practice trong việc kiểm tra residuals của regressions để phát hiện khả năng vi phạm các giả định này.
Assumption 1: Linearity
Vì chúng ta đang cố gắng fit một linear model, chúng ta phải giả định rằng mối quan hệ thực sự nền tảng giữa dependent variable và independent variable là tuyến tính. Nếu tồn tại non-linearity giữa independent variable và dependent variable xét theo các parameters của chúng, thì việc cố gắng fit mối quan hệ của các variables như vậy bằng linear regression model sẽ dẫn đến các ước lượng sai lệch vì linear regression model sẽ hoặc overestimate hoặc underestimate dependent variable. Ví dụ, Yi = b 0 e<_b_1></<b_1>>Xi + εi là phi tuyến tính xét theo b 1. Do đó, chúng ta không nên fit linear regression model cho các variables như vậy. Exhibit 10 dưới đây cho thấy một ví dụ về exponential
Linear model, trong đó regression line được thể hiện. Có thể nhận thấy rằng regression line này không mô tả đúng sự phụ thuộc này: Đối với các giá trị nhỏ hơn và lớn hơn của X, linear model cho thấy Y quá nhỏ, nhưng đối với các giá trị ở giữa - quá lớn.
- Exhibit 10: Biểu diễn đồ họa của một mối quan hệ nonlinear được giả định là linear
Y

X
Một hàm ý khác của giả định này là independent variable, X, phải là non-random. Nếu không, sẽ không có bất kỳ linear relation nào giữa dependent variable và independent variable. Mặc dù ở giai đoạn đầu, chúng ta có thể cho rằng independent variable trong regression equation là non-random, nhưng điều đó không phải lúc nào cũng đúng.
Khi xem xét residuals của mô hình, chúng ta muốn thấy rằng chúng là ngẫu nhiên. Nói cách khác, residuals không thể có bất kỳ pattern nào khi được plot theo independent variable. Như chúng ta thấy trong Exhibit 11, residuals của linear regression trong Exhibit 10 không ngẫu nhiên mà có một số relation với independent variable, X. Có những khoảng giá trị của X mà residuals giảm xuống và những khoảng mà chúng tăng lên.
Exhibit 11: Minh họa Residuals trong một mối quan hệ Nonlinear được ước lượng như một mối quan hệ Linear
Y

X
Assumption 2: Homoskedasticity
Giả định thứ hai, cụ thể là variance của residuals là không đổi, được gọi là giả định homoskedasticity. Về mặt ký hiệu, giả định thứ hai được biểu diễn bằng phương trình sau liên quan đến squared residuals:

Khi các giá trị residual không homoskedastic, tức là khi variance của residuals khác nhau giữa các observations, chúng ta gọi trường hợp đó là heteroskedasticity.
Hãy xem xét time series của short-term interest rates và inflation rates trong 16 năm, lần lượt là dependent variable và independent variable của chúng ta. Có thể giả định một cách tự nhiên rằng short-term interest rates (Y) và inflation rates (X) có liên quan với nhau, cụ thể là interest rates cao hơn khi inflation rates cao hơn. Tuy nhiên, khi time series này bao phủ nhiều năm và có các hành động khác nhau của central banks dẫn đến interest rates thấp một cách nhân tạo trong tám năm gần nhất, rất có khả năng các giá trị residual sẽ được tính toán theo hai mô hình khác nhau. Ở đây, chúng ta có thể phân biệt hai regimes: Regime 1 (tám năm đầu tiên) với interest rates bình thường và Regime 2 (tám năm cuối) với interest rates thấp. Có thể xảy ra trường hợp residuals trong cả hai regimes khác nhau, cũng như variances của residuals trong các regimes đó.
Bạn có thể thấy trường hợp này trong Exhibit 12, trong đó scatter plot và regression line được vẽ dựa trên data set này. Slope của regression line dựa trên toàn bộ 16 năm là 1.1979.
- Exhibit 12: Scatter Plot của Interest Rates (Y) và Inflation Rates (X)

Short-Term Interest Rate ( Y ,%) 5.0 4.5 4.0 3.5 3.0 2.5 2.0 1.5 Y = 0.9954 + 1.1979 X 1.0 0.5 0 0 0.5 1.0 1.5 2.0 2.5 3.0 Rate of Inflation ( X ,%) Short-Term Interest Rate ( Y ,%) Regression Line: All Years
Residuals của mô hình này được trình bày trong Exhibit 13 theo các năm. Trong đồ thị này, chúng ta thể hiện khoảng cách cách zero (mean của residuals) hai standard deviations đối với residuals của tám năm đầu tiên, sau đó thực hiện cùng quy trình đối với tám năm thứ hai. Như bạn có thể nhận thấy, residuals trông khác nhau đối với hai regimes: độ phân tán của residuals trong tám năm đầu tiên thấp hơn đáng kể so với độ phân tán của residuals trong tám năm thứ hai.
Exhibit 13: Residual Plot cho mô hình Interest Rates (Y) so với Inflation Rates (X)

Residual (%) 1.0 0.8 0.6 0.4 0.2 0 –0.2 –0.4 –0.6 –0.8 –1.0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 Year Residuals Regime 1 Residuals Regime 2 2 Standard Deviations below the Zero 2 Standard Deviations above the Zero
Lý do đằng sau điều đó là gì? Mô hình có vẻ phù hợp, tuy nhiên, khi chúng ta phân tích residuals của mô hình này (Exhibit 13) để đánh giá tính phù hợp của mô hình, chúng ta có thể nhận thấy rằng mô hình phù hợp hơn với một số năm so với các năm khác. Sự khác biệt về variance của residuals trong hai regimes có thể được nhận thấy từ độ phân tán rộng hơn nhiều của residuals đối với Regime 2 (low-rate regime). Đây là một dấu hiệu rõ ràng của việc vi phạm homoskedasticity.
Khi chúng ta tính regression line cho cả hai regimes, chúng ta có thể thấy rằng mô hình cho hai regimes hoàn toàn khác nhau như được trình bày trong Exhibit 14. Ví dụ, slope cho Regime 1 (normal rates) bằng 1.0247, trong khi đối với Regime 2 (low rates), slope bằng −0.2805. Tóm lại, việc nhóm residuals thành hai clusters có variances khác biệt đáng kể cho thấy sự tồn tại của các regimes đối với mối quan hệ interest rate - inflation.
Exhibit 14: Các Regression Lines được fit cho hai Regimes

Short-Term Interest Rate ( Y ,%) 5.0 4.5 4.0 3.5 3.0 Regime 1: 2.5 Y = 1.4372 + 1.0247 X 2.0 1.5 1.0 Regime 2: 0.5 Y = 1.6440 – 0.2805 X 0 0 0.5 1.0 1.5 2.0 2.5 3.0 Rate of Inflation ( X ,%) Regime 1 Regime 1 Regression Line Regime 2 Regime 2 Regression Line
Assumption 3: Independence
Chúng ta giả định rằng các observations (các cặp Y và X) không correlated với nhau, nghĩa là chúng độc lập. Trong trường hợp có correlations giữa các observations (autocorrelation), các observations không độc lập và residuals có correlation. Tính độc lập của residuals giữa các observations là một giả định cần thiết để có thể ước lượng đúng variance của estimated parameters của b 0 và b 1 (_b_ˆ 0 và _b_ˆ 1), được sử dụng để kiểm định các hypotheses về intercept và slope tương ứng. Điều quan trọng là phải kiểm tra xem residuals có thể hiện bất kỳ pattern nào hay không, vì điều đó có nghĩa là giả định này bị vi phạm. Chúng ta cần kiểm tra residuals của một regression model.
Ví dụ, hãy xem quarterly revenues của một firm đã được regress trong 40 quarters, như được minh họa trong Exhibit 15, cùng với regression line. Như có thể thấy từ hình minh họa trên, dữ liệu trên có autocorrelation vì nó thể hiện seasonality.
Exhibit 15: Regression của Quarterly Revenues so với Time (40 Quarters)

Revenues (millions, €)( Y ) 140,000 135,000 130,000 125,000 120,000 115,000 110,000 105,000 Y = 108,502.3 + 609.6427 100,000 95,000 90,000 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29 31 33 35 37 39 Quarter ( X ) Observed Quarterly Revenues: 1st-3rd Quarters Observed Quarterly Revenues: 4th Quarter
Exhibit 16 dưới đây thể hiện residual plot của regression model trên. Như có thể thấy, có một pattern trong residuals, nghĩa là residuals có autocorrelation ở chỗ chúng tăng vọt trong Quarter 4 và sau đó giảm trong Quarter 5. Do đó, từ Exhibits 15 và 16, có thể kết luận rằng giả định independence bị vi phạm.
Exhibit 16: Residual Plot cho mô hình Quarterly Revenues so với Time

Residuals (millions, €) 15,000 10,000 5,000 0 –5,000 –10,000 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29 31 33 35 37 39 Quarter Residuals: 1st-3rd Quarters Residuals: 4th Quarter
Assumption 4: Normality
Giả định Normality hàm ý rằng residuals có normal distribution. Điều này không hàm ý rằng dependent variable và independent variable phải có normal distribution mà là residuals từ mô hình có normal distribution. Tuy nhiên, khi ước lượng một mô hình, nên biết distribution của
dependent variable và independent variable để kiểm tra xem có outliers nào hay không. Outliers trong một hoặc cả hai variables có thể ảnh hưởng mạnh đến fitted line khiến estimated model không fit đúng với phần lớn observations.
Việc có residuals có normal distribution giúp có thể kiểm định một hypothesis cụ thể về linear regression model. Nếu chúng ta đang làm việc với large sample size, chúng ta có thể nới lỏng giả định về normality của residuals bằng cách áp dụng central limit theorem; asymptotic theory (theory of large samples) cho thấy rằng trong nhiều trường hợp, test statistics được tạo ra bởi các standard regression programs vẫn chính xác ngay cả khi residuals của mô hình không có normal distribution.
EN: An analyst is examining revenues for a firm and formulates a simple linear time series model where she uses time (1, 2, … , 15) in years as the explanatory variable and regress it on revenues. She plots the revenues of the firm and the regression line, as can be seen in Exhibit 17. Furthermore, she plots the residuals from this regression model, as can be seen in Exhibit 18.
BÀI TẬP THỰC HÀNH
Một analyst đang xem xét revenues của một firm và xây dựng một simple linear time series model, trong đó cô ấy sử dụng time (1, 2, …, 15) tính bằng years làm explanatory variable và regress nó theo revenues. Cô ấy plot revenues của firm và regression line, như có thể thấy trong Exhibit 17. Ngoài ra, cô ấy plot residuals từ regression model này, như có thể thấy trong Exhibit 18.
Exhibit 17: Revenues so với Time sử dụng Simple Linear Regression

Revenues (millions, €)( Y ) 900 800 700 600 500 400 300 200 100 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 Year ( X ) Observed Revenues Linear Prediction of Revenues
Exhibit 18: Residual Plot cho Revenues so với Time

Revenues (millions, €)( Y ) 150 100 50 0 –50 –100 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 Year ( X )
EN: 1. Based on Exhibit 17 and Exhibit 18, state which assumption(s) of simple linear regression the analyst’s model violates. Solution:
EN: The correct model is not linear as can be seen from the revenues in Exhibit 17. In the first few years (years 1 and 2) and in the last few years (years 14 and 15), the linear model underestimates revenues while in between years (7-11) it overestimates the revenues. Furthermore, the curved nature of residuals in Exhibit 18 suggests heteroskedasticity (unequal variances of residuals), no independence of observations, and no normality (small sample size of n = 15). In summary, the analyst should be worried that her model violates all the assumptions of simple linear regression.
- Dựa trên Exhibit 17 và Exhibit 18, hãy nêu giả định nào của simple linear regression mà mô hình của analyst vi phạm. Lời giải:
Mô hình đúng không phải là linear như có thể thấy từ revenues trong Exhibit 17. Trong vài năm đầu (years 1 và 2) và trong vài năm cuối (years 14 và 15), linear model underestimate revenues, trong khi ở các năm giữa (7-11), nó overestimate revenues. Hơn nữa, dạng cong của residuals trong Exhibit 18 gợi ý heteroskedasticity (variances của residuals không bằng nhau), không có independence của observations và không có normality (small sample size n = 15). Tóm lại, analyst nên lo ngại rằng mô hình của cô ấy vi phạm tất cả các giả định của simple linear regression.
HYPOTHESIS TESTS IN THE SIMPLE LINEAR REGRESSION MODEL
tính toán và diễn giải các thước đo mức độ phù hợp, đồng thời xây dựng và đánh giá các kiểm định về mức độ phù hợp và về các regression coefficient trong simple linear regression
Analysis of Variance
Mô hình simple linear regression đôi khi cung cấp một biểu diễn tốt về mối quan hệ giữa hai biến, nhưng đôi khi lại không làm được điều đó. Điều thiết yếu là chúng ta phải học cách phân biệt giữa hai trường hợp này để áp dụng regression analysis một cách hiệu quả. Hãy nhớ rằng mục tiêu của chúng ta là giải thích variance của dependent variable. Vậy, chúng ta đã thành công đến mức nào trong việc giải thích nó bằng independent variable?
Breaking Down the Sum of Squares Total into Its Components
Trước tiên, chúng ta sẽ xem xét sum of squares total và phân rã nó thành hai thành phần - sum of squares error và sum of squares regression (SSR). Sum of squares regression là tổng các bình phương của chênh lệch giữa giá trị dự đoán của dependent variable Y_ˆ i dựa trên ước lượng regression line, và giá trị trung bình của dependent variable Y:

Như đã đề cập, chúng ta biết định nghĩa của sum of squares total và sum of squares error. Lưu ý rằng sum of squares regression là explained variance trong Y. Do đó, như được minh họa trong Exhibit 19, SST = SSR + SSE, hay total variance trong Y bằng explained variance trong Y cộng với unexplained variance trong Y.
Exhibit 19: Phân rã biến động của dependent variable

Sum of Squares Total (SST) Σ ni =1( Yi – Y– ) 2 Sum of Squares Regression (SSR) Sum of Squares Error (SSE) n ^ ^ – n Σ( Yi – Y ) 2 Σ i =1( Yi – Yi ) 2 i =1
Minh họa về việc phân rã công thức sum of squares total cho mô hình regression ROA của chúng ta được trình bày trong Exhibit 20. Total variance của ROA cần được giải thích (SST) là 239.50. Variance này bao gồm unexplained variance (SSE) là 47.88 và explained variance (SSR) là 191.63. Các sum of squares này là những dữ liệu đầu vào quan trọng trong việc tính toán các thước đo regression fit.
- Exhibit 20: Phân rã Sum of Squares Total cho mô hình ROA*
|Công ty|ROA (Yi)|CAPEX (Xi)|ROA dự đoán ( ˆ Y)|Biến động cần được giải thích ( Y i− _ Y) 2|Biến động chưa được giải thích ( Y i−ˆ Yi ) 2|Biến động được giải thích ( ˆ Yi− _ Y) 2| |A|6.0|0.7|5.750|42.25|0.063|45.563| |B|4.0|0.4|5.375|72.25|1.891|50.766| |C|15.0|5.0|11.125|6.25|15.016|1.891| |D|20.0|10.0|17.375|56.25|6.891|23.766| |E|10.0|8.0|14.875|6.25|23.766|5.641| |F|20.0|12.5|20.500|56.25|0.250|64.000| |||||239.50|47.88|191.625| |Trung bình|12.50||||||
Sum of squares total = 239.50. Sum of squares error = 47.88. Sum of squares regression = 191.63.
Measures of Goodness of Fit
Một số phương pháp có thể được sử dụng để đo lường goodness of fit - tức là mức độ mà regression equation có thể phù hợp với dữ liệu đang xét. Các phương pháp này bao gồm coefficient of determination, F-test fit statistic và standard error of the regression.
coefficient of determination (R2), còn được gọi là R-squared hoặc _R_2, là tỷ lệ variance của dependent variable được giải thích bởi independent variable:

Khoảng giá trị của coefficient of determination nằm trong khoảng từ 0% đến 100%. Đối với ví dụ về ROA, chúng ta có R2 = 191.625 ÷ 239.50, bằng 0.8001; vì vậy, 80.01% variance của ROA được giải thích bởi CAPEX. Đối với simple linear regression, bình phương của pairwise correlation chính là coefficient of determination:

Trong regression equation ROA được thảo luận ở trên, r = 0.8945, vì vậy _r_2 bằng coefficient of determination (_R_2) vì (0.8945)2 = 0.8001.
Mặc dù coefficient of determination - tỷ lệ variance của dependent variable được giải thích bởi independent variable - là một mô tả, nhưng nó không phải là một test of significance. Để kiểm định xem regression equation của chúng ta có statistically significant hay không, chúng ta sẽ cần tính một F-distributed test statistic.
Nhìn chung, F-distributed test statistic được sử dụng để so sánh các variance. Trong regression analysis, F-distributed test statistic có thể được áp dụng để kiểm định null hypothesis rằng các slope trong regression bằng 0, trong đó các slope được ký hiệu là bi, so với alternative hypothesis rằng ít nhất một slope khác 0:


Trong trường hợp simple linear regression, các giả thuyết này được rút gọn thành

F-distributed test statistic được xác định từ tỷ số của hai variance, trong đó variance của sum of squares regression được chia cho variance của sum of squares error. Điều này có nghĩa là sum of squares regression sẽ được chia cho số independent variable, tức là k. Đối với simple linear regression, k = 1, vì vậy ta có mean square regression (MSR) bằng sum of squares regression:

Đối với simple linear regression,

Sau đó, mean square error (MSE) là tỷ số giữa sum of squares error và degrees of freedom, là n − k − 1. Đối với simple linear regression, n − k − 1 được rút gọn thành n − 2:



Do đó, test statistic dựa trên F-distribution là

và có 1 và n − 2 degrees of freedom trong trường hợp simple linear regression analysis. Lưu ý rằng F-statistic được sử dụng trong regression analysis là one-sided, với rejection region ở phía bên phải, vì chúng ta muốn biết liệu variation trong Y được giải thích (ở tử số) có cao hơn variation trong Y chưa được giải thích (ở mẫu số) hay không.
Hypothesis Testing of Individual Regression Coefficients
Hypothesis Tests of the Slope Coefficient
F-test statistic có thể được sử dụng để thực hiện hypothesis test về significance của slope (nghĩa là kiểm định xem slope coefficient có khác 0 một cách có ý nghĩa hay không); tuy nhiên, có thể cần thực hiện một số kiểm định khác về slope coefficient (ví dụ, để kiểm tra xem population slope có khác một con số cụ thể hay có giá trị dương hay không). Vì mục đích đó, có thể sử dụng t-distributed test statistic.
Ví dụ, chúng ta có thể muốn đánh giá giá trị của một cổ phiếu cụ thể theo market model và cho rằng nó có systematic risk trung bình (nghĩa là rủi ro có thể so sánh với rủi ro của thị trường), điều này sẽ được phản ánh trong slope coefficient của market returns. Hoặc chúng ta có thể muốn kiểm tra giả thuyết rằng các dự báo của các nhà kinh tế về inflation rate là unbiased (nghĩa là trung bình không bị thiên lệch theo hướng cao hơn hoặc thấp hơn). Có bằng chứng nào hỗ trợ các giả thuyết trên không? Có nhiều câu hỏi thuộc loại này có thể được trả lời bằng cách sử dụng các hypothesis test liên quan đến regression slope. Để kiểm định giả thuyết về slope, chúng ta cần tính test statistic bằng cách lấy chênh lệch giữa hypothesized population slope (B 1) và estimated slope coefficient (_b_ˆ 1), rồi chia cho standard error of the slope coefficient, sb ˆ1:

Điều quan trọng cần lưu ý là test statistic này tuân theo t-distribution với n − k − 1 hoặc n − 2 degrees of freedom, vì hai parameter (intercept và slope) đã được ước lượng.
standard error of the slope coefficient (sb ˆ1) của simple linear regression được xác định là tỷ số giữa standard error of the estimate của mô hình (se), sẽ được thảo luận sau, và căn bậc hai của variation của independent variable:

Chúng ta sử dụng t-statistic đã tính để so sánh với critical values nhằm kiểm định các giả thuyết. Hãy lưu ý rằng variation của independent variable càng lớn thì standard error of the slope (Equation 17) càng nhỏ và t-statistic được tính (Equation 16) càng cao. Khi t-statistic được tính nằm ngoài các giới hạn của critical t-values, null hypothesis bị bác bỏ. Nhưng khi t-statistic được tính nằm trong phạm vi critical values, null hypothesis không bị bác bỏ. Tương tự như các test of the mean, alternative hypothesis có thể là two-sided hoặc one-sided.
Trong ví dụ trước về simple linear regression, trong đó ROA là dependent variable và CAPEX là independent variable, giả sử chúng ta muốn kiểm định xem slope coefficient của CAPEX có khác 0 hay không để hỗ trợ trực giác của chúng ta về significance của mối quan hệ giữa ROA và CAPEX. Chúng ta có thể thực hiện điều đó bằng cách kiểm định giả thuyết về slope theo six-step procedure, như được minh họa trong Exhibit 21. Kết quả của kiểm định như vậy có thể giúp chúng ta xác định rằng slope khác 0; tức là CAPEX là một determinant có ý nghĩa của ROA.
- Exhibit 21: Kiểm định slope của regression ROA theo CAPEX
| Bước 1 | Nêu các giả thuyết. | _H_0:_b_1= 0 so với Ha:_b_1≠ 0 |
|---|---|---|
| Bước 2 | Xác định test statistic phù hợp. | t= ˆ _b_1−B 1 _ s ˆ _b_1 với 6 − 2 = 4 degrees of freedom. |
| Bước 3 | Xác định level of significance. | α= 5%. |
| Bước | Nêu decision rule. | Critical t-values = ±2.776. |
| 4 | Chúng ta có thể xác định điều này từ Excel | |
| _Cận dưới:_T.INV(0.025,4) | ||
| _Cận trên:_T.INV(0.975,4) | ||
| R: qt(c(.025,.975),4) | ||
| **Python:**from scipy.stats import t _Cận dưới:_t.ppf(.025,4) _Cận trên:_t.ppf(.975,4) Chúng ta bác bỏ null hypothesis nếu t-statistic được tính nhỏ hơn −2.776 hoặc lớn hơn +2.776. | ||
| Bước 5 | Tính test statistic. | Slope coefficient là 1.25 (Exhibit 6). Mean square error là 11.96875 (Exhibit 39). Variation của CAPEX là 122.640 (Exhibit 6). s e=√ _ 11.96875 = 3.459588. |
| Bước 6 | Đưa ra quyết định. | Bác bỏ null hypothesis về slope bằng 0. Có đủ bằng chứng để chỉ ra rằng slope khác 0. |
Đặc điểm của simple linear regression là t-test statistic để kiểm định slope coefficient bằng 0 và t-test statistic để kiểm định pairwise correlation bằng 0 (nghĩa là H 0: ρ = 0 so với Ha: ρ ≠ 0) là cùng một giá trị. Tương tự như kiểm định slope, có thể sử dụng alternative hypothesis two-sided hoặc one-sided để kiểm định correlation, ví dụ, H 0: ρ ≤ 0 so với Ha: ρ > 0. t-test statistic để kiểm định correlation có bằng 0 hay không như sau:

Trong ví dụ của chúng ta, khi ROA được regressed theo CAPEX, correlation (r) là 0.8945. Để kiểm định xem correlation này có khác 0 hay không, chúng ta thực hiện hypothesis test được minh họa trong Exhibit 22. Như bạn có thể thấy, chúng ta đi đến cùng một kết luận như trong kiểm định slope; tuy nhiên, kết luận được diễn đạt theo correlation giữa ROA và CAPEX: Có một correlation có ý nghĩa giữa ROA và CAPEX.
Exhibit 22: Kiểm định correlation giữa ROA và CAPEX
| Bước 1 | Nêu các giả thuyết. | _H_0: ρ = 0 so với Ha:ρ≠ 0 |
|---|---|---|
| Bước 2 | Xác định test statistic phù hợp. | t=r √ _ n− 2 _ √ _ 1 −r 2 . với 6 − 2 = 4 degrees of freedom. |
| Bước 3 | Xác định level of significance. | α= 5%. |
| Bước 4 | Nêu decision rule. | Critical t-values = ±2.776. Bác bỏ null hypothesis nếu t-statistic được tính nhỏ hơn −2.776 hoặc lớn hơn +2.776. |
| Bước 5 | Tính test statistic. | t=0.8945√ _ 4 _ √ _ 1 − 0.8001 = 4.00163. |
| Bước 6 | Đưa ra quyết định. | Bác bỏ null hypothesis về việc không có correlation. Có đủ bằng chứng để chỉ ra rằng correlation giữa ROA và CAPEX khác 0. |
Có một đặc điểm khác của simple linear regression đáng lưu ý: Test statistic để kiểm định mức độ phù hợp của mô hình (tức là F-distributed test statistic) có liên hệ với t-statistic được tính để kiểm định slope coefficient bằng 0: _t_2 = F; do đó, 4.001312 = 16.0104.
Bây giờ, giả sử chúng ta muốn kiểm định xem có tồn tại mối quan hệ one-to-one giữa ROA và CAPEX hay không, tức là slope coefficient bằng 1.0. Khi đó, các giả thuyết của chúng ta sẽ là H 0: b 1 = 1 và Ha: b 1 ≠ 1. Test statistic được tính cho trường hợp này như sau:

Test statistic được tính này nằm trong khoảng critical values, ±2.776, do đó chúng ta không bác bỏ null hypothesis: Không có đủ bằng chứng để nói rằng slope khác 1.0.
Bây giờ, giả sử thay vì kiểm định ở trên, chúng ta muốn kiểm định sự tồn tại của positive slope hoặc positive correlation, đây là một việc hợp lý về mặt trực giác. Tất cả các bước trong trường hợp này đều giống như trong Exhibit 21 và Exhibit 22, ngoại trừ critical values vì các kiểm định là one-sided. Critical value cho level of significance 5% trong kiểm định positive slope hoặc positive correlation bằng +2.132. Các hypothesis test cho positive slope và positive correlation được trình bày trong Exhibit 23. Kết luận của chúng ta là có đủ bằng chứng cho cả positive slope và positive correlation.
Exhibit 23: Kiểm định one-sided cho slope và correlation
| Kiểm định slope | Kiểm định correlation | ||
|---|---|---|---|
| Bước 1 | Nêu các giả thuyết. | _H_0:_b_1≤ 0 so với Ha:_b_1> 0 | _H_0:ρ≤ 0 so với Ha:ρ> 0 |
| Bước 2 | Xác định test statistic phù hợp. | t= ˆ _b_1−B 1 _ s ˆ _b_1 với 6 − 2 = 4 degrees of freedom. | t=r √ _ n− 2 _ √ _ 1 −r 2 . với 6 − 2 = 4 degrees of freedom. |
| Bước 3 | Xác định level of significance. | α= 5%. | α= 5%. |
| Bước 4 | Nêu decision rule. | Critical t-value = 2.132. Bác bỏ null hypothesis nếu giá trị được tính | Critical t-value = 2.132. Bác bỏ null hypothesis nếu giá trị được tính |
| t-statistic lớn hơn 2.132. | t-statistic lớn hơn 2.132. |
- Bước 5* Tính test statistic. t = _ 0.3123981.25 − 0= 4.00131 t = _ √0.8945_ 1 − 0.8001√ _4= 4.00131 Bước 6 Đưa ra quyết định. Bác bỏ null hypothesis. Bằng chứng là Bác bỏ null hypothesis. Bằng chứng là đủ để chỉ ra rằng slope đủ để chỉ ra rằng correlation lớn hơn 0. lớn hơn 0.
Hypothesis Tests of the Intercept
Đôi khi, chúng ta có thể muốn kiểm định liệu intercept của tổng thể có bằng một giá trị cụ thể hay không. Để ôn lại cách diễn giải intercept, hãy xét simple linear regression với tốc độ tăng trưởng doanh thu của một công ty là dependent variable ( Y ), và tốc độ tăng trưởng GDP của quốc gia đặt trụ sở là independent variable ( X ). Intercept là tốc độ tăng trưởng doanh thu của công ty khi tốc độ tăng trưởng GDP bằng 0%.

Chúng ta có thể kiểm định liệu intercept có khác biệt đáng kể so với giá trị giả thuyết, _B_0, hay không bằng cách lấy intercept giả thuyết trừ khỏi intercept ước lượng ( _b_ˆ 0 ) rồi chia phần chênh lệch cho standard error của intercept:

Trong ví dụ regression ROA, intercept là 4.875%. Giả sử chúng ta quan tâm đến việc kiểm định liệu intercept có lớn hơn 3% hay không. One-sided hypothesis test cho bài toán này được trình bày trong Exhibit 24. Như bạn có thể thấy, chúng ta bác bỏ null hypothesis. Điều này có nghĩa là có bằng chứng cho thấy nếu không có capital expenditures (CAPEX = 0), ROA lớn hơn 3%.
- Exhibit 24: Kiểm định giả thuyết đối với Intercept cho Regression của ROA theo CAPEX*
| Bước 1 | Phát biểu các giả thuyết. | _H_0:b_0≤ 3% so với_Ha:_b_0> 3% |
|---|---|---|
| Bước 2 | Xác định test statistic phù hợp. | t intercept= ˆ _b_0−B 0 _ s ˆ _b_0 với 6 − 2 = 4 degrees of freedom. |
| Bước 3 | Xác định level of significance. | α= 5%. |
| Bước 4 | Phát biểu decision rule. | Critical_t_-value = 2.132. Bác bỏ null hypothesis nếu calculated_t_-statistic lớn hơn 2.132. |
| Bước 5 | Tính test statistic. | t intercept= 4.875 − 3.0 __ 3.4596 ×√ 1 _ 6 + 6.12 _ 122.64 = 1.875 _____________ 3.4596 × 0.68562 = 0.7905 |
| Bước 6 | Đưa ra quyết định. | Không bác bỏ null hypothesis. Không có đủ bằng chứng để cho thấy intercept lớn hơn 3%. |
Hypothesis Tests of Slope When the Independent Variable Is an Indicator Variable
Giả sử chúng ta muốn nghiên cứu tác động của các thông báo earnings hàng quý của một công ty đến stock returns hàng tháng của công ty đó. Trong trường hợp này, chúng ta có thể sử dụng một indicator variable, hay dummy variable, nhận các giá trị 0 hoặc 1 làm independent variable. Giả sử chúng ta có dữ liệu stock returns hàng tháng của một công ty trong khoảng thời gian 30 tháng. Một ví dụ về simple linear regression model cho bài toán này sẽ là monthly returns, RET, theo indicator variable, EARN, nhận giá trị 0 nếu không có thông báo earnings trong tháng và 1 nếu có thông báo earnings trong tháng đó:
RET i = b 0 + b 1 EARN i + εi . (21)
Khuôn khổ này sẽ cho phép chúng ta xác định liệu có bất kỳ sự khác biệt nào về returns giữa những tháng có thông báo earnings và những tháng không có thông báo earnings hay không. Dữ liệu và kết quả regression analysis được minh họa bằng đồ thị trong Exhibit 25.
Exhibit 25: Thông báo Earnings, Dummy Variable và Stock Returns

Monthly Return (%) 2.5 2.0 1.5 1.0 0.5 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 Tháng Returns của các tháng có thông báo Returns của các tháng không có thông báo Mean Return của các tháng có thông báo Mean Return của các tháng không có thông báo
Có thể thấy rõ rằng có một số tháng mà returns không giống nhau, và đây là những tháng có thông báo earnings. Chúng ta ước lượng simple linear regression và thực hiện hypothesis test theo cùng cách như khi independent variable là continuous variable. Trong simple linear regression, intercept term thể hiện giá trị của dependent variable khi indicator variable nhận giá trị bằng 0. Ngoài ra, trong khuôn khổ simple linear regression, slope của indicator variable khi nhận giá trị bằng 1 thể hiện sự khác biệt giữa means của hai nhóm dựa trên indicator variable. Kết quả của regression được trình bày trong Panel A của Exhibit 26.
- Exhibit 26: Regression và Kiểm định sự khác biệt bằng Indicator Variable*
A. Kết quả ước lượng Regression
| fi | Standard Error của fi | Calculated Test | |
|---|---|---|---|
| Estimated Coefficients | Coefficients | Statistic | |
| Intercept | fi 0.5629 | fi 0.0560 | 10.0596 |
| EARN | 1.2098 | 0.1158 | 10.4435 |
Kết quả ước lượng Regression Degrees of freedom = 28
Critical t-values = +2.0484 (5% significance level)
B. Kiểm định sự khác biệt giữa Means
| RET cho các tháng có thông báo Earnings | RET cho các tháng không có thông báo Earnings | Sự khác biệt giữa Means | |
|---|---|---|---|
| Mean | 1.7727 | 0.5629 | 1.2098 |
| Variance | 0.1052 | 0.0630 | |
| Observations | 7 | 23 | |
| Pooled variance | 0.07202 | ||
| Calculated test | 10.4435 | ||
| statistic |
Kiểm định sự khác biệt giữa Means Degrees of freedom = 28 Critical t-values = +2.0484 (5% significance level)
Có thể quan sát những điều sau từ Panel A của Exhibit 26:
-
Intercept, 0.5629, là mean return của returns trong giai đoạn không có thông báo.
-
Slope coefficient (1.2098) là sự khác biệt giữa means của returns trong các tháng EARN và Non-EARN.
-
Null hypothesis rằng slope coefficient của EARN bằng 0 và null hypothesis rằng intercept bằng 0 đều bị bác bỏ vì trong cả hai trường hợp, calculated test statistics đều vượt quá critical values của t.
Chúng ta cũng có thể kiểm định liệu mean monthly return có giống nhau trong cả các tháng không có thông báo earnings và các tháng có thông báo earnings hay không bằng cách kiểm định như sau:
H 0 : μRETearnings = μRETNon − earnings và Ha : μRETearnings ≠ μRETNon − earnings
Kết quả của hypothesis test có thể được thấy trong Panel B của Exhibit 26. Như có thể nhận thấy, chúng ta bác bỏ null hypothesis về việc không có sự khác biệt giữa mean RET trong các tháng có thông báo earnings và mean RET trong các tháng không có thông báo earnings ở mức 5% significance level, bởi vì calculated test statistic (10.4435) vượt quá critical value (2.0484).
Test of Hypotheses: Level of Significance and p-Values
Level of significance của các hypothesis tests luôn là một quyết định mang tính chủ quan. Thông thường, analysts chọn level of significance là 0.05, nghĩa là chỉ có 5% khả năng bác bỏ null hypothesis nếu null hypothesis là đúng (Type I error). Tất nhiên, nếu chúng ta giảm level of significance từ 0.05 xuống 0.01 thì sẽ giảm rủi ro Type I error, nhưng đồng thời làm tăng rủi ro Type II error.
p -value là level of significance nhỏ nhất mà tại đó null hypothesis có thể bị bác bỏ. p -value càng thấp thì xác suất mắc Type I error (bác bỏ một null hypothesis thực sự đúng) càng thấp, do đó xác suất regression equation đáng tin cậy càng cao. Ví dụ, khi p -value là 0.005, chúng ta bác bỏ null hypothesis rằng giá trị thực của parameter bằng 0 tại 0.5% level of significance (99.5%
confidence). Hầu hết các computer software packages đều cung cấp p -values cho regression coefficients, trong đó null hypothesis được kiểm định là giá trị thực của parameter bằng 0, đối lập với alternative hypothesis rằng parameter không bằng 0.
Trong ví dụ regression ROA ở trên, test statistic là t = 4.00131 để kiểm định null hypothesis rằng slope coefficient bằng 0. p -value liên quan đến test statistic này là 0.016. Do đó, nếu null hypothesis là đúng, sẽ có xác suất 1.6% thu được một test statistic lớn bằng hoặc lớn hơn giá trị quan sát được. Sử dụng phương pháp p -value để so sánh p -value 0.016 với 5% level of significance (critical values là ±2.776), chúng ta dễ dàng bác bỏ null hypothesis H 0: b 1 = 0.
Làm thế nào để có được p -values? Vì đây là tail probability nằm ngoài test statistic, cách duy nhất để tìm p -value là sử dụng software. Đối với p -value tương ứng với t = 4.00131 từ ví dụ regression ROA ở trên, có thể sử dụng:
-
Excel (1-T.DIST(4.00131,4,TRUE))*2
-
R (1-pt(4.00131,4))*2
-
Python from scipy.stats import t và (1 - t.cdf(4.00131,4))*2
Bài tập thực hành
EN: The following applies to questions 1-3:
Phần sau áp dụng cho câu hỏi 1-3:
EN: Julie Moon is an energy analyst who studies electricity, oil, and natural gas consumption in various areas during different seasons. She conducted simple regression analysis which showed that the variance in the energy consumption could be determined using the temperature. Total variance of the dependent variable was 140.58 while the explained variance was 60.16, Julie had 60 observations per month.
Julie Moon là một energy analyst nghiên cứu mức tiêu thụ electricity, oil và natural gas ở nhiều khu vực khác nhau trong các mùa khác nhau. Cô đã thực hiện simple regression analysis, cho thấy variance của energy consumption có thể được xác định bằng temperature. Total variance của dependent variable là 140.58 trong khi explained variance là 60.16, Julie có 60 observations mỗi tháng.
- EN: Calculate the coefficient of determination.
Hãy tính coefficient of determination.
EN: Solution:
Lời giải:
EN: Coefficient of determination equals 0.4279:
Coefficient of determination bằng 0.4279:

______________Explained variation _ = 60.16 Total variation 140.58 = 0.4279.
- EN: Determine the F-statistic which would indicate the goodness-of-fit of the model.
Hãy xác định F-statistic dùng để chỉ goodness-of-fit của model.

Lời giải: _________________ 60.16 ⧸1 _ F = = 60.16 1.3866 = 43.3882. (140.58 − 60.16) ⧸(60 − 2)
- EN: Calculate the sample standard deviation of monthly energy consumption.
Hãy tính sample standard deviation của monthly energy consumption.
EN: Solution:
Lời giải:
EN: Sample variance of the dependent variable can be calculated by dividing the total variance of the dependent variable by the number of observations minus one:
Sample variance của dependent variable có thể được tính bằng cách chia total variance của dependent variable cho số observations trừ đi một:

EN: Sample standard deviation of the dependent variable is equal to the square root of variance, or √_ 2.3827 = 1.544 .
Sample standard deviation của dependent variable bằng căn bậc hai của variance, hay √_ 2.3827 = 1.544 .
EN: The following concerns questions 4-6:
Phần sau liên quan đến câu hỏi 4-6:
EN: An analyst wishes to interpret the findings from and conduct hypothesis testing for the market model regression where the dependent variable is the daily return on ABC stock and the independent variable is the daily return on the hypothetical Europe Asia Africa (EAA) Equity Index, which is the proxy for the stock market. He obtained the regression output shown in Exhibit 27.
Một analyst muốn diễn giải các kết quả và thực hiện hypothesis testing cho market model regression, trong đó dependent variable là daily return của cổ phiếu ABC và independent variable là daily return của hypothetical Europe Asia Africa (EAA) Equity Index, đóng vai trò proxy cho stock market. Anh ta thu được regression output được trình bày trong Exhibit 27.
Exhibit 27: Hypothesis Testing của Simple Linear Regression Results - Các kết quả ước lượng được chọn của Market Model cho cổ phiếu ABC
| Standard error of estimate (se) | 1.26 |
|---|---|
| Standard deviation của stock returns ABC | 0.80 |
| Standard deviation của returns EAA Equity Index | 0.70 |
| Số observations | 1,200 |
| Coefficients | |
| Intercept | 0.010 |
| Slope của returns EAA Equity Index | 0.982 |
- EN: Given that the critical values of t are ±1.96 (for 5 percent level of significance), is the slope coefficient statistically different from zero? Answer:
Cho rằng critical values của t là ±1.96 (ở 5% level of significance), slope coefficient có khác biệt có ý nghĩa thống kê so với 0 hay không? Trả lời:
EN: First, the variation of the independent variable can be obtained using the standard deviation of the independent variable:
Trước tiên, variation của independent variable có thể được xác định bằng standard deviation của independent variable:

EN: So,
Vì vậy,
EN: Second, the standard error of the estimated slope coefficient is
Tiếp theo, standard error của estimated slope coefficient là

EN: the value of the test statistic is:
giá trị của test statistic là:
EN: Since the test statistic does not lie between -1.96 and +1.96, we reject the null hypothesis of zero slope coefficient.
Vì test statistic không nằm trong khoảng từ -1.96 đến +1.96, chúng ta bác bỏ null hypothesis về slope coefficient bằng 0.
- EN: If the critical values of t are -1.96 and +1.96 (at the 5 percent level of significance), is the slope coefficient significantly different from 1.0?
Nếu critical values của t là -1.96 và +1.96 (ở 5% level of significance), slope coefficient có khác biệt đáng kể so với 1.0 hay không?
EN: Solution:
Lời giải:
EN: The test statistic value for the null hypothesis that the slope coefficient is equal to 1.0 is:
Giá trị test statistic cho null hypothesis rằng slope coefficient bằng 1.0 là:
_ t =0.982 − 1 0.051983= − 0.3463.
EN: Since the test statistic lies within -1.96 and +1.96, we cannot reject the null hypothesis that the slope coefficient is 1.0.
Vì test statistic nằm trong khoảng từ -1.96 đến +1.96, chúng ta không thể bác bỏ null hypothesis rằng slope coefficient bằng 1.0.
- EN: The economist gathered the returns from KDL’s portfolio and a diversified stock index per month. The data gathered are presented in Exhibit 28 below:
Nhà kinh tế học đã thu thập returns hàng tháng của portfolio KDL và một diversified stock index. Dữ liệu thu thập được được trình bày trong Exhibit 28 dưới đây:
Exhibit 28: Monthly Returns của KDL
| Tháng | Portfolio Return (%) | Index Return (%) |
|---|---|---|
| 1 | 1.11 | −0.59 |
| 5 | −1.72 | −4.97 |
| 6 | 4.06 | −2.06 |
EN: The correlation between the two returns was computed by the economist, and he found that the correlation is 0.996. The regression analysis results with the return from the portfolio as the dependent variable and the return from the stock index as the independent variable are shown in Exhibit 29 below:
Nhà kinh tế học đã tính correlation giữa hai returns và nhận thấy correlation là 0.996. Kết quả regression analysis với return từ portfolio là dependent variable và return từ stock index là independent variable được trình bày trong Exhibit 29 dưới đây:
Exhibit 29: Regression Results
| Regression Statistics | |
|---|---|
| _R_2 | 0.9921 |
| Standard error | 2.8619 |
| Observations | 6 |

|Source|df|Sum of Squares|Mean Square|F|p-Value| |Regression|1|4,101.6205|4,101.6205|500.7921|0.0000| |Residual|4|32.7611|8.1903||| |Total|5|4,134.3815||||
||Coefficients|Standard Error|t-Statistic|p-Value| |Intercept|2.2521|1.2739|1.7679|0.1518| |Index|1.0690|0.0478|22.3784|0.0000| |return (%)|||||
EN: Andrea Fusilier thought that the results gathered were unreliable when she reviewed the results. Andrea noticed that the returns of Month 2 were supposed to be 7.21 percent
Andrea Fusilier cho rằng các kết quả thu thập được là không đáng tin cậy khi cô xem xét các kết quả. Andrea nhận thấy returns của Month 2 đáng lẽ phải là 7.21%
EN: and 6.49 percent and not the high figures shown in the first exhibit. Adjusting these figures caused a change in the correlation which became 0.824, and the revised regression results are shown in Exhibit 30 below:
và 6.49%, chứ không phải các con số cao được trình bày trong exhibit đầu tiên. Việc điều chỉnh các số liệu này đã làm correlation thay đổi thành 0.824, và revised regression results được trình bày trong Exhibit 30 dưới đây:
Exhibit 30: Revised Regression Results

Regression Statistics R 2 0.6784 Standard error 2.0624 Observations 6 Sum of Mean Source df Squares Square F p -Value Regression 1 35.8950 35.8950 8.4391 0.044 Residual 4 17.0137 4.2534 Total 5 52.91
||Coefficients|Standard Error|t-Statistic|p-Value| |Intercept|2.2421|0.8635|2.5966|0.060| |Slope|0.6217|0.2143|2.9050|0.044|
EN: How did the poor data impact the results?
Lời giải:
Dữ liệu kém chất lượng đã tác động đến kết quả như thế nào?
Dữ liệu của Tháng 2 là một outlier, nghĩa là nó cách biệt đáng kể so với tất cả các điểm dữ liệu khác. Vì outlier là kết quả của lỗi nhập dữ liệu, việc hiệu chỉnh outlier sẽ cải thiện tính valid và reliability của regression model. Trong trường hợp cụ thể này, _R_2 đã hiệu chỉnh thấp hơn (từ 0.9921 xuống 0.6784). Các outlier đã tạo ra cảm giác về mức độ phù hợp tốt hơn đối với _R_2 cao hơn; chúng đã làm thay đổi việc ước lượng slope. standard error of the estimate thấp hơn sau khi hiệu chỉnh lỗi dữ liệu (từ 2.8619 xuống 2.0624); đây là kết quả của mean square error thấp hơn. Các model có mức độ phù hợp tốt ở mức significance 0.05. Sự khác biệt về mức độ phù hợp được trình bày trong Exhibit 31.

Exhibit 31: Mức độ phù hợp của Model có và không có lỗi dữ liệu A. Trước khi các lỗi dữ liệu được hiệu chỉnh Portfolio Return 80 70 60 50 40 30 20 10 0 –10 –20 0 20 40 60 80 Index Return B. Sau khi các lỗi dữ liệu được hiệu chỉnh Portfolio Return (%) 8 6 4 2 0 –2 –4 –10 –5 0 5 10 Index Return (%)
DỰ BÁO TRONG SIMPLE LINEAR REGRESSION MODEL
Giải thích việc sử dụng analysis of variance (ANOVA) trong regression analysis, giải thích kết quả ANOVA, và tính toán cũng như diễn giải standard error of estimate trong simple linear regression
Tính toán và diễn giải giá trị dự báo của dependent variable và prediction interval cho giá trị đó, với linear regression model và giá trị của independent variable đã cho
ANOVA và Standard Error of Estimate trong Simple Linear Regression
Các sums of squares trong regression model thường được trình bày trong bảng analysis of variance (ANOVA), như được minh họa trong Exhibit 32. Bảng này thể hiện sums of squares, degrees of freedom, mean squares và F statistic. Lưu ý rằng variance của dependent variable là tỷ số giữa sum of squares total và n − 1.
Exhibit 32: Bảng Analysis of Variance cho Simple Linear Regression
|Nguồn|Sum of Squares|Degrees of Freedom|Mean Square|F-S|tatistic| |Regression|SSR =∑ i=1 n ( ˆ Yi−_ Y) 2|1|MSR = ∑ i=1 n ( ˆ Yi−_ Y) 2 ____________ 1|F=MSR _ MSE|= ∑ i=1 n ( ˆ Yi−_ Y) 2 ____________ 1 ___________ ∑ i=1 n ( Y i−ˆ Yi ) 2 _____________ n− 2| |Sai số|SSE =∑ i=1 n ( Y i−ˆ Yi ) 2|n− 2|MSE = ∑ i=1 n ( Y i−ˆ Yi ) 2 _____________ n− 2||| |Tổng|SST =∑ i=1 n ( Y i−_ Y) 2|n− 1||||
Từ bảng ANOVA, ta cũng có thể tính standard error of the estimate (se), còn được gọi là standard error of the regression hoặc root mean square error. se là thước đo khoảng cách của các giá trị quan sát được của dependent variable so với các giá trị được dự báo bởi estimated regression. se càng thấp thì độ chính xác của mức độ phù hợp của model càng cao. se, giống như coefficient of determination và F -statistic, là thước đo goodness of fit của estimated regression line. Trái với coefficient of determination và F -statistic, vốn là các thước đo tương đối về mức độ phù hợp, standard error of the estimate là thước đo tuyệt đối về khoảng cách của dependent variable quan sát được so với regression line. Vì vậy, se là một statistic quan trọng được sử dụng để đánh giá regression model, tính prediction intervals và kiểm định các coefficients. Việc tính se trở nên đơn giản khi có bảng ANOVA vì se là square root của MSE:

Bảng ANOVA cho ví dụ ROA regression của chúng ta được trình bày trong Exhibit 32, dựa trên dữ liệu được cung cấp trong Exhibit 33. Với mức significance 5%, critical F -value để kiểm định goodness of fit (liệu slope coefficient có khác zero hay không) là 7.71. Có thể xác định critical F -value như sau:
-
Excel [F.INV(0.95,1,4)]
-
R [qf(.95,1,4)]
-
Python [from scipy.stats import f and f.ppf(.95,1,4)]
Với F -statistic được tính là 16.0104 và critical F -value là 7.71, null hypothesis bị bác bỏ, và chúng ta kết luận rằng slope của simple linear regression model cho ROA khác zero.
Exhibit 33: Bảng ANOVA cho ROA Regression Model
|Nguồn|Sum of Squares|Degrees of Freedom|Mean Square|F-Statistic| |Regression|191.625|1|191.625|16.0104| |Sai số|47.875|4|11.96875|| |Tổng|239.50|5|||
Các phép tính liên quan đến việc lập bảng ANOVA và kiểm định goodness of fit của regression model có thể tốn nhiều thời gian, đặc biệt đối với sample size lớn. Tuy nhiên, các statistical package hiện đại, chẳng hạn như SAS, SPSS Statistics và Stata, cũng như các software package, chẳng hạn như Excel, R và Python, cung cấp bảng ANOVA như một phần của regression analysis output.
Dự báo bằng Simple Linear Regression và Prediction Intervals
Financial analysts thường cần đưa ra dự báo bằng cách sử dụng regression results. Chẳng hạn, có thể đặt câu hỏi: “Doanh số của XYZ Corporation sẽ tăng với tốc độ bao nhiêu nếu real GDP tăng 4%?” Bên cạnh việc đưa ra các dự báo, chúng ta cũng muốn biết mức độ tin cậy của mình đối với kết quả của các dự báo. Giá trị dự báo của dependent variable _Y_ˆf được xác định bằng estimated intercept, slope và independent variable dự báo Xf:

Trong ROA regression model của chúng ta, giả sử dự báo CAPEX của một công ty là 6%, ROA dự báo theo estimated regression equation là 12.375%:
_Y_ˆ f = 4.875 +( 1.25 × 6) = 12.375 .
Nhưng cần nhận thức rằng estimated regression line không mô tả hoàn toàn mối quan hệ giữa dependent variable và independent variable; đúng hơn, nó mô tả mức trung bình của mối quan hệ giữa hai variable. Điều này rõ ràng vì các residual không phải đều bằng zero.
Do đó, cần sử dụng interval estimate cho forecast để phản ánh điều này. estimated variance của prediction error, sf2, của Y, với X đã cho, là

standard error of the forecast chịu ảnh hưởng bởi các yếu tố sau:
-
standard error of the estimate, se;
-
number of observations, n ;
-
Giá trị dự báo của independent variable, Xf, dùng để dự báo dependent variable và chênh lệch giữa giá trị này với estimated mean của X; và
-
variation của independent variable.
Điều trên có thể được quan sát từ công thức standard error of forecast:
-
1. Mức độ phù hợp của regression model càng tốt thì standard error of estimate ( se ) càng thấp và do đó standard error of forecast càng thấp.
-
2. number of observations ( n ) trong regression analysis càng lớn thì standard error of forecast càng thấp.
-
3. Giá trị của independent variable cần được dự báo (Xf) càng gần mean của independent variable (X) được sử dụng trong regression analysis thì standard error of forecast càng thấp.
Sau khi đã xác định estimate của standard error of forecast, việc xây dựng prediction interval xung quanh giá trị dự báo của dependent variable (_Y_ˆ f ) sẽ giống với việc xây dựng confidence interval xung quanh estimate của một parameter ở nhiều khía cạnh. prediction interval là
_Y_ˆ f ± tcritical for α /2 sf .
Các bước để xác định prediction interval được minh họa trong Exhibit 34.
Exhibit 34: Xây dựng Prediction Interval xung quanh Dependent Variable được dự báo

Dự báo giá trị của Y, Y^f, với giá trị dự báo của X là Xf
Chọn mức significance, α, cho prediction interval
Xác định critical value cho prediction interval dựa trên degrees of freedom và mức significance
Xác định standard error of the forecast
Xác định prediction interval (1 – α)% cho dự báo như sau: Y^f ± t critical for α/2 sf
Đối với ROA regression model, vì giá trị dự báo của CAPEX là 6.0, giá trị dự báo của Y là 12.375:
_Y_ˆ f = 4.875 + 1.25 Xf = 4.875 +( 1.25 × 6.0) = 12.375.
Với mức significance 5% ( α ), two sided, với n − 2 degrees of freedom (do đó, df = 4), các critical values cho prediction interval là ±2.776. standard error of the forecast là

prediction interval 95% là

12.375 ± 10.3737

Trong trường hợp ROA regression, chúng ta thấy standard error of the forecast ( sf ) thay đổi theo khoảng cách giữa forecast value của independent variable và mean của independent variable ( Xf − X_ ) trong Exhibit 35. Mean của CAPEX = 6.1%
và dải thể hiện standard error of the prediction phía trên và phía dưới prediction là nhỏ nhất tại giá trị đó và trở nên lớn hơn khi independent variable lệch xa X_ hơn.
Exhibit 35: ROA Forecasts và Standard Error of the Forecast

ROA dự báo (%) 45 40 35 30 25 20 15 10 5 0 -5 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 CAPEX dự báo (%) Y dự báo Cận trên của Prediction Interval 95% Cận dưới của Prediction Interval 95%
EN: Assume that you perform a cross-sectional regression analysis involving 100 firms using annual return on stocks as the dependent variable and lagged percentage of institutions’ holdings (INST) as the independent variable. The output obtained from estimating the simple linear regression equation is depicted in Exhibit 36. Answer questions 1 to 4 to evaluate this model.
Bài tập thực hành
Giả sử bạn thực hiện cross-sectional regression analysis liên quan đến 100 công ty, sử dụng annual return on stocks làm dependent variable và tỷ lệ phần trăm holdings của institutions bị trễ một kỳ (INST) làm independent variable. Output thu được từ việc ước lượng simple linear regression equation được trình bày trong Exhibit 36. Hãy trả lời các câu hỏi từ 1 đến 4 để đánh giá model này.
Exhibit 36: Bảng ANOVA cho Annual Stock Return Regressed on Institutional Ownership
EN: 1. What is the coefficient of determination for this regression model?
| Nguồn | Sum of Squares | Degrees of Freedom | Mean Square |
|---|---|---|---|
| Regression | 576.1485 | 1 | 576.1485 |
| Sai số | 1,873.5615 | 98 | 19.1180 |
| Tổng | 2,449.7100 |
- coefficient of determination của regression model này là bao nhiêu?
EN: The determination of the coefficient of determination is: Sum of squares regression/Sum of squares total = 576.148/2,449.71 = 0.
Lời giải:
coefficient of determination được xác định như sau: Sum of squares regression/Sum of squares total = 576.148/2,449.71 = 0.
EN: 2. Calculate the standard error of estimate in this regression equation.
- Hãy tính standard error of estimate trong regression equation này.
EN: Standard error of estimate is the square root of mean square error: √_ 19.1180 = 4.3724 .
Lời giải:
EN: 3. At the 5 percent level of significance, will you reject the null hypothesis of the slope coefficient being equal to zero when the critical value of F is 3.938?
standard error of estimate là square root của mean square error: √_ 19.1180 = 4.3724 .
- Ở mức significance 5%, bạn có bác bỏ null hypothesis rằng slope coefficient bằng zero khi critical value của F là 3.938 không?
EN: Using six steps of hypothesis testing, we have:
Lời giải:
Sử dụng sáu bước của hypothesis testing, ta có:
EN: 4. Based on your answers to the above questions, assess this simple regression equation.
| Bước 1 | Nêu các hypotheses. | _H_0:b_1= 0 versus_Ha:_b_1≠ 0 |
|---|---|---|
| Bước 2 | Xác định test statistic phù hợp. | F=MSR _ MSE với 1 và 98 degrees of freedom. |
| Bước 3 | Xác định mức significance. | α= 5% (one tail, phía bên phải). |
| Bước 4 | Nêu decision rule. | Critical_F_-value = 3.938. Bác bỏ null hypothesis nếu F-statistic được tính lớn hơn 3.938. |
| Bước 5 | Tính test statistic. | F=576.1485 _ 19.1180= 30.1364 |
| Bước 6 | Đưa ra quyết định. | Bác bỏ null hypothesis vì F-statistic được tính lớn hơn critical F-value. Bằng chứng là đủ để chỉ ra rằng slope coefficient khác 0.0. |
- Dựa trên các câu trả lời cho những câu hỏi trên, hãy đánh giá simple regression equation này.
EN: The coefficient of determination implies that the changes in the independent variable account for 23.52 percent of changes in the dependent variable. Besides, the F-statistic test shows that the model's slope coefficient is not equal to zero at the 5 percent level of significance. Hence, the model fits the data sufficiently well.
Lời giải:
coefficient of determination cho thấy những thay đổi trong independent variable giải thích 23.52% những thay đổi trong dependent variable. Bên cạnh đó, F-statistic test cho thấy slope coefficient của model không bằng zero ở mức significance 5%. Do đó, model phù hợp với dữ liệu ở mức đủ tốt.
EN: Assume that we wish to predict the net profit margin (NPM) of a company given the ratio between its research and development expenditures and revenues (RDR) based on the model estimated in example 2 and data presented in exhibit 8. The regression model was estimated on the sample size eight firms as
Áp dụng cho các câu hỏi từ 5-10
Giả sử chúng ta muốn dự báo net profit margin (NPM) của một công ty dựa trên tỷ lệ giữa research and development expenditures và revenues (RDR), dựa trên model được ước lượng trong example 2 và dữ liệu được trình bày trong exhibit 8. regression model được ước lượng trên sample size gồm tám công ty như sau
_Y_ˆ f = 16.5 − 1.3 Xf ,
EN: 5. What is the predicted value of NPM if the forecasted value of RDR is 5?
___________∑ ni với standard error of the estimate (=1( Xi − X )2 se ) là 1.8618987 và variance của RDR là 4.285714, như đã cho. ( n − 1)
- Giá trị dự báo của NPM là bao nhiêu nếu giá trị dự báo của RDR là 5?
EN: The predicted value of NPM is 10: 16.5 − (1.3 × 5) = 10.
Lời giải:
Giá trị dự báo của NPM là 10: 16.5 − (1.3 × 5) = 10.
Dự báo trong Simple Linear Regression Model
EN: 6. What is the standard error of the forecast (sf) if the forecasted value of RDR is 5?
- standard error of the forecast (sf) là bao nhiêu nếu giá trị dự báo của RDR là 5?
EN: To find the standard error of the forecast (sf), it is required to estimate the variation of RDR. Having all these values, it is possible to determine sf: ∑ ni =1 ( Xi − X )2 = 4.285714 × 7 = 30. ______________ _ 1 +1 = 2.1499. sf = 1.8618987 √ 8_ (5 − 7.5 30_2_
Lời giải:
EN: 7. What is the 95 percent prediction interval for the predicted value of NPM using critical t-values (df = 6) of ±2.447?
Để tìm standard error of the forecast (sf), cần ước lượng variation của RDR. Khi có tất cả các giá trị này, có thể xác định sf: ∑ ni =1 ( Xi − X )2 = 4.285714 × 7 = 30. ______________ _ 1 +1 = 2.1499. sf = 1.8618987 √ 8_ (5 − 7.5 30_2_
- prediction interval 95% cho giá trị dự báo của NPM là bao nhiêu khi sử dụng critical t-values (df = 6) là ±2.447?
EN: The 95 percent prediction interval for the predicted value of NPM is {10 ± 2.447(2.1499)}, {4.7392 < _Y_ˆ f < 15.2608}.
Lời giải:
EN: 8. What is the predicted value of NPM if the forecasted value of RDR is 15?
prediction interval 95% cho giá trị dự báo của NPM là {10 ± 2.447(2.1499)}, {4.7392 < _Y_ˆ f < 15.2608}.
- Giá trị dự báo của NPM là bao nhiêu nếu giá trị dự báo của RDR là 15?
EN: The predicted value of NPM is −3: 16.5 − (1.3 × 15) = −3.
Lời giải:
EN: 9. Refering to exhibit 9, what is the standard error of the forecast if the forecasted value of RDR is 15?
Giá trị dự báo của NPM là −3: 16.5 − (1.3 × 15) = −3.
- Tham chiếu exhibit 9, standard error of the forecast là bao nhiêu nếu giá trị dự báo của RDR là 15?
EN: To estimate the standard error of the forecast, it is necessary to find the variation of RDR. After that, one can estimate sf: ∑ ni =1 ( Xi − X )2 = 4.285714 × 7 = 30. _______________ _ 1 +1 = 3.2249. sf = 1.8618987 √ 8_ (15 − 7.5 30_2_
Lời giải:
EN: 10. What is the 95 percent prediction interval for the predicted value of NPM using critical t-values (df = 6) of ±2.447?
Để ước lượng standard error of the forecast, cần xác định variation của RDR. Sau đó, có thể ước lượng sf: ∑ ni =1 ( Xi − X )2 = 4.285714 × 7 = 30. _______________ _ 1 +1 = 3.2249. sf = 1.8618987 √ 8_ (15 − 7.5 30_2_
- prediction interval 95% cho giá trị dự báo của NPM là bao nhiêu khi sử dụng critical t-values (df = 6) là ±2.447?
EN: The 95 percent prediction interval for the predicted value of NPM is {− 3 ± 2.447( 3.2249) } , { − 10.8913 < _Y_ˆ f < 4.8913 } .
Lời giải:
EN: You are considering the results from a regression estimate, which attempts to explain the sales growth of the company that you are analyzing. The analysis of variance result for this regression is provided in Exhibit 37. The regression was performed on the basis of five observations ( n = 5).
prediction interval 95% cho giá trị dự báo của NPM là {− 3 ± 2.447( 3.2249) } , { − 10.8913 < _Y_ˆ f < 4.8913 } .
Những nội dung sau áp dụng cho các câu hỏi 11-15
Bạn đang xem xét kết quả từ một regression estimate nhằm giải thích sales growth của công ty mà bạn đang phân tích. Kết quả analysis of variance cho regression này được trình bày trong Exhibit 37. Regression được thực hiện dựa trên năm observations ( n = 5).
Exhibit 37: ANOVA Output

EN: 11. Find the sample variance of the dependent variable based on the information given in the table.
Tổng các Mean Nguồn biến thiên df Squares Square F p -Value Regression 1 88.0 88.0 36.667 0.00904 Residual 3 7.2 2.4 Total 4 95.2
- Hãy tìm sample variance của dependent variable dựa trên thông tin được cung cấp trong bảng.
EN: The sample variance of the dependent variable equals the sum of squares total divided by its degrees of freedom ( n − 1 = 5 − 1 = 4, as given). Therefore, the sample variance of the dependent variable equals 95.2 ÷ 4 = 23.8.
Lời giải:
EN: 12. Calculate the coefficient of determination for this estimated model.
sample variance của dependent variable bằng sum of squares total chia cho degrees of freedom của nó ( n − 1 = 5 − 1 = 4, như đã cho). Do đó, sample variance của dependent variable bằng 95.2 ÷ 4 = 23.8.
- Hãy tính coefficient of determination cho estimated model này.
EN: The coefficient of determination = 88.0 ÷ 95.2 = 0.92437.
Lời giải:
EN: 13. What hypothesis does the F -statistic test?
coefficient of determination = 88.0 ÷ 95.2 = 0.92437.
- F -statistic kiểm định giả thuyết nào?
EN: F -statistic is used for testing whether all slope coefficients in a linear regression are equal to zero.
Lời giải:
EN: 14. Is the F -test significant at the 0.05 significance level?
F -statistic được sử dụng để kiểm định liệu tất cả slope coefficients trong một linear regression có bằng 0 hay không.
- F -test có significant tại significance level 0.05 hay không?
EN: The computed F -statistic is 36.667 and is given in Exhibit 32. The p -value associated with the F -statistic is less than 0.05, hence you reject the null hypothesis that the slope is equal to zero.
Lời giải:
EN: 15. Calculate the standard error of the estimate.
F -statistic được tính là 36.667 và được cho trong Exhibit 32. p -value liên quan đến F -statistic nhỏ hơn 0.05, do đó bạn bác bỏ null hypothesis rằng slope bằng 0.
- Hãy tính standard error of the estimate.
EN: The standard error of estimate is defined as the square root of mean squared error: se = √_ 2.4 = 1.54919.
Lời giải:
standard error of estimate được định nghĩa là căn bậc hai của mean squared error: se = √_ 2.4 = 1.54919.
CÁC DẠNG HÀM CHO SIMPLE LINEAR REGRESSION
mô tả các dạng hàm khác nhau của simple linear regressions
Không phải mọi sự kết hợp giữa independent variable và dependent variable đều có quan hệ tuyến tính. Trên thực tế, trong dữ liệu kinh tế và tài chính, chúng ta gặp những trường hợp mà mối quan hệ là phi tuyến. Ví dụ, hãy xem revenues của một công ty trong một khoảng thời gian được mô tả trong Exhibit 38, trong đó revenues là dependent
Variable (Y), còn thời gian là independent variable (X). Revenue tăng 15% mỗi năm trong vài năm, nhưng sau đó growth rate giảm xuống chỉ còn 5% mỗi năm. Trong trường hợp này, nếu ước lượng mối quan hệ giữa revenue và thời gian bằng simple linear regression model, các giá trị của dependent variable, tức revenue, sẽ bị đánh giá thấp ở một số khoảng của independent variable, tức thời gian, và bị đánh giá cao ở một số khoảng khác của cùng variable này.
Exhibit 38: Revenues của công ty theo thời gian

Revenues ( Y ) 2,500 2,000 1,500 1,000 Y = –287.61 + 76.578 X 500 R 2 = 0.9478 F -statistic = 508.9017 0 –500 1 4 7 10 13 16 19 22 25 28 Time ( X ) Observed Y Linear Prediction of Y
Tuy nhiên, simple linear regression model vẫn có thể được áp dụng để ước lượng mối quan hệ, với điều kiện chúng ta áp dụng một số thay đổi cho dependent variable hoặc independent variable. Điều này có thể thực hiện trong nhiều trường hợp với các loại dữ liệu tài chính hoặc kinh tế khác nhau được sử dụng làm dependent variable và independent variable trong regression analysis.
Có một số cách có thể chuyển đổi dữ liệu và áp dụng simple linear regression model cho chúng. Các kỹ thuật chuyển đổi bao gồm việc sử dụng log (tức natural logarithm) của dependent variable, log của independent variable, reciprocal của independent variable, bình phương của independent variable và sai phân của independent variable. Chúng ta sẽ xem xét và thảo luận ba phép chuyển đổi được sử dụng rộng rãi dưới dạng log transformations:
-
1.* log-lin model, trong đó dependent variable ở dạng logarithmic và independent variable ở dạng linear;
-
2.* lin-log model, trong đó dependent variable ở dạng linear và independent variable ở dạng logarithmic; và
-
3.* log-log model, trong đó dependent variable và independent variable được biểu diễn dưới dạng logarithmic.
Log-Lin Model
Trong log-lin model, dependent variable ở dạng logarithmic còn independent variable thì không, như sau:
ln Yi = b 0 + b 1 Xi .
(25)
Slope coefficient trong model này biểu thị relative change của dependent variable tương ứng với absolute change của independent variable. Để minh họa, chúng ta có thể chuyển đổi variable Y (revenues) trong Exhibit 38 thành natural log (ln) của nó và ước lượng regression line, như được thể hiện trong Exhibit 39. Từ đồ thị này, có thể thấy rõ rằng log-lin model là model có độ phù hợp tốt hơn simple linear regression model.
Exhibit 39: Log-Lin Model được áp dụng cho Revenues của công ty theo thời gian

Ln Revenues (Ln Y ) 9 8 7 6 5 4 Ln Y = 4.7932 + 0.1087 X R 2 = 0.9808 3 F -statistic = 1429.5473 2 1 0 1 4 7 10 13 16 19 22 25 28 Time ( X ) Ln Y Log-Lin Prediction of Y
Cần lưu ý rằng khi làm việc với log-lin model, cần thận trọng về forecasting. Để minh họa, giả sử estimated regression model là ln Y = −7 + 2 X. Khi X là 2.5%, giá trị forecasted của ln Y sẽ là −2. Do đó, giá trị forecasted của Y trong trường hợp này sẽ là antilog của −2, tức e−2 = 0.135335. Một điểm khác cần lưu ý khi làm việc với log-lin model là không thể so sánh kết quả của log-lin model với kết quả của lin-lin model (tức regression của Y theo X mà không có transformations) vì dependent variables không ở cùng một dạng - chúng ta sẽ cần chuyển đổi _R_2 và F statistic để có thể thực hiện so sánh như vậy. Tuy nhiên, việc xem xét residuals có thể hữu ích:
Lin-Log Model
Lin-log model là một loại model khác, trong đó independent variable ở dạng logarithmic:
Yi = b 0 + b 1 ln Xi .

Slope trong regression model này là absolute change của dependent variable tương ứng với relative change của independent variable.
Ví dụ, giả sử một analyst phân tích cross-sectional relationship giữa operating profit margin (dependent variable: Y ) và unit sales (independent variable: X ) và thu thập dữ liệu của 30 firms. Mối quan hệ này được biểu diễn trong Exhibit 40. Mặc dù slope khác 0 tại significance level 5% (t -statistic của slope bằng 5.8616 trong khi critical values của t là ±2.048), xét theo R2 là 55.10%, câu hỏi đặt ra là liệu có một functional form phù hợp hơn hay không.
Exhibit 40: Mối quan hệ giữa Operating Profit Margin và Unit Sales

Operating Profit Margin ( Y ) 20 18 16 14 12 10 8 Y = 10.3665 + 0.000045 X 6 R 2 = 0.5510 4 S e = 2.2528 F -statistic = 33.8259 2 0 0 50,000 100,000 150,000 Unit Sales ( X ) Operating Profit Margin Regression Line
Nếu thay vào đó chúng ta sử dụng natural logarithm của unit sales làm independent variable, chúng ta sẽ có một bức tranh khác như được minh họa trong Exhibit 41. _R_2 của model trong đó operating profit margin được regressed theo natural log của unit sales bằng 97.17%. Vì dependent variable vẫn giữ nguyên trong cả hai models, chúng ta có thể so sánh standard error of the estimate: 2.2528 trong model ban đầu và 0.5629 trong model đã được chuyển đổi. Rõ ràng, việc chuyển đổi explanatory variable đã tạo ra model fit tốt hơn.
- Exhibit 41: Mối quan hệ giữa Operating Profit Margin và Natural Logarithm của Unit Sales*

Operating Profit Margin ( Y ) 20 18 16 14 12 10 8 Y = 2.6286 + 1.1797 Ln X 6 R 2 = 0.9717 4 S e = 0.5659 F -statistic = 960.1538 2 0 0 2 4 6 8 10 12 14 Ln of Unit Sales (Ln X ) Operating Profit Margin Lin-Log Regression Line
Log-Log Model
Log-log model, trong đó cả dependent variable và independent variable đều tuyến tính theo logarithms của chúng, được gọi là double-log model: ln Yi = b 0 + b 1 ln Xi . (27)
Log-log model của demand hữu ích trong các phép tính elasticity, vì slope coefficient biểu thị tỷ lệ thay đổi của dependent variable so với sự thay đổi của independent variable. Ví dụ, giả sử một cross-section study ước lượng revenue của công ty (variable Y) được regressed theo advertising expenditures dưới dạng % của chi phí selling, general và administrative expenses, ADVERT (variable X). Theo Exhibit 42 bên dưới, một linear regression model tạo ra một regression line phẳng, trong đó coefficient of determination bằng 20.89%.
- Exhibit 42: Simple Linear Regression Fit

Revenues ( Y ) 5,000 4,500 Y = 70.7139 + 475.3665 X 4,000 R 2 = 0.2089 F -statistic = 7.3924 3,500 3,000 2,500 2,000 1,500 1,000 500 0 0 0.5 1.0 1.5 2.0 2.5 3.0 3.5 4.0 Advertising as a Percentage of SG&A (%, X ) Revenues Regression Line
Khi chúng ta sử dụng natural logarithm của dependent variable và independent variable, tình hình thay đổi đáng kể. Như được thể hiện trong Exhibit 43 bên dưới, fitted regression line có slope coefficient dương cao, _R_2 của log-log model tăng hơn bốn lần, từ 20.89 lên 84.91%; và F -statistic tăng từ 7.39 lên 157.52. Do đó, chúng ta thấy việc sử dụng log-log transformations có lợi như thế nào trong việc tạo ra regression fit tốt nhất đối với data set của mình.
Exhibit 43: Fitting một Log-Log Model cho Revenues và Advertising Spending

Ln Revenues (Ln Y ) 10 8 6 4 2 0 Ln Y = 5.3109 + 1.3686 Ln X –2 R 2 = 0.8491 F -statistic = 157.5208 –4 –6 –8 –6 –4 –2 0 2 Ln Advertising as a Percentage of SG&A (Ln X ) Natural Log of Revenues Log-Log Regression Line
Lựa chọn Functional Form phù hợp
Một trong các cách để xác định dạng simple linear regression nào nên được sử dụng trong estimation là dựa trên việc phân tích các goodness-of-fit measures - coefficient of determination ( _R_2 ), F -statistic và standard error of the estimate ( se ). Một khía cạnh khác liên quan đến việc kiểm tra xem residual plots có thể hiện một pattern nào đó hay không. Hầu hết các software programs được sử dụng để chạy regressions đều cung cấp residual plot như một phần của regression output, từ đó cho bạn cơ hội phân tích trực quan residuals. Điều rất quan trọng cần lưu ý là điều bạn cần thấy trong residual plots là tính ngẫu nhiên của residuals.
Ví dụ, mối quan hệ giữa returns của DEF stocks và returns của EAA Equity Index theo tháng được trình bày trong Panel A của Exhibit 44 bên dưới cùng với regression line. Sử dụng regression equation, chúng ta có thể tính residuals và xây dựng residual plot cho chúng so với EAA Equity Index, như được thể hiện trong Panel B của Exhibit 44. Chúng ta thấy rằng residuals không liên quan đến independent variable và có tính ngẫu nhiên. Phân phối của residuals được trình bày trong Panel C của Exhibit 44 và có dạng giống một hình chuông, điều này có nghĩa là residuals có normal distribution. Với sự hỗ trợ của statistical software, chúng ta có thể thực hiện các tests bổ sung đối với phân phối của residuals, chẳng hạn sử dụng normal probability plot và một số statistics để kiểm tra normality của residuals.
Exhibit 44: Monthly Returns của DEF Stock được Regressed theo Returns của EAA Index
A. Scatterplot của Returns trên DEF Stock và Return trên EAA Index Return trên DEF Stock (%)

3.0 2.0 Y = 0.0062 + 1.1905 X 1.0 0 –1.0 –2.0 –3.0 –4.0 –3.0 –2.0 –1.0 0 1.0 2.0 Return on the EAA Index (%)
B. Biểu đồ phân tán của Residuals và Returns của EAA Index
Residual Return của DEF Stock (%)

0.3 0.2 0.1 0 –0.1 –0.2 –0.3 –0.4 –3.0 –2.0 –1.0 0 1.0 2.0 3.0 Return của EAA Index (%) C. Histogram của Residuals Số lượng quan sát 35 30 25 20 15 10 5 0 –0.28 –0.22 –0.16 –0.10 –0.04 0.02 0.08 0.14 0.20 đến đến đến đến đến đến đến đến đến –0.22 –0.16 –0.10 –0.04 0.02 0.08 0.14 0.20 0.26 Khoảng Residual (%)
BỘ CÂU HỎI
Một nhà nghiên cứu cần nghiên cứu tác động của mức tăng hằng năm trong chi tiêu tiêu dùng (CONS) của một quốc gia đối với mức tăng trưởng hằng năm của GDP (GGDP) của quốc gia đó. Hai mô hình đã được nhà phân tích ước lượng như minh họa trong Exhibit 45.
Exhibit 45: Các ước lượng mô hình
| Model 1 | Model 2 | |
|---|---|---|
| GGDPi=_b_0+_b_1CONSi+ εi | GGDPi=_b_0+_b_1ln(CONSi) + εi | |
| Intercept | 1.040 | 1.006 |
| Slope | 0.669 | 1.994 |
| _R_2 | 0.788 | 0.867 |
| Standard error of | 0.404 | 0.320 |
| the estimate | ||
| F-statistic | 141.558 | 247.040 |
- Xác định functional form được sử dụng trong các mô hình này.
Lời giải:
Model 1 là một simple linear regression model trong đó không có transformation nào đối với các biến, trong khi Model 2 là một lin-log model với natural log của biến CONS là independent variable.
- Mô tả mô hình nào trong hai mô hình phù hợp hơn với dữ liệu.
Lời giải:
Lin-log model 2 phù hợp hơn với dữ liệu. Vì dependent variable là giống nhau đối với hai mô hình, chúng ta có thể sử dụng một trong hai thước đo (thước đo tương đối hoặc tuyệt đối) để so sánh độ phù hợp của hai mô hình. Standard error of estimate nhỏ hơn trong Model 2, trong khi _R_2 và F-statistic lớn hơn trong Model 2 so với Model 1.
BÀI TẬP THỰC HÀNH
Thông tin sau đây liên quan đến câu hỏi 1-3
Một nhà nghiên cứu đã ước lượng một mô hình để hồi quy return on equity (ROE) của một công ty theo growth opportunities (GO) của công ty - compounded annual growth rate trong doanh số trong ba năm - sử dụng dữ liệu được thu thập trong 20 năm - và thu được simple linear regression equation sau:
ROEi = 4 + 1.8 GOi + εi.
Giá trị của cả independent variable và dependent variable đều được biểu thị bằng %, do đó GO bằng 5% được đưa vào dưới dạng 5.
- EN: 1.* The value of ROE if the GO of the company is 10 percent is:*
Giá trị của ROE nếu GO của công ty là 10% là:
-
EN: A. 1.8 percent.
-
A. 1.8%.
-
EN: B. 15.8 percent.
-
B. 15.8%.
-
EN: C. 22.0 percent.
-
C. 22.0%.
- EN: 2.* The value of the change in ROE when the change in GO is from 5 percent to 6 percent is:*
Giá trị của mức thay đổi trong ROE khi GO thay đổi từ 5% lên 6% là:
-
EN: A. 1.8 percent.
-
A. 1.8%.
-
EN: B. 4.0 percent.
-
B. 4.0%.
-
EN: C. 5.8 percent.
-
C. 5.8%.
- EN: 3.* The residual if the GO is 8 percent and ROE is 21 percent is:*
Residual nếu GO là 8% và ROE là 21% là:
-
EN: A. −1.8 percent.
-
A. −1.8%.
-
EN: B. 2.6 percent.
-
B. 2.6%.
-
EN: C. 12.0 percent.
-
C. 12.0%.
- EN: 4.* Homoskedasticity can be best explained by a condition in which the variance of the residuals of a regression is:*
Homoskedasticity có thể được giải thích đúng nhất bằng một điều kiện trong đó variance của residuals của một regression là:
-
EN: A. zero.
-
A. bằng không.
-
EN: B. normally distributed.
-
B. có normal distribution.
-
EN: C. constant across observations.
-
C. không đổi giữa các observations.
Thông tin sau đây liên quan đến câu hỏi 5-8
Một nhà phân tích đang nghiên cứu mức tăng trưởng hằng năm của money supply trong 30 năm qua tại một quốc gia nhất định. Quốc gia này đã có một thay đổi trong monetary policy 15 năm trước, dẫn đến sự thay đổi trong cách money supply được quản lý. Nhà phân tích đã xây dựng mô hình bằng cách hồi quy mức tăng trưởng hằng năm của money supply theo biến (SHIFT), có giá trị bằng 0 trước khi monetary policy thay đổi và giá trị bằng 1 sau đó. Cô ấy thu được các ước lượng regression sau như trong Exhibit 1:
Exhibit 1: Các ước lượng SHIFT
| Coefficients | Standard Error | t-Stat. | |
|---|---|---|---|
| Intercept | 5.767264 | 0.445229 | 12.95348 |
| SHIFT | −5.13912 | 0.629649 | −8.16188 |
EN: 5. The variable SHIFT is best described as:
Critical t-values, level of significance of 0.05: eOne-sided, left side: −1.701 fOne-sided, right side: +1.701 gTwo-sided: ±2.048
Biến SHIFT được mô tả đúng nhất là:
-
EN: A. an indicator variable.
-
A. một indicator variable.
-
EN: B. a dependent variable.
-
B. một dependent variable.
-
EN: C. a continuous variable.
-
C. một continuous variable.
- EN: 6.* The interpretation of the intercept is the mean of the annual growth rate of the money supply:*
Diễn giải về intercept là mean của annual growth rate của money supply:
-
EN: A. before the shift in policy.
-
A. trước khi policy thay đổi.
-
EN: B. over the entire period.
-
B. trong toàn bộ giai đoạn.
-
EN: C. after the shift in policy.
EN: 7. The interpretation of the slope is the:
- C. sau khi policy thay đổi.
Diễn giải về slope là:
-
EN: A. change in the annual growth rate of the money supply per year.
-
A. mức thay đổi trong annual growth rate của money supply mỗi năm.
-
EN: B. average annual growth rate of the money supply after the shift in policy.
-
B. average annual growth rate của money supply sau khi policy thay đổi.
-
EN: C. change in the average annual growth rate of the money supply before and after the change in policy.
-
C. mức thay đổi trong average annual growth rate của money supply trước và sau khi policy thay đổi.
- EN: 8.* To test whether there is a change in the average growth rate of the money supply before and after the change in policy at a 0.05 level of significance, we conclude that:*
Để kiểm định liệu có sự thay đổi trong average growth rate của money supply trước và sau khi policy thay đổi tại level of significance 0.05 hay không, chúng ta kết luận rằng:
-
EN: A. sufficient evidence that the money supply growth changed.
-
A. có đủ bằng chứng cho thấy tăng trưởng của money supply đã thay đổi.
-
EN: B. there is not enough evidence that the average growth rate of the money supply is different from zero.
-
B. không có đủ bằng chứng cho thấy average growth rate của money supply khác 0.
-
EN: C. there is not enough evidence that there was a change in the average growth rate of the money supply.
-
C. không có đủ bằng chứng cho thấy đã có sự thay đổi trong average growth rate của money supply.
Thông tin sau đây liên quan đến câu hỏi 9-12
Kenneth McCoin, CFA, là một người phỏng vấn đáng sợ. Năm ngoái, ông đã phát các tờ giấy chứa dữ liệu trong Exhibit 1 cho tất cả các ứng viên xin việc và đặt cho họ một số câu hỏi về regression analysis. Một vài câu hỏi do McCoin đưa ra, cùng với một mẫu các câu trả lời mà ông nhận được, được trình bày dưới đây. McCoin cho các ứng viên biết rằng independent variable là tỷ lệ net income trên sales của các công ty có market capitalization vượt quá $100 million và dependent variable là tỷ lệ cash flow from operations trên sales của các công ty đó. Câu trả lời tốt nhất cho từng câu hỏi mà McCoin đưa ra là gì?
Exhibit 1: Regression Analysis
| Regression Statistics | |
|---|---|
| _R_2 | 0.7436 |
| Standard error | 0.0213 |
| Observations | 24 |

|||Sum of|Mean||| |Source|df|Squares|Square|F|p-Value| |Regression|1|0.029|0.029000|63.81|0| |Residual|22|0.010|0.000455||| |Total|23|0.040||||
EN: 9. The coefficient of determination is closest to:
||Coefficients|Standard Error|t-Statistic|p-Value| |Intercept|0.077|0.007|11.328|0| |Net income to|0.826|0.103|7.988|0| |sales (%)|||||
Coefficient of determination gần nhất với:
- EN: A. 0.7436.
EN: B. 0.8261.
- A. 0.7436.
EN: C. 0.8623.
B. 0.8261.
EN: 10. The correlation between X and Y is closest to:
C. 0.8623.
Correlation giữa X và Y gần nhất với:
- EN: A. −0.7436.
EN: B. 0.7436.
- A. −0.7436.
EN: C. 0.8623.
B. 0.7436.
EN: 11. Given that the net income-to-sales ratio for a restaurant is 5 percent, the estimated ratio of cash flow from operations (CFO) to sales will be closest to:
C. 0.8623.
Cho rằng net income-to-sales ratio của một nhà hàng là 5%, tỷ lệ cash flow from operations (CFO) trên sales được ước lượng sẽ gần nhất với:
-
EN: A. −4.054.
-
A. −4.054.
-
EN: B. 0.524.
-
B. 0.524.
-
EN: C. 4.207.
EN: 12. Is there any significance in the relation between the ratio of cash flow to operations and the ratio of net income to sales at the 0.05 level?
- C. 4.207.
Có statistical significance nào trong mối quan hệ giữa tỷ lệ cash flow to operations và tỷ lệ net income to sales tại level 0.05 không?
-
EN: A. No, because the _R_2 is greater than 0.05
-
A. Không, vì _R_2 lớn hơn 0.05.
-
EN: B. No, since the p-values of the intercept and slope are less than 0.05
-
B. Không, vì p-values của intercept và slope nhỏ hơn 0.05.
-
EN: C. Yes, since the p-values for F and t of the slope coefficient are less than 0.05
-
C. Có, vì p-values của F và t của slope coefficient nhỏ hơn 0.05.
Thông tin sau đây liên quan đến câu hỏi 13-17
Howard Golub, CFA, đang lên kế hoạch chuẩn bị một research report liên quan đến common stock của Stellar Energy Corp. Đây là một trong những công ty lớn nhất thế giới và hoạt động trong lĩnh vực refining và marketing dầu mỏ. Để phân tích stock, Golub muốn xem xét sensitivity của returns của cổ phiếu đối với các economic indicators. Ví dụ, một trong các khách hàng của ông yêu cầu ông đánh giá liệu giá common stock của Stellar Energy Corp. có tăng sau khi giá retail energy tăng hay không. Golub cho rằng mối liên hệ giữa hai chỉ số là âm.
Golub yêu cầu trợ lý của mình, Jill Batten, điều tra mối quan hệ giữa (1) Stellar monthly common stock returns và percentage change trong US Consumer Price Index for Energy (CPIENG) của tháng trước đó và (2) Stellar monthly common stock returns và percentage change trong US Producer Price Index for Crude Energy Materials (PPICEM) của tháng trước đó. Golub muốn Batten thực hiện cả correlation và linear regression analyses. Khi thực hiện, Batten thu được summary statistics được trình bày trong Exhibit 1 dựa trên dữ liệu của 248 tháng. Tất cả dữ liệu đều ở dạng decimal, trong đó 0.01 biểu thị return 1%. Ngoài ra, Batten thực hiện regression analysis với Stellar monthly returns là dependent variable và monthly change trong CPIENG là independent variable. Kết quả regression analysis được trình bày trong Exhibit 2 dưới đây.
Exhibit 1: Descriptive Statistics
| Stellar Common Stock Monthly Return | Lagged Mon CPIENG | thly Change PPICEM | |
|---|---|---|---|
| Mean | 0.0123 | 0.0023 | 0.0042 |
| Standard deviation | 0.0717 | 0.0160 | 0.0534 |
| Covariance, Stellar vs. CPIENG | −0.00017 | ||
| Covariance, Stellar vs. PPICEM | −0.00048 | ||
| Covariance, CPIENG vs. PPICEM | 0.00044 | ||
| Correlation, Stellar vs. CPIENG | −0.1452 |
Exhibit 2: Regression Analysis với CPIENG
| Regression Statistics | ||
|---|---|---|
| _R_2 | 0.0211 | |
| Standard error of the estimate | 0.0710 | |
| Observations | 248 | |
| Coefficients Standard Error | t-Statistic | |
| Intercept | 0.0138 0.0046 | 3.0275 |
| CPIENG (%) | −0.6486 0.2818 | −2.3014 |
EN: 13. Which of the following best describes Batten’s regression?
Critical t-values One-sided, left side: −1.651 One-sided, right side: +1.651 Two-sided: ±1.967
Phương án nào sau đây mô tả đúng nhất regression của Batten?
-
EN: A. Time-series regression
-
A. Time-series regression.
-
EN: B. Cross-sectional regression
-
B. Cross-sectional regression.
-
EN: C. Time-series and cross-sectional regression
-
C. Time-series và cross-sectional regression.
- EN: 14.* According to the regression analysis, if the CPIENG falls by 1.0 percent, the expected return on Stellar common stock in the next period will be closest to:*
Theo regression analysis, nếu CPIENG giảm 1.0%, expected return của Stellar common stock trong kỳ tiếp theo sẽ gần nhất với:
-
EN: A. 0.0073 (0.73 percent).
-
A. 0.0073 (0.73%).
-
EN: B. 0.0138 (1.38 percent).
-
B. 0.0138 (1.38%).
-
EN: C. 0.0203 (2.03 percent).
-
C. 0.0203 (2.03%).
- EN: 15.* From the Batten’s regression analysis, the coefficient of determination suggests that:*
Từ regression analysis của Batten, coefficient of determination cho thấy rằng:
-
EN: A. The variability in Stellar’s returns accounts for 2.11 percent of the variation in CPIENG.
-
A. Variability trong returns của Stellar chiếm 2.11% variation trong CPIENG.
-
EN: B. The returns on Stellar have an R-squared value of 14.52 percent against the variance of CPIENG.
-
B. Returns của Stellar có R-squared bằng 14.52% so với variance của CPIENG.
-
EN: C. The changes in CPIENG cause 2.11 percent of the variance in the returns on Stellar.
-
C. Các thay đổi trong CPIENG gây ra 2.11% variance trong returns của Stellar.
- EN: 16.* In Batten’s regression analysis, 0.0710 is the:*
Trong regression analysis của Batten, 0.0710 là:
-
EN: A. the dependent variable.
-
A. dependent variable.
-
EN: B. the residuals from the regression.
-
B. residuals từ regression.
-
EN: C. the predicted dependent variable from the regression.
-
C. predicted dependent variable từ regression.
- EN: 17.* In Batten’s regression analysis, which of the following is an INCORRECT statement regarding the regression results?*
Trong regression analysis của Batten, phát biểu nào sau đây là phát biểu SAI liên quan đến regression results?
-
EN: A. The intercept coefficient in Batten’s regression analysis is statistically significant at 0.05 level of significance.
-
A. Intercept coefficient trong regression analysis của Batten có statistical significance tại level of significance 0.05.
-
EN: B. Following the decline in CPIENG, there will be a positive return on Stellar’s common stock during the following month.
-
B. Sau khi CPIENG giảm, sẽ có positive return đối với common stock của Stellar trong tháng tiếp theo.
-
EN: C. Considered together, the slope and intercept coefficients of the regression estimated by Batten are not statistically different from zero at the 0.05 level of significance.
-
C. Khi được xem xét cùng nhau, slope và intercept coefficients của regression do Batten ước lượng không khác 0 một cách có statistical significance tại level of significance 0.05.
Thông tin sau đây liên quan đến câu hỏi 18-26
Anh Liu là một analyst đang cố gắng xác định liệu leverage của một công ty có ảnh hưởng đến quyết định sell stock short của nhà đầu tư hay không. Anh tính short interest ratio (short interest chia cho average daily volume, được đo bằng số ngày) cho 50 công ty vào cuối năm và kiểm định mối quan hệ giữa ratio này và debt ratio (total liabilities chia cho total assets). Các statistics do Liu cung cấp được trình bày trong Exhibit 1. Ngoài việc ước lượng simple regression model, Liu ước lượng tác động của debt ratio lên short interest ratio và trình bày kết quả của analysis of variance (ANOVA) trong Exhibit 2.
Ngoài regression estimation, Liu vẽ dữ liệu gồm 50 observations bằng scatterplot, biểu diễn short interest ratio theo debt ratio.
Exhibit 1: Summary Statistics
| Statistic | Debt Ratio (****Xi) Short Interest Ratio (****Yi) |
|---|---|
| Sum | 19.8550 192.3000 |
| Sum of squared deviations from the mean | ∑ i=1 n ( X i−_ X) 2= 2.2225. ∑ i=1 n ( Y i−_ Y) 2= 412.2042. |
| Sum of cross-products of devi- ations from the mean | ∑ i=1 n ( X i−_ X) ( Y i−_ Y)= − 9.2430. |
- Exhibit 2: Regression của Short Interest Ratio theo Debt Ratio*
| ANOVA | Degrees of Free- dom (df) | Sum of Squares | Mean Square |
|---|---|---|---|
| Regression | 1 | 38.4404 | 38.4404 |
| Residual | 48 | 373.7638 | 7.7867 |
| Total | 49 | 412.2042 | |
| Regression Statistics | |||
| _R_2 | 0.0933 | ||
| Standard error of estimate | 2.7905 |
| ANOVA | Degrees of Free- dom (df) | Sum of Squares | Mean Square |
|---|---|---|---|
| Observations | 50 | ||
| Coefficients | Standard Error | t-Statistic | |
| Intercept | 5.4975 | 0.8416 | 6.5322 |
| Debt ratio (%) | −4.1589 | 1.8718 | −2.2219 |
T-critical values for level of significance = 0.05; one-tailed test (left): −1.677 one-tailed test (right): +1.677 two-tailed test: ±2.011
Đối với phần trình bày của Liu về association giữa debt ratio và short interest ratio, Liu có thể đưa ra ba assumptions dựa trên kết quả:
-
Assumption 1 Debt ratios cao hơn của các công ty dẫn đến short interest ratios thấp hơn.
-
Assumption 2 Short interest ratios cao hơn của các công ty dẫn đến debt ratios cao hơn.
-
Assumption 3 Debt ratios cao hơn của các công ty dẫn đến short interest ratios thấp hơn.
Đặc biệt, cô ấy muốn áp dụng các estimates của mình để dự báo short interest ratio của MQD Corporation, công ty có debt ratio bằng 0.40.
- EN: 18.* Using Exhibits 1 and 2, if Liu was to plot the 50 data points, the scatter diagram depicting this relationship will be best described by:*
Sử dụng Exhibits 1 và 2, nếu Liu vẽ 50 data points, scatter diagram mô tả mối quan hệ này sẽ được mô tả đúng nhất là:
-
EN: A. horizontal.
-
A. nằm ngang.
-
EN: B. upward sloping.
-
B. dốc lên.
-
EN: C. downward sloping.
-
C. dốc xuống.
- EN: 19.* Using Exhibit 1, the sample covariance will be closest to:*
Sử dụng Exhibit 1, sample covariance sẽ gần nhất với:
-
EN: A. −9.2430.
-
A. −9.2430.
-
EN: B. −0.1886.
-
B. −0.1886.
-
EN: C. 8.4123.
-
C. 8.4123.
- EN: 20.* Using Exhibits 1 and 2, the correlation between the debt ratio and the short interest ratio will be closest to:*
Sử dụng Exhibits 1 và 2, correlation giữa debt ratio và short interest ratio sẽ gần nhất với:
-
EN: A. −0.3054.
-
A. −0.3054.
-
EN: B. 0.0933.
-
B. 0.0933.
-
EN: C. 0.3054.
EN: 21. Which of the interpretations best describes Liu’s findings?
- C. 0.3054.
Diễn giải nào đúng nhất mô tả các phát hiện của Liu?
-
EN: A. Interpretation 1
-
A. Diễn giải 1.
-
EN: B. Interpretation 2
-
B. Diễn giải 2.
-
EN: C. Interpretation 3
EN: 22. The dependent variable in Liu’s regression analysis is the:
- C. Diễn giải 3.
Dependent variable trong regression analysis của Liu là:
-
EN: A. intercept.
-
A. intercept.
-
EN: B. debt ratio.
-
B. debt ratio.
-
EN: C. short interest ratio.
-
C. short interest ratio.
- EN: 23.* Using Exhibit 2, the degrees of freedom associated with the t-test of the slope coefficient for this regression will be:*
Sử dụng Exhibit 2, degrees of freedom liên quan đến t-test của slope coefficient đối với regression này sẽ là:
-
EN: A. 48.
-
A. 48.
-
EN: B. 49.
-
B. 49.
-
EN: C. 50.
EN: 24. What does Liu have to infer from the results provided in Exhibit 2?
- C. 50.
Liu phải suy ra điều gì từ các kết quả được cung cấp trong Exhibit 2?
-
EN: A. The average short interest ratio is 5.4975.
-
A. Average short interest ratio là 5.4975.
-
EN: B. The slope coefficient is statistically different from zero at the 0.05 level of significance.
-
B. Slope coefficient khác 0 một cách có statistical significance tại level of significance 0.05.
-
EN: C. The debt ratio accounts for 30.54 percent of the variability of the short interest ratio.
EN: 25. Based on Exhibit 2, the short interest ratio for MQD Corporation is closest to:
- C. Debt ratio giải thích 30.54% variability của short interest ratio.
Dựa trên Exhibit 2, short interest ratio của MQD Corporation gần nhất với:
-
EN: A. 3.8339.
-
A. 3.8339.
-
EN: B. 5.4975.
-
B. 5.4975.
-
EN: C. 6.2462.
EN: 26. Based on the regression results in Exhibit 2 obtained by Liu, the F-statistic used to test the null hypothesis that the slope coefficient is zero is closest to:
- C. 6.2462.
Dựa trên regression results trong Exhibit 2 do Liu thu được, F-statistic được sử dụng để kiểm định null hypothesis rằng slope coefficient bằng 0 sẽ gần nhất với:
-
EN: A. −2.2219.
-
A. −2.2219.
-
EN: B. 3.5036.
-
B. 3.5036.
-
EN: C. 4.9367.
-
C. 4.9367.
Thông tin sau liên quan đến các câu hỏi 27-29
Abitbol Doug is a portfolio manager for Polyi Investments, which is a hedge fund trading in the USA. Abitbol manages the hedge fund together with Robert Olabudo who is a junior portfolio manager. Abitbol evaluates the economists' inflation forecast and wishes to study the
regression relationship between the consensus forecast of the US Consumer Price Index (US CPI) and the actual US CPI. Olabudo calculates regression coefficients in order to check if the consensus forecast is unbiased. If the consensus forecasts are unbiased, then the intercept would be 0.0 and the slope will be equal to 1.0. Regression coefficients are shown in Exhibit 1 below. Olabudo also calculates the 95 percent prediction interval of the actual CPI based on a US CPI consensus forecast of 2.8.
Bảng minh họa 1: Kết quả Regression: Ước tính US CPI
| Regression Statistics | |||
|---|---|---|---|
| _R_2 | 0.9859 | ||
| Standard error of estimate | 0.0009 | ||
| Observations | 60 | ||
| Coefficients | Standard Error | t-Statistic | |
| Intercept | 0.0001 | 0.0002 | 0.5000 |
| US CPI consensus forecast | 0.9830 | 0.0155 | 63.4194 |
Notes:
-
- The absolute value of the critical value of the t -statistic is 2.002 at the 5 percent level of significance.
-
- The standard deviation of the US CPI consensus forecast is sx = 0.7539.
-
- The mean of the US CPI consensus forecast is X = 1.3350.
Lastly, Abitbol and Olabudo examine the forecast and the forecast interval:
-
Observation 1. For any specific confidence level, the forecast interval remains unchanged regardless of the US CPI consensus forecast.
-
Observation 2. The greater the standard error of the estimate, the higher the confidence interval will be.
27. Based on Exhibit 1, Olabudo should:
-
A. conclude that the inflation predictions are unbiased.
-
B. reject the null hypothesis that the slope coefficient is equal to one.
-
C. reject the null hypothesis that the intercept coefficient is equal to zero.
-
28. According to Exhibit 1, Olabudo should compute a prediction interval for the true US CPI value that is closest to:
-
A. 2.7506 to 2.7544.
-
B. 2.7521 to 2.7529.
-
C. 2.7981 to 2.8019.
-
29. Which of Olabudo’s observations of forecasting is correct?
-
A. Only Observation 1
-
B. Only Observation 2
-
C. Both Observation 1 and Observations 2
Thông tin sau liên quan đến các câu hỏi 30-34
Elena Vasileva was recently hired by EnergyInvest as a junior portfolio analyst. Her boss asks Elena Vasileva to analyze an investment opportunity in Amtex, a multinational energy company, located in the United States. Her boss recommends Elena Vasileva to use regression analysis to study the relationship between Amtex stock returns and crude oil returns.
Elena Vasileva observes the following regression analysis assumptions:
-
Assumption 1. The error term is uncorrelated across observations.
-
Assumption 2. The error term has constant variance.
-
Assumption 3. The dependent variable is normally distributed.
Elena Vasileva conducts a regression analysis of Amtex stock returns against crude oil returns using the monthly data that she collected. Selected data that were used for the regression analysis are shown in Exhibit 1, while selected output of regression analysis is shown in Exhibit 2.
- Exhibit 1: Chosen Statistics for Crude Oil Returns and Returns from Amtex Shares
||Oil Return (****Xi)|Amtex Return (****Yi)|Cross-Product ( X i− _ X) ( Y i− _ Y)|Predicted Amtex Return (ˆ Yi)|Regression Residual (Y i**−ˆ Yi )|Squared Residual ( Y i−**ˆ Yi ) 2| |Month 1|−0.032000|0.033145|−0.000388|0.002011|−0.031134|0.000969| |⁝|⁝|⁝|⁝|⁝|⁝|⁝| |Month 36|0.028636|0.062334|0.002663|0.016282|−0.046053|0.002121| |Sum|||0.085598|||0.071475| |Average|−0.018056|0.005293|||||
Bảng minh họa 2: Kết quả Regression được chọn, dependent variable: Amtex Share Return
| Coefficient | Standard Error | |
|---|---|---|
| Intercept | 0.0095 | 0.0078 |
| Oil return | 0.2354 | 0.0760 |
Critical values of t for a level of significance of 1 percent:
One-sided, left side: −2.441
One-tailed, on the right: +2.441 Two-tailed: ±2.728
Vasileva forecasts the return on crude oil in the coming month (Month 37) to be –0.01. The standard error of her forecast is estimated at 0.0469.
- 30.* Which of Vasileva’s assumptions with respect to regression analysis is WRONG? A. Assumption 1 B. Ass
31. Based on Exhibit 1, the standard error of the estimate is closest to: A. 0.04456. B. 0.04585. C. 0.05018.
-
32.* Given Exhibit 2, Vasileva would reject the null hypothesis that the slope is less than or equal to 0.15.
- B. the intercept is less than or equal to zero.
C. crude oil returns do not explain Amtex share returns.
-
33.* Given Exhibit 2 and the forecasted crude oil return for Month 37 by Vasileva, the forecasted Amtex share return for Month 37 will be closest to: A. −0.0024. B. 0.0071. C. 0.0119.
-
34.* Given the information provided in Exhibit 2, the 99% prediction interval for the Amtex share return for Month 37 can be best characterized as: A. _Y_ˆ f ± 0.0053. B. _Y_ˆ f ± 0.0469. C. _Y_ˆ f ± 0.1279.
Thông tin sau liên quan đến các câu hỏi 35-38
Espey Jones was interested in investigating the relationship between the net profit margin (NPM) of firms, in percentage terms, and fixed asset turnover (FATO). He sampled 35 firms for the most recently completed fiscal year and considered several functional forms for the regression, ultimately choosing the following one:
ln(NPM i ) = b 0 + b 1 FATO i .
The output for his analysis is shown in Exhibit 1
Bảng minh họa 1: Kết quả Regressing NPM on FATO
|Source|df|Sum of Squares|Mean Square|F|p-Value| |Regression|1|102.9152|102.9152|1,486.7079|0.0000| |Residual|32|2.2152|0.0692||| |Total|33|105.1303||||
||fi|Standard||| ||Coefficients|Error|t- Statistic|p-Value| |Intercept|0.5987|0.0561|10.6749|0.0000| |FATO|0.2951|0.0077|38.5579|0.0000|
35. The coefficient of determination is closest to:
-
A. 0.0211.
-
B. 0.9789.
-
C. 0.9894.
36. The standard error of the estimate is closest to:
-
A. 0.2631.
-
B. 1.7849.
-
C. 38.5579.
-
37. With a significance level of 0.01, Jones would find that:
- A. the mean net profit margin is 0.5987 percent.
-
B. the variability of the fixed assets turnover accounts for the variability of the natural log of the net profit margin.
-
C. an increase in the fixed assets turnover by one time, from three to four, would cause a change in the net profit margin of 0.5987 percent.
-
38. For a firm with the fixed assets turnover ratio of 2, the estimated net profit margin is closest to:
-
A. 1.1889 percent.
-
B. 1.8043 percent.
-
C. 3.2835 percent
-
SOLUTIONS
-
C is correct. The predicted value of ROE = 4 + (1.8 × 10) = 22.
-
A is correct. The slope coefficient 1.8 is the amount of change in the dependent variable ( ROE ) due to a change in the independent variable ( GO ).
-
B is correct. The predicted value is ROE = 4 + (1.8 × 8) = 18.4. The observed value of ROE is 21, so the residual is 2.6 = 21.0 − 18.4.
-
Answer C is correct. Homoskedasticity is the case where the residual's variance is consistent among the different observations.
-
Answer A is correct. The SHIFT is a dummy or an indicator variable since it assumes values of either 0 or 1.
-
Answer A is correct. For a simple regression model with one indicator variable, the intercept is the average of the dependent variable where the value of the independent variable is zero; that is, before the shift in policy.
-
Answer C is correct. While the intercept is the average of the dependent variable where the value of the indicator is zero (i.e., before the shift in policy), the slope is the difference between the averages of the dependent variable before and after the shift in policy.
-
Answer A is correct. The null hypothesis of equality in the annual growth rate cannot be accepted at the 0.05 level of significance: The test statistic of -8.16188 is not within ±2.048.
-
Answer A is correct. Coefficient of determination is equal to _R_2, which is equal to 0.7436.
-
Answer C is correct. As the slope is positive, the correlation between X and Y will be equal to the square root of the coefficient of determination: √_ 0.7436 = 0.8623.
-
Answer C is correct. To calculate expected value of dependent variable, multiply the coefficient of the slope by the forecast of the independent variable and add the result to the intercept. Expected value of CFO to sales = 0.077 + (0.826 × 5) = 4.207.
-
Answer C is correct. The p -value is the lowest level of significance for rejection of the null hypotheses about the slope coefficient. Here the p -value is less than 0.05; hence, the regression of the ratio of cash flow from operations to sales on the ratio of net income to sales is significant at the 5% level.
-
A is correct. The data are observations over time.
-
C is correct. From the regression equation, Expected return = 0.0138 + (−0.6486 × −0.01) = 0.0138 + 0.006486 = 0.0203, or 2.03 percent.
-
Answer C is correct. _R_2 is the coefficient of determination. Here it means that 2.11% of the variation of Stellar’s return is caused by CPIENG.
-
B is correct. The standard error of the estimate is the standard deviation of the regression residual.
-
Choice C is the correct answer since it is a false statement. Both the slope and intercept are significantly different from zero at the 0.05 level of significance.
-
Choice C is correct. Slope is negative (as seen in Exhibit 2).
-
B is correct. The sample covariance is calculated as follows:
n _______________∑ i =1( Xi − X )( Yi − Y ) = − 9.2430 ÷ 49 = − 0.1886 . n − 1
-
A is correct. In simple regression, the _R_2 equals the square of the correlation. Since the slope is negative, the correlation equals the negative of the square root of 0.0933, which equals -0.3055.
-
Choice C is correct. No causal inference can be made; only association; therefore Interpretations 1 and 2 are false.
-
C is correct. Liu uses the variation of the debt ratio to explain the variation of the short interest ratio.
-
A is correct. The degrees of freedom are equal to the number of observations minus the number of estimated parameters, which is 2 in this case (intercept and slope). The degrees of freedom is 50 – 2 = 48.
-
B is correct. The t-statistic is −2.2219, which falls outside the range of critical t-values of ±2.011 for a two-tailed test with 5 percent significance level. The value of 2.011 is the critical t-value for 5 percent level of significance (2.5 percent in one tail) and 48 degrees of freedom. A is wrong because the mean of the short interest ratio is 192.3 ÷ 50 = 3.846. C is wrong because the debt ratio explains 9.33 percent of the variation of the short interest ratio.
-
A is correct. The predicted value of the short interest ratio = 5.4975 + (−4.1589 × 0.40) = 5.4975 − 1.6636 = 3.8339.
-
-
- C is correct. The F -ratio is F = Mean square regression Mean square error
__________________ = _38.4404Mean square regression Mean square error 7.7867= 4.9367 .
- A is correct. We fail to reject the null hypothesis that slope coefficient is one and also the null hypothesis that intercept coefficient is zero. The test of slope coefficient equal to 1.0 is
__________ t_ =0.9830 − 1.000 = − 1.09677 . 0.0155
The test for the intercept being 0.0 is
___________ t_ =0.0001 − 0.0000 = 0.5000 . .00002
We can say that the predictions are unbiased.
- Choice A is correct. There are three stages involved in computing the forecast interval for inflation: Step 1: Calculate the forecast given the US CPI forecast of 2.8:
⌢ Y = ˆ b 0 +ˆ b 1 X
. = 0.0001 +( 0.9830 × 2.8) = 2.7525.
Step 2. Calculate the variance of the forecast error:
_sf_2 = _se_2 {1 +( 1 / n) + [( Xf − X _)2 ] / [( n − 1) × _sx_2 ]} . _sf_2 = 0.00092 {1 +( 1 / 60) +[( 2.8 − 1.3350)2] /[( 60 − 1) × 0.75392] } . _sf_2 = 0.00000088. sf = 0.0009.
Step 3. Calculate the prediction interval:
_Y_ˆ ± tc × sf .
Lower bound: 2.7525 − (2.0 × 0.0009) = 2.7506.
Upper bound: 2.7525 + (2.0 × 0.0009) = 2.7544.
The 95 percent prediction interval based on the US CPI forecast of 2.8 is 2.7506 to 2.7544.
-
B is the correct answer. The confidence level affects the size of the forecasting interval due to the t -critical value utilized in calculating the forecast error: the higher the confidence level, the wider the interval. Consequently, Observation 1 is wrong. Observation 2 is right. The higher the standard error of the estimate, the higher the standard error of the forecast.
-
C is the correct answer. The assumptions of the simple linear regression model include the following: (1) the relationship between the dependent and the independent variable is linear in terms of parameters b 0 and b 1, (2) residuals are independent, (3) the variance of the error term is constant for all observations, and (4) the error term is normally distributed. Assumption 3 is wrong since the dependent variable is not necessarily normally distributed.
-
B is the correct answer. The formula for the standard error of the estimate for a simple linear regression model is the square root of the mean square error
-
_0.071475 = 0.04585.
-
se = √_ 34
- C is the correct answer. If the slope coefficient of the simple regression of crude oil returns on Amtex shares returns is statistically different from zero, then crude oil returns explain the Amtex share returns. The slope coefficient is 0.2354, and the t -statistic equals
-
-
t =0.2354 − 0.0000 0.0760 = 3.0974,
which lies beyond the range of the critical values ±2.728.
Thus, Vasileva should not accept the null hypothesis stating that there is no relationship between the returns on crude oil and the returns on Amtex shares.
A is incorrect because the calculated t -statistic for testing the slope against 0.15 is t = ____________0.2354 − 0.1500 = 1.1237 , which is less than the critical value of +2.441. 0.0760 B is incorrect because the calculated t -statistic is t = ____________0.0095 − 0.0000 = 1.2179 , 0.0078 which is less than the critical value of +2.441.
- Answer B is correct. The value of the dependent variable, Amtex share return, based on the value of the independent variable, crude oil return, −0.01, is determined using
as _Y_ˆ = _b_ˆ 0 + _b_ˆ 1 Xi = 0.0095 + [0.2354 × (− 0.01)] = 0.0071.
- C is correct. The predicted share return is 0.0095 + [0.2354 × (−0.01)] = 0.0071. The lower limit for the prediction interval is 0.0071 − (2.728 × 0.0469) = −0.1208, and the upper limit for the prediction interval is 0.0071 + (2.728 × 0.0469) = 0.1350.
Option A is wrong because the boundaries of the confidence interval should be calculated using the standard error of the prediction and the critical t value rather than the average of the dependent variable.
Answer B is wrong since the bounds of the interval depend on the standard error of the forecast times the critical t value, and not just the standard error of the forecast.
-
B is correct. The coefficient of determination is 102.9152 ÷ 105.1303 = 0.9789.
-
Choice A is correct. Standard error = square root of the mean square error = √_ 0.0692 = 0.2631.37. EN: Choice B is correct. p -value for the slope is less than 0.01. Hence we reject the null hypothesis of the slope being equal to 0. Thus, we accept the hypothesis that the fixed asset turnover affects the natural log of the net profit margin.
Phương án B là đúng. p -value của slope nhỏ hơn 0.01. Do đó, chúng ta bác bỏ null hypothesis rằng slope bằng 0. Vì vậy, chúng ta chấp nhận giả thuyết rằng fixed asset turnover ảnh hưởng đến natural log của net profit margin.
- EN: Choice C is correct. The natural log of the net profit margin is predicted to be 0.5987 + (2 × 0.2951) = 1.1889. Net profit margin = _e_1.1889 = 3.2835 %.
Phương án C là đúng. Natural log của net profit margin được dự đoán là 0.5987 + (2 × 0.2951) = 1.1889. Net profit margin = _e_1.1889 = 3.2835 %.