Residual Plot là gì? Cách đọc và phân tích trong hồi quy

Residual Plot là công cụ trực quan giúp phát hiện các vấn đề như phương sai thay đổi, quan hệ phi tuyến hoặc các điểm dữ liệu bất thường trong phân tích hồi quy. Vậy cách đọc và phân tích biểu đồ phần dư này như thế nào? Hãy cùng Luận Văn 1080 tìm hiểu nhé.

1. Residual là gì?

Trong hồi quy, mô hình được xây dựng để ước lượng giá trị của biến phụ thuộc dựa trên các biến giải thích. Tuy nhiên, giá trị dự đoán hiếm khi trùng hoàn toàn với dữ liệu thực tế. Residual (phần dư) chính là phần chênh lệch giữa giá trị quan sát và giá trị mà mô hình dự đoán. Việc xem xét phần dư giúp đánh giá mức độ phù hợp của mô hình và phát hiện những vấn đề mà các chỉ số như R² có thể chưa thể hiện rõ.

1.1. Residual là gì trong thống kê?

Để hiểu Residual Plot là gì, trước hết ta cần hiểu về residual. Residual (phần dư) là khoảng cách giữa giá trị thực tế của biến phụ thuộc và giá trị được mô hình hồi quy ước tính cho cùng một quan sát. Với mỗi quan sát, mô hình sẽ tạo ra một giá trị dự đoán và phần dư cho biết dự đoán đó lệch khỏi thực tế bao nhiêu. 

Có thể hiểu đơn giản:

• Residual = 0: Giá trị dự đoán trùng với giá trị thực tế.
• Residual > 0: Mô hình dự đoán thấp hơn giá trị thực tế.
• Residual < 0: Mô hình dự đoán cao hơn giá trị thực tế.
• |Residual| càng lớn: Sai lệch giữa dự đoán và thực tế càng nhiều.

Ví dụ: Một mô hình dự đoán doanh thu của cửa hàng là 100 triệu đồng, trong khi doanh thu thực tế đạt 110 triệu đồng. Khi đó, residual bằng 10 triệu đồng. Ngược lại, nếu doanh thu thực tế chỉ đạt 90 triệu đồng, residual bằng -10 triệu đồng.

1.2. Công thức tính residual (phần dư)

Residual được tính bằng giá trị thực tế trừ đi giá trị dự đoán của mô hình. Công thức: eᵢ = yᵢ − ŷᵢ

Trong đó:

• eᵢ: Phần dư của quan sát thứ i.
• yᵢ: Giá trị thực tế của biến phụ thuộc.
• ŷᵢ: Giá trị dự đoán của mô hình đối với quan sát thứ i.

Công thức tính residual (phần dư)

Ví dụ: Mô hình dự đoán doanh thu của một cửa hàng là 240 triệu đồng, nhưng doanh thu thực tế đạt 260 triệu đồng. 

Khi đó: eᵢ = 260 − 240 = 20 triệu đồng

Residual bằng 20 triệu đồng, cho thấy mô hình dự đoán thấp hơn thực tế 20 triệu đồng. 

Nếu giá trị thực tế chỉ là 220 triệu đồng thì: eᵢ = 220 − 240 = −20 triệu đồng

Khi đó, mô hình đã dự đoán cao hơn thực tế 20 triệu đồng.

Đối với hồi quy tuyến tính đơn, giá trị dự đoán được xác định theo phương trình: ŷᵢ = b₀ + b₁xᵢ

Do đó, công thức residual có thể viết đầy đủ là: eᵢ = yᵢ − (b₀ + b₁xᵢ)

Trong đó:

• b₀ là hệ số chặn
• b₁ là hệ số hồi quy 
• xᵢ là giá trị của biến giải thích tại quan sát thứ i

2. Residual Plot là gì?

Residual Plot (biểu đồ phần dư) là biểu đồ dùng để thể hiện các residual của mô hình hồi quy. Thông thường, residual được đặt trên trục tung, còn giá trị dự đoán của mô hình hoặc biến giải thích được đặt trên trục hoành. Mỗi điểm trên biểu đồ cho biết mức độ chênh lệch giữa giá trị thực tế và giá trị mà mô hình dự đoán.

Hiểu đơn giản, Residual Plot giúp bạn nhìn xem mô hình hồi quy có đang dự đoán dữ liệu một cách hợp lý hay không. Nếu các điểm phần dư phân tán ngẫu nhiên quanh đường 0, không tạo thành hình dạng hoặc xu hướng rõ ràng, mô hình thường đáp ứng tốt hơn các giả định về quan hệ tuyến tính và phương sai. Ngược lại, nếu các điểm tạo thành đường cong, hình phễu hoặc một mẫu hình có hệ thống, đây có thể là dấu hiệu mô hình chưa phù hợp với dữ liệu.

Một Residual Plot cơ bản gồm:

• Trục tung (Y): Giá trị residual, được tính bằng eᵢ = yᵢ − ŷᵢ.
• Trục hoành (X): Giá trị dự đoán ŷᵢ hoặc giá trị của biến giải thích xᵢ.
• Đường tham chiếu: Thường là đường ngang tại e = 0, giúp quan sát mức độ phân bố của phần dư phía trên và phía dưới mức 0.

Khi mô hình phù hợp, các điểm thường nằm rải rác ở cả phía trên và phía dưới đường 0, tương đối ngẫu nhiên và tạo thành một dải có độ rộng khá ổn định. 

Ví dụ: Nếu mô hình dự đoán điểm thi của sinh viên dựa trên số giờ học, Residual Plot sẽ giúp kiểm tra xem sai lệch giữa điểm thực tế và điểm dự đoán có phân bố ngẫu nhiên hay không. Nếu phần dư càng tăng hoặc giảm theo số giờ học, mô hình có thể chưa mô tả đầy đủ mối quan hệ giữa hai biến.

Residual Plot là gì?

3. Cách đọc và phân tích residual plot

Để đọc Residual Plot, bạn cần quan sát cách các điểm phần dư phân bố quanh đường e = 0. 

Residual Plot như thế nào là tốt?

Một Residual Plot tốt thường có các đặc điểm:

• Các điểm phân tán ngẫu nhiên quanh đường e = 0.
• Số lượng điểm phía trên và phía dưới đường 0 không có sự lệch quá rõ rệt.
• Các điểm tạo thành một dải tương đối ngang, không mở rộng hoặc thu hẹp mạnh khi đi từ trái sang phải.
• Không xuất hiện đường cong, xu hướng tăng/giảm hoặc hình dạng bất thường rõ ràng.
• Không có điểm nào nằm quá xa so với phần lớn các điểm còn lại.

Mẫu hình này cho thấy mô hình không còn bỏ sót một cấu trúc rõ ràng nào trong phần dư.

Residual tạo thành đường cong

Nếu các điểm residual tạo thành đường cong, hình chữ U hoặc ∩, đây có thể là dấu hiệu mối quan hệ giữa các biến không hoàn toàn tuyến tính. Khi đó, mô hình hồi quy tuyến tính có thể chưa mô tả đầy đủ dữ liệu và cần được xem xét lại. 

Residual có dạng hình phễu

Nếu các điểm residual càng về bên phải càng mở rộng hoặc thu hẹp, tạo thành hình phễu, có thể xuất hiện hiện tượng phương sai thay đổi (heteroscedasticity). Điều này cho thấy mức độ biến động của sai số không ổn định giữa các mức giá trị dự đoán. 

Xuất hiện điểm residual quá lớn

Một hoặc vài điểm nằm rất xa đường 0 so với các điểm còn lại có thể là dấu hiệu của outlier. Tuy nhiên, không nên tự động loại bỏ những quan sát này mà cần kiểm tra lại dữ liệu và đánh giá mức độ ảnh hưởng của chúng đến mô hình.

Cách đọc Residual Plot

Khi phân tích một Residual Plot, bạn có thể thực hiện theo 4 bước đơn giản:

• Bước 1: Quan sát đường 0: Xem các residual có phân bố ở cả hai phía của đường 0 hay không.
• Bước 2: Tìm mẫu hình: Kiểm tra xem các điểm có tạo thành đường cong, xu hướng tăng/giảm hoặc một hình dạng có quy luật hay không.
• Bước 3: Kiểm tra độ phân tán: Quan sát xem khoảng cách giữa các điểm có tương đối ổn định hay càng lúc càng rộng/hẹp. Nếu xuất hiện hình phễu, cần lưu ý khả năng phương sai thay đổi.
• Bước 4: Tìm điểm bất thường: Kiểm tra những điểm nằm quá xa phần lớn các residual để xác định khả năng xuất hiện outlier.

Cách đọc và phân tích residual plot

4. Cách vẽ residual plot trong SPSS

Trong SPSS, Residual Plot có thể được tạo ngay trong quá trình chạy hồi quy. Cách phổ biến là biểu diễn Standardized Residual (ZRESID) trên trục Y và Standardized Predicted Value (ZPRED) trên trục X. Biểu đồ này giúp quan sát nhanh phần dư có phân bố ngẫu nhiên hay xuất hiện các mẫu hình bất thường, từ đó hỗ trợ kiểm tra tính tuyến tính và phương sai không đổi của mô hình.

Bước 1: Mở hồi quy tuyến tính

Trên thanh menu SPSS, chọn: Analyze → Regression → Linear…

Sau đó:

• Đưa biến phụ thuộc (Dependent) vào ô Dependent.
• Đưa biến độc lập (Independent) vào ô Independent(s).

Bước 2: Mở hộp thoại Plots

Trong cửa sổ Linear Regression, chọn Plots…

Tại đây:

• Đưa *ZRESID vào ô Y.
• Đưa *ZPRED vào ô X.

Sau đó chọn Continue. 

Bước 3: Chạy mô hình

Nhấn OK để SPSS thực hiện hồi quy. Trong phần Output, SPSS sẽ tạo scatterplot của ZRESID và ZPRED. Đây chính là dạng Residual Plot thường được sử dụng để đánh giá phần dư của mô hình.

Cách vẽ residual plot trong SPSS

5. Một số lỗi thường gặp khi phân tích residual plot

Residual Plot là công cụ trực quan giúp bạn kiểm tra mô hình hồi quy, nhưng không phải cứ nhìn thấy một vài điểm lệch là có thể kết luận mô hình không phù hợp. Khi phân tích, chúng ta cần quan sát toàn bộ cách các điểm phân bố và kết hợp với những kiểm tra khác để đưa ra nhận xét chính xác hơn. Dưới đây là một số lỗi thường gặp khi phân tích Residual Plot:

Chỉ nhìn R² mà bỏ qua Residual Plot

R² cho biết mức độ biến thiên của dữ liệu được mô hình giải thích, nhưng không cho biết toàn bộ mô hình có phù hợp hay không. Một mô hình có R² cao vẫn có thể xuất hiện đường cong hoặc hình phễu trên Residual Plot.

Vì vậy, không nên chỉ dựa vào R² mà cần xem thêm Residual Plot để biết phần dư đang phân bố như thế nào. 

Thấy một vài điểm lệch là kết luận mô hình sai

Residual không nhất thiết phải nằm đúng trên đường 0. Một số điểm nằm xa đường 0 là điều có thể xảy ra trong dữ liệu thực tế.

Điều quan trọng là xem các điểm có tạo thành một mẫu hình rõ ràng hay không. Nếu chúng vẫn phân tán ngẫu nhiên quanh 0, một vài điểm lệch chưa đủ để kết luận mô hình có vấn đề. 

Không chú ý đến hình dạng của các điểm

Khi đọc Residual Plot, ta cần đặc biệt chú ý đến các mẫu hình:

• Đường cong: có thể cho thấy quan hệ giữa các biến không hoàn toàn tuyến tính.
• Hình phễu: có thể là dấu hiệu phương sai thay đổi.
• Xu hướng tăng hoặc giảm: cho thấy residual không phân bố ngẫu nhiên.
• Một điểm quá xa: có thể là một quan sát bất thường cần kiểm tra.

Tự động xóa các điểm ngoại lệ

Khi thấy một residual rất lớn, bạn không nên xóa ngay quan sát đó. Trước tiên hãy kiểm tra xem đó có phải lỗi nhập dữ liệu hay thực sự là một trường hợp đặc biệt.

Nếu dữ liệu chính xác, việc loại bỏ một quan sát chỉ vì nó khác biệt có thể làm thay đổi kết quả hồi quy và dẫn đến kết luận sai. 

Chỉ dựa vào Residual Plot để đánh giá mô hình

Residual Plot rất hữu ích nhưng không thể kiểm tra tất cả các giả định hồi quy. Chẳng hạn, muốn đánh giá phân phối của residual bạn có thể kết hợp thêm Histogram hoặc Normal Probability Plot; với tính độc lập của sai số, cần xem xét thêm dữ liệu và thiết kế nghiên cứu.

Một số lỗi thường gặp khi phân tích residual plot

Hy vọng qua bài viết trên, bạn đã hiểu rõ Residual Plot là gì, cách đọc và phân tích biểu đồ phần dư trong hồi quy, cũng như cách thực hiện trên SPSS. Khi kết hợp biểu đồ phần dư với các kiểm định và phương pháp chẩn đoán khác, bạn sẽ có cơ sở tốt hơn để lựa chọn và hoàn thiện mô hình hồi quy phù hợp đó.

Nguồn tài liệu:

• https://openstax.org/books/principles-data-science/pages/4-3-correlation-and-linear-regression-analysis
• https://www.itl.nist.gov/div898/handbook/pmd/section4/pmd44.htm 
• https://online.stat.psu.edu/stat462/node/120/ 
• https://www.ibm.com/docs/en/spss-statistics/32.0.0?topic=analysis-residual-scatterplots