Trực quan hồi quy tuyến tính
Mô phỏng tương tác cho OLS, GD và SGD.
Hồi quy tuyến tính ước lượng mối quan hệ đường thẳng giữa đầu vào x và đầu ra y.
y = ax + b
Trong đó a là hệ số góc và b là hệ số chặn. Trong mô phỏng này, mỗi điểm bạn thêm là một mẫu huấn luyện và mô hình tìm a, b tốt nhất.
Mô hình tối thiểu hóa sai số bình phương trung bình (MSE):
$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$
Bình phương phạt lỗi lớn mạnh hơn và tạo mục tiêu tối ưu trơn. Loss thấp hơn nghĩa là khớp tốt hơn.
- OLS: Công thức đóng, chạy một lần.
- Batch GD: Dùng toàn bộ mẫu mỗi epoch, ổn định nhưng nặng.
- SGD: Cập nhật theo từng mẫu đã xáo trộn, nhanh nhưng nhiễu hơn.
Dùng cùng một tập điểm và so sánh đường cong học của từng phương pháp.
- Thêm điểm hoặc tải dữ liệu demo.
- Chạy OLS trước để có đường cơ sở.
- Chuyển sang GD/SGD và chỉnh learning rate cùng số epoch.
- Dùng Test Mode để so sánh giá trị thực vs dự đoán.
Nhấp để thêm điểm. Nhấn giữ một điểm để xóa.
Loss (MSE)
Mô hình
Số điểm: 0
Hệ số góc (a): -
Hệ số chặn (b): -
R2: -
Loss gần nhất: -
Ghi chú phương pháp
OLS
Lời giải đóng từ hiệp phương sai và phương sai:
$$ a = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}, \quad b = \bar{y} - a\bar{x} $$