本文共 3746 字，大约阅读时间需要 12 分钟。

������������������������������

������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

1. ������������������

������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������Least Squares������

(1) ������������������������������

������������������������������������������������������������(L): L = ���(y_i - w x_i - b)^2

���������y_i���������������w���b������������������������������������������w���b������������������������������������������������������������������������������

w = ���y_i (x_i - x��) / S_x��

b = 1/N ���(y_i - w x_i)

���������x�����X������������S_x�����X������������

---

2. ������������������

������������������������������������������������������������������������������������������������������n������������������������������������������������������������������������������������������

y = w1 x1 + w2 x2 + ... + wn xn + b

���������w���b������������������\hat{w}������������������������������������������������������������������������������������������

(1) ���������������������������

������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

(2) ������������������������������

���������������������������������������������������������������������������������������������������������������������������������������������

---

3. ���������������������������

������������������������������������������������������������������������������R��������R�����������������

R�� = (SSR) / (SST) = [���(y_hat_i - y��)^2] / [���(y_i - y��)^2]

���������SSR������������������������������SST���������������������������R��������������1������������������������������������������������������

---

4. Python������

���������������scikit-learn���������������������������������������������������������

������1���������������������

������������������������������������������������������������������������������������������������������12������������������������

from sklearn.linear_model import LinearRegression
import numpy as np
X = [[6], [8], [10], [14], [18]]
Y = [[7], [9], [13], [17.5], [18]]
model = LinearRegression()
model.fit(X, Y)
test_x = 12
pre = model.predict([[test_x]])
print("��������� (MSE): %.2f" % np.mean((model.predict(X) - Y) ** 2))
print("���������������%.2f" % pre[0][0])

���������������������������������������������������������������������������

������2���������������������

���������������������������������������������������������������������������������������������

from sklearn.linear_model import LinearRegression
X = [[6, 2], [8, 1], [10, 0], [14, 2], [18, 0]]
Y = [[7], [9], [13], [17.5], [18]]
model = LinearRegression()
model.fit(X, Y)
X_test = [[8, 2], [9, 0], [11, 2], [16, 2], [12, 0]]
y_test = [[11], [8.5], [15], [18], [11]]
predictions = model.predict(X_test)
for i, pred in enumerate(predictions):
    print(f"������������{pred:.2f}, ������������{y_test[i]}")
print(f"R��������{model.score(X_test, y_test)}")

���������������������������������������������������������������������������������������

---

������������

���������. ������������������. ���������������������.

���������. ������������������������PyTorch���. ���������������������.

CSDN.

CSDN.

CSDN.