本文共 2337 字，大约阅读时间需要 7 分钟。

���������������������������

���������������������������������������������������������������������������������������������������������������������������������������������������XGBoost���LightGBM���������������������������������������������������������������������

1. ���������������

1.1 ���������������Logistic Regression���

���������Scikit-learn���������������������������������������������������

• ���������������������0.22���������������������������'lbfgs'������������������������������������������������������������random_state������������max_iter���������

  from sklearn.datasets import load_irisfrom sklearn.linear_model import LogisticRegressionX, y = load_iris(return_X_y=True)lr = LogisticRegression(random_state=0, max_iter=5000).fit(X, y)

• ���������������warm_start���������������������

  lr = LogisticRegression(random_state=0, max_iter=5000, warm_start=True)lr.fit(X, y)print(lr.coef_)

1.2 ���������������

������������������������������������������MultiOutputClassifier������KNeighborsClassifier���

from sklearn.datasets import make_multilabel_classificationfrom sklearn.multioutput import MultiOutputClassifierfrom sklearn.neighbors import KNeighborsClassifierX, y = make_multilabel_classification(n_classes=3, random_state=0)clf = MultiOutputClassifier(KNeighborsClassifier()).fit(X, y)clf.predict(X[-2:])

1.3 XGBoost & LightGBM

������������������������������������������������������������

• ������������������������num_classes���������

2. ���������������

2.1 ���������������

���������LabelEncoder���OrdinalEncoder���������������������������������������������������������������������������������������

from sklearn.preprocessing import OrdinalEncoderencoder = OrdinalEncoder(handle_unknown='ignore')encoded_data = encoder.fit_transform(data).astype(np.float64, copy=False)

3. ������������������

3.1 Graphviz ������

• ������������������Package Manager���������

  sudorapper --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.orgrpm -Uvh http://www.elrepo.org/elrepo-release-7.0-4.el7.elrepo.noarch.rpmsudorapper -u http://www.elrepo.org/elrepo-release-7.0-4.el7.elrepo.noarch.rpmpip install graphviz

• ������������������PyPI���������

  pip install graphviz

������������������������������������������������

dot -Tpdf file_name.dot

���������������������������������������������������������������������������������������������������������������