sklearn基础学习
1. 简介
1.1 什么是sklearn
sklearn，或者更正式地称为scikit-learn，是一个基于Python的开源机器学习库。它建立在NumPy、SciPy和matplotlib之上，提供了简单而有效的工具用于数据挖掘和数据分析。sklearn支持监督学习和无监督学习算法，包括分类、回归、聚类和降维等。
1.2 sklearn的主要功能
- 数据预处理：提供标准化、归一化、填充缺失值等工具。
- 特征选择与提取：支持PCA、LDA等降维技术，以及特征选择方法。
- 模型选择与评估：提供交叉验证、网格搜索等模型选择和评估工具。
- 监督学习：包括分类和回归算法，如SVM、决策树、随机森林、逻辑回归等。
- 无监督学习：包括聚类、降维算法，如K-means、DBSCAN、t-SNE等。
- 集成学习：支持Bagging、Boosting等方法，如AdaBoost、Gradient Boosting等。
2. 安装sklearn
你可以通过pip或conda来安装sklearn。以下是使用pip安装的命令：
pip install scikit-learn |
如果你使用的是conda环境，可以使用以下命令：
conda install scikit-learn |
3. 数据预处理
在使用sklearn进行机器学习之前，数据预处理是非常关键的一步。它包括数据清洗、特征缩放、特征编码等。
3.1 特征缩放
特征缩放可以帮助提升机器学习算法的性能和稳定性。sklearn提供了多种特征缩放工具：
- StandardScaler：用于特征的标准化，即将特征值缩放到均值为0，方差为1的分布。
- MinMaxScaler：将特征数据缩放到一个指定的范围（通常是0到1）。
- MaxAbsScaler：将每个特征缩放到[-1, 1]的范围内，通过除以每个特征的最大绝对值来实现。
- RobustScaler：使用中位数和四分位数范围(IQR)来缩放特征，对有许多离群点的数据集特别有用。
- Normalizer：将每个样本缩放到单位范数，即使得每个样本的L1或L2范数为1。
3.2 数据清洗
数据清洗包括处理缺失值、异常值、重复值等。sklearn提供了SimpleImputer来处理缺失值，可以选择用平均值、中位数或众数填充。
3.3 编码分类特征
对于分类数据，需要将其转换为机器学习模型可以理解的数值形式。sklearn提供了LabelEncoder（用于单个分类特征）和OneHotEncoder（用于多个分类特征）等工具来实现这一功能。
4. 加载数据集
sklearn自带了一些用于示例和测试的数据集，如鸢尾花数据集（Iris dataset）、波士顿房价数据集（Boston housing dataset）等。以下是如何加载鸢尾花数据集的示例：
from sklearn.datasets import load_iris | |
iris = load_iris() | |
X = iris.data # 特征数据 | |
y = iris.target # 目标标签 |
5. 划分数据集
在训练模型之前，通常需要将数据集划分为训练集和测试集。sklearn提供了train_test_split函数来实现这一功能：
from sklearn.model_selection import train_test_split | |
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) |
6. 训练模型
sklearn提供了多种内置的机器学习算法。以下是如何使用逻辑回归算法训练模型的示例：
from sklearn.linear_model import LogisticRegression | |
model = LogisticRegression() | |
model.fit(X_train, y_train) |
7. 模型评估
训练好模型后，我们需要评估其在测试集上的性能。sklearn提供了各种评估指标，如准确率、精确率、召回率、F1分数等。以下是如何计算模型准确率的示例：
from sklearn.metrics import accuracy_score | |
y_pred = model.predict(X_test) | |
accuracy = accuracy_score(y_test, y_pred) | |
print("Accuracy:", accuracy) |
8. 交叉验证
为了更准确地评估模型的性能，可以使用交叉验证（Cross-Validation）。sklearn提供了cross_val_score函数来实现这一功能：
from sklearn.model_selection import cross_val_score | |
scores = cross_val_score(model, X_train, y_train, cv=5 |