Python版数据挖掘实验2报告.docVIP

华 南 农 业 大 学 综 合 实 验 报 告 学生姓名：洪毓阳 学 号：201512010107 实验持续时间： 一、实验名称：使用 Scikit-learn中的 K近邻算法进行分类 1、实验目的： 学习使用 Scikit-learn中的 k最近邻算法进行分类 2、实验内容： 给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例（也就是上面所说的K个邻居）， 这K个实例的多数属于某个类，就把该输入实例分类到这个类中。 3、实验环境（设备、软件、实验数据）： 设备：笔记本电脑 软件：Python idle 实验数据：ionosphere.data 4、实验步骤： 读取实验数据，并存储到数组中 import numpy as np import csv Import os #如果不使用添加文件路径可不导入该模块 dataFolder=’G:\Python36\ionosphere.data’#自己本地的data文件路径 data_filename = os.path.join(dataFolder, Ionosphere,ionosphere.data); #添加文件路径，也可以不使用该语句，自己直接输入该data文件路径 #创建Numpy数组X和y存放数据集。数据集大小已知，共有351行34列。 X = np.zeros((351, 34), dtype=float) y = np.zeros((351,), dtype=bool) #读取数据 #我们用csv模块来导入数据集文件，并创建csv阅读器对象。 with open(data_filename, r) as input_file: reader = csv.reader(input_file); #注意这里必须让reader保持未关闭，否则enumerate()报错 for i, row in enumerate(reader): data = [float(datum) for datum in row[:-1]] X[i] = data y[i] = row[-1] == g 将数据集划分成训练集跟数据集，引入Scikit-learn中的 k最近邻算法训练器，使用训练器对训练集进行训练，使用测试集对训练器进行测试并输出准确率、 from sklearn.model_selection import train_test_split # 原使用的模块 sklearn.cross_validation 已经被sklearn.model_selection 代替 #首先，需要创建训练集和测试集。 X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=14) #X_train, X_test, y_train, y_test = train_test_split(X, y) #train_test_split该函数可以将数据集进行随机划分（根据随机数种子划分，对于同一数据集随机数种子一样，划分的结果一样），同时可以设置测试集占比例等，详细可参考官方文档。 #random_state是指随机数种子，如果种子相同，则结果相同。也可省略。 from sklearn.neighbors import KNeighborsClassifier #导入K近邻分类器这个类，并为其初始化一个实例，创建一个kNN分类器，默认近邻数为5 estimator = KNeighborsClassifier() # 使用训练集进行训练 estimator.fit(X_train, y_train) # 最后使用测试集进行测试算法 y_predicted = estimator.predict(X_test) accuracy = np.mean(y_test == y_predicted) * 100 print(The accuracy is {0:.1f}%.format(accuracy)) 输出结果： 进行交叉检验，对训练器进行测试并输出准确率 from sklearn.model_selection import cross_val_score #把完整的数据集和类别值传给这个函数。cv为数字时，指的是将原数据分为多少份 #当cv为数字时，默认使用K-fold交叉检验。默认cv=3，但不填cv会警告 scores = cross_val_score(estimator, X, y, scoring=accuracy‘,cv=6) #可参考官方文档/stable/mod