《人工智能》课件第5章 回归.pptx
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《《人工智能》课件第5章 回归.pptx》由用户(momomo)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 人工智能课件第5章 回归 课件
- 资源描述:
-
1、第5章 回归主要内容 一元线性回归 多元线性回归 梯度下降法 Logistic回归3房屋应用做一个房屋价值的评估系统,一个房屋的价值来自很多地方,比如说面积、房间的数量(几室几厅)、地段、朝向等等,这些影响房屋价值的变量被称为特征(feature)。在此处,为了简单,假设我们的房屋就是一个变量影响的,就是房屋的面积。假设有一个房屋销售的数据如下:4线性回归及其模型线性回归,是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。其表达形式为 y=wx+e,e为误差服从均值为0的正态分布。wj是系数,W就是这个系数组成的向量,它影响着不同维度的j(x)在回归函数
2、中的影响度,比如说对于房屋的售价来说,房间朝向的w一定比房间面积的w更小。(x)可以换成不同的函数,不一定要求(x)=x假设特征和结果都满足线性。收集的数据中,每一个分量,就可以看做一个特征数据。每个特征至少对应一个未知的参数。这样就形成了一个线性模型函数,向量表示形式:5回归问题的常规步骤p 寻找模型函数;p 构造J函数(损失函数);p 最小化J函数并求得回归参数(w)6线性回归的损失函数误差最小。模型与数据差的平方和最小:最小二乘法梯度下降法模型函数:损失函数7线性回归的两个用途p 如果目标是预测或者映射,线性回归可以用来对观测数据集的和X的值拟合出一个预测模型。当完成这样一个模型以后,对
3、于一个新增的X值,在没有给定与它相配对的y的情况下,可以用这个拟合过的模型预测出一个y值。这是比方差分析进一步的作用,就是根据现在,预测未来。虽然,线性回归和方差都是需要因变量为连续变量,自变量为分类变量,自变量可以有一个或者多个,但是,线性回归增加另一个功能,也就是凭什么预测未来,就是凭回归方程。这个回归方程的因变量是一个未知数,也是一个估计数,虽然估计,但是,只要有规律,就能预测未来。p 给定一个变量y和一些变量X1,.,Xp,这些变量有可能与y相关,线性回归分析可以用来量化y与Xj之间相关性的强度,评估出与y不相关的Xj,并识别出哪些Xj的子集包含了关于y的冗余信息。一元线性回归 回归是
4、一种监督学习模型,用于估计一个预测值(又称为因变量、响应变量)和一个或多个特征(又称为自变量)之间关系。最常见的回归方法有线性回归和Logistic回归等。如果特征和预测值之间存在线性关系,利用观测到的特征数据和预测值建立它们之间的线性模型的过程就是线性回归。如果特征只有一个,那么就叫一元线性回归,又叫简单线性回归。一元线性回归 线性关系 物质的体积和质量、父子的身高、房子的房间数和价格、披萨的直径和价格等等之间都在一定程度上存在线性关系。当获取到一组(特征,预测值)数据时,可以通过可视化来直观地确定它们之间是否存在线性关系。一元线性回归 线性关系 平均房间数和房价之间的线性关系from sk
5、learn.datasets import load_boston#导入波士顿房价数据集import matplotlib.pyplot as pltdataset=load_boston()x_data=dataset.data#导入所有特征变量y_data=dataset.target#导入目标值(房价)name_data=dataset.feature_names#导入特征名plt.subplot(1,1,1)#绘制房间数和房价的散点图plt.scatter(x_data:,5,y_data,s=20)#第5个特征为为房间数plt.title(name_data5)plt.show()一
6、元线性回归一元线性回归 一元线性回归 利用Sklearn实现一元线性回归 导入数据集 导入线性回归类 导入数据集处理方法 导入可视化包from sklearn.datasets import load_bostonfrom sklearn.linear_model import LinearRegressionfrom sklearn.model_selection import train_test_splitimport matplotlib.pyplot as plt一元线性回归 一元线性回归 利用Sklearn实现一元线性回归 数据准备dataset=load_boston()x_da
7、ta=dataset.data#导入所有特征变量y_data=dataset.target#导入目标值(房价)name_data=dataset.feature_names#导入特征 x_train,x_test,y_train,y_test=train_test_split(x_data,y_data,test_size=0.25,random_state=1001)x_data_train=x_train:,5.reshape(-1,1)#选取前400个样本作为训练集y_data_train=y_train.reshape(-1,1)x_data_test=x_test:,5.reshap
8、e(-1,1)#选取剩余的样本作为训练集y_data_test=y_test.reshape(-1,1)一元线性回归 一元线性回归 利用Sklearn实现一元线性回归 包括线性回归在内的机器学习都包含训练(或学习)和预测两个过程。fit()方法用于学习模型。predict()函数利用学习到的模型来预测一个自变量对应的因变量值。训练和预测simple_model=LinearRegression()#创建线性回归估计器实例simple_model.fit(x_data_train,y_data_train)#用训练数据拟合模型y_data_test_p=simple_model.predict(
9、x_data_test)#用训练的模型对测试集进行预测 一元线性回归 一元线性回归 利用Sklearn实现一元线性回归 预测结果输出 模型结果plt.subplot(1,1,1)plt.scatter(x_data_test,y_data_test,s=20,color=r)plt.scatter(x_data_test,y_data_test_p,s=20,color=b)plt.xlabel(Room Number)plt.ylabel(Price)plt.title(name_data5)plt.show()In 2:simple_model.coef_Out2:array(9.0186
10、7888)In 3:simple_model.intercept_Out3:array(-34.20143988)模型的回归系数coef_和截距intercept_,分别为9.02和-34.20。一元线性回归一元线性回归 模型工作原理 方差用来衡量一组值的偏离程度。协方差用来衡量两个变量如何一起变化。一元线性回归 模型工作原理 代价函数 代价函数极小时一元线性回归一元线性回归r_squared=simple_model.score(x_data_test,y_data_test)print(R2=%s%r_squared)r_squaredOut2:0.46561991850703266多元线
11、性回归多元线性回归多元线性回归 利用Sklearn实现多元线性回归dataset=load_boston()x_data=dataset.data#导入所有特征变量y_data=dataset.target#导入目标值(房价)name_data=dataset.feature_names#导入特征#随机选取训练机和测试集x_train,x_test,y_train,y_test=train_test_split(x_data,y_data,test_size=0.25,random_state=1001)mlr_model=LinearRegression()#创建线性回归估计器实例mlr_m
展开阅读全文