Jupyter实现基本训练 |
您所在的位置:网站首页 › jupyter为什么输出不了 › Jupyter实现基本训练 |
目录
1、实现简单示例函数2、单变量线性回归2.1 绘制数据2.2 梯度下降2.2.1 更新公式2.2.2 实现2.2.3 计算成本J(θ)2.2.4 梯度下降
2.3 可视化成本函数
3、 多变量线性回归3.1 特征标准化
1、实现简单示例函数
在该部分练习中,将通过代码实现返回一个5*5的对角矩阵。 输出与如下相同: 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1实现代码: ###在这里填入代码### import numpy as np A = np.eye(5) print(A)实现结果: 在该部分练习中,将实现单变量线性回归并用来预测餐车的利润。 假设你是一家餐厅的领导,正在考虑在不同的城市开设新的分店。该连锁店已经在不同的城市有了餐车,并且你能够获得每个城市的人口和利润数据。 现在需要使用这些数据来帮助你选择下一个被扩展的城市。 文件ex1data1.txt包含线性回归问题的数据集。第一列数据对应城市人口,第二列数据对应那座城市的餐车的利润。利润为负时表示亏损。 2.1 绘制数据在开始进入练习之前,对数据进行可视化通常很有用。对于该数据集,可以使用散点图进行可视化,因为它只有两个属性(人口、利润)。 # 引入所需要的库文件 import numpy as np import pandas as pd import matplotlib.pyplot as plt import os %matplotlib inline # 数据存储路径 path = 'ex1data1.txt' # 读入相应的数据文件 data = pd.read_csv(path, header=None,names=['Population','Profit']) #查看数据的前五条 data.head(5)
要点: 实现散点图可视化数据分布为红色点标清横纵坐标名称![]() 在该部分中,将使用梯度下降来选择合适的线性回归参数θ用以拟合给定数据集。 2.2.1 更新公式线性回归的目的是最小化成本函数: 其中一种方法是使用批量梯度下降算法,在批量梯度下降中,每次迭代地执行更新,随着梯度下降的每一步计算,参数 𝜃𝑗 越来越接近能够使得成本 𝐽(𝜃)达到最低的最佳值。 在上一部分的练习中,我们已经将所需要用到的数据加载至变量data中,并为其列分别进行命名。接下来,我们在数据中添加了一个维度来拟合截距项 𝜃0 。并将初始参数值设为0,学习率 𝛼 设为0.01。 #在列索引为0处添加数据列,该列值均为1 data.insert(0, 'Ones', 1) #获取数据列数 cols = data.shape[1] #对变量X和y进行初始化,并将其数据类型转换为矩阵 X = data.iloc[:,0:cols-1] y = data.iloc[:,cols-1:cols] X = np.matrix(X.values) y = np.matrix(y.values) #学习率、迭代次数的初始化 alpha = 0.01 iterations = 1500 2.2.3 计算成本J(θ)在执行梯度下降最小化成本函数 𝐽(𝜃) 时,通过计算成本来监视收敛状态是有帮助的。 你需要实现一个计算成本 𝐽(𝜃)的函数computeCost,用于检查梯度下降实现的收敛性。 其中,X和y不是标量值,而是矩阵,其行代表训练集中的示例。 要点: 完成该函数后,将 𝜃 值初始化为0并进行成本的计算,将得到的成本值打印出来。 如果结果为32.07,则计算通过。 ###在这里填入代码### def computeCost(X, y, w): inner = np.power(((X * w) - y), 2) return np.sum(inner) / (2 * len(X)) w = np.matrix(np.zeros((2,1))) computeCost(X, y, w)接下来,我们将实现梯度下降,给出的代码已经实现了循环结构,你只需要在每次的迭代中提供 𝜃的更新。 在进行代码实现时,请确保你了解要优化的内容,和正在更新的内容。 请记住,成本 𝐽(𝜃) 为参数-被向量 𝜃 终止,而不是 𝑋 和 𝑦 。也就是说,我们将 𝐽(𝜃) 的值最小化通过改变矢量 𝜃 的值,而不是通过改变 𝑋 或 𝑦。 验证梯度下降是否正常工作的一种好方法是查看 𝐽(𝜃)的值,并检查该值每步是否减小。每次迭代时,代码都会调用computeCost函数并打印成本。假设你实现了梯度下降,正确地计算成本, 𝐽(𝜃)值永远不会增加,并且应该在算法结束时收敛到稳定值。 要点: 实现梯度下降后,需要使用最终的参数值将线性回归的拟合结果进行可视化,绘图结果需要类似如下图所示。 为了更好地理解成本函数的迭代计算,将每一步计算的cost值进行记录并绘制。 fig, ax = plt.subplots(figsize=(12,8)) ax.plot(np.arange(iterations), cost, 'r') ax.set_xlabel('Iterations') ax.set_ylabel('Cost') ax.set_title('Error vs. Training Epoch')在该部分中,将使用多个变量来实现用线性回归预测房屋价格。假设你目前正在出售房屋,想知道什么是好的市场价格。 一种方法是首先收集最近出售房屋的信息,其次是建立房屋价格模型。 文件ex1data2.txt包含俄勒冈州波特兰市的房屋价格及相关信息。第一列是房屋的大小(以平方英尺为单位),第二列是卧室的个数,第三列是房屋的价格。 3.1 特征标准化以下代码将从文件ex1data2.txt文件中加载并显示该数据集。 通过观察这些数据,可以发现房屋的大小大约是卧室数量的1000倍。而当不同的特征值之间相差几个数量级时,将特征进行缩放可以使梯度下降收敛得更快。 path = '/home/jovyan/work/ex1data2.txt' data2 = pd.read_csv(path, header=None, names=['Size', 'Bedrooms', 'Price']) data2.head()
要点: 从数据集中减去每个特征的平均值。 减去平均值后,再将新的特征值除以各自的“标准差” 标准差是一种衡量特定特征的值的范围内有多大变化的方法(大多数数据点将位于平均值的两个标准差内);这是取值范围的替代方法。 当标准化特征时,需要存储用于标准化的值——平均值和标准差。从模型中学习参数后,经常需要预测新的房屋的价格。此时给定一个新的 𝑥 值(房屋面积和卧室数量),必须首先使用先前从训练集中计算的平均值和标准差来对新的数据进行标准化。 ###在这里填入代码### data2 = (data2 - data2.mean()) / data2.std() data2.head()
假设函数和批次梯度下降的更新规则保持不变,你的任务是代码实现多变量线性回归的成本函数和梯度下降。 要点: 确保你的代码中可以支持任何大小的数据,并且数据均已被向量化。代码实现成本函数和梯度下降后,最终的成本值应大约为0.13。请依照单变量线性回归练习中要求,绘制成本的变化曲线。 ###在这里填入代码### cols = data2.shape[1] X2 = data2.iloc[:,0:cols-1] y2 = data2.iloc[:,cols-1:cols] X2 = np.matrix(X2.values) y2 = np.matrix(y2.values) w2 = np.matrix(np.array([0,0,0])) w2_final, cost2_final = gradientDescent(X2, y2, w2.T, alpha, iterations) print('The weight vector:\n',w2_final) computeCost(X2, y2, w2_final) fig, ax = plt.subplots(figsize=(9,6)) ax.plot(np.arange(iterations), cost2_final, 'r') ax.set_xlabel('Iterations') ax.set_ylabel('Cost') ax.set_title('Error vs. Iterations') |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |