多变量线性回归/多元线性回归

谁践踏了优雅 2022-01-23 06:49 369阅读 0赞

# ![20191009191333910.png][][日萌社][Link 1] #

[人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）][AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]

--------------------

1.多变量线性回归/多元线性回归
    	多变量线性回归 又可称作 多元线性回归，即使用多个特征值/变量来预测y。
    	1.单变量线性回归中，只有一个单一特征值/变量值(房子面积x)，那么希望用这个特征值/变量值来预测y(房屋价格)。
    	  单变量的假设函数：hθ(x)=θ0+θ1x。x即为唯一输入的特征值/变量值，h(x)的结果值即为y(房屋价格)。
    	2.多变量线性回归这种形式适用于多个变量值或者多特征值的情况。
    		多变量线性回归形式的预测房屋价格，不仅有房子面积x的一个特征值/变量值，还可以有卧室数量、楼层数量、房子年龄等多个特征值/变量值来预测房屋价格。
    	3.如下图中，使用x1、x2、x3、x4来表示四个特征值/变量值，仍然使用y来表示要预测的房子价格。
    		符号使用：
    			n：表示特征值/变量值的数目。下图中特征值/变量值的数目为n=4。
    			m：训练样本数量，即表格中的行数。
    			x^(i)：表示第i个训练样本的输入特征值/变量值。i代表训练集中的某个样本的索引/下下标。
    			       比如下图中：x^(2) 表示第2个训练样本的一行中所包含的4个输入特征值/变量值，而该4个输入特征值便构建成为一个4x1矩阵(四维向量)。
    			       		 那么x^(2)即可以看做为一个4x1矩阵(四维向量)：[1416,3,2,40]。
    			x^(i)_j：表示第i个训练样本中的第j个特征量的值。
    			         比如下图中：x^(2)_3 表示第2个训练样本的这一行中的第3个特征值，即第2行中第3列的值。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70][]

4.多变量/多特征值的假设函数
    		1.多变量/多特征值的假设函数公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 + ... +θn*xn。
    		2.例子如下图：
    			公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 +θ3*x3 +θ4*x4
    			特征值输入后：h(x)= 80000 + 0.1 * x1 + 0.01 * x2 + 3 * x3 -2 * x4
    			解析：h(x)的结果值为预测的房子价格，单位千美元。
    			     θ0为 基本价格80(千)美元。 
    			     θ1为 0.1(千)美元 表示每平方英尺100美元，x1 表示输入特征值(房子面积)。
    			     θ2为 0.01(千)美元 表示随着楼层数的增加而增加10美元，x2 表示输入特征值(楼层数)。
    			     θ3为 3(千)美元 表示 随着卧室数量的增加而增加3000美元，x3 表示输入特征值(卧室数量)。
    			     θ4为 -2(千)美元 表示 随着使用年数的增加而贬值2000美元，x4 表示输入特征值(使用年数)。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 1][]

3.简化多变量/多特征值的假设函数公式
    			1.多变量/多特征值的假设函数公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 + ... +θn*xn。
    			  在上述公式的基础上增加多一个输入特征值x0，并且把输入特征值x0设为1，因此公式变换成：hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn。
    			  增设一个值为1的输入特征值x0，意味着对于任意第i个样本都存在一个额外的第0个特征值，第0个特征值为1，即x^(i)向量存在一个x^(i)_0=1的特征值。
    			2.θ0 +θ1*x1 +θ2*x2 + ... +θn*xn：特征值向量X是一个从1开始标记的n维的向量(n行1列矩阵)，即X=[x1,x2,...,xn]。
    			  θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn：
    				由于额外增加了第0个特征值，并且第0个特征值总是1，因此特征值向量X是一个从0开始标记的n+1维的向量(n+1行1列矩阵)，
    				即X=[x0,x1,x2,...,xn]。
    			3.hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn 
    				1.X特征向量：把输入特征值xn看作为一个n+1维向量(n+1行1列矩阵)，即X=[x0,x1,x2,...,xn]
    				2.θ参数向量：把θn看作为一个n+1维向量(n+1行1列矩阵)，即θ=[θ0,θ1,θ2,...,θn]
    				3.输入特征值x0 永远等于1
    			4.hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn 可以简化写成θ参数向量转置运算后乘以X特征向量，公式为θ^T*X。
    				1.θ^T即为θ参数向量转置运算：
    					θ参数向量本身为n+1维的θ参数向量(n+1行1列矩阵)，θ参数向量转置运算后变成一个(n+1)*1维的矩阵，即n+1列1行矩阵，
    					因此又被称为行向量，可写作为(n+1)*1。
    				2.θ^T可看作为行向量，因此θ^T*X可看作为行向量与X特征向量的相乘。
    				3.θ^T*X：可被称为内积向量，即θ参数向量与X特征向量的内积，或者说内积就是θ参数向量转置运算后乘以X特征向量。
    					 θ^T*X 等于θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 2][]

[20191009191333910.png]: /images/20220123/478079413f7b44e5b0642e104ecaafe4.png
[Link 1]: http://www.rimengshe.com/
[AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]: https://blog.csdn.net/zimiao552147572/article/details/88867161
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70]: /images/20220123/add04e9323714f26bcf74954ddc80cde.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 1]: /images/20220123/3d56f568cbeb419db07d9beb7cad4849.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 2]: /images/20220123/797919cec30f4430905d8c48b2ab8f39.png