ML之UliR:利用非线性回归,梯度下降法(迭代十万次)求出学习参数θ,进而求得Cost函数最优值

简介: ML之UliR:利用非线性回归,梯度下降法(迭代十万次)求出学习参数θ,进而求得Cost函数最优值

目录


输出结果


代码设计




输出结果


更新……



代码设计


import numpy as np  

import random      

def genData(numPoints,bias,variance):  

   x = np.zeros(shape=(numPoints,2))

   y = np.zeros(shape=(numPoints))  

   for i in range(0,numPoints):    

       x[i][0]=1                

       x[i][1]=i                  

       y[i]=(i+bias)+random.uniform(0,1)%variance

   return x,y

def gradientDescent(x,y,theta,alpha,m,numIterations):

   xTran = np.transpose(x)        

   for i in range(numIterations):

       hypothesis = np.dot(x,theta)

       loss = hypothesis-y      

       cost = np.sum(loss**2)/(2*m)

       gradient=np.dot(xTran,loss)/m

       theta = theta-alpha*gradient

       print ("Iteration %d | cost :%f" %(i,cost))

   return theta

x,y = genData(100, 25, 10)  #100行,

print ("x:")

print (x)

print ("y:")

print (y)

m,n = np.shape(x)

n_y = np.shape(y)  

 

print("m:"+str(m)+" n:"+str(n)+" n_y:"+str(n_y))

 

numIterations = 100000    

alpha = 0.0005          

theta = np.ones(n)    

theta= gradientDescent(x, y, theta, alpha, m, numIterations)

print(theta)



相关文章

ML之UliR:利用非线性回归,梯度下降法(迭代十万次)求出学习参数θ,进而求得Cost函数最优值


相关文章
|
8天前
|
数据可视化
R语言非参数模型厘定保险费率:局部回归、广义相加模型GAM、样条回归
R语言非参数模型厘定保险费率:局部回归、广义相加模型GAM、样条回归
10 0
|
9月前
最优化--最大似然估计--最优化理论介绍
最优化--最大似然估计--最优化理论介绍
|
索引
在训练模型每次迭代中,打印参数的梯度
要打印出每个迭代中的所有样本梯度,您需要在代码中进行相应的更改。以下是一个示例过程,可以帮助您实现此目标: 1. 在训练循环中,使用 enumerate() 函数迭代数据集中的每个批次,并获取每个批次的索引和数据。
546 0
|
机器学习/深度学习 资源调度 算法
基于WOA优化的svm最优参数计算仿真
基于WOA优化的svm最优参数计算仿真
160 0
基于WOA优化的svm最优参数计算仿真
|
机器学习/深度学习 算法
权重衰减== L2正则化?(二)
权重衰减== L2正则化?(二)
121 0
权重衰减== L2正则化?(二)
|
机器学习/深度学习 自动驾驶 算法
权重衰减== L2正则化?(一)
权重衰减== L2正则化?(一)
104 0
权重衰减== L2正则化?(一)
|
机器学习/深度学习 算法
梯度下降算法主要通过哪两个控制因子实现最优参数选择?这两个因子分别起到什么作用?为什么计算损失函数最优值采用梯度下降算法而不是直接对损失函数求导数等于0时的最优解?如何判断梯度下降算法是否正确工作?
梯度下降算法主要通过哪两个控制因子实现最优参数选择?这两个因子分别起到什么作用?为什么计算损失函数最优值采用梯度下降算法而不是直接对损失函数求导数等于0时的最优解?如何判断梯度下降算法是否正确工作? 梯度下降算法有两个重要的控制因子:一个是步长,由学习率控制;一个是方向,由梯度指定。 1.在梯度下降算法中,步长决定了每一次迭代过程中,会往梯度下降的方向移动的距离。试想一下,如果步长很大,算法会在局部最优点附近来回跳动,不会收敛(如下图);但如果步长太短,算法每步的移动距离很短,就会导致算法收敛速度很慢。 2
180 0
ML之UliR:利用非线性回归,梯度下降法(迭代十万次)求出学习参数θ,进而求得Cost函数最优值
ML之UliR:利用非线性回归,梯度下降法(迭代十万次)求出学习参数θ,进而求得Cost函数最优值
ML之PLiR之Glmnet:利用Glmnet算法求解ElasticNet回归类型问题(实数值评分预测)
ML之PLiR之Glmnet:利用Glmnet算法求解ElasticNet回归类型问题(实数值评分预测)
ML之PLiR之Glmnet:利用Glmnet算法求解ElasticNet回归类型问题(实数值评分预测)
EL之Bagging(DTR):利用Bagging对回归问题(实数值评分预测)建模(调2参)
EL之Bagging(DTR):利用Bagging对回归问题(实数值评分预测)建模(调2参)
EL之Bagging(DTR):利用Bagging对回归问题(实数值评分预测)建模(调2参)