迭代下降算法
迭代的策略
- 线搜索方法
- 信赖域方法
线搜索基本思路
Step 0 给定x 0 , k = 0
Step 1 是否满足终止条件
Step 2 确定下降方向d k
Step 3 选择合适的步长α k
Step 4 x k + 1 = x k + α k d k 更新,k = k + 1回到Step 1
线搜索方法
均匀搜索法
黄金区间法(0.618法)
基于导数信息的二分法
非精确线搜索
迭代的策略
Step 0 给定x 0 , k = 0
Step 1 是否满足终止条件
Step 2 确定下降方向d k
Step 3 选择合适的步长α k
Step 4 x k + 1 = x k + α k d k 更新,k = k + 1回到Step 1