问题：换其他像残差网络就没有这个问题，甚至使用基础的卷积神经网络结构也没这个问题（这些网络训练集和验证集准确率都比较接近），但我使用轻量化网络遇到了这个问题
验证集准确率是在训练后期跟不上训练集还是一开始差距就比较大，如果一开始的话，建议增大batchsize试试，如果后来的话可以尝试数据增强，学习率也有可能存在问题，可以看看loss是多少，如果过大，就调小学习率，一般0.001。
神经网络训练，训练集99%，验证集86%怎么解？
2023-02-20
247
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
神经网络训练，训练集99%，验证集86%怎么解？
目录
相关文章
|
21天前
|
机器学习/深度学习
PyTorch
算法框架/工具
目标检测实战(一)：CIFAR10结合神经网络加载、训练、测试完整步骤
这篇文章介绍了如何使用PyTorch框架，结合CIFAR-10数据集，通过定义神经网络、损失函数和优化器，进行模型的训练和测试。
57
2
3
|
21天前
|
机器学习/深度学习
数据可视化
计算机视觉
目标检测笔记(五)：详细介绍并实现可视化深度学习中每层特征层的网络训练情况
这篇文章详细介绍了如何通过可视化深度学习中每层特征层来理解网络的内部运作，并使用ResNet系列网络作为例子，展示了如何在训练过程中加入代码来绘制和保存特征图。
43
1
1
|
3月前
|
机器学习/深度学习
神经网络与深度学习---验证集（测试集）准确率高于训练集准确率的原因
本文分析了神经网络中验证集（测试集）准确率高于训练集准确率的四个可能原因，包括数据集大小和分布不均、模型正则化过度、批处理后准确率计算时机不同，以及训练集预处理过度导致分布变化。
319
0
0
|
21天前
|
机器学习/深度学习
数据采集
算法
目标分类笔记(一): 利用包含多个网络多种训练策略的框架来完成多目标分类任务（从数据准备到训练测试部署的完整流程）
这篇博客文章介绍了如何使用包含多个网络和多种训练策略的框架来完成多目标分类任务，涵盖了从数据准备到训练、测试和部署的完整流程，并提供了相关代码和配置文件。
37
0
0
|
23天前
|
机器学习/深度学习
算法
TensorFlow
深度学习笔记(五)：学习率过大过小对于网络训练有何影响以及如何解决
学习率是深度学习中的关键超参数，它影响模型的训练进度和收敛性，过大或过小的学习率都会对网络训练产生负面影响，需要通过适当的设置和调整策略来优化。
189
0
0
|
28天前
|
机器学习/深度学习
算法
|
2月前
|
机器学习/深度学习
数据采集
数据可视化
深度学习实践：构建并训练卷积神经网络（CNN）对CIFAR-10数据集进行分类
本文详细介绍如何使用PyTorch构建并训练卷积神经网络（CNN）对CIFAR-10数据集进行图像分类。从数据预处理、模型定义到训练过程及结果可视化，文章全面展示了深度学习项目的全流程。通过实际操作，读者可以深入了解CNN在图像分类任务中的应用，并掌握PyTorch的基本使用方法。希望本文为您的深度学习项目提供有价值的参考与启示。
393
1
1
|
3月前
|
机器学习/深度学习
|
3月前
|
安全
Apache
数据安全/隐私保护
你的Wicket应用安全吗？揭秘在Apache Wicket中实现坚不可摧的安全认证策略
【8月更文挑战第31天】在当前的网络环境中，安全性是任何应用程序的关键考量。Apache Wicket 是一个强大的 Java Web 框架，提供了丰富的工具和组件，帮助开发者构建安全的 Web 应用程序。本文介绍了如何在 Wicket 中实现安全认证，
43
0
0
|
3月前
|
机器学习/深度学习
数据采集
TensorFlow
从零到精通：TensorFlow与卷积神经网络（CNN）助你成为图像识别高手的终极指南——深入浅出教你搭建首个猫狗分类器，附带实战代码与训练技巧揭秘
【8月更文挑战第31天】本文通过杂文形式介绍了如何利用 TensorFlow 和卷积神经网络（CNN）构建图像识别系统，详细演示了从数据准备、模型构建到训练与评估的全过程。通过具体示例代码，展示了使用 Keras API 训练猫狗分类器的步骤，旨在帮助读者掌握图像识别的核心技术。此外，还探讨了图像识别在物体检测、语义分割等领域的广泛应用前景。
21
0
0
热门文章
最新文章
1
揭秘2017双11背后的网络－双11的网络产品和技术概览
2
PyTorch 小课堂！一篇看懂核心网络模块接口（下）
3
计算机网络课程优秀备考PPT之第七章应用层（七）
4
Wireshark网络抓包(二)——过滤器
5
报告称仅45%的企业对其网络安全有信心
6
独家 | 手把手教你创建聊天机器人来协助网络运营（附代码）
7
新炬网络助力浙江移动为G20通信业务保驾护航
8
7-1 网络编程技术(下)-2
9
Windows Phone 7 网络编程之调用WCF Service
10
CloudStack添加基本网络Zone
1
神经网络基本概念以及Pytorch实现，多线程编程面试题
71
2
理解并应用机器学习算法：神经网络深度解析
154
3
Batch Size 对神经网络训练的影响
92
4
神经网络中的神经元和激活函数介绍
97
5
卷积神经网络的结构组成与解释（详细介绍）
260
6
深度学习500问——Chapter06： 循环神经网络（RNN）（4）
73
7
深度学习500问——Chapter06： 循环神经网络（RNN）（3）
147
8
深度学习500问——Chapter06： 循环神经网络（RNN）（2）
44
9
深度学习500问——Chapter06： 循环神经网络（RNN）（1）
66
10
深度学习500问——Chapter05： 卷积神经网络（CNN）（4）
55