Siamese network总结

简介: 本文介绍了Siamese (连体)网络的主要特点、训练和测试Siamese网络的步骤、Siamese网络的应用场合、Siamese网络的优缺点、为什么Siamese被称为One-shot分类,以及Siamese的损失函数。

Siamese Network的主要特点

 

1. Siamese 网络采用两个不同的输入,通过两个具有相同架构、参数和权重的相似子网络。


2. 这两个子网互为镜像,就像连体双胞胎一样。 因此,对任何子网架构、参数或权重的任何更改也适用于其他子网。


3. 两个子网络输出一个编码来计算两个输入之间的差异。


4. Siamese 网络的目标是使用相似度分数对两个输入是相同还是不同进行分类。可以使用二元交叉熵、对比函数或三元组损失来计算相似度分数,这些都是用于一般距离度量学习方法的技术。


5. Siamese 网络是一种one-shot分类器,它使用判别特征从未知分布中概括不熟悉的类别。

f04fbb904f869c7d0c6bcc0ef8f45b58.png

训练 Siamese 神经网络

 

1. 加载包含不同类的数据集


2. 创建正负数据对。 当两个输入相同时为正数据对,当两个输入不同时为负数据对。


3. 构建卷积神经网络,它使用全连接层输出特征编码。我们将通过姊妹 CNN传递两个输入。姐妹 CNN 应该具有相同的架构、超参数和权重。


4. 构建差分层以计算两个姐妹 CNN 网络编码输出之间的欧几里得距离。


5. 最后一层是具有单个节点的全连接层,使用 sigmoid 激活函数输出相似度分数。

6. 使用二元交叉熵作为损失函数。

欢迎关注公众号CV技术指南,专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读

测试 Siamese 神经网络


1. 向训练模型发送两个输入以输出相似度分数。


2. 由于最后一层使用 sigmoid 激活函数,它输出一个范围在 0 到 1 之间的值。接近 1 的相似度得分意味着两个输入是相似的。接近 0 的相似度得分意味着两个输入不相似。一个好的经验法则是使用 0.5 的相似性截止阈值。

 

Siamese 神经网络的应用


1. 签名验证


2. 面部识别


3. 比较指纹


4. 根据临床分级评估疾病严重程度


5. 工作资料的文本相似度以恢复匹配


6. 用于配对相似问题的文本相似度

 

为什么Siamese神经网络被称为one-shot分类?


1. one-shot分类模型仅使用每个新类别的单个训练样本即可正确进行预测。


2. Siamese 网络使用有监督的训练方法来学习通用输入特征,然后根据训练数据对未知的类分布进行预测。


3. 受过训练的 Siamese 网络使用一次性学习来预测两个输入之间的相似性或不相似性,即使这些新分布中的样本很少。

 

Siamese 网络的优点


1. Siamese 网络是一种one-shot分类模型,只需一个训练样本即可进行预测。


2. 对类别不平衡更鲁棒,因为它需要很少的信息。 它可以用于某些类的样本很少的数据集。


3. Siamese 网络的one-shot学习特性不依赖于特定领域的知识,而是利用了深度学习技术。

 

Siamese 网络的缺点


仅输出相似性分数而不输出概率。:互斥事件的概率总和为 1。而距离不限于小于或等于 1。

 

为什么姐妹网络一定要一样?


两个姐妹卷积网络((sister convolutional network))的模型架构、超参数和权重必须相同。 它确保它们各自的网络不会将两个极其相似的图像映射到非常不同的特征空间,因为每个网络计算相同的函数。

 

Siamese 网络使用的损失函数


1. Siamese 网络使用相似度分数来预测两个输入是相似还是不同,使用度量学习方法,该方法找到其输入之间的相对距离。


2. 可以使用二元交叉熵、对比函数或三重损失计算相似度分数。

3. Siamese 网络执行二元分类,将输入分类为相似或不相似;因此,默认使用二元交叉熵损失函数。

 

对比损失函数


1. 对比损失函数通过对比两个输入来区分相似和不同的图像。当你在训练时不了解所有类别并且训练数据有限时,它会有所帮助。它创建了一种数据编码,可以在将来有新类时使用。


2. 对比损失需要一对正负训练数据。 正对包含一个anchor样本和一个正样本,负对包含一个anchor样本和一个负样本。


3. 对比损失函数的目标是使正对具有较小的距离,对负对具有较大的距离。


c128ce4c9a4c942b6138b3c25867a388.png

1a0deeb59422bd4081fc5b7b838b847b.png在上面的等式中,当输入来自同一类时,Y 为 0;否则,Y 的值为 1。


m 是定义半径的余量,以指示超出此余量的不同对不会造成损失,并且始终大于 0。

Dw 是姐妹 siamese 网络输出之间的欧几里得距离。

 

Triplet Loss


在 Triplet loss 中,我们使用数据的三元组而不是二元对。 三元组由anchor、正样本和负样本组成,主要用于面部识别。


f241fa8439b5f847b5cc33e2e45e004c.png

在 Triplet loss 中,anchor和正样本编码之间的距离被最小化,而anchor和负样本编码之间的距离被最大化。

 

Triplet loss 将 d(a,p) 推到 0 ,并且 d(a,n) 大于 d(a,p)+margin

 

结论


Siamese 网络受到 Siamese twins 的启发,是一种one-shot分类,用于区分相似和不同的图像。 即使不知道所有训练时的类别并且训练数据有限,它也可以应用。 Siamese 网络基于度量学习方法,该方法使用二元交叉熵或对比损失或三重损失找到其输入之间的相对距离。

相关文章
|
11月前
|
机器学习/深度学习 人工智能
OmniCam:浙大联合上海交大推出多模态视频生成框架,虚拟导演打造百万级影视运镜
OmniCam是由浙江大学与上海交通大学联合研发的多模态视频生成框架,通过LLM与视频扩散模型结合实现高质量视频生成,支持文本、轨迹和图像等多种输入模态。
371 1
OmniCam:浙大联合上海交大推出多模态视频生成框架,虚拟导演打造百万级影视运镜
|
机器学习/深度学习 算法 Python
从零开始:构建你的第一个机器学习模型
【7月更文第16天】在机器学习的浩瀚宇宙中,迈出第一步总是充满挑战又激动人心的。本文旨在通过一个简单而经典的案例——线性回归,引领你动手构建首个机器学习模型,让你从零开始,逐步掌握模型构建的基本流程。
586 3
|
存储 SQL 算法
跑批为什么这么难
业务系统产生的明细数据需经加工处理以支持企业经营,此过程称作“跑批”,常在夜间进行以免影响生产系统。跑批任务涉及大量数据及复杂计算,导致耗时较长。开源计算引擎SPL可直接基于文件系统计算,提供更优算法与存储机制,显著提升跑批效率。例如,L银行贷款协议跑批任务从2小时缩短至10分钟,性能提高12倍;P保险公司车险业务的历史保单关联任务从近2小时缩短至17分钟,速度提升近7倍;T银行贷款跑批任务提速204倍。
|
机器学习/深度学习 算法 Python
【Siamese】手把手教你搭建一个孪生神经网络,比较两张图像的相似度
【Siamese】手把手教你搭建一个孪生神经网络,比较两张图像的相似度
2176 0
|
机器人 网络性能优化 Python
ROS2教程 10 launch
这篇文章是关于ROS2(Robot Operating System 2)的launch文件的详细教程,包括如何创建和使用launch文件来启动ROS2节点,以及如何通过参数、命名空间和条件判断等高级特性来控制节点的启动行为。
1050 0
|
存储 数据可视化 数据挖掘
Python统计全球星巴克门店的数据及在不同国家和地区门店数量可视化(超详细 附源码)
Python统计全球星巴克门店的数据及在不同国家和地区门店数量可视化(超详细 附源码)
789 3
typora中的公式怎么在word里面正常显示,怎么问可以让chatgpt的公式在word里面正常显示
typora中的公式怎么在word里面正常显示,怎么问可以让chatgpt的公式在word里面正常显示
930 0
|
Windows
Wsl与Windows互相访问
Wsl与Windows互相访问
634 0
失物招领|基于Web的校园失物招领系统的设计与实现(二)
失物招领|基于Web的校园失物招领系统的设计与实现
423 0