开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

modelscope fp 16是指什么?

modelscope fp 16是指什么?

展开
收起
小小爱吃香菜 2024-01-22 22:22:30 340 0
2 条回答
写回答
取消 提交回答
  • fp16是Intel提出的半精度浮点数(float16)

    fp16,它占有16bit(2字节),其中5bit用来表示指数位(表示10的幂次),10bit用来表示小数位(也叫尾数位,表示浮点数的有效数字部分),还有一个符号位。5个指数位本来可以表示00000-11111,但是全0和全1有特殊含义,换算成10进制也就是1至30,减去偏置15、能表示的正负区间为-14至15,尾数位可以表示1.0000000000至1.1111111111(此时尾数位前的隐藏项为1),换算成10进制也就是[1, 2)。
    image.png

    ——参考链接

    2024-01-23 00:23:35
    赞同 展开评论 打赏
  • 特殊半精度浮点数。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-01-22 22:37:16
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载