Modelscope 中文竞技场大模型评测

简介: 本次评测我选得三个类别分别是:写作创作相关、中文游戏、知识常识三个类别。

《一》评测相关配置介绍

本次使用的模型为:ziya-llama-13b-v1、chatglm-6b-v2、baichuan-13b-chat-v1、chatyuan-large-v1、chatPLUG-100Poison,我都是采用的双模型形式测试的。

《二》评测步骤

在中文竞技场模型中,点击立即进入。下面可以选分类。

  1. 第一个分类我选得是写作创作相关,提了两个文学问题和一个自己实际生活需要解决的问题,ziya-llama-13b-v1和chatglm-6b-v2两个模型,在这个方便各有千秋。ziya-llama-13b-v1回答的较详细,且结果朗朗上口好容易就看懂,像平时的记事文章。chatglm-6b-v2呢,回答的就比较简介,感觉很牛的样子,专业性会比较强。但是就我而言,我更喜欢模型A,很容易读懂。
    634ac6a4b569865e31eb00e5ec246091.png

  2. 第二个分类我选得是中文分类相关的。问了一个成语的意思和两个字谜。这一个环节baichuan-13b-chat-v1完胜chatyuan-large-v1,baichuan-13b-chat-v1整理都回答出了我想问的问题,对于问题的重点捕获非常到位,chatyuan-large-v1基本上没有捕获到问题的重点,草草回答了几个字,很是潦草。
    85cb836aeee51ac5c9b568f165d1feb6.png

  3. 第三个环节是知识常识。问了一些数学和社会的问题。chatPLUG-100Poison回答得很详细,会把解题步骤都给写出来。chatyuan-large-v1这次把问题的重点都给捕获到了,回答得非常简介,几乎是没有步骤可言,比较适用于有基础,就想知道答案的同学。
    3abbe4641a8fd552057b1416b4319175.png

    《评测总结》

  • chatyuan-large-v1非常不擅长文字类的问题。回答数学问题或者专业性抢得问题还不错,但是比较适合基础较好或者理解能力非常高的用户使用,步骤比较简介,或直接给出答案。
  • chatPLUG-100Poison这个还是非常不错的。对于文字问题以及专业问题都掌握得非常好。而且步骤很详细,适合于大部分用户。
  • baichuan-13b-chat-v1我让百川回答了几个字谜,分析得很有道理。是比较机灵的模型,值得推荐。
  • chatglm-6b-v2回答问题的重点和详细程序都掌握得不错,但是回答得内容,不能普遍适用。
  • ziya-llama-13b-v1这个还是非常优秀的。是我最喜欢的文字回答模型,回答到我心坎里了,而且答案超级适用,适合大力推广。
目录
相关文章
|
4天前
|
自然语言处理
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
19 1
|
4天前
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
35 2
|
4天前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
4天前
|
文字识别 并行计算 语音技术
ModelScope问题之下载模型文件报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
284 3
|
4天前
|
人工智能 达摩院 自然语言处理
超好用的开源模型平台,ModelScope阿里达摩院
超好用的开源模型平台,ModelScope阿里达摩院
111 1
|
4天前
|
人工智能 自然语言处理 搜索推荐
魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
【2月更文挑战第9天】魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
224 3
|
4天前
|
API
使用ModelScope平台进行模型验证时
【2月更文挑战第9天】使用ModelScope平台进行模型验证时
68 4
|
4天前
|
机器学习/深度学习 测试技术 TensorFlow
ModelScope模型使用与EAS部署调用
本文以魔搭数据的模型为例,演示在DSW实例中如何快速调用模型,然后通过Python SDK将模型部署到阿里云PAI EAS服务,并演示使用EAS SDK实现对服务的快速调用,重点针对官方关于EAS模型上线后示例代码无法正常调通部分进行了补充。
|
4天前
modelscope-funasr怎么拿验证集评估微调后的模型效果呢
【2月更文挑战第19天】modelscope-funasr怎么拿验证集评估微调后的模型效果呢
36 1
|
4天前
|
并行计算 计算机视觉 异构计算
ModelScope问题之官方模型demo运行时候报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
87 3