自然语言处理
关注
包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域
0
今日
2730
内容
0
活动
418
关注
来自：
ModelScope模型即服务
我们要对齐什么——从人类反馈数据收集过程中分析语言模型的对齐任务类型与对齐目标
在Modelscope活动中，主办方欲通过模型盲测收集并整理一批人类反馈数据。因为曾经使用直接偏好优化（Direct Preference Optimization）作为课程的小论文而对此领域有所了解，本次我在数据的收集过程之外，根据问答与模型的输出，结合论文From Instructions to Intrinsic Human Values A Survey of Alignment Goals for Big Models，具体探究了本次实验过程中的对齐目标。
482
0
0
我要发布