基于人类反馈的强化学习：对齐AI与人类价值观的技术革命
基于人类反馈的强化学习（RLHF）是一种通过人类偏好来训练AI的技术，使其行为更符合人类价值观。它分三阶段：先用示范数据微调模型，再训练奖励模型预测人类偏好，最后用强化学习优化模型。相比传统方法，RLHF在安全性、创造力、数据效率等方面优势显著，能有效提升AI的对齐性与实用性，是实现有益人工智能的关键路径。
CVPR 2024 目标检测！开放词汇
YOLO-World是CVPR 2024提出的一种实时开放词汇目标检测模型，首次将YOLO的高速特性与开放词汇识别能力结合。它无需微调即可通过文本提示检测任意物体，支持零样本推理，兼具高精度与灵活性，适用于机器人、自动驾驶等实时感知场景，标志着目标检测迈向通用化新阶段。
构建AI智能体：二十六、语言模型的“解码策略”：一文读懂AI文本生成的采样方法
本文探讨了AI文本生成中的采样方法，这些方法决定了AI如何选择候选词来生成文本。文章介绍了两种主要方法：确定性方法（贪心算法和束搜索）和随机采样方法（基础随机采样、温度采样、Top-k采样和Top-p采样）。贪心算法每次选择概率最高的词，生成结果可靠但缺乏创意；束搜索保留多条候选路径，适合需要准确性的任务。随机采样方法则通过引入随机性增加多样性，其中温度采样通过调整温度参数控制创意的随机程度，Top-p采样则动态选择候选词集合，是目前创造性任务的首选方法。
