苹果推出AI训练新方法 用任务清单替代人工评分显著提升模型性能

  发布时间:2026-11-15   作者:玩站小弟   我要评论
歌外推【tg:seogoogle987】。

苹果公司研究团队近日在最新论文中提出了一种名为"基于清单反馈的强化学习"(RLCF)的创新训练方法,通过用具体任务清单替代苹果传统的人工点赞评分机制,大幅提升了大语言模型执行复杂指令的能力。

据了解,RLCF全称为Reinforcement Learning推出 from Checklist Feedback,与目前广泛采用的"人类反馈强化学习"(RLHF)方法形成鲜明对比。传统RLHFAI方法主要依赖人工进行简单的点赞或点踩评价,而RLCF则为每条用户指令生成详细的检查清单,并按0-100分的标准对各项内容进行精确评分训练,以此作为模型优化的指导依据。

苹果研究团队选择了强指令跟随模型Qwen2.5-7B-Instruct作为测试对象,并在五个常新方用评测基准上进行了全面验证。测试结果显示,RLCF是唯一在所有测试项目中都取得性能提升的训练方案。

具体数据显示,在FollowBe法 nch测试中,硬性满意率提升了4个百分点。InFoBench评分提高6点,Arena-Hard胜率增加3点。在某些特定任务中,用任性能提升幅度最高达到8.2%。这些数据表明,清单反馈方法在处理复杂多步骤任务时表现尤为突出。

在技术实现方面,苹果团队的清单生成过程务清颇具创新性。他们采用更大规模的Qwen2.5-72B-Instruct模型,结合现有研究方法,为13万条指令构建了名为"WildC单替hecklists"的专用数据集。清单内容设计为明确的二元判断项,例如"是否翻译成西班牙语"等具体要求。随后,大模型对候选代人回答进行逐项评分,通过综合加权处理后形成训练奖励信号,指导小模型的学习优化过程。

不过,苹果研究人员也坦率承认了该方法的局限性。首先工评,RLCF需要依赖更强大的模型作为评判标准,这在计算资源受限的场景下可能面临实施困难。其次,该方法专门针对复杂指令执行能力的提分显升而设计,并非用于安全对齐目的,因此无法替代现有的安全性评估和调优机制。对于其他类型的AI任务,RLCF方法的适用性还需要著提进一步的实验验证。

业界专家认为,苹果此次提出的RLCF方法为AI模型训练提供了新的思路,特别是在处理复杂多步骤任务方面展现升模出明显优势。随着技术的进一步完善,这一方法有望在实际应用中发挥更大作用。

  • Tag:

相关文章

  • 云计算客户的5步IaaS安全检查清单

    如今,许多组织几乎完全采用IaaS取代了虚拟数据中心、内部部署服务器和设备。这种广泛的实现需要确保IaaS运营环境的安全,以适应这种增加使用量的情况。 与PaaS或SaaS环境相比,客户采用IaaS面
    2026-11-15
  • 美国专利商标局(USPTO)报告:再不使用人工智能,你就落伍啦!

    美国专利商标局(USPTO)于10月27日发布的一份新报告显示,在2018年所有新的技术发明中,有42%的发明涉及到了人工智能。 这些发明大部分都来自于知识处理和计划/控制领域,即分析信息以获取新见解
    2026-11-15
  • 别伤害我歌曲原唱

    前言:答:《别伤害我》原唱:祁隆歌手介绍——祁隆为中国内地男歌手,1979年1月17日出生于山东省菏泽市。2012年,推出歌曲《唱着情歌流着泪》。2013年,推出单曲《爱的世界只有你》。2014年,推
    2026-11-15
  • 皮尤民调揭示:美国人对AI失去“新鲜感”,担忧多于兴奋

    根据皮尤研究中心(Pew Research Center)的一项最新民意调查,大多数美国人对人工智能在日常生活中的应用持普遍悲观和担忧态度。这项在今年6月对5000多名美国成年人进行的调查显示,公众对
    2026-11-15
  • 字节跳动重奖大模型人才,Seed部门推百万期权激励计划

    AIbase报道 据科创板日报消息,字节跳动正为其关键的Seed部门启动一项新的期权增发计划,旨在激励并留住从事大模型方向的核心技术人才。此举凸显了该公司在人工智能领域的雄心,并加剧了顶尖技术人才的争
    2026-11-15
  • 斯坦福顶尖科学家许主洪加盟阿里通义

    近日,全球知名的 AI 专家、IEEE Fellow 许主洪宣布转岗加盟阿里通义团队,负责多模态交互模型的研发。此消息引发了科技界的广泛关注,许主洪的加入被视为阿里在 AI 领域的一次重大布局。知情人
    2026-11-15

最新评论