这篇研究提出了时间抽象值学习(OTA)方法,解决离线目标条件强化学习中的长期规划问题。研究团队发现现有分层方法失败的关键在于高层策略无法生成合适子目标,原因是价值函数在长期规划中估计不准确。OTA通过"选项"…详细
这项研究探索了大语言模型内部可解释特征的形成过程,分析了它们在训练过程中(时间)、模型层级间(空间)和不同规模模型(尺度)的行为变化。研究团队使用稀疏自编码器技术,成功识别出特定语义概念在神经激活中出…详细
这篇论文介绍了Mutarjim,一个仅有1.5B参数的小型语言模型,专为阿拉伯语-英语双向翻译设计。研究团队通过精心设计的两阶段训练方法,使这个小模型在多个权威基准测试中击败了参数量大20倍的模型,包括GPT-4o mini。…详细
Alchemist是一项由Yandex研究团队开发的创新方法,能将公开文生图数据转化为高效微调资源。研究者利用预训练扩散模型作为数据质量评估器,从海量图像中精选出仅3,350个高价值样本创建数据集。实验表明,这个紧凑数据…详细
南京大学研究团队提出了一种新型推理范式:进程级自适应思维模式切换(PATS),能让大型语言模型根据每步推理的难度动态调整思维策略。与传统固定策略不同,PATS在波束搜索框架中通过控制候选步骤数量(2/4/8个)模拟…详细
百川智能等机构的研究团队提出了一种创新方法,利用答案格式和长度作为替代信号,无需标准答案就能训练大型语言模型解决数学问题。研究发现,在训练初期15步内,仅基于格式正确性的奖励函数就能产生与标准GRPO算法相…详细
这篇研究论文介绍了一种名为"Nash Mirror Prox"(NashMP)的创新算法,旨在解决传统强化学习从人类反馈(RLHF)中存在的局限性。研究团队发现,传统方法常用的Bradley-Terry模型假设人类偏好具有传递性,而实际上人类偏好…详细
这项研究提出了AdaCtrl框架,解决大型AI模型在推理时过度思考的问题。通过难度感知预算分配技术,AI可以自动判断问题难度并相应调整推理深度,同时允许用户手动控制思考量。实验表明,与基线相比,AdaCtrl在维持或提…详细
MLR-Bench是一个全面的评测基准,专门用于评估AI代理在开放式机器学习研究中的能力。由新加坡国立大学和加州大学圣巴巴拉分校研究者开发,它包含201个真实研究任务、自动评估框架MLR-Judge和模块化代理框架MLR-Agent…详细
这项研究提出了GLEAM,一种用于复杂3D室内场景主动建图的可泛化探索策略。研究团队首先构建了包含1,152个多样化场景的GLEAM-Bench数据集,然后设计了融合语义表示、长期目标规划和随机化训练的探索策略。在128个未见…详细
文章探讨了如何利用 GPT 及基础模型在浩瀚分子空间中寻找新药,助力突破传统研发瓶颈,加速医疗创新。…详细
法国 Mistral AI 发布了一套综合代理开发平台,通过集成代码执行、网页搜索和文档处理等功能,实现跨对话上下文的复杂业务流程自动化。…详细
金融服务领域正借助人工智能实现变革,但对抗性 AI 攻击给金融监管和企业带来严峻挑战,要求机构加强风险认知、完善培训与防护措施,确保系统安全。…详细
Sardina 推出 FishOS 云管理平台,用 1 欧元/核心的优惠吸引仍在使用 SUSE Enterprise Storage 的客户,借机应对 SUSE 正逐步退出 Ceph 存储领域的局面。…详细
这项研究提出了STRUCTEVAL,一个全面评估大语言模型生成结构化输出能力的基准测试。研究涵盖18种格式和44种任务类型,分为不可渲染(JSON、YAML)和可渲染(HTML、React)两大类。评测揭示即使最先进模型如GPT-4o也仅达到…详细
这篇研究聚焦于掩码扩散模型(MDMs)与人类偏好对齐的创新方法。研究团队提出了"方差减少偏好优化"(VRPO)框架,解决了MDMs在偏好优化中面临的高方差问题。通过理论分析和实验验证,他们证明VRPO可显著提升模型性能…详细
这项由谷歌深度思维团队领导的研究首次在大规模数据集和语言模型上测试了强力成员推理攻击,通过训练超过4000个不同规模的GPT-2模型,发现了三个关键结论:强成员推理攻击确实能在大型语言模型上成功,但在实际条件下…详细
这篇研究论文介绍了EquivPruner,一种通过识别和剪除语义等价行动来提高大型语言模型(LLM)推理搜索效率与质量的创新方法。中国科学技术大学与科大讯飞研究院合作开发的这一技术,在GSM8K数学测试上将Qwen2.5-Math-7B…详细
MOLE是一个由KAUST研究团队开发的创新框架,利用大语言模型从科学论文中自动提取数据集元数据。与传统方法相比,MOLE能提取30多种不同元数据属性,支持多语言数据集,并提供严格的验证机制确保输出质量。研究测试了包…详细
这项由Google DeepMind和ETH苏黎世的研究人员完成的研究揭示了一种新型AI攻击方式,针对批处理推理过程中的架构漏洞。攻击者通过植入特殊的架构后门,可在同一批次处理中窃取其他用户数据,甚至操控模型对其他用户的…详细
如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。