6710亿参数的视觉守望者:快手Keye-VL以匠造之力,重塑国产多模态生态底色
6710亿参数的视觉守望者:快手Keye-VL以匠造之力,重塑国产多模态生态底色
多模态大模型的赛道上,始终涌动着无声的角逐,各路玩家以技术为刃,在感知与推理的疆域里深耕细作。当行业还在循着既定轨迹稳步前行时,快手悄然掷出一记重棋,新一代旗舰多模态大模型Keye-VL-671B-A37B正式开源,带着6710亿参数的厚重积淀,以DeepSeek-V3-Terminus为根基,在视觉感知的精度、跨模态融合的顺滑度与复杂推理的深度上完成静默升级,于国产多模态领域的版图中,悄然拓出一片崭新天地,稳稳跻身行业第一梯队,自带一种沉潜后的笃定与力量。
这款模型的出众,从不是浮于表面的参数炫耀,而是藏在每一次精准感知里的细腻与扎实。一张叠放着三张票据的图片,寻常人匆匆一瞥,多半会随口定论是三张电影票,可Keye-VL-671B-A37B偏能沉下心捕捉每一处细节:逐字识别每张票据上的文字标识,核对是否有座位编号、影片场次、放映时间这些电影票的核心要素,循着这些细微线索慢慢梳理,最终清晰分辨出左侧两张符合所有核心特征的是正经电影票,最上方那张仅有小吃兑换信息、无任何观影相关标注的,不过是一张叠放其上的爆米花券。这份超越肉眼直觉的精准,藏着对细节的极致把控,也透着模型内在的严谨。
面对流动的视频画面,它同样保有这份细腻感知力。镜头扫过街道,画面里的蓝色双层电车缓缓驶过,街边Louis Vuitton与Tiffany & Co的品牌门店招牌一闪而过,这些零散的核心元素,它都能稳稳捕捉;镜头从远景切近景、从静态转动态的切换节奏,画面衔接的细微转场痕迹,它也能循着逻辑慢慢拆解,条理清晰地还原出整段视频的镜头叙事脉络,仿佛一位沉静的观察者,默默读懂画面里藏着的每一处信息。
真正的硬实力,从来无需刻意张扬,自有数据为其佐证。在通用视觉理解与视频理解这两大多模态模型的核心竞技领域,Keye-VL-671B-A37B以稳健表现超越字节Seed1.5-VL think、阿里Qwen3-VL 235B-A22B等行业前沿标杆模型;在涵盖STEM领域问答、逻辑推理、通用信息应答、视频深度解读、OCR文字识别及纯文本处理等全维度能力的26项主流基准测试中,它一举拿下18项最高得分,将综合实力稳稳定格在行业前列。如今,这款满载实力的模型已全面开源,Hugging Face与GitHub两大平台均开放下载通道,无论深耕技术的开发者,还是探索应用的行业机构,都能轻易触达这份沉淀后的技术成果,将其融入各类真实应用场景,让细腻感知与扎实推理落地生根。
这般亮眼的成绩背后,从不是一蹴而就的幸运,而是快手技术团队日复一日的精细打磨,单是模型预训练阶段,便拆解为三步循序渐进,每一步都走得沉稳扎实,只为筑牢能力根基。模型的基础架构搭建,早便透着严谨考量:语言推理层面,选用DeepSeek-V3-Terminus作为核心基座,凭借其成熟的技术底蕴,保障文本理解与逻辑推理的硬核实力;视觉感知层面,以Keye-ViT为核心支撑,更直接复用了快手此前开源的Keye-VL-1.5模型中的视觉编码器——这款编码器早已在1万亿token的多模态预训练数据中历经锤炼,积累了扎实的基础感知能力,无需再从零起步。两个核心模块之间,通过MLP层精准搭建起衔接桥梁,让语言与视觉信息得以顺畅交融,从根源上为跨模态能力的养成铺好路径。
不同于行业内部分模型依赖万亿级数据堆砌训练量的路径,快手选择了一条更精准高效的道路,仅筛选300B高质量数据作为预训练素材,以质取胜而非以量取胜。为保障数据质量,团队搭建起一套完整的自动化数据处理管线,先对海量原始数据进行层层筛选,剔除低质、冗余信息,再针对模型能力需求进行针对性重采样,同时融入VQA数据增强手段,将OCR识别、图表解读、表格分析等各类复杂视觉格式全面覆盖,既让每一份训练数据都发挥最大价值,也有效控制了背后的计算成本,兼顾效率与实效。
预训练的三步推进,每一步都紧扣能力提升的核心。第一步,先将视觉编码器与语言基座的核心参数冻结,仅针对性训练随机初始化的Projector组件,让视觉特征与语言特征先找到适配的节奏,完成初步的跨模态对齐,为后续融合打下基础;第二步,解锁所有模块的参数,开展全维度预训练,让语言与视觉能力深度交融,形成完整的多模态感知体系;第三步,聚焦更高质量的专属数据集开展退火训练,精准打磨模型的细粒度感知能力,让其对细微差异的识别更敏锐,同时特意融入DeepSeek-V3-Terminus生成的思维链数据,在强化视觉感知精度的同时,牢牢守住原本扎实的推理能力,避免顾此失彼。
预训练筑牢根基后,后训练阶段的精细雕琢更显用心,快手以监督微调、冷启动、强化学习三步走的策略,一步步深挖模型潜力,补齐能力短板。整个后训练过程,覆盖视觉问答、复杂图表解读、富文本OCR识别、数学运算、代码编写、逻辑推理等多个核心领域,全方位打磨模型的综合能力。团队在数据配比上反复试验,历经无数次调整后终于摸清关键:相较于单一依赖指令数据的训练模式,将指令数据与长思维链数据混合使用,更能提升模型性能,也让后续训练过程更稳定,冷启动阶段的训练损耗明显降低,各类基准测试中的表现也随之稳步提升。
进入冷启动阶段,团队针对性解决纯文本模型常有的推理冗长、内容重复问题,搭建起一套严格的数据筛选流程,逐一甄别思维链数据,将那些存在冗余反思、逻辑拖沓的内容悉数过滤,仅留存精准高效的优质数据用于训练。这般细致调整后,模型的推理效率与感知精度同步提升,能力质感更上一层。
强化学习阶段的打磨,同样藏着巧思与严谨。团队深知传统GRPO算法采用token层建模,在训练MoE模型时易出现稳定性不足的问题,便果断选用阿里Qwen3系列模型的核心算法GSPO,以序列层建模替代原有模式,稳稳提升可验证奖励强化学习训练的稳定性。为保障奖励信号的精准度,团队专门打造了一款Verifier验证器模型,以Keye-VL-1.5 8B为基础基座,先通过监督微调阶段的训练,让其掌握判断模型输出答案与标准答案一致性的基础能力,同时学会以“思考-作答”的模式,细致分析输出内容的逻辑性与正确性;后续再通过强化学习阶段,在大规模偏好数据中锤炼能力,最后借助人工标注的高质量数据集开展退火校准,不断提升验证精度。
实测数据足以印证这款验证器的实力:抽取150组Keye-Verifier与Qwen-2.5-VL 72B Instruct模型判别结果不一致的数据对比,Keye-Verifier的正确数量达128组,远超Qwen模型的22组。依托这款验证器提供的精准奖励信号,Keye-VL预览版模型在多个开源感知基准测试中的平均准确率提升1.45%,在三类多模态数学数据集上的平均准确率也提升1.33%,每一分提升都透着打磨的用心。样本筛选环节同样细致,团队以Keye-VL-1.5 8B作为筛选工具,在候选数据集中精准抽取正确率介于25%至75%之间的高难度样本,同时特意在强化学习数据集中加入大量视频素材,针对性强化模型的视频理解能力。
如今的Keye-VL-671B-A37B,已然站稳脚跟,而快手对它的未来,早已规划好清晰路径,不满足于当下的成绩,更执着于向更实用、更智能的方向前行。后续将重点强化多模态Agent能力,提升模型的多轮工具调用素养,让它能在真实任务场景中自主调用外部工具,完成信息搜索、复杂逻辑推理、多元信息整合等一系列操作,真正具备解决复杂问题的能力;同时深耕“以图思考”“以视频思考”的核心方向,不止于让模型看懂图像与视频表面信息,更要引导它围绕视觉内容开展深度思考与链式推理,从繁杂的视觉信号中精准挖掘核心价值信息。最终,快手希望以持续的打磨,打造出更通用、更可靠、推理能力更强的下一代多模态系统,在多模态赛道上稳步前行,持续传递技术温度。
从参数架构的严谨搭建,到训练过程的精细打磨,从性能层面的稳步突破,到开源落地的开放共享,Keye-VL-671B-A37B的登场,没有声势浩大的造势,却以沉潜后的实力,悄然改写国产多模态模型的实力格局,也为行业指明了实用化的技术发展方向。这款藏着6710亿参数的视觉守望者,以精准的感知、扎实的推理与内敛的实力,印证着国产多模态模型的成长与积淀,也让人满心期待,它在后续的落地应用中,能解锁更多可能性,以技术之力,为生活添注更多便捷与温暖。
热点资讯/a>
- 科技小院,扎根乡土茁壮生长
- 红色教育、民生实事、融合赋能……万顷沙这样推动党员教育提质见
- 有人在三月初三(3月31日)要了四桶烟花两饼爆竹538元。
- 被独行侠二队打爆!前天津队外援在发展联盟的表现竟然如此灾难?
- 一生罪恶的皇帝,17岁就强娶姑姑,和姐姐成双成对居住后宫
