2026年4月2日,智谱AI推出了一款全新产品——GLM-5V-Turbo。这并非一次普通的版本迭代,而是一个面向编程场景的原生多模态模型。它要解决的核心问题是:让AI写代码不再依赖繁琐的文字描述,而是直接“看”得懂设计稿与屏幕内容,从而重构程序开发的既有流程。
传统AI编程工具的瓶颈:图片信息在文本里大量流失
此前使用AI辅助开发的开发者大多有过类似体验:交代AI生成一个登录页面,需要逐字说明“左上角放置标识、正中是输入区域、右侧为用户头像,按钮设置圆角8像素、底色为#f0f0f0”。这类沟通方式既拖慢节奏,每次界面微调都得把需求重讲一遍,往往返工三到四轮才能拿到尚可接受的结果。
症结在于,GitHub Copilot、Cursor、Codeium 等主流工具本质上都是纯文本模型,它们只能读取文字,没法直接解析设计图、界面截图或原型页面。但真实开发流程里,约九成的设计成果是以视觉形式沉淀下来的——Figma文件、PSD源文件、网页截图,乃至产品经理随手勾勒的草图。把这些内容转换为文字,会不可避免地丢信息,于是协作与迭代的代价始终压不下来。
原生多模态究竟怎么做:从预训练阶段就融合视觉与文本
GLM-5V-Turbo 区别于“文本模型外挂视觉编码器”的做法。据智谱方面介绍,其视觉理解与语言能力在预训练环节便已深度打通,并非后期简单拼合的产物。
在视觉编码层面,智谱自研了新一代 CogViT 视觉编码器。官方称该编码器在通用物体识别、细粒度理解、几何与空间感知上都达到最优水平。模型不光能判断“此处是一个按钮”,还能捕捉到“按钮处于页面右上方位,带蓝色渐变,圆角8px,鼠标悬停后出现阴影”程度的细节。
为配合多种模态输入,模型还设计了兼容多模态输入的 MTP(Multi-Token Prediction)结构,在多模态推理场景中保持了较高的运行效率,也就是说解析图片不会明显拖慢回复速度。
训练方法上采用30余项任务协同的强化学习,任务范围横跨STEM推理、视觉定位、视频理解、GUI Agent以及编程Agent等子领域。通过多任务一起优化的方式,单领域训练容易产生的波动得到抑制,纯文本编程能力也不会因视觉能力的加入而下降。
运行方式与使用提示:覆盖多种输入和目标,但仍有偏差空间
GLM-5V-Turbo 的工作链条可归纳为三个连贯步骤:先识别环境,再规划操作,最后执行任务。它接受的输入覆盖多种类型——图片(含设计稿、UI截图、界面原型)、视频(录屏教学、操作演示)、文本(代码注释、需求说明)以及文件(PDF、Word等)。
该模型上下文窗口为200K token,因此可同时消化多份设计文件与代码文件,胜任大型项目的理解与生成工作。此外,它与Claude Code、OpenClaw(俗称“龙虾”)等Agent框架做了深度协同,让智能体具备可用的视觉感知通道。

智谱同时也给出了一些使用建议。输入方面,尽量选用Figma、Sketch等设计工具的原生格式或高分辨率PNG,不建议使用低清截图;需求描述可将文字说明与视觉参照结合,帮助模型更准确定位意图;另外要维持对话历史一致,模型会记住此前的指令和修改。
能力边界同样需要注意。官方公布的视觉理解准确率为92.3%,也就是说仍有7.7%的概率出现解读偏差;代码生成成功率为87.6%,产出的代码有时需做少量修正才完全符合预期。碰到极为复杂的界面结构或交互逻辑时,往往要通过多轮调整才能收敛。
落地上可分阶段推进:先拿简单的UI组件生成试手,稳定后再用于复杂页面;让设计师知晓模型擅长什么,并在稿件中添加必要的注释标记;同时保持人工审查环节不可省,以确保最终代码的质量与安全。
三组对照场景:效率普遍提升10倍
在前端页面开发场景中,过去的流程是设计师把Figma导出成PNG,开发者用文字描述布局,接着AI生成代码,往往出现样式与设计不符,然后再来回调整3到5轮。换成GLM-5V-Turbo后,直接上传Figma源稿,模型自行理解版面、配色与组件层级,随后输出HTML/CSS/React代码,样式匹配度能达到95%,基本是可以一遍过的状态,耗时也由30分钟压缩到3分钟,效率相当于提升10倍。
在数据可视化场景,以往要截图Excel内容并对数据结构做手工解释,由AI猜测该选用哪种图表,之后还需要反复微调坐标轴与图例。引入GLM-5V-Turbo后,上传表格截图,模型识别出数据结构、列名及数值范围,自动匹配合适的图表门类,直接生成ECharts配置,工作耗时从20分钟降至2分钟,同样是10倍级的提升。
就连GUI自主探索场景也能覆盖。搭配Claude Code框架,GLM-5V-Turbo可模拟真人去浏览目标站点,察看页面结构,抓取视觉素材,最后自动产出用于重建该站点的代码。这使其从原先的“被动读图”进阶到“主动探索”,为自动化测试、竞品拆解以及快速出原型开辟了新路。
从描述型工具到创作型主体,编程范式发生转向
GLM-5V-Turbo 的落地表明,AI编程开始切换到视觉原生模式。功能增加之外,更关键的是人机交互流程发生了本质变化:沟通成本缩减90%左右,因为只需交一张稿件而不必撰写细致描述;入门门槛下降,新手不懂前端术语也能截图交给AI;设计师与开发者之间原本需要“语言翻译”的中间角色变得不再必要。
从趋势上看,只支持文本的模型越来越难应对复杂的编程需求,多模态正在转向基础必备能力;倾向于垂直领域深耕的思路会领先普通通用大模型;而以智谱为代表的国产大模型,已经尝试在性能和成本上挑战OpenAI及Anthropic。
如果AI既能读懂自然语言指令,又能将屏幕上的每个像素都解析清楚,那么它能承接的复杂任务参数与自治水平势必快速放大。无论是前端页面的自动搭建,还是可视化报告的深入剖析,乃至操控软件、跨平台整合信息,一个更自主、具备看图与手眼协调能力的智能体阶段正加快到来。
对技术决策者而言,当下是评定并审慎纳管这项能力的适宜窗口。因为技术演进留下的空档期,从来不等人。
