Meta官宣发布了一款名为代码世界模型（Code World Model, CWM）的LLM，探索如何使用世界模型改进AI代码生成性能。

本次发布的CWM，最大的创新点是，将世界模型引入了代码生成任务中。

简言之，该模型的核心正如卷积神经网络之父杨立昆（Yann LeCun）所言：生成代码时，通过提前预测即将生成的代码指令可能产生的效果，来更好地规划出能够满足人类期望达成的效果的代码，从而改进生成代码的质量。

当人类进行规划时，我们会设想不同行动可能产生的结果。当人类思考代码时，会在脑海中模拟其部分执行过程。而目前市面上的主流语言模型，还很难做到这一点。专门训练一个代码世界模型，补足这一点，生成代码的效果会不会好很多，是Meta要通过本次发布的CWM验证的猜想。

而CWM基于大量编程数据，加上专门定制的Python和Bash（Linux和macOS的命令行解释器脚本语言）的世界建模数据，进行该模型的训练。通过这种训练，CWM能够模拟Python程序在Bash环境中的执行及与Agent之间的交互。

CWM 模型算是 Meta 的一次概念验证，投入了不算多的算力训练这个小参数大模型，主要是为了检验将世界模型引入代码生成任务是否会显著提高生成代码质量。换言之，我们今日看到的这个模型只能算 Demo，更大更完整的模型还在后面。（新闻来源：IT之家）

商务合作：13146398132

媒体合作：13341147250

爆料投稿：editor@vrarworld.cn

版权声明：本文为VRAR星球原创，任何单位及个人未经授权不得转载，否则将依法追究侵权责任。

如需转载请联系13341147250 / editor@vrarworld.cn 申请授权，转载时请注明来源并保留VRAR星球原文链接。

本文部分图片及视频来源于互联网，如涉及侵权请联系我们删除。