一张俯视图直接变3D精装房,还能在Blender编辑,这个开源框架太猛了

2026-05-25 阅读量:393

关注CAIE,国内头部AI人才认证、培训体系,助你在职场升职加薪。
CAIE注册人工智能工程师
CAIE注册人工智能工程师
公众号作者
CAIE,全称 Certifed Artifcial Intelligence Engineer(人工智能工程师),简称 CAIE(赛一) ,是人工智能领域的技能等级认证。旨在评估和培养具备人工智能理论基础与实战能力的职业人士。

最近上海人工智能实验室联合几家高校开源了一个创新框架Code-as-Room。

只要给它一张室内的俯视图,它就能全自动吐出一套完整的3D场景代码,直接扔进Blender里就能跑能编辑。

开源地址:https://github.com/YxuanAr/Code-as-Room

咱们以前想做个像样一点的3D房间模型,那是相当麻烦的。你得懂建模懂材质,还得一点点调光影摆家具,费时费力不说,没点专业功底根本摸不着门道。

后来大家就想招,用规则和约束让电脑自动摆家具,但这招太死板,全靠人工预设的条条框框,遇到稍微复杂点个性化点的房间就抓瞎。

再后来多模态AI大模型火了,有人尝试根据文字描述来生成场景,但文字这东西描述空间位置实在太含糊。

你说把桌子放中间偏左一点,模型理解的中间和你的中间可能差了十万八千里,最后生成的房间往往牛头不对马嘴。

于是大家发现,还是直接给模型看俯视图最靠谱,这跟我们现实中看户型图是一个道理,一眼就能看清哪是墙哪是窗家具怎么摆。

之前也有像VIGA这样的先锋研究尝试让智能体写代码来建场景,但一到俯视图这个领域就水土不服了,细节根本还原不出来,要命的是模型动不动就陷入死循环改来改去,最后直接罢工。

而Code-as-Room突破了这些难题,抛弃了那种一口气吃成胖子的端到端生成方式,转而用了一种由粗到细循序渐进的策略。

这套框架最让我觉得精妙的地方,是给整个流程装上了记忆系统。

以前那些智能体经常犯的毛病就是记性差,前面刚分析出门在左边,后面放家具的时候就把门给堵上了。

Code-as-Room弄了个跨阶段记忆模块,每一步干完活都会把结果带个标签存进全局记忆库,下一步干活只能看该看的部分。

既不会忘了前面的设定,也不会被乱七八糟的幻觉信息干扰,这个设计真的太贴合我们人类做事的逻辑了。

也是分步策略来拆解的,第一步是图像结构化,大模型先看图说话,把房间里的功能区理清楚,墙角门窗这些固定结构先定位好,给每个物体发个身份证,顺便建个场景图,谁挨着谁谁靠着墙都安排得明明白白。

接下来是布局代码生成,先把大件家具的位置用代码写出来,这时候特别好玩的一个机制出现了,叫渲染评估修正闭环。

简单说就是代码写完先在Blender里渲染成图,然后大模型自己对比原图找茬,看看是不是家具放重叠了或者越界了,再动手改代码。

实验证明这个找茬环节最多来五次效果最好,少了改不到位,多了模型容易想太多反而把布局搞乱。

大件搞定后,就该往墙上挂东西和摆地毯绿植这些醒目的小物件了,至于桌上的水杯书本这种微型物件则留到后面再处理,免得一开始画面太乱。

再往下就是给这些方块一样的家具注入灵魂的环节了,也就是物体属性刻画,位置不动只加细节,什么颜色材质风格全补上。

接着用几何代码把原来的方块替换成精细的部件,像沙发就拆成底座靠背扶手分别建模,那些异形的小玩意代码不好写,就直接从资产库里找差不多的替身换上去,效率和质量两手抓。

最后一步是装修队的活计,给墙面地面贴纹理调PBR材质,把灯光布置好。

这里还有个事后校正的保险机制,专门修补材质丢失灯光刺眼这种小毛病,顺带把稍微有点碰撞的家具稍微挪挪位置,一套行云流水下来,一个完整的3D场景代码就出炉了。

我觉得Code-as-Room这次算是给3D室内生成指了条明路,结构化工作流加上大模型底座的组合拳,终于把多模态生成那种抽卡式的玄学变成了稳定输出的流水线。

不管你是做室内设计还是搞游戏开发,甚至弄具身智能训练场,这工具都值得好好琢磨琢磨。

想系统掌握AI核心技能、获取行业认可资质?

CAIE注册人工智能工程师认证

助你拓宽职业赛道,成为AI领域持证实力派

微信小程序
CAIE 认证
CAIE 认证
CAIE认证
以上内容来自微信小程序

企业、高校及渠道合作

请联系微信:FYLlaoshi

图片

确定要退出登录吗?
确定 取消