#03 ▲223 ★12k ❝1 2026-09-27
YuE2: Unifying Symbolic and Audio Music Generation at Frontier Quality
YuE2 先写可读乐谱再生成整首歌,把符号作曲和音频生成统一到一个模型里。
Multimodal Art Projection · Ruibin Yuan, Jiahao Pan, Junyan Jiang +32
TOPIC · VISUAL-GEN · 67 PAPERS
大语言模型推理对齐智能体多模态视觉生成视觉理解与 3D机器人与具身高效训练与推理安全与可解释AI for Science代码与软件工程评测与数据强化学习
#03 ▲223 ★12k ❝1 2026-09-27
YuE2 先写可读乐谱再生成整首歌,把符号作曲和音频生成统一到一个模型里。
Multimodal Art Projection · Ruibin Yuan, Jiahao Pan, Junyan Jiang +32
#16 ▲161 ★512 ❝1 2026-09-21
WorldCrafter 给视频世界模型加入可按相机视角查询的隐式 3D 记忆,长时间探索也保持一致。
ARC Lab, Tencent · Wangbo Yu, Kunhao Liu, Wenbo Hu +8
#18 ▲364 ★312 ❝0 2026-10-14
ATAS 用场景记忆和事件记忆把剧本编译成镜头,让长视频在时空上前后一致。
Zhejiang University · Weijie Wang, Haomin Zhang, Ye Li +7
#20 ▲293 ★201 ❝1 2026-10-08
AgentGarten 把模拟器、游戏引擎和神经渲染器结合起来,为 Agent 搭建逼真且规则一致的代码世界。
MirroS · Jiawei Chi, Shangchen Miao, Zhiyuan Shi +12
#24 ▲325 ★154 ❝0 2026-10-08
DiffusionART 先聚合奖励再微调扩散模型,在线强化学习更高效也更稳定。
KlingAI Research · Zhenglin Wan, Jiayu Chen, Zhengfeiyang Zhang +6
#28 ▲367 ★36 ❝1 2026-09-28
MaLiang-Harness 让多模态模型写程序生成图像和视频,并在“构建-检查-修改”循环中缩小程序与画面的差距。
National University of Singapore · Haoyu Zhao, Zihao Zhang, Xudong Wang +4
#39 ▲174 ★364 ❝0 2026-10-04
Kandinsky 6.0 Video 能同步生成 5 秒视频和 44kHz 音频(含口型),分 3B 和 29B 两个版本。
Kandinsky Lab · Team Kandinsky, Julia Agafonova, Bulat Akhmatov +85
#40 ▲167 ★97 ❝0 2026-09-23
构建 150 个认知科学启发任务,检验并训练视频世界模型的“物体恒存”常识。
Carnegie Mellon University · Haotian Zhang, Fengyuan Yu, Dezhi Luo +28
#44 ▲197 ★123 ❝0 2026-10-07
UltraText Bench 用 432 条中英双语提示,评测图像生成模型渲染密集文字的能力。
Westlake University · Deyuan Liu, Yihao Hu, Jingxuan Zhang +13
#46 ▲137 ★114 ❝0 2026-10-13
AesCode 以同提示生成的图片做审美参考,用解耦的跨模态奖励训练模型写出更好看的幻灯片和海报代码。
Microsoft · Xin Gao, Yifan Yang, Xin Li +13
#49 ▲131 ★523 ❝0 2026-10-14
InfiniSplat v2 分析并改进前馈式 3D 高斯重建,在大视角变化下渲染质量更高。
zju3dv · Yongzhen Hu, Hao Yu, Jiawei Wang +7
#50 ▲78 ★526 ❝0 2026-09-21
GAE 把几何基础模型的特征重参数化成紧凑潜空间,让生成的世界在 3D 上保持一致。
ARC Lab, Tencent · Jiahao Lu, Minghao Yin, Wenbo Hu +5
#56 ▲89 ★1.2k ❝0 2026-10-16
MOSS-Image 是开源 5B 文生图系统,擅长中英长文本渲染和复杂版式,并配有意图感知的提示增强。
OpenMOSS · MOSI. AI
#57 ▲101 ★56 ❝1 2026-10-02
DuoMatching 同时匹配联合分布和逐帧边缘分布,提升少步视频生成的画质和语义对齐。
ByteDance · Jiahao Zhan, Yan Wang, Yongrui Ma +5
#72 ▲179 ★36 ❝0 2026-10-19
Ropedia W0 是跨人类与多种机器人的第一视角移动操作世界基础模型,用 1 万小时人类、3 千小时机器人数据训练。
Ropedia · Tianqi Liu, Hanfei Zhao, Qifeng Liang +12
#74 ▲117 ★185 ❝0 2026-10-15
3DCodeVerse 提供 200 万条可执行 3D 代码数据和编码框架,让 Agent 生成可编辑可验证的 3D 内容。
University of Southern California · Yipeng Gao, Ziyao Zeng, Jinfa Huang +16
#76 ▲63 ★210 ❝3 2026-09-30
视频生成模型后训练与对齐的综述,梳理时序一致性、物理和安全约束等难点。
Arizona State University · Chaoyu Li, Xiaoyi Gu, Yogesh Kulkarni +10
#85 ▲138 ★17 ❝1 2026-09-25
FuseReg 用可训练的层融合加正则,缓解表征自编码器在重建和生成之间的取舍。
USC Physical Superintelligence (PSI) Lab · Hongyang Du, Yunfei Xie, Junjie Ye +13
#94 ▲74 ★100 ❝0 2026-10-12
Multics 用玩家-小组-全局的分层通信生成多人互动世界视频,玩家变多时开销可控。
ARC Lab, Tencent · Kaiyi Huang, Wangbo Yu, Yukun Huang +6
#97 ▲74 ★49 ❝3 2026-10-01
PROWBench 检验视频模型是否按程序指定的世界事件准确渲染,面向下一代游戏引擎。
Alaya Lab · Zheng-Hui Huang, Guixu Lin, Yu-Ju Tsai +6
#106 ▲124 ★30 ❝0 2026-09-30
FrameMorrow 用“前瞻 token”按未来需要挑选历史帧,提升长视频生成的效率和一致性。
National University of Singapore · Bo Yin, Xiaobin Hu, Jiaqi Zhao +1
#114 ▲102 ★12 ❝0 2026-10-07
VIS-Ground 让观众在交互式视频故事中随时干预,同时保持与素材和已生成内容的一致。
Google · Bingxuan Li, Yiwen Song, Xueqing Wu +10
#124 ▲104 ★35 ❝0 2026-09-29
思考型奖励模型先为每个示例制定评分要点再打分,给视觉生成提供更细的奖励信号。
机构待核实 · Xuehai Bai, Zhenchen Tang, Yang Shi +9
#126 ▲52 ★103 ❝0 2026-10-13
LensErase 是通用“擦除一切”模型,基于 1 亿对数据训练,可移除物体、文字、水印及其影子等效果。
Microsoft · Yunuo Chen, Xiuyu Wu, Qinhong Yang +11
#127 ▲34 ★227 ❝1 2026-09-29
PixelUMM 不用视觉编码器,直接在像素空间统一图像和视频的理解与生成。
NVIDIA · Cong Wei, Xuanchi Ren, Bryan Chu +8
#135 ▲47 ★215 ❝1 2026-10-20
SolarRenderer 给冻结的视频大模型加两个 LoRA,把游戏引擎粗结构视频四步渲染成真实画面,并支持实时流式。
Show Lab · Guian Fang, Shengju Qian, Dongyue Lu +6
#136 ▲60 ★207 ❝0 2026-10-07
SGF+ 把自回归视频生成中“写上下文”和“去噪”分到不同参数,缓解两者梯度冲突。
机构待核实 · Zihan Su, Junhao Zhuang, Yaowei Li +10
#140 ▲89 ★34 ❝0 2026-10-01
World Observer 在行动者视角之外同时生成全景“观察者”画面,让离开视野的物体也持续演化。
KAIST AI · Hyunwook Choi, Dahyun Chung, Hyunsung Kim +4
#143 ▲51 ★81 ❝0 2026-10-14
Intern Lumina U2 用多码本扩散大模型在同一空间里统一视觉理解和图像生成。
Shanghai AI Laboratory · Qian Yu, Zongyang Qiu, Juncheng Yan +40
#145 ▲43 ★48 ❝1 2026-10-14
Orbia 是首个系统评测交互式世界模型 3D 一致性的基准,检查回访时场景是否保持不变。
Tencent · Dongyue Lu, Guian Fang, Hur Lim +20
#149 ▲64 ★44 ❝1 2026-10-08
OuroWorld 把任意静态 3D 高斯场景变成可从任意视角无缝循环的“3D 动态照片”。
Alaya Lab · You-Zhe Xie, Ting-Wei Chou, Yu-Hsuan Li +3
#150 ▲140 ❝0 2026-09-29
自适应奖励路由在训练中动态调整更新位置和多个奖励的权重,改进音视频联合生成。
Tencent · Songlin Yang, Xiaotong Zhao, Jiacheng Zhang +5
#153 ▲90 ★26 ❝0 2026-10-07
GRACE 在保持与预训练 DiT 兼容的前提下进一步压缩视频潜空间,加速视频生成。
KAIST AI · Jiyoung Kim, Paul Hyunbin Cho, Jisu Nam +5
#159 ▲93 ★21 ❝0 2026-10-15
推测式强制把中间去噪结果当草稿,提前接受已收敛的 token,加速自回归视频生成。
NAVER AI Lab · Hyunwook Choi, Seungryong Kim, Dongyoon Han +1
#162 ▲72 ★21 ❝1 2026-10-08
多智能体第一视角世界模型,同步生成多个 Agent 在同一环境中的细粒度交互画面。
KAIST AI · Dahyun Chung, Siyoon Jin, Hyunwook Choi +5
#164 ▲66 ★89 ❝0 2026-09-23
系统讨论自回归视频生成的记忆问题:如何在有限上下文中保住身份、状态和因果变化。
机构待核实 · Harold Haodong Chen, Rongjin Guo, Disen Lan +22
#166 ▲21 ★619 ❝1 2026-10-04
Prism 动态稀疏注意力聚焦发声区域,用于原生 2K 音视频联合生成模型的训练。
Tencent Hunyuan · Shuyuan Tu, Qi Tian, Yinming Huang +8
#168 ▲38 ★625 ❝0 2026-09-29
HelixWorld 是实时可交互的音视频世界模型,画面和立体声随用户操作同步变化。
NoizAI · Lei Ke, Jiahao Pan, Zeyue Tian +13
#179 ▲46 ★46 ❝0 2026-10-05
MC-Sparse 免训练地逐个挑选 KV token 并缓存补偿,缩小扩散 Transformer 稀疏与稠密注意力的质量差。
Tencent Hunyuan · Jiarui Chen, Zeqiang Lai, Jiangshan Wang +5
#181 ▲182 ❝0 2026-10-20
Matrix-Game 4.0 让轻量引擎和编程智能体管游戏逻辑、视频模型管画面,单张 RTX 5090 跑出 60 帧。
机构待核实 · Jihai Zhang, Runjia Qian, Kaiqin Kong +15
#188 ▲63 ★11 ❝0 2026-10-01
AutoGUIWorld 用图像生成模型充当 GUI 的视觉世界模型,合成多样的界面交互轨迹。
Tencent Hunyuan · Cheng Yang, Yifan Wu, Yutao Huang +18
#195 ▲41 ★233 ❝0 2026-10-06
WorldSonus 为世界模型实时生成与画面和相机运动对齐的立体声,并支持中途指令控制。
NoizAI · Pengjun Fang, Jingyi Fa, Kam Man Wu +9
#199 ▲84 ★10 ❝0 2026-10-14
交互式视频生成中的“推测采样”:用大窗口预测并缓存结果,兼顾画质与低延迟。
university of science and technology of china · Yubo Huang, Yuxuan Zhang, Jiaming Liu +2
#203 ▲37 ★67 ❝0 2026-10-09
为缓解扩散模型的曝光偏差,额外训练一个“校正器”在每个去噪步修正预测,在 DiT、SiT、JiT 上明显提升质量。
University of California, Berkeley · Donghoon Ahn, Runqian Wang, Alexei A. Efros +2
#213 ▲104 ❝1 2026-09-21
RULER 用针对每条指令的多维评分细则当奖励,训练模型生成 SVG 矢量图,缓解奖励作弊。
inclusionAI · Hangyu Ran, Yuhao Zheng, Yingying Zhang +2
#217 ▲58 ★38 ❝0 2026-10-12
AReA 让扩散 Transformer 的注意力感受野随去噪步骤自适应收窄,更省算力地生成超高分辨率图像。
University of Toronto Computer Science · Javad Rajabi, Koorosh Roohi, David B. Lindell +1
#225 ▲107 ❝1 2026-10-01
SALD 让扩散模型在两个噪声等级下自我对照打分,不需要教师模型就能获得训练信号。
Indian Institute of Technology, Kanpur · Aryan Das, Surjo Dey, Koushik Biswas +4
#227 ▲68 ★14 ❝0 2026-09-30
StereoBind 让生成视频中的立体声声源位置随画面物体运动而变化,用于沉浸式音视频生成。
机构待核实 · Hanmo Chen, Chengcheng Liu, Tianxiao Chen +7
#231 ▲41 ★123 ❝0 2026-10-13
FlashVSR+ 用混合注意力和偏好对齐的分布匹配,让一步式视频超分辨率更快、更符合人眼偏好。
MMLab-CUHK · Ruchang Yao, Shi Guo, Junhao Zhuang +7
#244 ▲86 ★4 ❝0 2026-10-15
SCOPE 基于 GRPO,按语义片段而非单个子词分配奖励,训练文生图提示词改写模型。
University of Rochester · Yufei Jiao, Jinfa Huang, Zeyue Xue +5
#251 ▲60 ★24 ❝0 2026-10-01
用多模态大模型的空间理解来管理长期记忆,让世界模型在长视频生成中保持空间一致。
机构待核实 · Ying Yang, Guiyu Zhang, Lianghua Huang +5
#253 ▲50 ★31 ❝0 2026-09-28
用交错强化学习联合训练统一多模态模型的“反思文本”和图像生成,让它能自查并修图。
MMLab@NTU · Yijia Fan, Ziqi Huang, Zhongang Cai +5
#258 ▲39 ★28 ❝1 2026-10-01
Stability AI 的 4Director 用刚体网格加逐帧变换的 4D 场景,精确控制视频世界模型的镜头与物体运动。
Stability AI · Wei Cao, Hao Zhang, Vikram Voleti +5
#261 ▲31 ★194 ❝0 2026-10-07
Iris-3B 从头预训练并转换得到像素空间扩散模型,检验去掉 VAE 是否有利于细节敏感任务。
speridlabs · Hanqiu Li Cai, Chema Garabito
#265 ▲33 ★16 ❝0 2026-10-09
研究什么样的视觉表示真正有助于像素扩散 Transformer 生成,发现理解能力强不等于生成有用。
alibaba · Zihao Pan, Mengting Chen, Cheng Shi +6
#268 ▲73 ❝0 2026-09-21
VideoGen-Agent 用多任务智能体强化学习训练视频生成智能体调用外部工具,满足需要专门知识的提示。
Princeton University · Binxu Li, Haoyi Duan, Yuhui Zhang +9
#280 ▲42 ★17 ❝0 2026-10-20
VPM 世界模型同时预测多视角未来视频和场景点的三维轨迹,并扩展到机器人控制。
机构待核实 · Byungwoo Jeon, Sunghwan Hong, Dohyeon Kim +10
#285 ▲37 ★22 2026-10-18
MT Forcing 用单轮蒸馏教师和教师强制引导训练自回归扩散模型,减少多轮图像编辑中的画质漂移和内容走样。
SenseNova · Houyuan Chen, Fanzhou Wang, Xiangyu Fan +10
#286 ▲27 ★8 2026-10-19
RoAR-VAE 提出“稳健预测”原则:让被破坏的潜变量仍能恢复语义和图像,从而让潜空间更容易被扩散模型学习。
Tsinghua-LeapLab · Yang Yue, Fangyun Wei, Yitong Wang +4
#287 ▲26 ★47 ❝0 2026-10-19
Manga2Animate 用“创作+审核”配对的多智能体先写动画剧本和分镜,再生成忠于原作的漫画动画。
National Yang Ming Chiao Tung University · Sheng-Wei Zhang, Hsi-An Chen, Yan-Ting Liou +3
#288 ▲33 ★12 ❝0 2026-10-16
MIST 评测把“是否执行了指令”与“是否记住”分开,发现视频世界模型的瓶颈多在执行而非记忆。
The University of Hong Kong · Weiyang Jin, Jiwen Yu, Sihan Xu +2
#295 ▲27 ❝0 2026-10-19
SWIFT 用冻结的早期弱模型给训练目标做外推,放大强模型欠拟合的部分,提升扩散模型质量且不增加推理开销。
alibaba · Yanjin He, Cuifeng Shen, Wanzhou Lei +5
#297 ▲22 ★9 ❝0 2026-10-06
提出无需数据和教师采样的扩散蒸馏方法,单个学生网络同时生成样本和估计分数,一步生成即达很低 FID。
Vector Institute · Yuxiang Fu, Qi Yan, Zike Wu +4
#302 ▲22 ❝0 2026-10-20
NVIDIA 提出给任意骨骼同时生成视频和可回放的 3D 动作及相机,把视频里的动作直接用于 3D 资产。
NVIDIA · Noam Rotstein, Yoad Tewel, Chen Tessler +5
#303 ▲33 ❝0 2026-10-16
MTEdit 用“打包轨迹画布”一次生成多个编辑状态,构建 50 万条多轮图像编辑数据和配套评测。
SenseNova · Houyuan Chen, Fanzhou Wang, Xiangyu Fan +8
#305 ▲26 ❝0 2026-10-03
主张在冻结的视觉基础模型特征空间里做超分辨率,比在重建型潜空间或像素空间更合适。
RTP-LLM · Wanzhou Lei, Cuifeng Shen, Yanjin He +6
#307 ▲22 2026-10-19
SpecKCast 在频域用卡尔曼滤波预测扩散 Transformer 输出,不确定性高时才真算一次,无需训练即可加速。
Samsung Research · Javad Rajabi, Hakki Can Karaimer, David B. Lindell +2
数据更新于:最新 AI 论文(北京时间)