邱俊杰

时序建模 / 多模态 / 物理人工智能

我是香港科技大学(广州)的一年级博士生,导师为 梁宇轩教授,研究方向是面向物理人工智能的时序建模。

我希望为动态环境中的智能体构建长时记忆,包括具身系统。已有工作涉及时序预训练、多模态视频生成,以及面向长篇叙事的应用层记忆。

研究兴趣

我关注智能体应当从过去的观测中保留什么、如何随环境变化更新这些信息,以及如何利用它们支持后续预测与决策。

学术论文

FactoST-v2 FactoST-v2 architecture overview

预印本 · 2026

Learning to Factorize and Adapt: A Versatile Approach Toward Universal Spatio-Temporal Foundation Models

Siru Zhong, Junjie Qiu, Yangyu Wu, Yiqiu Liu, Yuanpeng He, Zhongwen Rao, Bin Yang, Chenjuan Guo, Hao Xu, Yuxuan Liang

以统一的时序骨干网络支持可变长度上下文和概率预测,并在下游适配中完整复用预训练权重。

我设计了通用时序预训练(UTP),并完成其预训练、跨领域评估与消融实验。

方法与评估

采用仅编码器的分位数预测模型,对序列进行归一化与分块,随机掩蔽历史前缀,并结合门控注意力与部分旋转位置编码。模型配置最多支持 2,048 步输入与 256 步预测;在未参与预训练的基准上,固定权重零样本评估采用 12→12 与 96→96 的上下文/预测长度。

在 PEMS08 的 96→96 设置下,使用历史掩蔽的模型 MAE 为 91.09,未使用时为 107.22,相对降低约 15%。详见论文表 IX–X。

FactoST FactoST architecture overview

NeurIPS 2025Spotlight

Learning to Factorize Spatio-Temporal Foundation Models

Siru Zhong, Junjie Qiu, Yangyu Wu, Xingchen Zou, Zhongwen Rao, Bin Yang, Chenjuan Guo, Hao Xu, Yuxuan Liang

将可迁移的时序知识与领域特定的依赖关系解耦,让基础模型更容易适配新领域。

我通过零样本与少样本预测评估跨领域迁移,分析预训练时序表征对新数据集的适配能力。

经历

2026.03— 2026.09

ByFusion · LuckyShort

架构师

负责 AI 短剧视频智能体的架构设计,串联长篇规划、叙事记忆、可控生成与视觉一致性反馈。

2025.08— 2026.08

香港科技大学(广州)

研究助理

设计并预训练面向跨领域预测的时序模型,支持可变长度上下文、分位数预测与高效下游适配。

2025.03— 2025.12

华为 · 2012 实验室

研究实习生

完成预训练时序模型在昇腾平台上的适配,并在通信与电力预测数据集上复现基线、评估模型表现。

2024.03— 2024.07

南方科技大学 · 科学与工程计算中心

实习生 · 高性能计算

开展超算节点基准测试与安装调试,通过 MPI 性能剖析优化四个新增节点的互连拓扑,将 MPI 通信时间降低约 20%。

项目

2026.07 – 2026.09

视频生成智能体 · 跨镜头一致性

ByFusion · LuckyShort

构建参考资产驱动的视频生成流程,检查跨镜头的人物与场景连续性,保留已通过检查的帧,并定向重生成存在问题的内容。

项目方法

利用共享参考资产与多模态检查识别人物和场景漂移,将反馈传递至生成环节,修订相关关键帧或镜头。跨生成阶段统一管理创作方向,根据成片反馈进行调整,并以模型先验为候选搜索提供初始方向。

2026.01 – 2026.03

稀土定价 · 动作条件化重规划

中国移动研究院 · 中国稀土集团

参与长时价格建模的方法设计与实验,以地缘政治、产业链观测和定价动作为条件预测市场变化,比较不同市场情景并支持重规划。

2025.05 – 2025.08

腾讯云 · 用户行为驱动的资源分配

腾讯犀牛鸟基金

参与云资源分配的时序建模方法设计,以用户行为与历史资源分配序列为上下文,支持集群算力分配决策。

2024.04

ASC24 · 大模型推理基础设施

世界大学生超级计算机竞赛

在四节点、八 GPU 集群上搭建融合 vLLM、Ray 与 RDMA 的推理系统,将请求动态分派至空闲模型副本,在固定硬件约束下均衡负载。

300 余支队伍中总成绩第 10 名 · 一等奖及集群竞赛奖

教育经历

2026.09 — 至今

香港科技大学(广州)

智能交通 · 博士在读

导师:梁宇轩教授

2021.09 — 2025.07

南方科技大学

数据科学与大数据技术 · 理学学士

GPA 3.89/4.00 · 专业排名 4/53(前 10%)
优秀毕业生 · 优秀本科毕业论文 · 树德书院十佳毕业生