MotionPRO
南京大学联合清华大学团队发布融合压力感知的大规模人体动作数据集MotionPRO,通过12.4万帧多模态数据研究为人形机器人控制提供“物理”保障,相关成果入选CVPR 2025 Highlight。
随着数字世界的AI算法开始展现出逼近甚至超越人类的思维能力,具身智能有望打开AI从数字世界到物理世界的窗口,在复杂的物理世界中进一步延伸和拓展AI边界,实现“知行合一”。
现阶段,光学运动捕捉技术凭借高精度、多模态数据采集等性能优势,已成为具身智能的核心数据采集与训练方式。然而,面对具身智能的环境感知与交互等需求,动捕数据需要进一步增加“物理维度”,使其能够与物理世界产生交互,并在交互中主动探索世界、认知世界、改变世界。
南京大学曹汛教授团队联合清华大学于涛副研究员团队在CVPR 2025发表的突破性研究成果《MotionPRO: Exploring the Role of Pressure in Human MoCap and Beyond》,创新性地在运动捕捉数据采集中引入压力感知维度,将压力感知范围从足部扩展到全身,提高了动作的稳定性和精确性。同时,团队构建了一个结合压力、RGB和FZMotion光学运动捕捉系统的12.4万帧大规模数据集MotionPRO,研究团队已开源数据集(链接见文章底部)。
MotionPRO数据集
物理感知的新标杆
研究团队搭建了包含四大组件的同步采集平台:
■ 光学动捕系统:12台FZMotion光学高速相机(120Hz)精准追踪全身50个标记点
■ 压力垫:160×120高分辨率(100Hz)记录全身压力分布
■ 多视角RGB相机:4台消费级Kinect相机(30Hz)捕捉运动视频
■ 时空对齐系统: 通过光学动捕实现亚毫米级空间对齐
数据集采集平台架构
团队召集从17-61岁、涵盖不同体型的70名志愿者进行了包含日常生活、传统养生、有氧运动、柔韧性运动等5大类的400种动作,共采集12.4万帧的多模态数据(包含SMPL模型参数、压力分布图、多视角视频)。
(右图)数据集的运动多样性
覆盖AMASS、MoYo等现有数据集未涉及的动作空间
FRAPPE算法
物理与视觉的深度融合
融合压力、RGB的FRAPPE框架
用于全局姿态和轨迹估计
为了增加动捕数据的物理合理性和全局轨迹精度,研究团队创新提出物理-视觉双模态融合框架FRAPPE(Fuses RGB And Pressure for Pose Estimation),实现两大核心技术突破:
1. 仅从压力估计全身姿态
团队采用小核卷积提取精细压力特征,配合长短时注意力模块(LSAM),仅凭压力信号即可重构合理全身姿态(MPJPE,90.6mm)和精确全局轨迹(GMPJPE,127.6mm)。实验证明,压力分布能准确反映身体触地部位与地面间接触和力学关系,为动作合理性提供物理约束。
在MotionPro上进行全局姿态和全局轨迹的评估
2. 跨模态注意力融合实现人体姿态估计
在传统视觉分支基础上,团队引入了正交投影约束与全身接触约束,通过压力特征引导视觉特征增强人体姿态估计的物理真实性。相比纯视觉方法VIBE,全局姿态误差降低30%(41.8mm vs 59.7mm)。特别是复杂接触场景(如平板支撑)下,FRAPPE通过压力信号准确推断下肢姿态,显著提升了动作合理性。
定性比较:姿态(左图)轨迹(右图)
定量比较:姿态(左表)轨迹(右表)
本体验证
人形机器人精准控制
为了进一步验证所提方法的物理合理性,团队应用人形机器人NAO实体进行了实物实验。
实验框架
如下图所示,搭载FRAPPE算法的NAO机器人可完成动态平衡控制、复杂步态转换和精细动作模仿等任务动作,机器人动作稳定性和准确度得到提升。
压力信息帮助其精确调节下肢力矩分布,避免失衡
人形机器人定性结果
“当运动捕捉系统真正理解’脚踏实地’的物理意义,我们离构建虚实交融的智能世界就更近一步。”本文中,团队不仅构建了一个大规模多模态数据集MotionPRO,更通过所提算法FRAPPE增强了姿态和轨迹估计效果,实现人-机器人的亚毫米级精度还原。
未来,研究团队将进一步研究基于压力信号的人体全局姿态与轨迹估计;将持续深耕物理交互的本质突破,通过FZMotion具身智能数据采集方案推动机器从被动执行工具向主动感知、认知与协作的“生命化载体”进化,积极与行业客户协作创新,共同探索具身智能前沿。
原文信息:
标题:MotionPRO: Exploring the Role of Pressure in Human MoCap and Beyond
作者:Shenghao Ren, Yi Lu, Jiayi Huang, Jiayi Zhao, He Zhang, Tao Yu, Qiu Shen, Xun Cao
机构:南京大学、清华大学
原文链接:https://doi.org/10.48550/arXiv.2504.05046
实验视频:https://youtu.be/UkUj3kiR5ss
全部评论(0条)
虚拟摄像机- Insight VCS
报价:面议 已咨询 1716次
低照度星光抓拍机-SQ系列
报价:面议 已咨询 1736次
高清智能交通一体机-SQ系列
报价:面议 已咨询 1654次
CMOS高清交通抓拍机—SQ系列
报价:面议 已咨询 1531次
TOF相机-SR系列
报价:面议 已咨询 1570次
多光谱相机-2CCD系列
报价:面议 已咨询 1699次
X-RayCMOS平板探测Shad-o-box 系列
报价:面议 已咨询 1824次
X-Ray面阵CMOS平板-Xineos系列
报价:面议 已咨询 1646次
①本文由仪器网入驻的作者或注册的会员撰写并发布,观点仅代表作者本人,不代表仪器网立场。若内容侵犯到您的合法权益,请及时告诉,我们立即通知作者,并马上删除。
②凡本网注明"来源:仪器网"的所有作品,版权均属于仪器网,转载时须经本网同意,并请注明仪器网(www.yiqi.com)。
③本网转载并注明来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
④若本站内容侵犯到您的合法权益,请及时告诉,我们马上修改或删除。邮箱:hezou_yiqi
精确监测·智能防控——新一代鼠类监测设备核心优势解析
参与评论
登录后参与评论