重磅突破!压力感知让动作捕捉更精准!解读南京大学团队MotionPRO黑科技
MotionPRO
南京大学联合清华大学团队发布融合压力感知的大规模人体动作数据集MotionPRO,通过12.4万帧多模态数据研究为人形机器人控制提供“物理”保障,相关成果入选CVPR 2025 Highlight。
随着数字世界的AI算法开始展现出逼近甚至超越人类的思维能力,具身智能有望打开AI从数字世界到物理世界的窗口,在复杂的物理世界中进一步延伸和拓展AI边界,实现“知行合一”。
现阶段,光学运动捕捉技术凭借高精度、多模态数据采集等性能优势,已成为具身智能的核心数据采集与训练方式。然而,面对具身智能的环境感知与交互等需求,动捕数据需要进一步增加“物理维度”,使其能够与物理世界产生交互,并在交互中主动探索世界、认知世界、改变世界。
南京大学曹汛教授团队联合清华大学于涛副研究员团队在CVPR 2025发表的突破性研究成果《MotionPRO: Exploring the Role of Pressure in Human MoCap and Beyond》,创新性地在运动捕捉数据采集中引入压力感知维度,将压力感知范围从足部扩展到全身,提高了动作的稳定性和精确性。同时,团队构建了一个结合压力、RGB和FZMotion光学运动捕捉系统的12.4万帧大规模数据集MotionPRO,研究团队已开源数据集(链接见文章底部)。
MotionPRO数据集
物理感知的新标杆
研究团队搭建了包含四大组件的同步采集平台:
■ 光学动捕系统:12台FZMotion光学高速相机(120Hz)精准追踪全身50个标记点
■ 压力垫:160×120高分辨率(100Hz)记录全身压力分布
■ 多视角RGB相机:4台消费级Kinect相机(30Hz)捕捉运动视频
■ 时空对齐系统: 通过光学动捕实现亚毫米级空间对齐
数据集采集平台架构
团队召集从17-61岁、涵盖不同体型的70名志愿者进行了包含日常生活、传统养生、有氧运动、柔韧性运动等5大类的400种动作,共采集12.4万帧的多模态数据(包含SMPL模型参数、压力分布图、多视角视频)。
(右图)数据集的运动多样性
覆盖AMASS、MoYo等现有数据集未涉及的动作空间
FRAPPE算法
物理与视觉的深度融合
融合压力、RGB的FRAPPE框架
用于全局姿态和轨迹估计
为了增加动捕数据的物理合理性和全局轨迹精度,研究团队创新提出物理-视觉双模态融合框架FRAPPE(Fuses RGB And Pressure for Pose Estimation),实现两大核心技术突破:
1. 仅从压力估计全身姿态
团队采用小核卷积提取精细压力特征,配合长短时注意力模块(LSAM),仅凭压力信号即可重构合理全身姿态(MPJPE,90.6mm)和精确全局轨迹(GMPJPE,127.6mm)。实验证明,压力分布能准确反映身体触地部位与地面间接触和力学关系,为动作合理性提供物理约束。
在MotionPro上进行全局姿态和全局轨迹的评估
2. 跨模态注意力融合实现人体姿态估计
在传统视觉分支基础上,团队引入了正交投影约束与全身接触约束,通过压力特征引导视觉特征增强人体姿态估计的物理真实性。相比纯视觉方法VIBE,全局姿态误差降低30%(41.8mm vs 59.7mm)。特别是复杂接触场景(如平板支撑)下,FRAPPE通过压力信号准确推断下肢姿态,显著提升了动作合理性。
定性比较:姿态(左图)轨迹(右图)
定量比较:姿态(左表)轨迹(右表)
本体验证
人形机器人精准控制
为了进一步验证所提方法的物理合理性,团队应用人形机器人NAO实体进行了实物实验。
实验框架
如下图所示,搭载FRAPPE算法的NAO机器人可完成动态平衡控制、复杂步态转换和精细动作模仿等任务动作,机器人动作稳定性和准确度得到提升。
压力信息帮助其精确调节下肢力矩分布,避免失衡
人形机器人定性结果
“当运动捕捉系统真正理解’脚踏实地’的物理意义,我们离构建虚实交融的智能世界就更近一步。”本文中,团队不仅构建了一个大规模多模态数据集MotionPRO,更通过所提算法FRAPPE增强了姿态和轨迹估计效果,实现人-机器人的亚毫米级精度还原。
未来,研究团队将进一步研究基于压力信号的人体全局姿态与轨迹估计;将持续深耕物理交互的本质突破,通过FZMotion具身智能数据采集方案推动机器从被动执行工具向主动感知、认知与协作的“生命化载体”进化,积极与行业客户协作创新,共同探索具身智能前沿。
原文信息:
标题:MotionPRO: Exploring the Role of Pressure in Human MoCap and Beyond
作者:Shenghao Ren, Yi Lu, Jiayi Huang, Jiayi Zhao, He Zhang, Tao Yu, Qiu Shen, Xun Cao
机构:南京大学、清华大学
原文链接:https://doi.org/10.48550/arXiv.2504.05046
实验视频:https://youtu.be/UkUj3kiR5ss
全部评论(0条)
推荐阅读
-
- 重磅突破!压力感知让动作捕捉更精准!解读南京大学团队MotionPRO黑科技
- 压力传感+运动捕捉双模融合——MotionPRO技术解析
-
- 虫情监测预警系统——虫情监测黑科技:这款仪器让农业生产更安心
- 虫情监测预警系统主要目的:对虫害的发生与发展进行分析和预测,为现代农业提供服务,满足虫情预测预报及标本采集的需要。
-
- 水质监测预警系统设备——虫情监测黑科技:这款仪器让农业生产更安心
- QSZ06供水水质站是基于物联网技术的综合传感器采集、显示、分析系统,供水水质监测微系统,由稳流排气单元、分析测试单元、系统控制单元和远程通讯单元等组成,具备完善的供电、防雷、网络通讯等功能
-
- 呼吸监测黑科技:鼻孔气流监测新突破
- 在健康监测领域,呼吸监测对于评估人体健康状况意义重大。传统监测手段存在诸多局限,而新型材料和技术的融合为其带来了新的转机。
-
- 315特辑:2025水产品安全新突破!伟业计量标准物质让国抽更精准、更可靠
- 针对重金属超标、农兽药残留、非法添加剂等高频风险点,提供?“样本前处理-定量分析-数据溯源”全链条标准化工具,助力企业实现从被动应对到主动预防的合规转型,护航百姓“菜篮子”安全!
-
- 国产化“黑科技”让铝单板设计效率飞起来!
- 我国幕墙行业发展迅猛,现已成为全球最大的幕墙生产国和应用市场。随着建筑理念的升级,市场对高端化、个性化幕墙的
-
- 微绒毛结构赋能传感器:同步压缩实现超宽压力范围精准感知
- 研究背景柔性压力传感器在人机交互、可穿戴健康监测、物理信号监测等领域应用广泛,其灵敏度、工作范围和压力分辨率至
-
- 仪器推荐 | 光化学反应仪:让光催化实验更精准、更智能
- 点击蓝字关注我们在化学合成、污染物降解、光催化材料研究等领域,光化学反应是探索分子转化奥秘的关键实验手段。
-
- FLIR监控用热像仪:让汽车塑料零部件的焊接更精准、更高效!
- FLIR监控用热像仪:让汽车塑料零部件的焊接更精准、更高效!
-
- 透明土:让地下世界"看得见"的岩土黑科技
- 透明土:让地下世界"看得见"的岩土黑科技
-
- 应用 | 超疏水黑科技:5G天线罩防水革命,接触角测量仪精准护航
- 接触角测量仪应用干货
-
- 隐形的科技‘伴侣’:可穿戴电子设备的不可感知设计与应用新突破
- 研究背景 可穿戴智能电子设备在消费电子市场中愈发重要,广泛应用于医疗保健、娱乐和物联网等领域。
-
- 磁光克尔显微镜:让磁场“显形”的黑科技,到底有多神奇?
- 你是否想过,科学家如何“看见”一块金属内部的磁场?没有颜色,没有形状,磁场仿佛隐形在材料中。但有一种“魔法”——磁光克尔显微镜,能让磁场“原形毕露”。今天,我们就来揭开它的神秘面纱!
-
- “操作便捷,数据精准——福立气相色谱仪让科研更得心应手”
- “操作便捷,数据精准——福立气相色谱仪让科研更得心应手”
-
- 【黑科技】这些工件也可测量!
- 【黑科技】这些工件也可测量!
-
- 【精准医疗新突破】类器官药敏检测:让癌症治疗不再“试错”
- 【精准医疗新突破】类器官药敏检测:让癌症治疗不再“试错”
①本文由仪器网入驻的作者或注册的会员撰写并发布,观点仅代表作者本人,不代表仪器网立场。若内容侵犯到您的合法权益,请及时告诉,我们立即通知作者,并马上删除。
②凡本网注明"来源:仪器网"的所有作品,版权均属于仪器网,转载时须经本网同意,并请注明仪器网(www.yiqi.com)。
③本网转载并注明来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
④若本站内容侵犯到您的合法权益,请及时告诉,我们马上修改或删除。邮箱:hezou_yiqi
参与评论
登录后参与评论