大家好，欢迎来到SOTA！这是一档分享AI机器人领域最前沿的产业和学术动态的播客，我是Jamie！ 这期节目我们来聊一聊具身智能模拟器simulator。我也非常荣幸的邀请到了机器人模拟器开源项目simulately的发起人之一耿浩然和主要参与者之一秦誉哲进行访谈。 耿浩然是北京大学图灵班20级本科生，同时也是2023年北京大学年度人物，他从大一开始在北大王鹤老师的具身智能团队进行科研实习，他科研成果突出，作为本科生在 CV和机器人顶会上发表了多篇论文。 ​秦誉哲是加利福尼亚大学圣地亚哥分校（UCSD）的博士生，由王小龙和苏昊教授共同指导，本科毕业于上海交大。他的研究领域涉及使用五指手进行灵巧操纵、3D感知以及强化学习（RL）和模仿学习（IL）。 00:02:56:为什么会做Simulately 00:04:59:Simulately之后的迭代 00:10:03:机器人模拟器目前的生态格局是什么样子 00:15:04:做一个好的Simulator最大的挑战是什么 00:20:07:强化学习和模仿学习对Simulator的选择有什么不同？ 00:25:08:如何解决Sim2Real Gap问题 00:30:11:模仿学习和强化学习哪条路更可行？ 00:35:07:Anyteleo遥操作为什么也需要模拟器？ 00:40:11:模仿学习可以你直接部署的真机上吗？ 00:45:16:目前常见的物理引擎对比 00:50:19:3D生成和模拟器的关系 00:55:21:触觉在操作上的必要性

大家好，欢迎来到SOTA！这是一档分享AI机器人领域最前沿的产业和学术动态的播客，我是Jamie！ 这期节目我们非常荣幸的邀请到了四位具身智能领域优秀的企业家和学者探讨具身智能领域的热门话题。四位嘉宾包括Covariant的联合创始人兼CEO 陈曦（Peter Chen），UCSD助理教授王小龙，清华大学交叉信息研究院助理教授许华哲，和云深处创始人朱秋国。 嘉宾介绍： 陈曦（Peter Chen）是Covariant.ai的首席执行官兼联合创始人。Covariant是一家领先的AI机器人初创公司，已经融资超过2亿美元。Covariant正在构建用于机器人学的基础模型，使机器人可以对物理环境进行识别、推理和操作。在创办Covariant之前，陈曦（Peter Chen）曾是OpenAI的研究科学家，也是加州大学伯克利分校人工智能研究实验室（BAIR Lab）的研究员，他专注于强化学习、元学习和无监督学习。Peter在领先的学术期刊上发表了30多篇论文，引用超过2万次。 朱秋国是云深处创始人兼CEO ，同时也是浙江大学控制科学与工程学院副教授，主要研究领域为仿生机器人和机器智能，主持研制人形机器人“悟空”和四足机器人“绝影”。承担国家重点研发项目、国家自然科学基金等项目10余项，发表学术论文40余篇，授权发明专利40余项。云深处科技（DEEP Robotics）是全球四足机器人行业应用的引领者，自主研发的“绝影”系列机器人在国际同类产品中已经达到先进水平，并率先在电力、消防、隧道、安防等领域投入使用。 王小龙是加州大学圣迭戈分校（UCSD）电子工程系的助理教授，同时隶属于TILOS NSF人工智能研究所。他在卡内基梅隆大学（CMU）获得机器人学博士学位，并在加州大学伯克利分校进行博士后研究。他的研究聚焦于计算机视觉和机器人学的交叉领域。他特别关注从视频和物理机器人交互数据中学习3D和动态表示。这些综合表示被用于促进机器人技能的学习，旨在使机器人能够在真实物理世界中与各种对象和环境有效交互。他获得了NSF CAREER奖、Intel Rising Star Faculty奖，以及来自Sony、Amazon、Adobe和Cisco的研究奖励。 许华哲博士现为清华大学交叉信息研究院助理教授，博导，清华大学具身智能实验室负责人。博士后就读于斯坦福大学，博士毕业于加州大学伯克利分校。其研究领域是具身人工智能（Embodied AI）的理论、算法与应用，具体研究方向包括深度强化学习、机器人学、基于感知的控制（Sensorimotor）等。其科研围绕具身人工智能的关键环节，系统性地研究了视觉深度强化学习在决策中的理论、模仿学习中的算法设计和高维视觉预测中的模型和应用，对解决具身人工智能领域中数据效率低和泛化能力弱等核心问题做出多项贡献。顶级智能机器人会议CoRL'23最佳系统论文得主，在IJRR, RSS，NeurIPS等发表顶级期刊/会议论文四十余篇，代表性工作曾被MIT Tech Review，Stanford HAI等媒体报道。曾在IJCAI2023、IJCAI2024、ICRA2024担任领域主席/副主编。

随着具身智能在国内的关注度快速提高，两年前还非常冷门的AI Robotics如今已经成为产业界和学界关注度最高的话题。我相信两三年后，国内会有越来越多在这个领域世界级的工作出现，人才密度也会快速提升。但在今天，我们不得不承认的一个现实问题是，国内高质量的AI Robotics学术人才是比机器人数据更稀缺的要素。 真实机器人数据通过堆人堆钱是可以快速解决的，但人才的培养需要时间。在机器人学习领域，有一个非常有意思的现象是，全世界范围内，最顶级的论文常常出自华人学者。可以说华人学者引领着AI Robotics这个领域的发展，但反观国内，因为代际差异和学术重点的不同，目前真的非常缺少AI Robotics领域有经验的学者。AI Robotics国内人才的话题也是我一直想来探讨，借着这个话题，我非常荣幸的邀请到了两位即将毕业的国内本土培养的AI Robotics方向博士生来探讨一些他们的研究方向，中美学术代际差异，具身大模型路径等问题。 汶川是清华大学交叉信息研究院（IIIS）的博士五年级学生，导师是高阳教授。他从2019年开始跟随高阳老师进行相关研究，主要专注于端到端的模仿学习，探讨如何融合不同来源的数据，以提升具身智能系统的性能和鲁棒性，从而实现高效、安全的智能系统。 吕峻是上海交通大学的博士四年级学生，导师是卢策吾教授。他的研究路径是基于仿真来学习机器人智能，目标是开发能够在现实世界中执行各种任务的机器人，以解决人类在生产和生活中面临的问题。 时间线： 00:30 吕峻博士求学经历和研究方向 01:33 汶川博士求学经历和研究方向 03:08 当初为什么选AI机器人这个方向作为博士研究方向？ 07:40 为什么AI机器人在北美会比国内早这么多年热起来？ 09:15 国内近几年在AI机器人领域的进展主要由什么因素刺激？12:27 中美在AI机器人领域的代际差异如何？ 17:57 关于发顶会 19:20 汶川研究方向详细介绍 25:13 吕峻研究方向详细介绍 31:23 仿真未来发展的挑战有哪些 34:40 模仿学习的挑战有哪些 38:00 怎么看数据融合？ 47:00 具身大模型框架有哪些 （这个时间轴梳理有更自动的方法吗?) 吕峻博士主页：https://lyuj1998.github.io/ 汶川博士主页：https://alvinwen428.github.io/ 主播：Jamie 非专业剪辑，正在寻找给力的播客剪辑小伙伴，欢迎留言联系。

在具身智能爆火2年之后，在2024年的年尾，我们聊一个理想很丰满但现实很骨感的问题：具身智能可靠性！这次论坛，我们邀请了在解决可靠性问题最有机会的两条路线，RL和model based control的代表性学者，来一起交流如何将机器人可靠性逼进99.9x%大关。 这期栏目是一个在线Panel的录音，邀请到的嘉宾是（嘉宾介绍以姓氏拼音顺序）： 罗剑岚是伯克利人工智能研究(BAIR)实验室的博士后学者，与Sergey Levine教授合作。2022年回到学术界全职工作之前，他在Google [X]担任研究员，与Stefan Schaal教授合作了两年。他于2020年在加州大学伯克利分校获得硕士和博士学位，还曾在DeepMind和Everyday Robots工作过。罗剑岚在强化学习+真机这条路线上持续深耕七八年，也于近期推出强化学习+真机这条路线上非常有代表性的两篇工作SERL和HiI SERL。 卢宗青现任北京大学计算机学院长聘副教授，国家级青年人才，智源学者。主要研究方向是强化学习、多模态大模型、通用智能体。旨在赋予智能体自主获取技能、决策与推理能力，在开放世界中完成复杂任务、合作和交流，迈向通用人工智能。 石冠亚是卡内基梅隆大学(CMU)机器人研究所和计算机科学学院的助理教授，领导 LeCAR 实验室(Learning and Control for AgileRobotics)，于2022年在加州理工学院(Caltech)完成博士学位:导师为Soon-Jo Chung和Yisong Yue。2017年，他获得清华大学工学学士学位。从2022年到2023年，他在华盛顿大学保罗·G·艾伦计算机科学与工程学院担任博士后学者，与Byron Boots合作。 朱秋国是云深处创始人兼CEO，同时也是浙江大学控制科学与工程学院副教授，主要研究领域为仿生机器人和机器智能，主持研制人形机器人“悟空”、四足机器人“绝影"以及四轮足机器人“山猫"。他于2008年获得浙江大学机械工程学士学位，2011年和2020年分别获得浙江大学控制科学与工程硕士和博士学位。他也是云深处科技(DEEP Robotics)的创始人，云深处是全球四足机器人行业应用的引领者，自主研发的“绝影"系列机器人在国际同类产品中已经达到先进水平，并率先在电力、消防、隧道、安防等领域投入使用。 播客目录： 01:00 嘉宾介绍 04:30 在智能机器人浪潮来临之前就选择了这个方向，浪潮来临前后的感受 14:16 RL和Control之于Locomotion 15:20 石冠亚：如何将RL和Control结合 26:20 朱秋国：RL和Control在产业和学术方面的应用 33:05 卢宗青：RL对人形机器人的控制 37:00 罗剑岚：RL+真机 48:00 石冠亚：Leaning在操作上的路径怎么看 55:22 罗剑岚：Leaning在操作上的路径对比 69:00 对人形机器人的控制什么时候可以达到可靠 69:30 卢宗青：基于RL的路线做人形控制结合真机数据 73:20 卢宗青：人形达到99%可靠性需要多久？ 76:20 朱秋国：目前行业应用的可靠性如何？人形什么时候可以达到今天四足的可靠性？ 83:00 石冠亚：现在人形机器人的控制迭代速度如何看待？ 91:27 RL的算法是否应该对机器人领域做一些理论的创新？ 101:40 对机器人方向的学生如何调节迷茫期？ 罗剑岚主页：https://people.eecs.berkeley.edu/~jianlanluo/ 石冠亚主页：https://www.gshi.me/ 朱秋国主页：https://person.zju.edu.cn/0011353/657053.html 云深处主页：https://www.deeprobotics.cn/ 卢宗青主页：https://www.ai.pku.edu.cn/info/1139/2783.htm 访谈中提到的工作：Diffusion Policy、Hil-SERL、SERL、H2O、OmniH2O、ABS、AnyCar等，可以过几天查看石麻笔记公众号，会有具体查看访谈的总结，会有更多关于论文以及方法的细节。 因为是学术访谈，并且嘉宾很多在海外，所以涉及很多学术名词会用英文表达。这里简单罗列一些英文名词： RL：Reinforcement Learning 强化学习 Control：控制，特指基于模型的控制（Model Based Control） Humanoid：人形机器人 Sim：仿真，是一种机器人训练常用的仿真器 Sim2Real：仿真到现实，虚拟到现实的转化 欢迎关注ReSpark同名公众号ReSpark，记录AI和物理世界融合过程中的精彩商业访谈内容。欢迎关注石麻笔记，记录AI和物理世界融合的学术成果。