Notes · 图文版 · 2026-10-22 · 上午 1–2 / 4
10 Ken Goldberg:机器人、AI 和艺术
周四上午两节课。讲者与社交媒体在前,随后是图解、课堂笔记与专题背景。图片保留出处与许可说明。
讲者是谁
主页与社交媒体见下表。个人主页已于 2026-10-25 核对。
- 职位
- 伯克利工业工程与运筹学教授,craigslist 新媒体杰出讲席教授,William S. Floyd 工程杰出讲席;兼任电子工程与计算机系、艺术实践系教职;在 UCSF 医学院做医疗机器人1,2
- 实验室
- AUTOLab 负责人;伯克利 BAIR 实验室指导委员会主席2
- 学历
- 1984 年宾夕法尼亚大学电气工程和经济学双学位,1990 年卡内基梅隆大学硕士、博士;1995 年起在伯克利1
- 成果
- 论文 400 多篇,美国专利 9 项;联合创办《IEEE 自动化科学与工程汇刊》并任主编1
- 公司
- 联合创办 Ambi Robotics(伯克利,包裹分拣)和 Jacobi Robotics(Emeryville);机器人学习基金会主席2
- 荣誉
- 2026 年 2 月当选美国国家工程院院士;IEEE 会士,更多见“背景:AUTOLab 实验室”部分86
- 艺术
- 伯克利新媒体中心联合创办人,艺术、技术与文化系列讲座创始主任1
主页和社交媒体
| 渠道 | 地址 | 看什么 |
|---|---|---|
| X(原 Twitter) | @Ken_Goldberg | 更新最勤的渠道。2026 年主要发智能体机器人:置顶长文《Goosebumps: a Paradigm Shift is Occurring in Robotics》(起鸡皮疙瘩:机器人学正在发生范式转变),讲用多代理 AI 写、测、改机器人程序;10 月 7 日称用 ENPIRE、ASPIRE、GaP 这类 harness 让编程代理设计和调机器人控制系统“非常激动人心”;10 月 14 日发布 RoboSimStudio。课上说他关于智能体机器人用在 Ambi 的帖子有 100 万次浏览,是他最多的一次83,120 |
| goldbergken | 职业动态;AUTOLab 另有一个成员和校友的 LinkedIn 主页120 | |
| 个人主页 | goldberg.berkeley.edu | 简历、全部论文、学生名单、艺术作品87 |
| 实验室 | autolab.berkeley.edu;GitHub BerkeleyAutomation | 论文、开源代码;官网也列了实验室的 Twitter 账号84 |
| 论文社区 | alphaXiv @ken-goldberg | arXiv 论文的讨论和他的论文列表120 |
X 上的内容这次没有逐条读取,上面的帖子内容取自检索结果和转引,帖子原文以 X 为准。
他的演讲"A Tale of Two Cultures: Can Agentic Coding Close the Gap?" plenary by Ken Goldberg at ICRA 2026(YouTube,2026-06);Ken Goldberg: Good Old-Fashioned Engineering Can Close the 100,000 Year “Data Gap” in Robotics(YouTube,2026-04);Why Don’t We Have Better Robots Yet? | Ken Goldberg | TED(YouTube,2024-03)
先说结论
上午的课分六部分:灵巧、电商、家用机器人、手术、农业、智能体机器人,两段录音都已整理。主线是“当心机器人视频”:很多演示是人在背后遥控,或者试了 200 次才成功一次。他主张简单的两指夹爪加上好的控制就够用十年,用 Dex-Net 和 Ambi Robotics 讲怎么从实验室走到部署:Ambi 自 2023 年上线,攒下相当于 22 年的真实分拣数据。他认为全自动做手术还要 20 到 100 年,近期能做的是“增强灵巧”。他对就业偏乐观,对人形机器人偏冷静:机器人缺的是真实动作数据(他算的“十万年数据缺口”),要靠传统工程加 AI,在真实部署里慢慢攒。他最兴奋的是“智能体机器人”:让 AI 编程代理写可读的 ROS 2 机器人代码,杂货任务 500 次平均 97%,已经帮 Ambi 把一类卡件减半。被问机器人进家要多久,他说大概 20 年,一年前他会说 30 年。
手术机器人是他“慢慢攒数据”的最好例子。Intuitive 的达芬奇 2025 年做了约 315 万台手术,装机 11,106 台,美国市场的对手到 2024 至 2026 年才陆续拿到 FDA 许可。商用系统仍由医生操控每个动作;Goldberg 和 Intuitive CEO 在 2024 年提出“增强灵巧”:机器人做缝合这类子任务,医生在旁监督,随时接手。
农业机器人里,已经大规模用起来的是动作简单的那类:DJI 农业无人机 2025 年底全球保有超过 60 万架,约翰迪尔的“看见杂草再喷药”2025 年用在 500 多万英亩地上。要用手抓的采摘机器人还在试点,几家融资上亿美元的农业机器人和室内农场公司在 2023 到 2025 年倒闭。
复习图解与概念
先看机器人怎样接受控制与检查,再按灵巧、电商、家庭、手术、农业和智能体阅读课堂内容。
- 灵巧
- 机器人在物体和环境变化时,仍能完成操作的能力。手指数量不能单独证明灵巧程度。
- VLA
- 视觉、语言、动作模型。模型把视觉信息与语言任务连接到动作输出。
- 仿真与真实部署
- 仿真用计算环境测试策略。真实部署还要面对传感误差、硬件限制与环境变化。
- 遥操作
- 人通过远程控制设备操作机器人。演示中是否使用遥操作,会影响对自主能力的判断。
- 任务成功率
- 在明确任务和测试条件下,成功次数占测试次数的比例。不能脱离任务范围比较。
课堂笔记
讲者把上午的内容分成六部分:灵巧(dexterity)、电商、家用机器人、手术、农业、智能体机器人(agentic robotics)。笔记按这个顺序整理。
| 部分 | 录音 |
|---|---|
| 开场、灵巧、电商、家用机器人、手术前半 | 已整理 第一段录音,92 分 39 秒 |
| 手术后半、农业、智能体机器人、问答 | 已整理 第二段录音,81 分 5 秒 |
依据两段飞书录音转写:第一段从开场到课间休息,第二段从课间之后到 12 点下课18,121。转写有识别错误,人名和数字按上下文校正;数字都是讲者口述,末尾有核对表。课程手册里“课堂笔记”部分课“未知智能:艺术与机器人”的内容,两段录音里都没有讲到,上午两节都讲了机器人。
横向滑动可查看完整图解。
开场:咆哮的 2020 年代
他先放了宇树(Unitree)人形机器人跑步、跳高的视频,问“机器人是不是已经接管了”,然后说今天要挑战大家的这个想法。他的实验室有约 30 名研究生。宇树邀请他踢自己的机器人,他踢倒了一次,机器人又站了起来。
他回顾 100 年前:1918 年大流感之后,1920 年代出现了航空、空调、胰岛素(1921)、有声电影、电视,“robot”这个词也在 1920 年由捷克剧作家造出来。美国叫“咆哮的 20 年代”。他认为新冠之后的 2020 年代是第二个“咆哮的 20 年代”,中心是 AI。
他列了 AI 在数字世界的四个例子:每人一个定制的家庭教师(去机场路上要一节 20 分钟的量子力学课);用一句话生成视频(他妻子是电影人,以前要找设计师做半年);即时翻译(他说人类译员仍然最好);写代码,尤其是最近一年多个 AI 代理协作。然后转到“物理 AI”:机器人、自动驾驶、工厂设备,甚至带 AI 的空调。他引用英伟达的估计:物理 AI 是每年 50 万亿美元的市场,约等于全球一半的劳动力市场,他称之为“大胆的说法”。
一、灵巧
他从“灵巧”讲起:操作物体的能力。小时候看《杰森一家》,他想要一个会做家务、还会陪他玩的机器人,60 年后还在等。家里最普及的机器人是扫地机器人,“不是我期待的那种”。
当心视频:机器人还是木偶
- 他认识一个后空翻视频的作者,问试了多少次。回答是 200 次,前 199 次都失败了。
- 中国有约 100 家公司在做人形机器人,但特斯拉的生产线上还没有人形机器人干活。
- 马斯克 2021 年发布 Tesla Bot 时,台上是一个穿机器人服装的人。
- 一段“机器人管家”视频里,机器人只拎了袋子、拿了瓶子、擦了桌子、放下钥匙,背后有人遥控。他的定义:自己干活的才叫机器人,被人遥控的叫“木偶”(puppet),也叫遥操作机器人。
- 250 年前欧洲有一台下棋机器,巡回各国,赢了大多数人,后来发现里面藏着一个会下棋的人。
- 他给大家的口诀是一句拉丁文式的“当心视频”(转写不清,原意是 beware of videos)。看视频时问三件事:试了几次?场景是不是摆好的?背后有没有人?
莫拉维克悖论和 AI 的冬天
莫拉维克悖论:对人难的事(举重物)对机器人容易,对人容易的事(婴儿都会搭积木)对机器人难。他的解释是进化时间:人练灵巧手已经约 3 亿年,会思考最多 300 万年,下棋和围棋约 1 万年,说话约 10 万年。灵巧练的时间是思考的约 100 倍,所以人觉得它轻松。
AI 的历史不是一路向上:1950 年图灵测试;1970 年代一个数学证明说某类 AI 行不通,经费枯竭,进入第一次“AI 冬天”;1980 年代专家系统热潮,他正好读研究生,后来又失望,第二次冬天;之后长期平台期;2022 年 11 月 ChatGPT 出现,他认为它基本通过了图灵测试。他的问题是:机器人的“ChatGPT 时刻”什么时候来?
二、电商
疫情让电商一下子长大,之后一直在长。他放了自家门口堆满快递的照片:妻子下单一瓶指甲油和一把电动螺丝刀,仓库要从货架上找出这两件,放进箱子发出。他说这一步在中国和美国几乎都还是人在做。工作枯燥、流动率高,适合交给机器人,但机器人做得不好。
抓取为什么难
他说“拿起一个东西”至今是机器人学的大难题。一个月前他参加的会议上,关于抓取的论文超过 100 篇。
硬件:中国有约 50 家公司在做五指灵巧手。关节越多,电机越多,每个电机都有小误差,误差会累加;电机重,手臂用来托手的力气就多了;一只手 2 万到 10 万美元,还要两只。他主张简单的两指夹爪(一个自由度)。证据有三个:达芬奇手术机器人的两个夹钳能做很精细的动作(但那是医生遥控的);地球上一半人每天用筷子夹又滑又软的食物;SpaceX 用机械臂夹住回收的火箭。他特别说明,接火箭靠的是控制理论,不是 AI。最简单的是吸盘,工业上常用。
软件有三种误差,最后都叠加在指尖上:
| 误差 | 他举的例子 |
|---|---|
| 感知 | 相机分辨率很高,但没有同样精度的三维相机。激光雷达类深度相机遇到反光的东西会出错,透明的东西直接看不见,比如胶带座。触觉传感器把“摸”变成“看”(下面装相机和 LED),但太大,装不进指尖 |
| 控制 | 同一个动作重复做,手指每次停的位置不一样。关节越多,误差越大 |
| 物理 | 实验室里同样推一个物体 4 次,得到 4 种结果。物体怎么动取决于底面的微观接触,桌上有没有一粒沙子看不见。他说这个问题“不可判定”:预测百万英里外的小行星,比预测桌上被推的一支铅笔容易 |
他让大家想象自己是机器人去收拾餐桌:传感器有噪声,动作不准,物理不确定。“现在你们对机器人有点同情了吧。”
横向滑动可查看完整图解。
Dex-Net 和 Ambi Robotics
2011 到 2012 年的深度学习突破靠三样东西:数据、GPU 算力、新算法。数据的代表是李飞飞的 ImageNet,大量带标签的图片。他受此启发,和博士生 Jeff Mahler 做了 Dex-Net(灵巧网络):
- 从网上收集 3D 打印爱好者分享的模型,统一尺寸,攒到约 1 万个物体。
- 每个物体由很多小三角形组成,两指夹爪各选一个三角形,一个物体约有 100 万种抓法。
- 对每种抓法,在模拟里加入感知、控制、物理三种误差,反复试,算出成功率。例子:一种抓法成功率 22%,另一种 92%。
- 再模拟深度相机看到的带噪声图像,得到“图像加抓法加成功率”的样本,共几百万个。约 500 万个用来训练,100 万个留作测试。
- 训练好的网络对没见过的物体也有效。机器人每次在吸盘和夹爪之间选一个,选成功率最高的抓法。
他研究这个问题约 30 年,说没见过这么好用的系统。论文上了机器人顶刊封面,也上了《纽约时报》。贝索斯的助理来电,请他们把系统运到亚马逊仓库演示。演示中助理脱下一只鞋扔进料箱,训练数据里没有鞋,机器人把鞋抓了起来。他说这是他一生最好的时刻。贝索斯说要和他们合作。
2018 年他和三位同时毕业的博士生创办 Ambi Robotics,做电商包裹分拣。疫情期间因为属于必要行业,获准继续在实验室工作。要点:
- 实验室里的算法只占 1%,另外 99% 是电机、传感器、布线、安全和界面的工程。
- 产品 AmbiSort 在美国各地分拣包裹,客户包括亚马逊。他说中国也有很多公司做得很好。
- 他们建了一个看板,实时监控每台机器每小时的抓取次数,出问题自动发邮件和短信,派附近的人去修。客户很喜欢,因为问题在客户发现之前就被发现了。
- 看板同时在收数据。第一台机器约 2023 年上线,不到 3 年攒下相当于 22 年的真实运行数据,他称之为数据的“金标准”。
- 最初没训练过塑料袋。袋子有褶皱,吸盘吸在褶皱上会掉。他们用一小部分运行数据训练,学会了吸在哪里。
- 同一批数据做出第二个产品 AmbiStack:把包裹码得尽量紧,像玩俄罗斯方块,这在计算机科学里是 NP 难问题。装箱密度从开始的 20% 到 35% 提高到 90%,他说比人做得好,产品已经卖完。
关于就业,他放了一段工人访谈。一位机器人操作员说,工作变轻松了,每天多处理 1 万到 2 万件,以前三天的量现在一天做完。他说公司刻意和工人建立关系,他不赞成用机器人裁人;工人因为仓库效率提高拿到加薪,还想要更多机器人。他还提到美团在深圳的无人机送餐:送到一个取货站,再由人去取。
视频DexNet 2.0: 99% Precision Grasping(YouTube,2017-05);Dex-Net 3.0(YouTube,2018-02);AmbiSort, powered by AmbiOS(YouTube,2022-05)
三、家用机器人
家用机器人的需求来自老龄化。他说 30 年前约 6 个劳动人口供养 1 个退休者,2000 年前后约 4 个,日本现在不到 2 个,中国也在接近。他认为这些人口数字是事实,不是预测,因为人已经出生了。家里的机器人难在东西是软的,他按维度分三类:
| 类型 | 例子 | 他实验室的做法 |
|---|---|---|
| 一维 | 线缆、鞋带 | 机器人解开打结的线缆:抖动线缆、试探、最后检查是否完全解开。难点是线比机械臂的够及范围长。项目获过奖 |
| 二维 | 衣服、床单 | 20 年前的叠衣机器人每小时只能叠 3 到 6 件。他们用吹风把衣服抚平,用摩擦把衣服拉开,再学网上的“两秒叠衣法”。还是不完美,但快了 |
| 三维 | 水果、蔬菜、袋子 | 在袋子的开口和提手上涂紫外线下才显色的墨水。机器人反复抛袋子、开紫外灯拍照,自己生成带标签的数据;训练后不开紫外灯也能找到开口和提手 |
他放了一家公司的叠衣服视频,说他妻子看了觉得“不合格”。“我们还有很多工作要做。”
视频SpeedFolding: Learning Efficient Bimanual Folding of Garments(YouTube,2022-10);RSS 2021 - Autonomously Untangling Long Cables(YouTube,2022-02);RSS 2022 (Autonomously Untangling Long Cables project page)(网页内含视频,2022)
四、手术
课间前有同学问:为什么不做更像人手的灵巧手?他回答:很多公司在做复杂的手,但现在用它们做不了什么。他认为两指夹爪在未来 10 年左右能满足工业和家庭的大部分需要,然后用手术举例。
- 他说达芬奇已有 15 到 20 年历史,去年用它做了约 200 万台手术。问全场“其中多少台需要人类医生”,答案是全部。达芬奇是“一个非常昂贵、非常有效的木偶”。
- 医生喜欢它:切口小,医生坐在控制台前,比直接用手更快、更灵巧。他放了机器人剥鸡蛋壳的视频,强调背后是人在操作。
- 他的实验室有一台达芬奇,做了很多实验。
- 他用自动驾驶的分级类比:美国的无人出租车是 4 级,大多数时间自己开,遇到麻烦时远程的人会接手。手术现在全部由人做,目标是往上爬一点。
- 他认为机器人全自动做手术,比如自己切阑尾,要 20 年、50 年甚至 100 年。他没有说永远不会。
- 近期的方向叫“增强灵巧”,类比增强现实和驾驶辅助:帮医生更灵巧,保持车道、避免碰撞、辅助停车,不替代医生。
- 休息后要讲的例子是“夹豆转移”(peg transfer):所有学用这台机器人的医学生都要练,用夹钳把小块在柱子之间来回移动。
以下是课间之后的手术部分。
视频Introducing da Vinci 5: our most advanced and integrated robotic system—ever.(YouTube,2024-03)
夹豆转移:先把机器人校准准
传统腹腔镜手术要医生一边别着手臂操作器械、一边抬头看屏幕,他岳父做这类手术,落下了严重的背伤和颈伤。手术机器人让医生舒服地坐在控制台前,但医学院仍要学生练“夹豆转移”:用两个夹钳把小块在柱子之间来回搬。
让机器人自己做,最大的问题是精度:达芬奇靠线缆和齿轮传动,线缆会拉长、会堆积,指令和实际位置之间有误差。他们的办法:
- 在机器人上临时装几个 3D 打印的标记,用深度相机看机器人实际到了哪里。
- 机器人自己动来动去,自动收集“指令去哪、实际到哪”的数据。
- 训练一个网络学这种偏差,再反过来用:想到哪里,网络告诉该发什么指令。
误差从 3 毫米降到 0.5 毫米。对比结果:
| 谁 | 单臂,每块用时 | 双臂同时做 |
|---|---|---|
| 实验室 9 名学生志愿者 | 平均约 12 秒 | 快了一些(转写不清) |
| 经验丰富的外科医生 | 4 到 5 秒 | 基本不变,人很难同时协调两件事 |
| 机器人 | 约 5.2 秒 | 约 3 秒,第二只手臂复制同一段程序 |
机器人能连续做 120 多次不失败。更难的“交接”版本(一只夹钳把块递给另一只再放下),机器人也做得快。他强调这是概念验证和训练用途,“不是说我们要取代外科医生”。
缝合:先算好针脚,再让机器人缝
- 为什么是缝合:所有外科医生都要缝;缝得均匀,愈合快、疤小。急诊室赶时间的缝法和整齐均匀的缝法差别很大。
- 缝合规划:一个软件包,从双目相机图像里自动找出伤口,建三维模型,把伤口建模成一条宽度可变的“带子”,算出最优的进针和出针点,避免针脚挤在一起。直线伤口容易,弯曲和三维伤口难,有分叉、深度变化的伤口“简直是噩梦”。他们在鸡皮上测试,缝好后倒液体,看漏多少来衡量缝得严不严。
- 自动缝合:一位博士生花了几个月,没有人参与,相机看、机器人缝,最多连续缝 6 针。“记得我说的视频吗?很多视频是完全不行的,这是最好的一段。”去年夏天发表的 STITCH 2.0 改进了感知、缝线运动建模,最重要的是理线:用扫动作把线拨开,同样 6 针,质量好很多。
- 打结:另一位学生做外科常用的双结,除了剪线由人来做,其他自动完成。
- 他点名中国的微创机器人(MicroPort):外观很像达芬奇,但成本会低很多,“这算一个股票提示,留意他们”。很多医疗器械公司对“增强灵巧”感兴趣。
视频STITCH: Augmented Dexterity for Suturing Technique Involving Thread Coordination Handling(YouTube,2024-01)
五、农业
他说全球约 69% 的淡水用于农业灌溉。加州经历过严重干旱,很多农民破产,后来干旱“碰巧”结束了。缓解缺水的一个办法是从单一种植转向混种:自然界本来就是混种的,不同植物互相驱虫、吸引授粉者、遮阴、保水,能更省水。问题是混种很费人工,长得快的植物会压住别的,要不停修剪。
AlphaGarden 的做法:
- 在伯克利农业中心的温室里建一块约 1 米乘 3 米的小农场(论文写 1.5 米乘 3 米),种可食用植物。
- 书上只有单一种植的生长数据,混种的要自己测:头顶相机拍,给每株植物拟合一个圆,建出和邻居距离有关的生长模型。
- 做成数字孪生和模拟器,比自然快 25,000 倍,“我们不会坐着等大自然”。
- 在模拟器里同时试 64 种修剪策略,找到既长得好又保持多样性的那个;再加上播种位置的优化,别让长得快的挨着长得慢的。真植物上的实验看起来也行。
做了两三年后,他们办了一场“园艺图灵测试”:半块地给专业园艺师,半块给机器人,比覆盖率、多样性和用水,60 天一轮,跑了两轮。覆盖率和多样性两边差不多;用水差别大,机器人少用约 40%,“所以我们宣布机器人获胜”。他的结论是机器人能做这件事,但现在让机器人去田里太贵,人便宜得多。他还说农民其实很懂技术,用 GPS、天气预测和各种测量工具。
他提到的另外两个例子:
- 激光除草:给有机农场用,杂草一冒头就用激光打掉,不用农药,“我最喜欢的之一”(即“背景:园艺和农业机器人”部分的 Carbon Robotics 这类机器)。
- 垂直农场:用 LED 代替太阳,任何气候下都能种,北京冬天也能吃到本地种的生菜和番茄;目前因为灯光的能耗成本还不够划算,但在改善。阿联酋、沙特这些有钱又炎热的国家一直在用。他尝过,味道很好:不用洗三遍,风味不会被洗掉。
视频AlphaGarden, Ken Goldberg - Maker Faire Rome 2020(YouTube,2021-01);Can a robot learn to garden? | Alpha Garden, UC Berkeley | Virtual Exhibit Series | Techfest IIT Bombay(YouTube,2020-09)
六、智能体机器人
这是上午最后也是他最兴奋的部分。“你可以从我的声音里听出来。”他说这是第一次公开讲这些内容,有些幻灯片是当天早上 6 点学生发给他的。
技术不是指数增长
回答一个同学“三种思路”的问题时,他先反驳“技术指数增长”的说法:真正指数增长的只有芯片,而且指数很小;大多数技术连线性都不是,有的 75 年没变。技术进步像生物进化,跳一下,然后长期平台期。AI 的两次大跳:2012 年深度学习,2022 年基于 Transformer 的 ChatGPT 和生成式 AI。
两种思路和它们的问题
| 思路 | 是什么 | 他的评价 |
|---|---|---|
| 基于模型 | 用数学、物理、统计建模,人写代码。工业机器人现在就是这样编程的 | 可靠、可读,汽车、桥梁、电网都靠它;但每个问题都要人坐下来写,费力,不通用 |
| 不靠模型 | 深度学习,给例子就学;在机器人上就是 VLA,Physical Intelligence、Google Gemini 在做 | 希望通用,但还没做到;是一堆数字组成的黑箱,不可解释;成功率只有 60% 到 80%,加数据后进入平台期,离人们要的 99% 很远 |
他举的证据:
- 一家头部公司的联合创始人 2026 年 5 月写文章说,钱融了很多,光中国就有 140 家人形机器人厂商,但全世界机器人做的有用工作“几乎为零”。他没有点名是哪家。
- Physical Intelligence 在一个标准测试集上报告 100% 成功率。他让学生把汤罐挪一下,成功率就掉到约 20%:模型背下了动作,换了初始条件就不会。他们去年夏天发表的研究里,π0.5 在这类抓取测试上约 20% 成功率(这就是“背景:VLA 和智能体机器人”部分的 LIBERO 和 LIBERO-PRO)。
- 他称之为“收入缺口”:中美都投了很多钱,三四年后大家问“钱在哪”,这是机器人领域的危机。
第三条路:让代理写机器人代码
- 起因:约一年前 OpenClaw 这类多代理工具火起来,代理很会写代码,还能互相协作。英伟达的工程师想试新问题,于是“让代理给机器人写代码”。
- 1 月的实验:把“把杂货放进篮子”的任务说明交给 Claude Code,成功率从原来系统的 20% 提到 37%,接近翻倍。
- 一位做系统编程的学生提出用图来组织机器人代码(转写里把这和 Rust 语言连在一起说,原话不清)。机器人本来就是感知、抓取、运动几块组件,做成计算图正合适:每块是一组节点,不同代理并行改不同的块,互不干扰。“人类工程师的好编程习惯,对代理也很有用。”这就是 GaP(图即策略),几周后在机器人学习会议上发表。
- Harness:控制一群代理的办法。“一个代理像一匹野马,跑得快、能做漂亮的事,也会做完全不可预测的事;一群野马更难管,所以要缰绳。”怎么套缰绳,还没人知道,大家都在摸索。
- 流程:输入英文任务说明、物体几何和人写的技能库(感知、抓取、运动的代码);代理拆段、搭图,在英伟达的仿真里跑,坏了就修,到成功率约 97% 到 98% 或不再提高时停。部署到真机上的是 ROS 2 代码,没有代理:代理慢、贵、有安全风险,工厂不想让代理上产线;而一段代码,人能读、能查、能看出哪一行错了。仿真和真实之间还有差距,要小调。
- 结果:杂货任务 500 次试验平均 97%,去掉难抓的沙拉酱瓶约 99%,5 月拿到。“我起了鸡皮疙瘩,现在想起来还是。工程上很少有这种时刻。”他说这条路不需要数据,用现成的代理就行:Claude、OpenAI、通义千问、Kimi 都可以;输出可解释的代码,能补上收入缺口。
横向滑动可查看完整图解。
视频GaP — Graph-as-Policy(网页内含视频);"A Tale of Two Cultures: Can Agentic Coding Close the Gap?" plenary by Ken Goldberg at ICRA 2026(YouTube,2026-06)
从视频造仿真,再上真机
- 9 月 OpenAI 发布 GPT-6 Astra,很会从图像和视频重建三维场景:先摆一个三维布局,渲染出来和图片比,不对就调,反复迭代。
- 他们给 Astra 和 Fable 一段双臂机器人用海绵擦横杆上墨水的视频,加上自研的 RoboSimStudio,让它们复现这段视频。一小时里:前 40 分钟代理读代码、读文档、上网查;然后自己从网上下载这两种机器人的模型,调滑块,给最难的海绵建模,推算相机位置,调光照和动作去贴近原视频。人只是看着。生成的仿真连背景里一张他们自己都没注意到的桌子都复现了。
- 再用 GaP 在这个仿真里学怎么控制机器人,把代码放到真机上,真机能擦。“又一个让我震惊的时刻。”
- 失败案例:有一次真机把横杆推倒了。代理以为横杆是固定的,因为视频里从没见它倒过;其实没固定。仿真里机器人用一只手扶着横杆,写程序时却没扶。博士后 Eric Chen 当天早上 6 点发来的新幻灯片:把失败视频交回给 Astra,它学会了横杆会倒,生成的新图让左手扶住横杆,再擦就不倒了。
视频RoboSimStudio(网页内含视频)
第一次用在真实仓库
他把这套方法分享给 Ambi 团队。Ambi 有一类包裹会卡住分拣机,每台机器每年约 3 万次卡件,每次要人过去推一下。修好要花约一个月工程师时间,人手不够,一直搁着。Jeff(Mahler)用一个周末把问题交给 GaP:给出机器人规格,让代理试不同的放包裹方式,用前后数据对比。前两个假设没用,第三个在仿真里把卡件从约 3 万次降到约 1.5 万次,减半。新软件已经装到 Ambi 的机器上运行。他说据他们所知,这是智能体机器人第一次用在真实仓库,“这是真收入”。他说这不是万能药。
他把这条路称为两种思路之间“缺失的一环”:把工程师信得过的传统工程和编程代理结合起来,不靠 VLA。他发在 X 上的帖子有 100 万次浏览,是他最多的一次。他和英伟达的 Spencer Huang(黄仁勋之子)合作;拿到了英伟达的一大笔资助,正在招博士后,35 个申请人,博士后团队要扩大一倍,“这是我经历过最大的一次扩张”。
视频AmbiSort B-Series: Built for More(YouTube,2024-04)
问答和收尾
| 问题 | 他的回答 |
|---|---|
| 能不能用代理控制五指灵巧手 | 他叫“自下而上”:先解决代理现在能解决、对工业有价值的问题,要可靠、要快、要能赚钱;技能库可以共享,能力会逐步累积。还没见过代理控制完整的五指手,“我们大概在门槛上”。另有学生在把这套方法用到手术机器人上 |
| 商业化最大的挑战;能否进入实验室自动化这类高监管场景 | 实验室自动化是很好的机会,现在的实验室机器人每个实验都要费力编程。商业化需要案例,他在和西门子、博世合作;工业变化不会一夜发生,中国可能更快。中美研究之间没有隔阂,论文互相读,他最好的博士后来自中国 |
| 模仿肌肉的新驱动能否取代现在的灵巧手 | 腱(线缆)驱动精度低,线会拉长,哪怕一点点也有影响。另一个极端是每个关节装电机的直接驱动,他提到 Sharpa(他说是新加坡公司),更精确但很贵。触觉传感“还远没解决”,厂商说手上装了触觉传感器时,要问它可靠不可靠 |
| 非人形(比如三头六臂)会不会更好 | 他同意:有些装配任务要多于两只手,比如给汽车座椅包布;手术本来就是几个人几只手一起做,手术机器人已有 4 条臂。飞机没有羽毛,也不扇翅膀。会有很多形态的实验,有人用代理设计新硬件,有公司做了四指夹爪 |
| 机器人大规模进入生活还要多久、缺什么 | 进家“大概 20 年”。“马斯克说明年,他是万亿富翁,比我会做生意。”一年前他会说 30 年,智能体机器人改变了他的看法。近期先进工作场所:后台、工厂 |
| 哪里先赚钱 | 物流:分拣、码垛已经在赚钱,接下来是从仓库料箱里拣货,电商想把送达缩短到一小时。然后是工厂装配。新方法会降低中小企业用机器人的门槛,比如一家做表带的小厂,以前编程太贵不值得 |
收尾讲就业和人机关系:
- 1980 年代人们也担心机器让人失业,结果工作变了,人没少。社会在老龄化,缺的是工人。
- 卡车司机不会被全部取代:卡车遇到卡住的边缘情况要人处理。自动驾驶飞机几十年前就比人飞得好,但没人愿意坐没有飞行员的飞机,这是心理,也是保险。修车、水管、厨房这类有很多细节的工作,人还要做很久。
- 去年在杭州,他和宇树的王兴兴参加一场辩论,题目是机器人会不会很快取代大多数人类工作;最后投票的结论是 25 年内不会。他预测会出现很多新工作。机器人来杀人类是科幻。
- 比起“人工智能”,他更看重“智能增强”:机器人不会取代人,会让人少做机器人式的工作。“机器人会让人变得不那么像机器人。”他用《星际迷航》里理性的斯波克和感性的柯克作比喻:互补,所以能解决宇宙里的每个问题。他说对中美两国也是这样看的。
和预习资料的对照
| 课上说法 | 核对 |
|---|---|
| 达芬奇去年约 200 万台手术 | Intuitive 2025 年报为约 315.3 万台达芬奇手术6。他的数字偏低,原因待确认 |
| 达芬奇已有 15 到 20 年 | 达芬奇 2000 年获 FDA 许可,到 2026 年约 26 年 |
| Ambi 攒了 22 年数据 | 和“背景:先懂 5 个概念”部分引用的数字一致(4 年分拣 1 亿多个包裹,相当于 22 年)2;课上说第一台约 2023 年上线,和“4 年”有出入,以公开报道为准 |
| 物理 AI 每年 50 万亿美元 | 他说是英伟达的估计,课上没有给出处,本页没有核对 |
| AlphaGarden 约 1 米乘 3 米;园艺师有“45 年经验”;机器人少用约 40% 的水 | 论文写 1.5 米乘 3 米、园艺员工平均 10 年经验(“45 年”可能是转写错误)、两轮分别少用 37% 和 44%,见“背景:园艺和农业机器人”部分20 |
| GaP 杂货任务 500 次平均 97% | 论文仿真表里 GaP 在杂货任务上 0.95 到 0.97,真机配单 25/25,见“背景:VLA 和智能体机器人”部分78 |
| π0.5 换了初始条件成功率约 20% | 和 GaP 论文表一致:LIBERO-PRO 换物体时 π0.5 为 0.2478 |
| Ambi 每台每年约 3 万次卡件,GaP 减半 | 没有公开资料,只有课上口述 |
| 全自动手术要 20 到 100 年 | 和“背景:手术机器人和医疗科技”部分一致:美国上市的软组织手术机器人都在 0 到 1 级,研究在往 2 到 3 级推 |
背景:先懂 5 个概念
十万年数据缺口
他算过:训练大语言模型用的文本,一个人要读约 10 万年。机器人没有这样的现成数据,动作数据要靠人遥控机器人一小时一小时地采。按现在的速度,攒够一个 ChatGPT 规模的机器人数据集,大约也要 10 万年3,4。所以他不认同“人形机器人两到五年普及”的说法。2026 年 2 月在旧金山的演讲里,他还在说通用人形机器人比宣传的远得多2。
视频Ken Goldberg: Good Old-Fashioned Engineering Can Close the 100,000 Year “Data Gap” in Robotics(YouTube,2026-04)
传统工程加 AI
他的解法叫 GOFE,good old-fashioned engineering:用两百年的数学和物理建模,配合不靠模型的 AI 学习,先让机器人在窄任务上达到商用可靠,再让部署出去的机器人在干活时攒数据3。他举的两个例子是 Waymo 和 Ambi Robotics。Ambi 用 4 年分拣了 1 亿多个真实包裹,攒下相当于 22 年的真实机器人数据2。
机器人抓取
人觉得最简单的“拿起一个没见过的东西”,是机器人最难的事之一:形状、重量、材质、摩擦都不知道。他的实验室做过 Dex-Net,用大量模拟数据训练抓取模型,后来用在 Ambi 的分拣机上。课上的“解开缠绕的线缆”“操控手术针”,难点也是一样:物体会变形,没法事先精确建模。
诡异感和恐怖谷
弗洛伊德 1919 年写过“诡异感”:熟悉的东西变得陌生时让人不安。森政弘 1970 年提出“恐怖谷”:机器人越像人,人越有好感,但像到“几乎一样又不完全一样”时,好感会突然掉成反感,再更像才回升1。这也解释了为什么很多服务机器人故意做得不像人。
横向滑动可查看完整图解。
Telegarden 和 AlphaGarden
两件作品隔了 25 年,可以对照看:Telegarden 是人通过网络远程控制机器人,AlphaGarden 是机器人自己用 AI 照料一个多品种混种的花园。从“人遥控”到“机器自主”,正好是周五 Thomas Lee 要讲的自动化和自主化的区别。
视频Ken Goldberg & Joseph Santarromana - Telegarden, Telerobotic Installation 1995(YouTube,2010-07);Telegarden Overview(YouTube,2011-07)
背景:VLA 和智能体机器人
这一节是课外资料,不是课上内容。让机器人变聪明,现在有两条路线:一条是训练一个端到端的大模型(VLA),一条是 Goldberg 主张的让 AI 代理写机器人程序(智能体机器人)。
VLA 是什么
VLA 是视觉-语言-动作模型(vision-language-action model)。一个大神经网络,输入摄像头画面和一句文字指令,比如“把杯子放进水槽”,直接输出电机动作。做法通常是拿一个用互联网图文训练过的视觉语言模型,再用机器人示范数据继续训练;示范数据多数是人遥控机器人录下来的。有的设计分两层:一个慢的“思考”模型做规划,一个快的模型每秒多次输出动作,英伟达的 GR00T N1 就是这样43。
它想解决的问题:传统机器人程序一个任务写一套,换个物体、换个房间就要重写。VLA 想用一个模型做很多任务,听懂普通话语的指令,遇到没见过的东西也能应付;它从语言模型那里带来常识,知道“杯子”是什么、“收拾一下”是什么意思。
视频π0: Our First Generalist Robotic Policy(YouTube,2024-11);π0.5: a VLA with Open-World Generalization(YouTube,2025-04);Gemini Robotics 1.5: Enabling robots to plan, think and use tools to solve complex tasks(YouTube,2025-09);Intelligent whole-body control with Gemini Robotics 2(YouTube,2026-07)
VLA 的进展
| 时间 | 模型 | 要点 |
|---|---|---|
| 2023 | 谷歌 RT-2 | 第一个广为人知的 VLA:把视觉语言模型改成输出机器人动作 |
| 2024 | OpenVLA、π0 | 开源模型出现;π0 来自 Physical Intelligence |
| 2025-03 | Gemini Robotics | Google DeepMind 发布,6 月出本机运行版,10 月出 1.5 版 |
| 2025-03 至 2026 | 英伟达 GR00T N1 到 N1.7 | 开源人形机器人模型;N1.7 用了约 2 万小时的人类第一视角视频 |
| 2025-04 | π0.5 | 能在没去过的家里干活 |
| 2026-04 | π0.7 | 公司称为可以用指令引导的“通用”模型 |
佐治亚理工 2026 年春季课程把 π0、π0.5、π0.7、GR00T、Gemini Robotics 列为最前沿的 VLA 系统55。各家公司的融资和估值见“背景:机器人公司”部分。
VLA 用在哪里,还差什么
现在主要在实验室和试点:家务任务、人形机器人演示、少量工厂试验。还没解决的问题:
| 问题 | 证据 |
|---|---|
| 可靠性 | 2026 年一份西门子埃尔朗根工厂包装任务的部署案例:实验室 80% 的成功率在工厂不够,一次失败就能让产线停下;失败中 65% 来自感知和物理,比如看不见小的、透明的配件,克服不了摩擦45。试点报道的成功率约 70% 到 85%,光线暗、表面反光、物体软的时候更差57 |
| 精度和速度 | 一份工业测试中,微调后的 π0 做简单抓取成功率约 60%,精密放置的位置误差最大 2.2 厘米;大模型的运行频率常低于每秒 10 次,机械臂动作发抖、滞后56 |
| 开放环境 | 对家务任务挑战赛中各模型的研究发现,在接近真实的复杂环境里总体成功率仍低,离辅助和安全要求高的场景还远58 |
| 数据 | 需要海量机器人数据,正是 Goldberg 说的“十万年数据缺口”,见“背景:先懂 5 个概念”部分 |
| 独立数据 | 到 2026 年 7 月,还没有哪个 VLA 公布过按独立方法测出的真实部署成功率或人工干预频率59 |
对照:一份 2026 年的综述提到,Covariant 原有的仓库拣货机队在几百个站点上拣货精度超过 99%,但它的基础模型 RFM-1 本身没有在这个规模上独立部署过60。
课上开头讲 AI 写代码时,他预告说最后会讲这件事怎么影响机器人:AI 代理已经能写整个应用、翻译整套代码、找出代码里的缺陷,最近一年多个代理协作写代码发展很快。
智能体机器人:他怎么定义
2026 年 9 月他接受 AIhub 采访时的说法40:
- 做法:大语言模型按传统工程和基于模型的方法写机器人程序,遇到子任务再调用训练好的模型,比如三维分割模型。
- 起点是 2022 年 Jacky Liang 主导的“代码即策略”(code as policy)论文,后来 Max Fu 和英伟达的同事又做了一版。
- “图即策略”(graph as policy,ICRA 论文):把机器人系统拆成感知、运动规划、抓取规划等节点,每个代理负责改进一个节点。
- 合作方有英伟达、博世、西门子和 Ambi Robotics。Ambi 的机器已经攒了“20 到 30 年”的运行数据。
- 原话:“To me, agentic robotics is the biggest thing since the internet.”(对我来说,智能体机器人是互联网以来最大的事。)
他说的限制
做出有用的系统“可能要很多年”;代理“像野马”,会编造、会忽略约束,规则太多它们反而不遵守;代码一复杂,模型会开始乱改,上下文窗口也可能不够;不同模型、不同版本结果不一样。他说自己不反对学习型模型,但通用方案不会很快出现,“我们需要一个备用方案”。
这和“背景:先懂 5 个概念”部分的“十万年数据缺口”是一条线:机器人缺动作数据,那就让 AI 写结构化的、可靠的程序,而不是等数据攒够再训练一个端到端模型。
LIBERO:VLA 的考卷
LIBERO 不是 Goldberg 的项目。它是德州大学奥斯汀分校 Bo Liu、Yuke Zhu、Peter Stone 等人 2023 年发表的仿真测试集,名字取自“机器人操作的终身学习基准”(LIfelong learning BEnchmark on RObot manipulation),发在 NeurIPS 2023 的数据集和基准专题61。
- 内容
- 130 个带文字指令的桌面操作任务,比如抓放、堆叠、开抽屉,分为空间、物体、目标、长任务等几组
- 环境
- MuJoCo 物理仿真,一只 7 自由度的 Franka 机械臂
- 数据
- 每个任务 50 条人用 3D 鼠标遥控录下的示范
- 原本用途
- 测机器人学新任务时能不能用上旧知识、会不会忘掉旧任务
后来它成了 VLA 最常用的考卷。一份 2025 年的综述说,16 个月里平均成功率从 75% 涨到 98%,除长任务组外,最好的成绩都超过 98%62。分数接近满分,考卷就分不出高下了。
问题在于考题和练习题几乎一样:测试时的任务、物体、场景、目标都和训练时相同,只是物体起始位置略有变化。2025 年有人做了加难版 LIBERO-PRO,把物体换掉、位置调换、指令改写、环境改变。结果在原版上成功率超过 90% 的模型,在加难版上跌到 0%。比如目标物体换成不相干的东西,模型照样做抓取动作;指令改成乱码,输出不变。作者的结论是模型背下了动作序列和场景布局,没有真正理解任务63。另一个加难版 LIBERO-Plus 也发现,换相机角度和机器人初始状态,成功率能从 95% 掉到 30%62。
GaP:图即策略
GaP 是 Graph-as-Policy(图即策略)的缩写,论文 2026 年 7 月 6 日发在 arXiv 上,作者来自伯克利、英伟达和博世,第一作者 Kaiyuan Chen,Goldberg 是末位作者;合作者里有英伟达的 Linxi Fan 和 LIBERO 的作者之一 Yuke Zhu78。AIhub 采访里说是 ICRA 论文,作者之一的主页写的是 CoRL 2026,以论文为准待确认。
先说两个词:
- Harness(这里可译作“工作台”或“缰绳”):论文里指交给编程代理的那一整套说明和接口,写清楚有哪些软件可用、有什么约束、按什么指标评分,并让代理能编译、运行、观察结果、打分,循环改进78。代理本身是通用的大模型,harness 决定它在什么框框里干活。
- Policy(策略):机器人学里指“看到什么就做什么”的规则。VLA 的策略是一个神经网络;GaP 的策略是一张图。
这张图是一个有向计算图:每个节点是一个现成的技能,比如识别物体、规划抓取、规划手臂路径、检查是否成功;边表示数据怎么流、先做什么后做什么,也可以带条件分支。最后输出的是能在 ROS 2 上跑的轻量代码78。
| 步骤 | 做什么 |
|---|---|
| 1 拆任务 | 总指挥代理把任务拆成几段,每段交给一个技能代理 |
| 2 搭子图 | 技能代理从技能库里挑节点,搭出自己那一段的子图 |
| 3 接线 | 总指挥把子图连成一张完整的图,检查接线是否正确 |
| 4 仿真排练 | 在英伟达 Isaac Sim 里随机生成很多个任务实例,并行跑 |
| 5 改图 | 分析失败,由代理修改图的结构和参数,重复到成功率不再提高 |
| 6 部署 | 优化好的图在机器人上直接运行,这时不再需要代理 |
技能库叫 MORSL(模块化开放机器人技能库),起步有 51 个技能:15 个感知、5 个抓取规划、8 个运动规划、15 个视觉工具、8 个验证和控制。里面既有传统的基于模型的方法,也有训练出来的模型,比如 Meta 的 SAM 分割模型、英伟达的 GraspGen 抓取模型和 cuRobo 运动规划。代理用的是 Gemini 3.1 Flash-Lite78。
它针对的任务叫“可变自动化”:同一个任务长期重复,但每次物体的形状和摆放不一样,介于固定自动化(如点焊,每次动作相同)和通用机器人之间。例子有分拣包裹、咖啡馆做咖啡、商业厨房做三明治78。Ambi 的包裹分拣就属于这一类。
| 方法 | LIBERO 原版 | LIBERO-PRO 换物体 | 杂货配单,全部变化 | 装袋,物品变化 |
|---|---|---|---|---|
| CaP-X(单代理,不自学) | – | 0.22 | 0.10 | 0.01 |
| π0.5(VLA) | 0.96 | 0.24 | 0.20 | 0.18 |
| MolmoAct2(VLA) | 0.97 | 0.43 | 0.20 | 0.18 |
| π0.5 放进 GaP 当节点 | 0.85 | 0.60 | 0.39 | 0.66 |
| GaP | 0.95 | 0.95 | 0.97 | 0.98 |
真机结果:杂货配单 25/25,装袋 28/30,做爆米花 18/20,插 USB-C 线 121/130;对比方法 TipTop 分别是 8/25、10/30、0/20。做爆米花的图一开始成功率 33%,在仿真里自学后到 94%78。
作者列的限制:可靠性还没到工业水平;速度太慢,一次抓放平均 67 秒,工业标准约每小时 500 件、每件约 7 秒;测试主要是准静态的抓放,只有插线用到力觉,软的物体、动态受力、移动目标都还没做78。
读这组数字:VLA 在原版 LIBERO 上 0.96,一换物体掉到 0.24,GaP 两边都是 0.95,这正是课上“当心演示”的另一种说法。但这是 Goldberg 团队自己的论文,基准有一半是他们自己设计的,论文也说和 CaP-X 的比较对后者不公平;速度离工业要求差约 10 倍。
GaP 的两半:图生成器和图优化器
GaP 可以分成两半:先生成一张能跑的图,再在仿真里把它优化。论文里分别叫“初始图生成”和“基于排练的图优化”(算法 1),“生成器”“优化器”是概括的叫法78。
| 维度 | 图生成器 | 图优化器 |
|---|---|---|
| 输入 | 一段自然语言的任务说明 | 生成器给的初始图,加上任务的变化范围 |
| 谁来做 | 总指挥代理拆段,技能代理各搭子图,总指挥接线 | 一组语言模型和视觉语言模型代理,跑“生成、仿真、评估”循环 |
| 怎么做 | 从 51 个技能的技能库里挑节点、连边;接线检查确认每条边都连对 | 每一轮:按变化范围随机抽 N 个任务实例,在 Isaac Sim 里并行排练;逐个分析失败;把所有失败报告交给代理改图 |
| 改什么 | 从无到有搭出结构 | 结构和参数都改:换成功能相同的另一个节点、改连线、调代码参数 |
| 目标 | 得到一张能跑通的图 | 成功率和吞吐量的加权和;吞吐量定义为成功率除以每次耗时 |
| 何时停 | 图通过检查 | 成绩不再提高,或者失败原因无法再解决 |
| 输出 | 初始图 | 优化后的图,交给机器人上的解释器反复执行,不再需要代理 |
优化器怎么找失败原因:每次排练都记录每个节点执行前后机器人和物体的状态,算出差异,推断动作结果,把失败定位到具体的几何原因,比如哪个物体占了位置、哪个关节没到位78。任务实例怎么抽:位置在一个空间范围里均匀随机,朝向在一个角度范围里随机;也可以用示范或感知数据估出的真实分布;杂货任务用几何方法保证随机摆放的物体不重叠78。
优化器的作用有多大:
- 做爆米花:生成器给的初始图成功率 33%,优化器跑了约 10 轮后,仿真里到 94%,真机 18/2078。
- 杂货配单和装袋:第一张图就达到高成功率,没有跑优化器。
- 论文没有一组专门隔离优化器作用的对照实验。去掉图结构直接让代理写代码,或者只用一个大模型,成功率都是 0,这说明的是图结构和多代理分工的作用78。
和本页别处对照:生成器像软件工程里写初版代码,优化器像在仿真里反复测试和调参。这和 Dex-Net、AlphaGardenSim 是同一个思路,先在仿真里大量试错,再拿到真实世界。区别在于,这次在仿真里改代码的是代理。这段对照是本页的归纳。
RoboSimStudio:从手机视频造仿真
GaP 的优化器要在仿真里排练,前提是有一个和真实世界够像的仿真。RoboSimStudio(简称 RSS)解决的就是这一步,术语叫 Real2Sim(从真实到仿真)。论文 2026 年 10 月 14 日发在 arXiv 上,作者来自伯克利 AUTOLab 和英伟达,第一作者 Kaiyuan Chen 和 Shuangyu Xie,也是 GaP 的前两位作者;英伟达的物理仿真专家 Erwin Coumans、Miles Macklin 也在作者里,Goldberg 是末位作者。代码在 GitHub 开源,Apache 2.0 许可82。Goldberg 发布时写道:“今天发布 RoboSimStudio 工具包,帮助代理为智能体机器人做精细动力学的 Real2Sim。”83
难在哪里:机器人和物体接触时的摩擦、刚度、变形很难建模。做一个操作任务的仿真,要选物理求解器、选接触模型、调一堆参数,再和真实表现对比,以前都靠人手调82。
- 做法
- 把求解器、接触模型、物理参数都摆到台面上,可以直接改。人在浏览器的三维界面里拖动物体、拉滑块调参数;AI 编程代理通过接口读仿真状态、改参数
- 给代理的反馈
- 目标误差、物体怎么动、何时接触、抓住还是打滑、任务进度,加上画面;动作按“基础动作”分段,代理能看出哪一步导致了结果
- 物理引擎
- Newton:英伟达、Google DeepMind、迪士尼研究院发起的开源 GPU 物理仿真框架,归 Linux 基金会,内含 MuJoCo-Warp 等多种求解器;也能和外部物理引擎联合仿真
- 人机协作
- 人和代理用同一个仿真,人可以随时给意见,不打断代理;还能用低成本的 Gello 主臂遥控仿真里的机器人,并通过电机感受接触力
他们用它做了 18 个接触密集的操作仿真,覆盖刚体、带关节的机构、线缆、布料和软体变形,比如工具分类、齿轮啮合、插接头、走线、叠毛巾、揭膜、海绵擦拭82。线缆、布料、软物体正是课上“家用机器人”部分讲的难点。
海绵擦拭的试点,把 Real2Sim 和 GaP 接成一个来回:
- 一段手机拍的双臂机器人擦拭视频,没有 CAD 模型,没有标定过的相机。
- Claude Code 和 Codex 各自独立搭建场景、相机和物理,约一小时完成。其中一个代理:第 14 分钟搭好手臂和横杆,第 42 分钟第一次擦拭,第 51 分钟补好场景,第 56 分钟完成验证。
- 用 GaP 在 30 种随机布局、不同海绵硬度下优化,仿真里的擦拭面积经过 14 轮从 0% 提高到 100%。
- 优化后的策略在真机上完成了擦拭任务,论文没有给真机成功率。
- 真机上擦拭把横杆的支架推动了,海绵失去接触;仿真里支架是固定的。代理看了失败视频,把“固定”改成“可自由移动的刚体”,改后的仿真能重现横杆被推动和倾倒。
这个来回叫 Real2Sim2Real:从真实到仿真,再回到真实,真实里的失败再拿回来修仿真82。
作者列的限制:系统还在开发,试点是初步的;代理能搭什么,受限于已有的材料模型、物理耦合和机器人资产;联合仿真有额外开销;从仿真到真实只测了一个任务,仿真和真实的吻合度主要靠肉眼判断,没有量化82。
放在一起看,Goldberg 组的智能体机器人有三块:RoboSimStudio 让代理从视频造仿真,GaP 让代理在仿真里写和改机器人程序,RATs 让代理先“玩”攒技能。三块都是让代理做以前要工程师手工做的事。这段归纳是本页的。
Goldberg 组在 LIBERO-PRO 上的成绩
2026 年 6 月 17 日,伯克利一组作者在 arXiv 上发表《Playful Agentic Robot Learning》,作者包括 Goldberg、Trevor Darrell、Ion Stoica、Angjoo Kanazawa64。系统叫 RATs(Robotics Agent Teams,机器人代理团队),是一个多代理的“代码即策略”系统:
- 先玩后考:在给任务之前,让代理自己在仿真里“玩”,提出既新鲜又学得会的练习题。
- 分工:有规划、写程序、验证、诊断失败的代理,写完就跑,失败就查原因再改。
- 技能库:成功的代码存成可复用的技能,失败存成教训;考试时技能库固定不变,也可以插到别的代理里用。
| 方法 | 类型 | 成功率 |
|---|---|---|
| OpenVLA | VLA | 0.0% |
| π0 | VLA | 0.0% |
| π0.5 | VLA | 12.8% |
| CaP-Agent0 | 写代码的代理,没有“玩” | 23.2% |
| RATs | 写代码的代理团队,先“玩” | 43.8% |
其他结果:在另一个仿真环境 MolmoSpaces 上,RATs 从基线的 21.0% 提高到 38.0%;在 LIBERO-PRO 上学到的技能拿到没练过的 RoboSuite 环境,基线从 40.3% 提高到 49.1%。真机测试 60 次,两个新任务的平均成功率从 3.3% 提高到 25.0%;作者说真机样本少,结果是初步的64。
作者列的限制:主要在仿真里测;技能多样性受仿真环境限制;取错技能反而拖后腿;推理成本高,依赖视觉语言模型做验证,只能调用基础动作接口,做不了灵巧操作64。
读这组数字要注意两点。一是绝对值仍低,最好的也不到一半。二是这是 Goldberg 所在团队的论文,比的是自己主张的路线。它能说明的是:在不允许死记硬背的考卷上,写代码的代理目前比 VLA 强,这和他“VLA 可靠性还不够”的判断一致。
NemoClaw:给代理套上缰绳
NemoClaw 不是机器人模型,也不是 Goldberg 的项目。它是英伟达 2026 年 3 月 16 日在 GTC 大会上发布的开源软件,用来让 AI 代理跑得更安全65。
背景是 OpenClaw:Peter Steinberger 做的开源个人 AI 代理平台,代理常驻在电脑上,能自己执行任务。英伟达称它是“历史上增长最快的开源项目”,黄仁勋在发布会上说:“OpenClaw 是个人 AI 的操作系统。”代理权限大,出错或被诱导时风险也大,NemoClaw 解决的就是这个问题65。
| 组成 | 做什么 |
|---|---|
| OpenShell | 隔离的沙箱,代理在里面运行;按规则限制它能连哪些网络、能碰哪些数据 |
| Nemotron | 英伟达的开源模型,可以在本机运行,数据不出电脑 |
| 隐私路由 | 需要更强的云端模型时,在规则范围内转给云端 |
| nemoclaw 命令行 | 一条命令安装,管理代理的上线、运行和状态保存 |
能跑在 GeForce RTX 电脑、RTX PRO 工作站、DGX Spark 和 DGX Station 上。最初只支持 OpenClaw,现在也支持 Hermes、LangChain Deep Agents 等代理。官方文档写明它还是 alpha 版,接口可能随时变,不要用在生产环境66。
它已经开始用在机器人上:
- 准备仿真场景:英伟达 2026 年 9 月 16 日的技术博客,用 Codex 或 Claude 当总指挥,NemoClaw 部署几个专门的子代理,分别检查场景里的物体、补物理属性(碰撞、质量、摩擦)、渲染机器人相机视角找问题、按标准验收,最后交给 Isaac Sim 训练机器人。拿不准的问题转给人。博客只演示了一个场景,没有给出省了多少时间67。
- 控制机械臂:Seeed Studio 有一份教程,在英伟达 Jetson Thor 上跑 NemoClaw,连接一只机械臂,把相机、大模型推理和机械臂动作接起来68。
和课上对照:Goldberg 说 AI 代理“像野马”,会编造、会忽略约束。NemoClaw 这类沙箱和规则,就是给野马套的缰绳;代理写的程序要控制真实的机器,这一层更不能少。英伟达也是他列的合作方之一。这段对照是本页的归纳。
智能体机器人的最新进展
按时间排,2026 年是这条路线论文集中出现的一年:
| 时间 | 工作 | 要点 |
|---|---|---|
| 2022 | Code as Policies(谷歌,Jacky Liang 主导) | 起点:让语言模型直接写机器人程序40 |
| 2023 至 2024 | VoxPoser、ReKep(斯坦福) | 语言模型把指令变成空间约束,再交给规划器执行100 |
| 2025 | Gemini Robotics-ER 1.5(Google DeepMind) | 一个“具身推理”模型当总指挥,规划步骤、调用工具和 VLA43 |
| 2026-03 | CaP-X(ICML 2026) | 编程代理的测试框架:39 个任务,测了 12 个模型。发现成绩依赖人提供的高层工具,工具越底层成绩越差;多轮交互、执行反馈、自动生成技能能缩小差距。基线代理 CaP-Agent0 在几个任务上达到人类专家写的程序的可靠性96 |
| 2026-06 | ENPIRE(CoRL 2026) | 让编程代理在真实机器人上自己改进策略:自动复位和验证、多台真机并行试、按结果演化。在推 T 形块、把销钉插进盒子、用刀剪扎带等灵巧任务上达到 99% 成功率97 |
| 2026-06 | RATs | 代理先自己“玩”攒技能,见上文 |
| 2026-07 | GaP、ASPIRE | GaP 见上文;ASPIRE 做机器人技能的自动发现98 |
| 2026-07-09 | Claude Plays Robotics(Anthropic) | 测 Claude 各代模型控制机器人:经典控制、行走导航、机械臂操作。综合分 Mythos Preview 最高(0.389),Opus 4 最低(0.115);直接控制力和力矩的能力在进步,但比高层控制慢101 |
| 2026-09 | Agent as Policy(圣母大学等) | 不预先编好程序,让代理在执行时就当策略:看画面、写代码、发指令、按反馈改。在作者的三个任务上 25 次试验成功 23 次,GaP 0 次、ASPIRE 3 次(GaP、ASPIRE 先在仿真里优化,作者认为输在仿真和真实的差距)。但换弱一点的模型成功率大降99 |
| 2026-10 | RoboSimStudio | 代理从视频造仿真,见上文 |
| 2026-10 | 综述《Towards Agentic Robots》(港中文 MMLab、复旦、清华等) | 把这个领域分成模型、数据、环境、harness 四块、17 类;列出的难题有公平测评、真机部署、推理延迟和成本、跨机器人形态的泛化、验证信号不可靠100 |
下面是本页从这些论文里看出的趋势:
- 从“一次写完”到“循环改进”:先是写一段程序,后来加上仿真排练(GaP),再到真机上自我改进(ENPIRE)。
- Harness 成了核心工作:模型是通用的,差别在给代理什么工具、什么反馈、怎么验证。CaP-X 的发现说明,人设计的工具层仍然很关键。
- 两种做法在争:GaP 先编好图再部署,运行时不用代理,快而便宜;Agent as Policy 运行时一直让代理盯着,适应性强但慢、贵、依赖最强的模型。2026 年 9 月的对比里后者赢了,但只是一篇论文、三个任务。
- 成绩和模型代际绑得很紧:同一套方法,换一代模型成功率能差几倍,这条路线的进步一部分来自大模型本身。
视频CaP-X: Benchmarking Coding Agents for Robot Manipulation(网页内含视频,2026-03);ENPIRE: Agentic Robot Policy Self-Improvement in the Real World(网页内含视频,2026-06);Ep#110: ENPIRE: Agentic Robot PolicySelf-Improvement in the Real World(YouTube,2026-10);Project Fetch: Can Claude train a robot dog?(网页内含视频,2025-11)
主要的实验室和公司
“最优秀”没有公认排名。下表按 2026 年这条路线论文的作者和机构整理,是本页的判断,不是排名。CaP-X、GaP、ENPIRE、ASPIRE 的作者高度重合,Letian Fu、Guanzhi Wang、Linxi Fan、Yuke Zhu、Goldberg 都出现在多篇里,说明核心圈子不大96,97,98。
| 机构 | 代表人物 | 代表工作 |
|---|---|---|
| 伯克利 AUTOLab | Ken Goldberg | CaP-X、GaP、RATs、RoboSimStudio;见“背景:AUTOLab 实验室”部分 |
| 伯克利其他组 | Shankar Sastry、Trevor Darrell、Angjoo Kanazawa、Ion Stoica | ENPIRE、GaP(Sastry),RATs(Darrell、Kanazawa、Stoica) |
| 卡内基梅隆大学 | Guanya Shi | ENPIRE、ASPIRE |
| 斯坦福 | 李飞飞 | CaP-X 合作者;VoxPoser、ReKep |
| 德州大学奥斯汀分校 | Yuke Zhu(同时在英伟达) | LIBERO、GaP、ENPIRE、ASPIRE |
| 港中文 MMLab、复旦、清华等 | 林达华、姜育刚、岳翔宇 | 2026 年 10 月的综述 |
| 圣母大学、UCSD | Meng Jiang | Agent as Policy |
| 公司 | 角色 |
|---|---|
| 英伟达 | GEAR 研究组(Linxi Fan、Yuke Zhu、Guanzhi Wang)是 CaP-X、GaP、ENPIRE、ASPIRE 的合作方;提供 Isaac Sim、Newton 物理引擎、NemoClaw 代理沙箱,见本节上文和“背景:机器人公司”部分 |
| Google DeepMind | Code as Policies 的出处;Gemini Robotics-ER 走“推理模型当总指挥”的路线;拿到第一批量产版 Atlas |
| Anthropic | Frontier Red Team 发布 Claude Plays Robotics 和更早的 Project Fetch;Claude Code 是 RoboSimStudio、Agent as Policy 实验里用的代理之一101 |
| OpenAI | Codex 和 GPT 系列模型是这些论文里常用的代理;没有查到它自己发表这条路线的机器人论文 |
| 博世、西门子 | 博世是 GaP 的作者单位之一;西门子是 Goldberg 列的合作方,也做了 VLA 工厂部署案例 |
| Ambi、Jacobi | Goldberg 参与创办的公司,Ambi 的技能库思路和这条路线一致,见“背景:Ambi Robotics”部分 |
两条路线对照
| 维度 | VLA | 智能体机器人 |
|---|---|---|
| 机器人里跑的是什么 | 一个大神经网络,从画面直接到动作 | AI 代理写好的结构化程序,子任务调用训练好的模型 |
| 靠什么变强 | 更多机器人示范数据和算力 | 更强的语言模型写代码、在仿真里测、改 |
| 长处 | 通用,能听指令,能应付没见过的东西 | 可以检查、可以测试,出错能定位到哪一段 |
| 短处 | 数据缺口大,可靠性和精度还不够工厂用,出错难查原因 | 代理会编造、会忽略约束;系统复杂后难管理;离通用还远 |
| 代表 | Physical Intelligence、Skild AI、Gemini Robotics、GR00T | Goldberg 实验室的“代码即策略”、GaP(图即策略)、RoboSimStudio、RATs,和英伟达、博世、西门子等合作 |
这张表是本页的归纳。两条路线也在交叉:智能体机器人的程序里可以调用 VLA 当一个子模块,Goldberg 自己说不反对学习型模型,只是要有“备用方案”。
背景:AUTOLab 实验室
AUTOLab 是 Goldberg 自己的实验室,全称 Berkeley Automation Sciences Laboratory(伯克利自动化科学实验室),他从 1995 年来伯克利起一直担任主任;具体研究由他带的博士生、博士后和本科生来做。实验室属于伯克利 AI 研究院(BAIR)84,85。课上讲的 Dex-Net、Ambi、叠衣服、解线缆、手术缝合、AlphaGarden、GaP,都出自这里。
规模和人员
| 类别 | 人数 | 说明 |
|---|---|---|
| 主任 | 1 | Ken Goldberg |
| 博士后 | 3 | Eric Chen(即 GaP、RoboSimStudio 的第一作者 Kaiyuan Chen,2025 年博士毕业)、Shuangyu Xie、Ziyang Chen |
| 博士生 | 9 | 包括 Justin Kerr、Chung Min Kim、Lawrence Chen、Max Fu、Simeon Adebola(AlphaGarden 人机比赛的第一作者)等 |
| 本科生 | 19 | 本科生参与研究,多人出现在 GaP、RoboSimStudio 的作者里 |
| 校友名单 | 约 170 | 官网列出的历届成员,未注明去向 |
人数取自官网成员页,2026-10-22 查看85。官网首页说实验室约 30 人84,课上他也说约 30 名学生做研究。伯克利工程学院 2026 年 5 月的报道说,他带过几百名本科生和 60 名博士生、博士后86。
研究方向,官网的说法是:面向仓库、家庭和机器人辅助手术的稳健抓取与操作,把解析理论(几何和统计模型、运动规划)和深度学习结合起来84。这就是他课上讲的“传统工程加 AI”。
研究线和代表成果
| 研究线 | 代表成果 | 奖项 |
|---|---|---|
| 抓取和仓库 | Dex-Net(2016 年起):用仿真生成的海量抓取样本训练网络;起点是 2015 年修理从垃圾箱捡回来的机器人。后来成为 Ambi 的技术基础 | 据报道成绩超过 2017 年亚马逊机器人挑战赛的冠军86 |
| 软的东西 | 解开长线缆;SpeedFolding 双臂快速叠衣;塑料袋操作 | RSS 2022 最佳系统论文;IROS 2022 最佳论文(投稿 3,579 篇)87 |
| 手术 | 达芬奇研究套件上的自动缝合、缝合规划,“增强灵巧” | CASE 2023 最佳学生论文;CASE 2024 最佳医疗自动化论文87 |
| 农业 | AlphaGarden、AlphaGardenSim、葡萄园精准灌溉 RAPID | CASE 2022 最佳论文(混种植物自动修剪)87 |
| 机器人数据 | 参与 Open X-Embodiment 跨机构机器人数据集;Robo-DM 机器人大数据管理,压缩最多 75 倍 | ICRA 2024 最佳论文;ICRA 2025 最佳机器人学习论文(投稿 4,153 篇)87,88 |
| 三维视觉 | LERF:把语言嵌入三维场景重建,可以用文字在三维场景里找东西(Kerr、Kim 等,与 Angjoo Kanazawa 合作);会自己决定看哪里的机器人相机 | —89,86 |
| 智能体机器人 | GaP、RoboSimStudio、RATs(2026),见“背景:VLA 和智能体机器人”部分 | — |
| 网络和艺术 | Telegarden(1994 年起):最早一批能通过互联网操控的机器人之一 | — |
代码多数开源,放在 GitHub 的 BerkeleyAutomation 组织下84。
博士毕业生和去向
他的简历列出 29 位博士毕业生(含早年在南加大的),最近几届87:
| 年份 | 毕业生 |
|---|---|
| 2025 | Lawrence Chen、Kaiyuan(Eric)Chen、Huang(Raven)Huang |
| 2024 | Yahav Avigal(AlphaGardenSim 第一作者)、Ryan Hoque |
| 2022 | Mike Danielczuk、Brijen Thananjeyan、Ashwin Balakrishna |
| 2021 | Daniel Seita |
| 2018 | Jeff Mahler(Dex-Net)、Sanjay Krishnan、Michael Laskey |
| 2016 | Animesh Garg、Stephen McKinley |
能核实的去向:
- 创业:Jeff Mahler、Stephen McKinley 和硕士生 David Gealy、Matt Matl 与 Goldberg 一起创办 Ambi Robotics86;Mike Danielczuk 在 Ambi 做研究科学家90。
- 当教授:Animesh Garg 任佐治亚理工学院助理教授91;早年的学生 Ron Alterovitz 在北卡罗来纳大学当教授,他的学生 Jeffrey Ichnowski 后来到 AUTOLab 做博士后,现在是卡内基梅隆大学机器人研究所助理教授91。
- 其他毕业生的去向,官网和简历没有写,本页没有逐一核实。
实验室出来的公司
| 公司 | 做什么 | 和实验室的关系 |
|---|---|---|
| Ambi Robotics | 电商包裹分拣(AmbiSort)和装箱(AmbiStack),已分拣 1 亿多个包裹 | Goldberg 和四位 AUTOLab 校友创办,他任首席科学家。成立年份:他的简历和课上说 2018 年,伯克利工程学院的报道说 2019 年86,87 |
| Jacobi Robotics | 机器人运动规划软件,总部 Emeryville | 2024 年创办,Goldberg 任联合创始人兼首席科学家;CEO Max Cao 是伯克利机械工程背景;联合创始人 Lars Berscheid 是 SpeedFolding 的共同第一作者90,87 |
Covariant(Pieter Abbeel 创办)和 Physical Intelligence(Sergey Levine 是联合创始人)出自伯克利同一圈人,但不是 AUTOLab 的公司,见“背景:机器人公司”部分。
Goldberg 的荣誉
- 2026 年 2 月当选美国国家工程院院士86。
- 2005 年 IEEE 会士;2016 年 IEEE 机器人与自动化学会 George Saridis 领导力奖;2000 年 Joseph Engelberger 机器人奖;1995 年美国总统青年教授奖87。
- 研究合作和资助方有英伟达、博世、西门子、Intuitive Surgical、Google 等,见第三、五节。
怎么看这个实验室
下面是本页的归纳。
- 研究跟着落地走:抓取变成 Ambi,Ambi 的运行数据又回到研究里(课上的 22 年数据)。这正是他“在部署里慢慢攒数据”的主张。
- 选题集中在“难但窄”的任务:抓陌生物体、解线缆、叠衣服、缝针、修剪植物。每个都是课上讲的三种误差最集中的地方。
- 2025 到 2026 年重心转向智能体机器人:GaP、RoboSimStudio、RATs 的作者高度重合,都以 Kaiyuan Chen、Shuangyu Xie 这批人为核心,合作方从学术界扩到英伟达、博世。
- 本科生参与多:19 名本科生,在 2026 年的论文作者里很常见。
背景:Ambi Robotics
Ambi 是 Goldberg 从实验室走到产业的代表,课上“电商”部分讲了它的来历。这一节补公开资料,最后和课上的说法对照。
公司概况
- 地点
- 加州湾区(新闻稿写 Emeryville,也有报道写伯克利)92
- 成立
- Goldberg 的简历和课上说 2018 年,伯克利工程学院的报道说 2019 年86,87
- 创始团队
- Goldberg(首席科学家)和四位 AUTOLab 校友:Jeff Mahler(CTO)、Stephen McKinley(运营副总裁)、Matthew Matl(软件副总裁)、David Gealy(机电副总裁)93
- CEO
- Jim Liefer93
- 人数
- 约 51 人(Tracxn,2026 年 8 月)95
- 收费方式
- 客户先买机器人硬件,再按月付软件订阅费;2020 年 10 月起有商业部署收入93
融资
| 时间 | 金额 | 投资方和形式 |
|---|---|---|
| 2021-09 | 2,600 万美元 | A 轮,老虎环球领投,Bow Capital、Vertex Ventures US、The House Fund 跟投92 |
| 2022-10 | 3,200 万美元 | 老虎环球、Bow Capital、Ahren 和战略伙伴 Pitney Bowes;用的是未来股权简单协议(SAFE),先不定估值93 |
| 合计 | 约 6,700 万美元 | 没有查到 2023 年之后的新一轮 |
对比“背景:机器人公司”部分:Figure 累计融资约 19 亿美元,Ambi 不到它的 4%,但已经有 1 亿多件包裹的商业分拣量和按月的软件收入。
产品
| 产品 | 时间 | 做什么 |
|---|---|---|
| AmbiSort | 2020 年起 | 包裹分拣:从料箱里抓起包裹、扫码、放进对应的格口。B 系列用于物流中转站之间的“中程”分拣94 |
| PRIME-1 | 2025-01-07 | 公司自己的 AI 基础模型,用于三维感知、抓包裹和质检,用自家机队的运行数据训练94 |
| AmbiStack | 2025-01-28 | 把包裹码得尽量紧,用仿真到真实的强化学习和视觉系统;获 2026 年 RBR50 创新奖,是公司第三次获这个奖94 |
| AmbiOS 技能库 | 2026-02-12 | 把识别物品、检查、灵巧抓取、精确放置等能力做成可复用的技能,由 PRIME-1 驱动。公司说 AmbiStack 靠复用这些技能,上市速度是 AmbiSort 的 3 倍94 |
视频AmbiSort, powered by AmbiOS(YouTube,2022-05);AmbiSort B-Series: Built for More(YouTube,2024-04);Introducing AmbiStack | Ambi Robotics(YouTube,2025-01)
客户和大事记
- 在 Pitney Bowes 加州 Stockton 的电商中心试点分拣机器人94。
- 和 Pitney Bowes 签下 2,300 万美元的扩大部署合同93。
- Pitney Bowes 在美国沿海枢纽上线 AmbiSort B 系列做中程分拣;和 OSM Worldwide 合作94。
- 商业运行累计分拣超过 1 亿件包裹;Pitney Bowes 网络里有 60 多台分拣机器人94。
- 和 Pickle Robot 合作:Pickle 的机器人从卡车上卸货,AmbiStack 接着码垛,包裹从进站到收货不用人搬94。
- 公司预计机队累计运行超过 50 万小时94。
课上说法和公开资料对照
| 课上说法 | 公开资料 |
|---|---|
| 2018 年和三位同时毕业的博士创办 | 创始团队是两位博士(Mahler、McKinley)和两位硕士(Gealy、Matl),共四位校友;成立年份有 2018、2019 两种说法 |
| 第一台机器约 2023 年上线,攒了 22 年数据 | 2020 年底已在 Pitney Bowes 试点,2020 年 10 月起有商业收入。“22 年数据”和“4 年分拣 1 亿多个包裹”的报道一致;公司预计 2026 年底机队累计超过 50 万小时,约合 57 年连续运行 |
| 亚马逊(贝索斯)是最大客户之一 | 公开资料里点名的客户是 Pitney Bowes 和 OSM Worldwide,没有查到公开的亚马逊合同 |
| AmbiStack 装箱密度从 20% 到 35% 提高到 90%,已卖完 | 公开资料只说获奖和上市快,没有查到密度数字 |
| 工人没有被裁,还加了薪 | 只有公司自己的视频,没有独立数据 |
“约合 57 年”是本页按 50 万小时除以每年 8,760 小时算的。
怎么看 Ambi
下面是本页的归纳。
- 它是课上观点的样板:窄任务(抓包裹)、简单末端(吸盘加夹爪)、传统工程加 AI、先部署再攒数据,再用数据做出第二个产品(AmbiStack)和自己的基础模型(PRIME-1)。
- “技能库”的思路和他实验室 2026 年的 GaP、RATs 一致:能力做成可复用的模块,新任务靠组合。
- 融资少、靠收入:两轮共约 6,700 万美元,和人形机器人公司动辄十亿美元的融资是两种做法。没有查到 2023 年后的新融资,也没有公开收入数字,经营状况外人看不清。
- 客户集中:公开点名的大客户主要是 Pitney Bowes。
背景:手术机器人和医疗科技
课程简介说他会展示机器人“操控手术针”。他在 UCSF 有教职,和 Pieter Abbeel 一起在伯克利办 Cal-MR 医疗机器人中心,经费来自美国国家科学基金会、Intuitive Surgical、Google 和个人捐赠5。这一节补背景:市场格局、自主化程度,和他自己的研究路线。
市场:Intuitive 一家独大
Intuitive Surgical 总部在硅谷 Sunnyvale,产品是达芬奇手术机器人。医生坐在控制台前看 3D 画面,手上的动作按比例缩小、滤掉抖动,传给伸进病人腹腔的机械臂。机器人自己不做决定。
| 指标 | 2025 全年 | 2026 年第三季度 |
|---|---|---|
| 营收 | 100.6 亿美元,+21% | 30.5 亿美元,+22% |
| 达芬奇手术量 | 约 315.3 万台,+18% | 同比 +14% |
| 新装机 | 1,721 台,其中达芬奇 5 共 870 台 | 546 台,其中达芬奇 5 共 315 台 |
| 装机总量(期末) | 11,106 台 | 12,094 台 |
数据来自公司 2025 年报和 2026 年 10 月 20 日的季报6,7。公司预计 2026 年全球达芬奇手术量增长 14% 到 15%7。2025 年每台机器平均每年做 300 多台手术6。
生意模式像打印机加墨盒:机器卖一次或按用量租,每台手术都要用一次性器械和耗材。装机越多,后面的收入越稳。行业媒体估计它在软组织手术机器人市场的份额约 80%9。
挑战者:美国三家,中国一家
达芬奇 2000 年就拿到 FDA 许可。美敦力、强生这两家医疗器械巨头的产品,到 2025 年底和 2026 年才进入美国市场。
| 公司和系统 | 美国许可 | 要点 |
|---|---|---|
| 美敦力 Hugo | 2025-12-03,泌尿外科 | 前列腺、肾、膀胱手术,美国每年约 23 万台;2026 年 6 月递交普外科和妇科申请;已在美国以外 30 多个国家使用8 |
| 强生 Ottava | 2026-07-22,De Novo | 机械臂装在手术床上,床和臂一起动;首批批准上腹部 10 种普外手术,如胃旁路、胆囊切除;先卖给少数美国医院9 |
| CMR Surgical Versius | 2024-10-15,De Novo | 英国剑桥公司,模块化的独立机械臂;首个适应症是成人胆囊切除;美国以外做过 4 万多台10 |
| 微创机器人 图迈 | 远程手术获临床试验许可(2025-07),未上市 | 2026 年 6 月全球订单超过 300 台,装机覆盖 60 多个国家;2025 年在中国获批远程手术,2026-06-22 获欧盟远程手术认证;2025 年手术机器人业务收入 7,760 万美元,+114%11 |
骨科是另一条线。史赛克的 Mako 做膝、髋关节置换和脊柱,2025 年底全球装机超过 3,000 台12。它按术前 CT 规划切骨范围,机械臂限制医生的锯不能越界,比软组织机器人多一步“机器划边界”。
De Novo 是 FDA 给“没有可比产品”的新器械开的路,比常规的 510(k) 慢。强生和 CMR 都走了这条路,Hugo 走的是 510(k)8,9,10。
手术自主的 6 个等级
2017 年 Yang 等人在《Science Robotics》参照自动驾驶分级,给医疗机器人分了 6 级13。下表的“例子”一列按本页资料对应。
| 等级 | 谁做什么 | 例子 |
|---|---|---|
| 0 无自主 | 医生操控每个动作,机器人照做 | 达芬奇、Hugo、Ottava、Versius 的基本模式 |
| 1 机器人辅助 | 医生控制,机器人提供约束或引导 | Mako 的切骨边界,滤抖动 |
| 2 任务自主 | 医生指定任务,机器人完成一个子任务 | Goldberg 实验室的自动缝合(研究阶段) |
| 3 有条件自主 | 机器人出方案,医生批准后执行 | 2022 年 STAR 给活猪缝肠(研究阶段) |
| 4 高度自主 | 机器人做决定,医生监督 | 暂无商用 |
| 5 完全自主 | 不需要医生 | 暂无 |
美国上市的软组织手术机器人都在 0 到 1 级。研究在往 2 到 3 级推。
横向滑动可查看完整图解。
研究前沿:从缝一针到切胆囊
- Goldberg 团队在达芬奇研究套件(dVRK)上用机械导针器自动缝 4 针,对象是模拟皮肤和脂肪的材料14。
- 约翰斯·霍普金斯大学的 STAR 机器人在活猪身上自主做肠吻合,条件严格受控15。
- 伯克利的双臂机器人在仿真皮肤上连续缝 6 针,两臂之间交接缝针,并保持线的张力16。
- 霍普金斯的 SRT-H 在 8 个离体猪胆囊上自主完成胆囊切除的 17 个连续步骤,包括找胆管和动脉、上夹、剪断,成功率 100%,比人慢。它用医生手术视频训练,能听语音指令纠正动作15。
SRT-H 的限制:只做了夹闭和切断这一段,不是从切口到缝合的完整手术;离体组织没有心跳、呼吸和出血15。
视频Surgical Robot Transformer Demo(YouTube,2024-11)。这段是约翰斯·霍普金斯 2024 年的 Surgical Robot Transformer 演示,是否就是 2025 年 SRT-H 的胆囊手术,待确认。
Goldberg 的路线:增强灵巧
2024 年 10 月,Goldberg 和 Intuitive CEO Gary Guthart 在《Science Robotics》合写短文,提出“增强灵巧”(augmented dexterity)。做法:机器人把缝合计划叠加在实时画面上,医生用鼠标调整,确认后机器人执行这个子任务;医生全程监督,随时接手17。后续论文说,这个词是“有监督的自主”的一个更容易被接受的说法17。他的实验室之后发表了缝合(STITCH)、打双结(D-Knot,2025)等论文,都用这个框架17。
这和“背景:先懂 5 个概念”部分的“传统工程加 AI”是同一个思路:先在窄任务上做到可靠,人留在回路里,部署后攒数据。下面一句是推断,不是讲者原话:达芬奇每年 300 多万台手术都经过机器人,产生视频和器械运动数据,手术可能是机器人数据缺口最早被补上的领域之一。
商业上看什么
- 装机量是护城河。医生要几十到上百台手术才熟练,医院换系统要重新培训,所以先装机的公司吃后面十几年的耗材收入。
- 挑战者换了机器的形态:Ottava 把机械臂装进手术床,Versius 做成可移动的单臂模块,图迈卖价格和远程手术。
- 远程手术,中国走得早。图迈 2025 年在中国获批远程手术,2026 年在英国、巴西、泰国等地做了跨国远程手术;美国还在临床试验阶段11。
- 自主等级一升,出了事谁负责就变了。0 到 1 级是医生的责任;到 3 级以上,责任会部分转到厂商,监管路径还没有先例。
背景:园艺和农业机器人
课程简介说他会讲机器人“照料多品种混作的园圃”。“课堂笔记”部分课讲的 Telegarden 和 AlphaGarden 也是花园。这一节补他自己的园艺研究,和农业机器人行业到 2026 年的进展。
Goldberg 的园艺研究
AlphaGarden 是一块 1.5 米乘 3.0 米的真实菜园,上方装开源的 FarmBot 龙门式机械臂、相机和土壤湿度传感器。混种多种植物,它们互相遮光、抢水。团队先做了一个植物生长模拟器(AlphaGardenSim,见下一小节),在模拟里训练浇水和修剪的策略,目标是叶面覆盖率高、品种多样。2021 年的论文跑了 4 个 60 天周期,用修剪剪刀时多样性指标达到 0.96,生长高峰时平均覆盖率 0.8619。这篇论文的后续版本后来被作者撤回,上面的数字取自第一版。
2023 年,团队让 AlphaGarden 和专业园艺师在同一块地上比赛种菜,见下面的“人机种菜比赛”。
他还做过葡萄园的精准灌溉,项目叫 RAPID,2016 年起由美国农业部资助约 100 万美元,和 UC Merced、UC Davis 合作21。滴灌管上每个滴头约 25 美分,拧螺丝可以调水量,但每次只要拧四分之一圈,人做不好,也做不完。方案是根据航拍判断哪里缺水,再让手持设备或移动机器人逐个调滴头。他说:“调整小到四分之一圈,人不擅长这个。”
人机种菜比赛
论文题目是《Can Machines Garden?》(机器会种菜吗?),2023 年 6 月 29 日发在 arXiv 上,没有经过同行评审。作者来自 AUTOLab、伯克利温室和西门子研究院,Goldberg 是末位作者20。
- 场地
- 伯克利温室里一块 3.0 米乘 1.5 米的高床,对半分成两块 1.5 米见方的地,种子摆放互为镜像
- 人类一方
- 伯克利 Oxford Tract 温室的园艺员工,平均 10 年专业经验;论文没写几个人
- 机器一方
- AlphaGarden:FarmBot 龙门机械臂、头顶相机、土壤湿度传感器,策略在 AlphaGardenSim 里训练
- 植物
- 每边 16 株,8 个品种各 2 株:羽衣甘蓝、琉璃苣、瑞士甜菜、芜菁、菊苣、绿生菜、香菜、红生菜
- 周期
- 两轮,各 60 天:第一轮 4 月 15 日至 6 月 14 日,第二轮 7 月 2 日至 8 月 31 日
三个比较维度:
- 覆盖率:所有植物叶冠占地面积除以整块地面积。越高说明地用得越满。
- 多样性:按各品种的覆盖面积算熵。品种的面积越平均,数值越高;某一种长疯了把别的压住,数值就低。计算时按每个品种的最大尺寸做了调整,大菜和小菜放在一个尺度上比。
- 用水:人类一方在水管上装流量计,机器一方在供水管上装流量计。
| 轮次 | 一方 | 覆盖率 | 多样性 | 用水(升) |
|---|---|---|---|---|
| 第一轮 | 园艺师 | 0.78 | 0.94 | 413.5 |
| 机器人 | 0.81 | 0.80 | 260.6 | |
| 第二轮 | 园艺师 | 0.72 | 0.94 | 至少 274.1 |
| 机器人 | 0.67 | 0.97 | 约 154.8(估算) |
数据来自论文20。逐项看:
- 覆盖率:第一轮机器人略高(0.81 对 0.78),第二轮略低(0.67 对 0.72)。
- 多样性:第一轮机器人明显低(0.80 对 0.94),第二轮反超(0.97 对 0.94)。
- 用水:两轮机器人都少,第一轮少约 37%,第二轮少约 44%。
两轮之间机器人改了做法。第一轮所有种子第 1 天一起种,长得快的羽衣甘蓝、琉璃苣把慢的压住,多样性低。第二轮学了混种农法,错开播种:香菜、两种生菜、菊苣第 1 天种,羽衣甘蓝、琉璃苣、瑞士甜菜、芜菁第 11 天再种。多样性上去了,覆盖率下来了。修剪也从第一轮的第 47 天开始、4 次,改成第二轮的第 30 天开始、6 次。浇水第一轮每天早上 7 点定时浇 60 秒,不看传感器;第二轮前 45 天同样定时浇,第 46 到 60 天试了按传感器读数决定浇多少。
机器人一方并非全程无人:
- 修剪:有时人手剪,有时人调整机器人选的修剪点,或者调剪刀的角度和深度,再由人或 FarmBot 执行。
- 发芽:第一轮不少种子没发芽,部分种子已存放一年以上,由人补种或移栽;第二轮 32 个位置发芽 24 个,第 28 天人工间苗。
论文自己列的限制:人类一方因为屋顶角度,日照略多;两轮的差异可能来自季节;第二轮机器人一方的流量计坏了,人类一方的流量计在第 47 天被清零,所以第二轮的用水是一个下限对一个估算值20。
结论原文:“AlphaGarden has thus passed the Turing Test for gardening. Much remains to be done.”(AlphaGarden 因此通过了园艺的图灵测试。要做的还很多。)课上他讲图灵测试时用的也是同一个标准:分不出是人还是机器。读这句话时要知道:只有两轮,每轮一对地块,没有统计检验;机器人第一轮多样性低、第二轮覆盖率低,“相当”是作者的判断。最站得住的是省水。
横向滑动可查看完整图解。
数据表
| 轮次 | 园艺师(升) | 机器人(升) |
|---|---|---|
| 第一轮 | 413.5 | 260.6 |
| 第二轮 | 至少 274.1 | 约 154.8(估算) |
AlphaGardenSim:园艺模拟器
真实的菜园一个周期要 60 到 100 天,在真实菜园里试错太慢。团队做了一个模拟器,在电脑上种菜、浇水、修剪,用来训练机器人的策略。期刊论文 2022 年发表在《IEEE 自动化科学与工程汇刊》,第一作者 Yahav Avigal,Goldberg 是末位作者,合作者有 UC Merced 的 Stefano Carpin、Joshua Viers 和 UC Davis 的 Stavros Vougioukas;经费来自 RAPID 灌溉项目33。代码在 GitHub 开源,MIT 许可,做成了 OpenAI Gym 强化学习环境,2026-10-22 查看时有 94 个星标34。
论文摘要给出的速度:比植物自然生长快 25,000 倍33。模型怎么搭:
| 部分 | 怎么模拟 |
|---|---|
| 空间和时间 | 菜园切成 1 厘米见方的格子,一步是一天 |
| 光照 | 光从正上方照下。每个格子里最高的植物拿到全部光,第二高的拿一半,第三高的拿四分之一,依次减半 |
| 水 | 土壤湿度用 Richards 方程(描述水在土里渗透的方程)。每株植物只能从自己周围一圈吸水,邻居会抢 |
| 生长 | 按 S 形的逻辑斯蒂曲线长大,速度受光和水中较少的那个限制。发芽时间、成熟时间、生长速度等参数,来自对 120 株真实植物的观测 |
| 伴生关系 | 有的植物种在一起互相帮,有的互相害。2.0 版加了一个伴生系数,乘在生长速度上 |
| 生命周期 | 发芽、营养生长、开花结果、衰老、死亡五个阶段;缺水时植株半径按指数缩小 |
| 校准 | 用 FarmBot 的喷头和土壤湿度传感器实测,传感器每 30 分钟记一次;一天的土壤失水量建模为均值 0.042 立方米每立方米的正态分布 |
论文里的模拟菜园是 150 厘米乘 150 厘米,种 100 株,可选 13 种可食用植物,跑 100 天33。他们在模拟器里比了五种策略:
- 统一浇水:隔天全部浇一遍,像一排滴头。
- 固定修剪:按水分、植株健康和多样性,每天决定浇哪里、剪哪里,修剪比例固定。
- 可变修剪:每天在 6 档修剪比例里选一档,先在模拟器里往前算一天,看哪档结果最好。
- 学来的修剪:在 6,500 个随机菜园里跑可变修剪,收集 52 万个示范,训练一个神经网络模仿它,选档速度快 1,500 倍以上。
- 动态播种:菜园里出现空位就补种,能把菜园维持 200 天。
结果:每天浇水剪枝的策略比“隔天全浇”覆盖率和多样性都高。他们还改了观察方式,把挨得近的植物合并成一组看,固定修剪在覆盖率和多样性相当的情况下少用 37% 到 50% 的水33。
限制:期刊论文发表时,这些策略还没在真实菜园里试过,作者写明了这一点33。2023 年和园艺师对比的实验用上了它,那篇论文的作者也说,下一步主要是改进模拟器来进一步省水20。
这和课上讲的 Dex-Net 是同一个做法:真实数据少、采集慢,就先在模拟里生成大量样本训练,再拿到真实世界检验。Dex-Net 模拟的是抓取,AlphaGardenSim 模拟的是植物生长。
大田:看见杂草再动手
约翰迪尔的 See & Spray 2021 年推出。喷杆上的相机每秒扫 2,500 多平方英尺,看到杂草才开对应的喷头,不再整片喷22。
| 年份 | 使用面积 | 效果(公司数据) |
|---|---|---|
| 2024 | 100 多万英亩 | 除草剂平均少用 59% |
| 2025 | 500 多万英亩 | 非残留型除草剂平均少用近 50%,省下约 3,100 万加仑药液 |
收费方式按结果算:只对“没喷”的面积收费,休耕地每英亩 1 美元,作物地每英亩 5 美元;2026 年加了不限量的年度许可。2026 年 1 月发布第二代,4 月发布 See & Scout,用同一套相机在不喷药时也采集田间数据,画杂草分布图22。约翰迪尔的自动驾驶 8R 拖拉机带耕作机具可以无人作业,公司说 24 小时能整 325 英亩地23。
不用药的办法是用激光烧,代表公司是 Carbon Robotics,见下一小节。
视频See & Spray Gen 2 – The Next Generation Is Here | John Deere(YouTube,2026-02)
Carbon Robotics:激光除草
Carbon Robotics 2018 年在西雅图成立,创始人兼 CEO 是 Paul Mikesell。2022 年交付第一批机器36。做法:相机拍地面,AI 分清哪株是菜、哪株是草,激光对准草的生长点(分生组织)烧掉。不喷药,不翻土,死草留在地里38。Mikesell 说精度约 3 毫米,激光每 50 毫秒可以打一次38。
| 机型 | 形式 | 激光 | 速度(公司或媒体口径) |
|---|---|---|---|
| Autonomous Weeder,2021 | 自走式,4,300 公斤 | 8 支 150 瓦二氧化碳激光 | 每小时 10 万多株草,一天 15 到 20 英亩37 |
| LaserWeeder,2022 | 拖拉机牵引,宽 20 英尺,42 个相机 | 30 支 150 瓦二氧化碳激光 | 每小时约 2 英亩、20 万株草38 |
| LaserWeeder G2,2025-03 | 模块化,多种宽度,最宽 60 英尺 | 240 瓦半导体激光 | 宽 20 英尺的型号比第一代轻约 25%35 |
主要用在高价值的蔬菜田:菠菜、西兰花、胡萝卜、生菜、洋葱等,这些作物能用的除草剂少,以前靠人工拔草。最宽的 G2 1800 面向大型有机玉米和大豆农场35。
2026 年 2 月 2 日,公司发布“大植物模型”(Large Plant Model),用 1.5 亿株标注过的植物训练。机器每天把田间数据传回来更新模型。以前遇到新作物或新杂草要重新训练约 24 小时,现在农民在 iPad 上传两三张照片就能加一种作物。同一个模型也用在它的拖拉机自动驾驶套件上。公司说已经在 15 个国家的几百个农场使用,累计融资超过 1.85 亿美元36。2024 年 10 月的 D 轮融资 7,000 万美元,那一轮估值约 3.7 亿美元,投资方有英伟达旗下的 NVentures24。
账怎么算,有一份第三方案例。美国种植者协会 Western Growers 2024 年 3 月发布的案例研究,看的是加州蔬菜公司 Braga Fresh39:
| 项目 | 数字 |
|---|---|
| 买价 | 120 万美元 |
| 每年作业面积 | 2,350 英亩 |
| 折旧(5 年)摊到每英亩 | 102.13 美元 |
| 加上操作员、维修、拖拉机、油、运输,每英亩总成本 | 267.72 美元 |
| 以前人工拔草 | 3 个班组各 25 人,每英亩约 90 分钟、900 美元 |
| 用激光后仍要人工补拔 | 每英亩 12 到 15 分钟 |
| 案例结论 | 蔬菜农场除草成本降低约 40% |
同一份案例里,另一家 Triangle Farms 说部分作物增产 10% 到 15%。也有例外:长叶生菜因为还要间苗,用激光后每英亩成本反而更高39。公司自己的宣传是除草费用最多省 80%,两到三年回本,比案例高38。
和课上对照:激光不碰植物,绕开了抓取的三种误差,只要“看准”和“打准”。机队每天回传数据更新模型,和 Ambi 用看板收分拣数据是同一个做法。这两点是本页的对照,不是讲者原话。
视频Track LaserWeeder | Carbon Robotics(YouTube,2024-05);Carbon Robotics Introduces Faster, Lighter and Modular LaserWeeder G2 Product Line(YouTube,2025-02)
中国:无人机先铺开
农业无人机是目前铺得最开的农业机器人。它只做喷洒、播种、施肥,不用抓东西。
| 指标 | 数字 | 时间和来源 |
|---|---|---|
| DJI 农业无人机全球保有量 | 60 多万架 | 2025 年底,100 多个国家和地区,比一年前的 40 万架多 50%25 |
| DJI 2025 年全球出货 | 20 多万架 | 其中中国在用 32 万多架25 |
| 极飞(XAG)无人机收入 | 10.2 亿元 | 2025 年,占公司收入 87.6%26 |
| 极飞累计作业面积 | 约 1.86 亿公顷 | 70 多个国家和地区,2026 年 7 月公司口径26 |
极飞在新疆尉犁县有一个 3,000 亩的无人棉田,两个人管全场,2024 年平均亩产籽棉 529 公斤26。美国方面,联邦通信委员会 2025 年 12 月 22 日把外国产无人机列入受限清单,DJI、极飞的新设备拿不到美国认证,美国农民买新机变难25。
采摘:最难的一步
采摘要用手:果子软,被叶子挡住,熟没熟要看颜色,摘的时候不能捏坏。这正是课上讲的感知、控制、物理三种误差最集中的地方。
- Tortuga AgTech 做草莓和葡萄采摘机器人,车队有 150 台。2025 年 3 月,室内草莓农场 Oishii 买下它的核心知识产权和资产27。Oishii 在新泽西 23.75 万平方英尺的农场用约 50 台机器人,草莓种在架子上,环境比露天好控制。
- 以色列的 DailyRobotics 说它的草莓采摘机比人快 2 到 3 倍,计划 2026 年 4 月在加州商用28。是否如期上线待确认。
- 以色列 Tevel 用系绳的“飞行机器人”给果树摘果、疏果。2026 年的进展没有查到。
行业媒体的说法是,大多数采摘机器人还在试点,一部分选温室里的架上草莓,一部分直接做露天地28。
倒下的公司
全球农业和食品科技风险投资 2021 年接近 110 亿美元,之后降到约 60 亿美元29。几家融资上亿美元的公司倒闭:
| 公司 | 做什么 | 结局 |
|---|---|---|
| Monarch Tractor | 电动自动驾驶拖拉机,主攻葡萄园 | 融资 2.4 亿多美元,2024 年估值超过 5 亿美元。2025 年 11 月申报裁员,随后停业;有经销商起诉拖拉机做不到承诺的自动驾驶。卡特彼勒收购其核心技术30 |
| Bowery Farming | 室内垂直农场 | 最高估值 23 亿美元,融资 7 亿多美元,2024 年停止运营31 |
| AppHarvest | 大型自动化温室 | 融资 7 亿多美元,2023 年申请破产保护;破产前一年亏损 1.77 亿美元,销售额不到 1,500 万美元32 |
| Tortuga AgTech | 采摘机器人 | 2025 年资产卖给 Oishii27 |
同在 2025 年,法国除草机器人公司 Naïo 经过司法重整后重新开张,美国的 FarmWise 业务被蔬菜公司 Taylor Farms 收购29。
哪些做成了,哪些没有
下面是本页的归纳,不是讲者原话。
| 维度 | 做成的 | 没做成或还在试的 |
|---|---|---|
| 动作 | 喷、播、烧:开关一个喷头或激光 | 抓、摘、整台车全自动 |
| 例子 | 农业无人机、See & Spray、激光除草 | 采摘机器人、Monarch 拖拉机 |
| 卖法 | 按省下的药和面积收费,农民一季就能算清账 | 单台 10 万美元以上,表现不稳定,账算不过来 |
| 数据 | 每次作业都在拍照,部署越多数据越多 | 上量之前就耗尽了资金 |
这和课上的两个观点对得上:末端执行器越简单越可靠,两指夹爪、吸盘、喷头都是;数据从真实部署里来,See & Scout 用喷药相机采集数据,和 Ambi 用看板收集分拣数据是同一个做法。
背景:灵巧手
灵巧手是像人手一样有多根手指、多个关节、能在手里调整物体的机器人手。课上“灵巧”部分讲了它为什么难,他主张两指夹爪就够用十年。这一节补历史和 2026 年的进展。
为什么难
课上他给了三条:关节多就要电机多,每个电机都有小误差,误差一路累加,指尖到不了想去的位置;电机重,手臂力气都花在托手上;贵,一只 2 万到 10 万美元,还要两只。再加上感知、控制、物理三种不确定性都集中在指尖。他说中国有约 50 家公司在做五指手。他的判断是这些手现在“做不了什么”,简单的两指夹爪加好的控制能满足工业和家庭未来 10 年左右的大部分需要。
历史
- 斯坦福/JPL 手(又叫 Salisbury 手):三根独立控制的手指,带力反馈,常被称为第一只灵巧机器人手102。
- 犹他/MIT 灵巧手:三指加拇指,每个关节靠绳索(腱)经滑轮拉动,驱动器是放在手外的气动装置。早期的手每个任务都要手写控制器,又贵又易坏,只有少数实验室用得起102。
- 英国 Shadow 公司做出第一版 Shadow 灵巧手(木制)。后来的版本有 20 个主动自由度、4 个欠驱动关节,重 4.3 公斤,腱驱动;2000 年代和德国 DLR 手一起成为常用研究平台102。
- MIT Adelson 实验室的 GelSight 视觉触觉传感器:指尖里装相机,拍下软胶接触物体时的形变,估算形状和力104。
- OpenAI Dactyl:用 Shadow 手,在仿真里做强化学习,随机改变仿真参数(域随机化)让策略能迁移到真机;2018 年学会在手里转方块,2019 年单手还原魔方,用了数十亿步仿真103。
- Meta 发布触觉指尖 Digit 360,和 GelSight 合作量产,能感到 1 毫牛的力和 7 微米的细节,还能感知振动和温度;同时和韩国 Wonik 合作新一代带触觉的 Allegro 手104。
- 人形机器人带动灵巧手量产:特斯拉 Optimus V3 手、Sharpa Wave、灵心巧手(Linkerbot)、因时(Inspire Robots)等,见下文。
视频Solving Rubik’s Cube with a Robot Hand(YouTube,2019-10);Advancing robotics and touch perception | AI Research from Meta FAIR(YouTube,2024-10)
技术路线
| 问题 | 选项 | 取舍 |
|---|---|---|
| 电机放哪 | 电机装在手里直接驱动;或者装在前臂,用腱(绳索)拉手指 | 直接驱动控制简单、仿真和真机差距小,但手又大又重。腱驱动能做到人手大小,但腱在护套里有摩擦,手臂一动腱的长度会变,控制难106,107 |
| 几个自由度 | 从 6 个到 20 多个 | 自由度越多越像人手,电机、成本和出错点也越多。高端手多在 20 到 22 个 |
| 怎么感觉 | 视觉触觉(指尖里装相机,如 GelSight、Digit 360、Sharpa);或压力阵列 | 视觉触觉分辨率高,但占空间,课上他说难装进指尖;这几年在缩小 |
特斯拉 Optimus V3 手的专利是腱驱动的代表:手约 22 个自由度,每根手指 4 个,每根手指 3 根腱,驱动器从手里挪到前臂;早期版本把驱动器放在手里,马斯克说做出来的是“看着怪的大手”105。特斯拉管理层多次说手是 Optimus 最难的部件;媒体报道称它是量产中最难放大的部分48,105。
2026 年的产品和市场
| 公司 | 产品 | 数字 |
|---|---|---|
| 灵心巧手(Linkerbot) | 6 款,最高端 L30 约 21 个自由度 | 售价 6,666 元到 99,999 元;高工研究院说 2025 年出货 1 万多只,中国第二;路透报道月产近 5,000 只;2026 年 4 月 B+ 轮估值 30 亿美元,投资方有蚂蚁集团等;联合创始人说一对手的成本将来能降到约 500 元108 |
| 因时(Inspire Robots) | RH56 等系列,人形机器人厂商的常用选择 | 高工研究院说是中国出货第一;入门款约 2,700 美元108,109 |
| 智元 | OmniHand | 每只约 2,200 美元108 |
| Sharpa | Wave:22 个自由度,和人手 1:1 大小,每个指尖有相机和 1,000 多个触觉像素 | 指尖力最大 20 牛,控制频率 500 赫兹,重 1.3 公斤;进入英伟达 GR00T 参考人形机器人套件;有报道称约 5 万美元一只110 |
| 特斯拉 | Optimus V3 手 | 自用,不单独卖 |
市场规模:高工研究院预计 2026 年底中国灵巧手出货约 7 万只,比 2025 年增长近 300%,2030 年每年 43 万只108。价格:中国的手约 1,400 到 15,000 美元一只,同类西方产品 4.5 万到 30 万美元;京东上几十个品牌售价 445 到 14,800 美元108。这些数字来自研究机构和媒体,口径不一。
视频SharpaWave — Sharpa’s first product, a dexterous robotic hand(YouTube,2025-10)
数据和学习
- Dactyl 的路子是仿真里海量试错,代价是数十亿步仿真,只针对少数任务103。
- 2026 年的方向之一是学人的视频:手做得和人手运动学一致,就能直接从网上的人手视频里学。Sharpa 举的例子是伯克利 Jitendra Malik 实验室和英伟达 Jim Fan 团队的 EgoScale110;英伟达 GR00T N1.7 用了约 2 万小时的人类第一视角视频(见“背景:VLA 和智能体机器人”部分)。
- 另一个方向是把触觉加进 VLA,2026 年有多篇触觉-VLA 和触觉表征的论文110。
和课上观点对照
下面是本页的归纳。
- 价格:他说一只 2 万到 10 万美元。中国厂商 2026 年已经把价格压到几千美元,这一条在变;高端带触觉的手(如 Sharpa 约 5 万美元)仍在他说的范围内。
- 可靠性和控制:误差累加、腱的摩擦、触觉难装进指尖,这些他讲的问题,2026 年的产品和论文都还在解决。
- 出货量涨得快,主要买家是人形机器人厂商和研究机构;手能用多少、做成什么活,公开数据很少。这和他说的“当心视频”是同一个问题。
- 他的实验室选两指夹爪和吸盘,靠控制和数据把简单硬件用好,Ambi 就是这样做出来的。灵巧手路线押的是硬件先到位、数据和模型随后跟上。两条路谁对,要看未来几年灵巧手在真实工作里的成功率。
背景:ROS 2、Rust 和机器人软件
这一节是课外资料,课上没有讲 Rust。Rust 是一种系统编程语言,和 C、C++ 一样编译成机器码、跑得快,但编译器会在程序运行前拦下一大类内存和并发错误。机器人软件过去主要用 C++ 和 Python,最常用的开源框架是 ROS 2,下面先说它。
ROS 2 是什么
ROS 是 Robot Operating System(机器人操作系统)的缩写,但它不是操作系统。它是一套开源的软件库和工具,跑在 Linux 上(也支持 Windows 和 macOS),负责机器人各个部件之间的“管道”:相机、激光雷达、电机驱动、路径规划、抓取模型、安全检查,各自是一个小程序,ROS 提供它们互相传数据的标准方式,再加上大量现成的部件。没有它,每个团队都要从头写通信、驱动和工具79。
| 概念 | 是什么 | 例子 |
|---|---|---|
| 节点(node) | 做一件事的小程序 | 相机驱动、抓取规划器 |
| 话题(topic) | 有名字的数据流,节点往里发布或订阅 | 相机节点往 /camera/image 发图像,规划器订阅它 |
| 服务(service) | 一问一答 | “给这个物体算一个抓法”,返回抓取位置 |
| 动作(action) | 耗时的任务,中途报进度,可以取消 | “把手臂移到这个位置” |
| 参数(parameter) | 不用重新编译就能改的设置 | 速度上限、相机曝光 |
周边工具:RViz 显示机器人看到和规划的三维画面;Gazebo 是机器人仿真器;rosbag 录制和回放传感器数据;Nav2 做移动机器人导航;MoveIt 2 做机械臂运动规划。官方客户端库有 C++ 和 Python,现在加上 Rust(rclrs,见下文)79,72。
为什么有“2”:ROS 1 2007 年起源于湾区的机器人实验室 Willow Garage,是研究工具,有一个中央主控进程,没有内建安全机制,实时性弱,难以放进产品。ROS 2 是重新设计的版本,2017 年发布第一版,通信改用工业标准 DDS,去掉中央主控,加入安全、实时和多机器人、嵌入式支持79。最后一个 ROS 1 版本 Noetic 2025 年 5 月 31 日停止支持,新项目都用 ROS 280。ROS 2 每年 5 月发一个版本,每两年一个长期支持版:Humble(2022,支持到 2027)、Jazzy(2024,到 2029)、Lyrical(2026-05-22,到 2031)81。
和本页别处的关系:Goldberg 组的 GaP 生成的图最后输出能在 ROS 2 上跑的代码,所以能接进现有的机器人软件(见“背景:VLA 和智能体机器人”部分)。对它的主要批评是确定性:回调式设计让执行顺序不确定,DDS 还要复制和序列化数据,严格实时的电机控制有人因此换用 copper-rs(见下文)。很多硬件驱动只有 ROS 版本,这是它一直是默认选择的重要原因73,74。
为什么适合机器人
| 机器人的要求 | Rust 怎么对应 |
|---|---|
| 不能崩溃,不能被攻破 | 编译器检查内存使用,C/C++ 里常见的越界、悬空指针等错误编译不过。谷歌 Android 团队优先用 Rust 等内存安全语言写新代码后,内存安全漏洞占全部漏洞的比例从 2019 年的 76% 降到 2024 年预计的 24%,数量从 223 个降到不到 50 个;Rust 改动的回滚率不到 C++ 的一半。同期 Chromium 的严重安全漏洞里,内存安全问题约占 70%69 |
| 动作要准时 | 没有垃圾回收,不会突然停顿,延迟可预测。电机控制每几毫秒要算一次,迟了就抖 |
| 很多传感器同时跑 | 相机、激光雷达、关节编码器各占一个线程。Rust 的类型系统在编译时禁止数据竞争,多线程同时改一份数据的错误编译不过 |
| 跑在小芯片上 | 可以不带标准库(no_std)跑在单片机上。嵌入式框架 Embassy 把异步任务编译成状态机,不用动态内存,单个栈,官方说比传统实时操作系统更小更快70 |
| 要过安全认证 | Ferrous Systems 的 Ferrocene 编译器 2023 年由德国 TÜV SÜD 认证,是第一个通过资质认证的 Rust 编译器,覆盖汽车 ISO 26262(ASIL D)、工业 IEC 61508(SIL 3)、医疗器械 IEC 62304(C 类),开源71 |
生态进展
- ROS 2 官方支持:rclrs 是 ROS 2 的 Rust 客户端库,已进入 ROS 2 Rolling 版本,会随下一批正式版发布。项目 2017 年开始,有 51 位贡献者,来自强生、Intrinsic、Clearpath 等公司。ROS 2 原作者之一 Esteve Fernández 在 FOSDEM 2026 上介绍了它72。
- copper-rs:用 Rust 写的机器人运行时,2026 年 7 月 3 日发布第一个稳定版,设计重点是确定性:任务按固定顺序同步执行,任务之间传数据不复制。Codethink 2026 年 8 月用一台 18 自由度的六足机器人和 ROS 2 对比:ROS 2 的回调式设计执行顺序不确定,中间件还要复制和序列化数据73。
- dora-rs:用 Apache Arrow 和共享内存传数据,适合带 AI 模型、对实时性要求不那么严的机器人74。
- FOSDEM 2026 机器人分会场的总结说,ROS 2 仍是开源机器人的骨干,但 Rust 是一个意外的主题,连不讲 Rust 的报告里也常提到72。
局限
- Rust 不会取代 C++、Python、ROS 2、CUDA 和厂商的开发包,只在正确性和部署可靠性最重要的那几层变得实用74。
- 很多硬件驱动只有 ROS 版本,Rust 项目要靠和 ROS 2 的桥接才能用上74。
- 学起来难。编译器检查严,写出能编译的代码比写 C 或 Python 费劲。
- 没有查到哪家人形机器人公司公开说主控软件用 Rust。
Rust 和 AI 写代码
这和“背景:VLA 和智能体机器人”部分的智能体机器人有关:如果机器人程序越来越多由 AI 代理来写,语言本身能拦下多少错误就更重要。
- 支持的证据:2026 年的论文《Generative Compilation》在模型写代码的过程中就把 Rust 编译器的报错喂回去,在 7 个模型上测试,不能编译的输出减少,功能正确率提高75。一位工程师的说法是:代理写 Rust 第一遍不一定更好,但写错时编译器会准确告诉它错在哪、怎么改76。
- 反面的证据:把 C 翻译成 Rust 的研究发现,编译器拒绝时,模型常用 unsafe 块或裸指针让报错消失,绕过了 Rust 的安全保证;借用检查器的报错信息对通用模型也难懂77。
下面是本页的归纳:Rust 编译器和 NemoClaw 的沙箱是两层不同的约束,一个在程序运行前查代码,一个在运行时限权限。AI 代理写的程序要控制真实机器,两层都有用;但代理会用 unsafe 绕过检查,所以还要人或别的代理审查 unsafe 代码。
背景:机器人公司
这一节是课外资料,按做什么分四类。估值和出货量多数来自媒体报道和公司口径,取数日 2026-10-22。
做“大脑”的:机器人基础模型
这类公司不造机器人或不以造机器人为主,做的是让各种机器人都能用的通用模型,主流技术路线是视觉-语言-动作模型(VLA),见“背景:VLA 和智能体机器人”部分。
| 公司 | 是什么 | 钱和进展 |
|---|---|---|
| Physical Intelligence(π) | 2024 年在旧金山成立,联合创始人有伯克利的 Sergey Levine、斯坦福的 Chelsea Finn。模型叫 π0、π0.5、π0.7 | 2024-03 种子轮估值约 4 亿美元,2024-11 A 轮由贝索斯领投,2025-11 B 轮 6 亿美元、估值 56 亿美元。2026 年 3 月彭博报道在谈约 10 亿美元、估值超过 110 亿美元的新一轮,公司没有官宣。没有公开产品和收入41 |
| Skild AI | 匹兹堡,卡内基梅隆教授 Deepak Pathak 和 Abhinav Gupta 创办。做“全身型”模型 Skild Brain,一个模型控制不同形态的机器人,授权给硬件厂商 | 2026-01-14 完成约 14 亿美元 C 轮,软银领投,英伟达、贝索斯等参与,估值超过 140 亿美元,比 7 个月前的 B 轮高 3 倍多。CEO 说累计融资超过 20 亿美元42 |
| Google DeepMind | Gemini Robotics 系列,2025 年 3 月发布,6 月出了能在机器人本机运行的版本,10 月出 1.5 版 | 大公司内部项目。2026 年拿到第一批量产版波士顿动力 Atlas43,47 |
| 英伟达 | GR00T 系列开源人形机器人模型,2025 年 3 月发布 N1,2026 年到 N1.7;另有仿真平台和机器人芯片 | 卖芯片和平台;旗下 NVentures 投了 Skild、Carbon Robotics 等43 |
| Covariant | 伯克利教授 Pieter Abbeel 等人 2017 年创办,做仓库拣货的 AI | 累计融资 2.22 亿美元。2024 年 8 月亚马逊雇走三位创始人和约四分之一员工,并获得其模型的非独家授权。举报材料称交易金额约 3.8 亿美元,亚马逊未确认44 |
这条路线和 Goldberg 的看法相反。他认为 VLA 需要的数据太多、可靠性还不够工业用,主张让 AI 代理写结构化的机器人程序,见“背景:VLA 和智能体机器人”部分。2026 年一份西门子工厂的部署案例里,VLA 在实验室约 80% 成功率,工厂接受不了剩下的 20% 失败,失败中 65% 来自感知和物理问题45。
美国人形机器人
| 公司 | 产品 | 进展 |
|---|---|---|
| Figure AI | Figure 03,2025 年 10 月发布 | 2025 年 9 月 C 轮后估值 390 亿美元,收入未公开。Figure 02 在宝马斯帕坦堡工厂试了 11 个月;据报道之后有 40 台 Figure 03 在那里工作,宝马称仍是试点46 |
| 特斯拉 Optimus | V3 | 2026 年 7 月 22 日公司更新说 Fremont 产线还在安装,生产“预计今年晚些时候”开始;马斯克说起步会“平而长”。9 月有媒体报道周产量到几百台,公司未确认。对外销售目标 2027 年底48 |
| Agility Robotics | Digit,双足搬箱机器人 | 客户有 GXO、舍弗勒、丰田加拿大、亚马逊。按月租赁,不卖断。2026 年 9 月发布 Digit 5,正通过 SPAC 上市,代码 AGLT49 |
| Apptronik | Apollo,德州奥斯汀 | 2026 年 2 月 A 轮扩展 5.2 亿美元,A 轮合计超过 9.35 亿美元,估值约 53 亿美元;投资方有谷歌、奔驰、约翰迪尔50 |
| 波士顿动力 | Atlas,现代汽车控股 | 量产版 2026 年 1 月在 CES 发布,2026 年产量已全部分给现代和 Google DeepMind;计划 2028 年进现代美国工厂47 |
| 1X | NEO,家用人形机器人 | 2025 年 10 月开放预订,买断 2 万美元或每月 499 美元。2026 年 4 月开始量产交付早期用户。做家务时要有远程操作员通过摄像头看着51 |
1X 的做法正是课上说的“木偶”:机器人在家里干活,背后有人遥控,同时攒数据。区别是它向用户说明了这一点。
视频Introducing Figure 03(YouTube,2025-10);Helix 2.5 30-Home Generalization(YouTube,2026-09);NEO The Home Robot | Order Today(YouTube,2025-10);Optimus - Gen 2 | Tesla(YouTube,2023-12);Atlas | Product Features | Boston Dynamics(YouTube,2026-01);Unitree Introducing | Unitree H2 Destiny Awakening!🥳(YouTube,2025-10)
中国人形机器人
| 公司 | 进展 |
|---|---|
| 宇树(Unitree) | 杭州,创始人王兴兴。2025 年收入 17.08 亿元,增长 335%,毛利率 60.27%,扣非净利 6.0 亿元;海外收入占 43.65%。招股书称 2025 年人形机器人出货 5,500 多台,全球第一。2026 年 8 月 19 日在科创板上市,代码 688836,发行价 150.80 元,首日开盘涨 629%。2026 年上半年收入 11.5 亿元,增长 48.54%52。课上 Goldberg 开场放的就是宇树的视频,还说“他们刚上市” |
| 智元(AgiBot) | 上海。IDC 数据:2026 年上半年出货 8,600 多台人形机器人,全球第一,约占 35%;各家统计口径在 8,400 到 9,700 台之间。公司预计 2026 年收入约 40 亿元。7 月启动香港上市,目标估值 400 亿到 500 亿港元53 |
| 优必选(UBTech) | 深圳,已在港股上市。Walker S2 工业人形机器人,2025 年底交付 500 台,规划 2026 年产能 5,000 台53 |
课上他说中国有约 100 家公司在做人形机器人、约 50 家在做灵巧手。2026 年上半年全球人形机器人出货约 2.2 万到 2.5 万台,中国公司占大头53。
已经大规模用起来的
这些公司做的不是人形机器人,但已经在大量部署、在赚钱:
- 亚马逊:2025 年 7 月部署第 100 万台仓库机器人,分布在 300 多个站点;同时发布调度模型 DeepFleet,说能让机队快 10%54。
- Ambi Robotics:Goldberg 联合创办的包裹分拣公司,见“课堂笔记”部分课堂笔记的“电商”。
- Intuitive Surgical:手术机器人,2025 年营收 100.6 亿美元,见“背景:手术机器人和医疗科技”部分。
- DJI、极飞、约翰迪尔、Carbon Robotics:农业,见“背景:园艺和农业机器人”部分。
和伯克利的关系
这张名单上有好几家公司出自伯克利的同一圈人:Goldberg 创办 Ambi;和他一起办医疗机器人中心 Cal-MR 的 Pieter Abbeel 创办 Covariant,后来被亚马逊雇走;Physical Intelligence 的联合创始人 Sergey Levine 是伯克利教授。
怎么看这些数字
下面是本页的归纳,不是讲者原话。
- 估值最高的公司多数还没有公开收入:Figure 390 亿美元,Skild 140 亿美元以上,Physical Intelligence 在谈 110 亿美元。宇树是少数有利润、有出货、有公开财报的。
- 出货量的统计口径不一。智元上半年出货,三家机构给出 8,400 到 9,700 台,相差约 15%。
- “部署”和“试点”要分开看。宝马说 Figure 还是试点;1X 交付的 NEO 做家务要人远程看着。
- 按课上的方法看视频和新闻:试了几次?场景是不是摆好的?背后有没有人?
背景:机器人进家要多久
这一节收集 11 位机器人和 AI 领域人物 2025 到 2026 年的说法,取数日 2026-10-22。先说明“进家”有三种意思,说法差别大,常常是因为说的不是同一件事:
- 能买到:付钱就能送到家,哪怕背后有人遥控。
- 能自己干活:没人遥控,在没见过的家里可靠地做家务。
- 普及:比如一成家庭有。
各方说法
横向滑动可查看完整图解。
数据表
| 谁 | 年份 | 说法 |
|---|---|---|
| 黄仁勋 | 2026 | 人形机器人今年达到人类水平(非专指家庭) |
| 马斯克 | 2027 | Optimus 2027 年底对外销售 |
| 王兴兴 | 2027 到 2036 | 一两年内能收拾房间;10 年后每家一个小机器人 |
| Børnich | 2027 到 2030 | 2027 年自主;2030 年一成美国家庭 |
| Adcock | 2028 到 2029 | 2028 到 2029 年普遍能买到 |
| Levine | 2030 | 完全自主管家的中位数估计 |
| Hurst | 2036 | 约 10 年后在家里做有用的事 |
| Brooks | 2036 到 2042 | 2036 年后灵巧仍远不如人手 |
| Goldberg | 2046 | 进家大概 20 年 |
按给出的时间从近到远排。“身份”一栏写明他和这件事的利益关系。
| 谁 | 身份 | 说了什么 | 理由 |
|---|---|---|---|
| 黄仁勋 | 英伟达 CEO,卖机器人芯片和平台 | 2026 年 1 月 CES 上被问人形机器人多久达到人类水平,答“今年”;说机器人的“ChatGPT 时刻”要来了。他说的机器人先去补工业里招不到人的岗位,没有给进家的时间111 | “因为我知道技术进步有多快” |
| 王兴兴 | 宇树创始人,公司 2026 年 8 月上市 | 2026 年 10 月:顺利的话一两年内,机器人能听指令收拾房间;但他把家庭场景排在落地顺序的最后。2026 年 7 月对《时代》说:10 年后每家可能有一个小机器人,能洗衣、煎牛排、生病时提供基本照顾。2025 年他还说家用人形机器人“两三年内不会实现”112 | 大模型进步,比如下一代 GPT 可能直接解决具身智能的瓶颈。他的时间表一年里从“快则两三年、慢则五到十年”缩到“一两年” |
| Bernt Børnich | 1X CEO,卖家用机器人 NEO | 2026 年交付,先靠远程操作员;2025 年 11 月说约 2027 年完全自主,约 2030 年进入一成美国家庭。2025 年 3 月说当年进入几百到几千个家庭,没有兑现113 | 先进家、靠人遥控干活,同时攒家庭场景的数据,用数据换自主 |
| Brett Adcock | Figure CEO,估值 390 亿美元 | 2026 年在少数真实家庭里做 alpha 测试,2027 到 2028 年扩大试点,2028 到 2029 年量产、普遍能买到;说“不会卖半成品”。2026 年 9 月,Figure 的 Helix 2.5 在湾区 30 个没去过的家庭里做家务,成功率 56%114 | 自研模型 Helix 进步快 |
| 马斯克 | 特斯拉 CEO,Optimus | 先进工厂,再进家;对外销售目标 2027 年底;2026 年 5 月说 5 年内会有 1 亿到 10 亿台人形机器人;每台可低至 2 万美元111,115 | 特斯拉的制造能力;Optimus 将有“人类以上的灵巧”。截至 2026 年 7 月,Optimus 量产还没开始(见“背景:机器人公司”部分) |
| Sergey Levine | 伯克利教授,Physical Intelligence 联合创始人 | 2025 年 9 月:机器人能完全自主管家的中位数估计是 2030 年。2026 年 8 月:家庭这类非结构化场景“是个位数年,不是两位数年”,可能还要几年,“但大概不到十年”116 | 通用模型随数据和规模变强;先部署起来就能形成数据飞轮。但家庭的门槛更高,因为要足够安全 |
| Demis Hassabis | Google DeepMind CEO | 2025 年:未来几年机器人会有“突破时刻”,能看到人形或其他机器人开始做有用的事;但现有算法还要升级117 | 要真正理解物理世界;用 Genie 生成虚拟世界、让代理在里面学,可能解决数据瓶颈 |
| Jonathan Hurst | Agility Robotics 联合创始人,俄勒冈州立大学教授 | 大约 10 年后,机器人才会在人们家里真正做有用的事111 | 仓库机器人光是做到足够安全就花了好几年;通用需要“覆盖机器人可能做的所有事情的数据” |
| Ken Goldberg | 伯克利教授,本课讲者 | 课上被直接问到:机器人进家“大概 20 年”,可能更早;一年前他会说 30 年,智能体机器人改变了他的看法。近期先进后台和工厂。还说家用机器人演示多是遥控的“木偶”;文章里:攒够机器人数据要约 10 万年(“背景:先懂 5 个概念”部分) | 数据缺口;感知、控制、物理三种误差;视频会骗人 |
| Rodney Brooks | MIT 教授,iRobot(扫地机器人 Roomba)联合创始人 | 2026 年 1 月:可部署的灵巧程度“到 2036 年以后仍然远不如人手”;未来几年不会有可靠的家务机器人;距离人形机器人第一次赚钱的部署还有十年以上;不信 5 到 10 年内部署几亿台人形机器人118 | 只靠视频训练缺触觉和力觉;双足人形机器人摔倒时危险,他建议离全尺寸行走机器人 3 米以上;历史上所有实体技术的普及都慢 |
| Yann LeCun | 前 Meta 首席 AI 科学家,2026 年创办 AMI Labs | 说做人形机器人的公司没有一家“知道怎么让机器人聪明到有用”;他的公司做世界模型,想用在家庭、工厂、医院的机器人上111,119 | 只靠语言模型不够,要理解物理世界结构的模型 |
| Marc Raibert | 波士顿动力创始人 | “70% 的成功率就等于不能用。”111 | 家里的机器人要几乎每次都成功 |
分歧在哪
| 因素 | 乐观的看法 | 谨慎的看法 |
|---|---|---|
| 数据 | 部署起来就有数据飞轮;人的视频、仿真、虚拟世界能补(Levine、Hassabis、Børnich) | 机器人数据缺口巨大,视频缺触觉和力(Goldberg、Brooks、Hurst) |
| 可靠性 | 模型进步快,成功率会上来 | 家里要 99% 以上,现在最好的公开数字是 Figure 在陌生家庭的 56%(Raibert、Goldberg) |
| 安全 | 先在受控场景试,逐步放开 | 人形机器人重、会摔,靠近人和孩子风险大(Brooks、Hurst) |
| 灵巧 | 灵巧手已经量产、价格降到几千美元(见“背景:灵巧手”部分) | 手能装上,不等于会用(Brooks、Goldberg) |
| 过渡办法 | 先让人远程遥控,边干边学(1X) | 那是“木偶”,不能算机器人自己会了(Goldberg) |
怎么看这些说法
下面是本页的归纳。
- 时间表和利益相关:卖芯片、卖机器人、在融资的人给的时间最近(今年到 2030 年);研究者和老一辈机器人公司创始人给的最远(10 年以上)。Levine 是例外,他是教授也是创业者,给的是 2030 年左右。
- 说的不是一件事:1X 说的“2026 年进家”是能买到、有人遥控;Levine 说的 2030 年是完全自主;Brooks 说的是可靠、赚钱的部署。
- 时间表会挪:1X 2025 年进几千个家庭的承诺没兑现;特斯拉的 Optimus 量产一推再推;王兴兴的时间一年里从五到十年缩到一两年。Brooks 每年元旦公开给自己的预测打分,可以拿来对照。
- 可以盯的几个数字:Figure 在陌生家庭的成功率从 56% 涨到多少;1X 交付的 NEO 里,多少活不用人遥控;家用机器人的租金和售价。
视频清单
正文各处的视频链接汇总在这里,2026-10-22 逐个打开核对过标题和频道。YouTube 链接在国内需要能访问 YouTube;“网页内含视频”是项目主页,视频直接嵌在页面里。
说明:特斯拉官方 YouTube 上最新的 Optimus 视频仍是 2023 年 12 月的第二代,更新的片段多发在别的平台;没有找到 STITCH 2.0 的视频;约翰斯·霍普金斯那段是 2024 年的 Surgical Robot Transformer 演示。
课前读什么
| 顺序 | 内容 | 时长 | 为什么 |
|---|---|---|---|
| 1 | Berkeley News 访谈《Are we truly on the verge of the humanoid robot revolution?》,2025-08-274 | 10 分钟 | “讲者和课程”部分课的核心观点 |
| 2 | 搜一张“恐怖谷”曲线图,看两张 Telegarden 照片 | 3 分钟 | “课堂笔记”部分课的入口 |
| 3 | 回想周二 Google 参访讲的模型能力 | 2 分钟 | 对照:语言模型数据多,机器人数据少 |
课上可以问
- 数据缺口会先在哪个行业被补上:仓储、农业,还是医疗?
- 中国有大量人工遥控采集数据的工厂,这条路能把“十万年”缩短多少?
- 仿真数据和真实数据,现在各占多大作用?
- 艺术创作对他的工程研究有过什么具体影响?
- “增强灵巧”从缝合起步,下一个能交给机器人的手术子任务是什么?离 FDA 批准还有几年?
- Intuitive 资助他的实验室。达芬奇积累的手术视频和运动数据,学术界能用多少?
- AlphaGarden 两轮比赛少用 37% 和 44% 的水,但修剪和补种还靠人。这套方法离商用农场还差什么?
讲者和课程
“讲者和课程”部分课:2020 年代的 AI 与机器人
许多人担忧,人工智能的进步将导致大规模失业,甚至威胁人类的生存。Ken 教授将基于历史经验与科学研究,提出一种更为乐观的展望……在 2020 年代,新一代机器人将协助人类从事仓储、制造、农业及医疗保健等领域的工作。教授将通过图片与视频,展示机器人技术的最新进展,包括机器人如何学习抓取陌生物体、解开缠绕的线缆、照料多品种混作的园圃,以及操控手术针。课程手册第 19 页,节选
他的论证用了一个历史类比:1918 年大流感之后十年,电力和交通带来了经济繁荣;他认为 AI 和机器人在 2020 年代可能起同样的作用1。
“课堂笔记”部分课:未知智能,艺术与机器人
1918 年流感大流行后不久,“机器人”(robot)一词在一部戏剧中首次出现……Ken 教授将借鉴西格蒙德·弗洛伊德在 1919 年提出的“诡异感”(The Uncanny)概念,以及森政弘于 1970 年提出的“恐怖谷”(Uncanny Valley)理论……课程手册第 20 页,节选
那部戏剧是捷克作家恰佩克 1920 年的《R.U.R.》。课上会讲的作品:
| 作品 | 年份 | 是什么 |
|---|---|---|
| Telegarden | 1995–2004 | 机器人照料的真实花园,10 万多名网友通过互联网远程控制机器人种花 |
| AlphaGarden | 2020 至今 | 全自动园艺系统,新冠期间发展出现意外转折 |
| Breathless | 2023 | 机器人和人共舞 8 小时,首演于纽约 National Sawdust |
| Ancient Wisdom | 2024 | 木雕,讨论 AI 和生态,在盖蒂博物馆的 Pacific Standard Time 展出 |
听课时带着的三个问题
按手册的“风险、机遇、应用”三条1:
- 风险:人形机器人的投资热,和他说的“十万年”之间,差距在哪里?谁会先亏钱?
- 机遇:哪类工作最先被机器人做得“够可靠、能赚钱”?仓储、农业、医疗,顺序是什么?
- 应用:你的业务里,哪一段是重复、标准化、有大量数据的,可以先交给机器人或 AI?
方法与来源
图文版说明:照片多数来自维基共享资源(各图注明作者和许可),论文图来自 arXiv 上的论文(GaP、RoboSimStudio、LIBERO 为 CC BY 4.0,AlphaGarden 为 arXiv 默认许可);Ambi、Carbon Robotics 的图来自公司官网,版权归公司,仅供个人学习笔记使用,不要公开转发;Dex-Net 图来自项目主页,未注明许可。示意图为本页自绘,恐怖谷曲线按原理重画、形状为示意。图片都已压缩后内嵌在文件里,单文件可离线打开;视频需要联网。课程简介、讲者履历、时间和教室来自课程手册第 8、9、19、20 页。数据缺口和 Ambi 的数字来自 2025 年的《Science Robotics》文章和 2026 年的网络报道,2026-10-21 检索。“课堂笔记”部分课堂笔记按讲者的六部分结构整理,依据两段飞书妙记自动转写,2026-10-22 读取。“背景:VLA 和智能体机器人”部分智能体机器人的背景取自 2026 年 9 月的 AIhub 采访;VLA 部分取自 arXiv 论文和课程讲义,成功率数字有一部分来自二手博客,只作参考;“两条路线对照”是本页的归纳。LIBERO 和 LIBERO-PRO 的情况取自原论文和综述;GaP、RoboSimStudio 和 RATs 的数字取自论文第一版正文,未经同行评审。NemoClaw 的情况取自英伟达新闻稿、官方文档和技术博客。“最新进展”和“主要的实验室和公司”2026-10-22 检索,主要依据 arXiv 论文的作者和摘要;“最优秀”是本页按论文产出做的判断,不是公认排名;部分作者的机构没有在论文页面核实。“背景:ROS 2、Rust 和机器人软件”部分 Rust 2026-10-22 检索:Android 数据取自谷歌安全博客的报道;Ferrocene 的 IEC 61508 等级各处说法不一(SIL 3 或 SIL 4),本页用厂商产品页的 SIL 3;“Rust 和 AI 写代码”的最后一段是本页的归纳;常被引用的“微软约 70% 漏洞是内存安全问题”没有找到可引用的原始出处,没有写入。“背景:机器人进家要多久”部分“机器人进家要多久”2026-10-22 检索:多数说法来自媒体报道和访谈转述,个别(如 LeCun 公司的时间表)来自二手博客,只作参考;“怎么看这些说法”是本页的归纳。“背景:灵巧手”部分灵巧手 2026-10-22 检索:历史取自综述文章和原始论文,市场和价格来自高工研究院(经福布斯转述)和第三方汇总,口径不一;特斯拉手的细节来自专利报道;“和课上观点对照”是本页的归纳。“背景:AUTOLab 实验室”部分 AUTOLab 2026-10-22 检索:人数取自官网成员页,毕业生名单和奖项取自 Goldberg 的简历,校友去向只写了能在公开页面核实的几位;Ambi 成立年份两处说法不一。“背景:Ambi Robotics”部分 Ambi 2026-10-22 检索:融资取自公司新闻稿和 The Robot Report,产品和大事记取自公司新闻稿和行业媒体,人数取自 Tracxn;“怎么看 Ambi”是本页的归纳。ROS 2 的概念和历史取自 ROS 官方文档和维基百科,官方文档页面检索时被防爬虫页面拦住,没有逐字核对;Lyrical 版本信息来自第三方汇总。“背景:机器人公司”部分机器人公司 2026-10-22 检索:融资和估值多来自彭博、TechCrunch、CNBC 等报道,Figure、智元的部署和出货数字部分来自第三方追踪网站,宇树财务来自招股书的媒体转述,没有逐条核对原始文件;“怎么看这些数字”是本页的归纳,2026-10-22 读取,录音 92 分 39 秒,人名按上下文校正,讲者口述的数字只核对了表中几项。“背景:手术机器人和医疗科技”部分手术机器人部分 2026-10-22 检索:Intuitive 的数字取自 SEC 披露的年报和季报;各家 FDA 许可取自公司新闻稿和行业媒体;图迈的订单和收入是公司自报;Mako 装机数取自行业媒体,没有核对史赛克年报原文;约 80% 的市场份额是行业媒体的估计。“背景:园艺和农业机器人”部分农业部分 2026-10-22 检索:AlphaGarden 数字取自两篇论文摘要;AlphaGardenSim 的模型细节取自 2022 年期刊论文正文,GitHub 星标数是 2026-10-22 查看的;约翰迪尔、DJI、极飞的数字是公司自报;Carbon Robotics 的机型参数和“大植物模型”来自公司公告和媒体转述,各代速度的口径不一;成本数字取自 Western Growers 案例研究;DailyRobotics 是否在 2026 年 4 月上线没有查到;“哪些做成了”一表是本页的归纳。六级自主表按 Yang 等人 2017 年的分级转述,“例子”一列是本页的对应,不是原文。《R.U.R.》、Dex-Net、恐怖谷曲线形状是常识性背景,没有逐条核对。“可以问”的问题都是建议,不是讲者说过的话。
- 课程手册,《新国大EMBA第34班伯克利学段课程手册102026 - A班.pdf》,第 3、8、9、19、20 页
- 2025 NSF FRR-NRI Annual Meeting,Goldberg 简介,nrifrr-mtg25.org;Tech Xplore,The '100,000-year data gap',techxplore.com
- Goldberg,Good old-fashioned engineering can close the 100,000-year “data gap” in robotics,Science Robotics 10(105),2025-08-27,pubmed.ncbi.nlm.nih.gov
- Berkeley News,Are we truly on the verge of the humanoid robot revolution?,2025-08-27,news.berkeley.edu
- 飞书妙记,Robotics and Physical AI Analysis,2026-10-22 录音,feishu.cn
- Cal-MR: Center for Automation and Learning for Medical Robotics,cal-mr.berkeley.edu
- Intuitive Surgical,2025 年 10-K 年报及第四季度业绩公告,sec.gov;isrg.intuitive.com
- Intuitive Surgical,第三季度业绩公告,2026-10-20,sec.gov
- Medtronic,FDA clearance of Hugo for urologic procedures,2025-12-03,news.medtronic.com;510(k) filings for general and gynecologic,2026-06-03,news.medtronic.com
- Johnson & Johnson,FDA market authorization for OTTAVA,2026-07-22,jnj.com;MDDI,J&J's OTTAVA wins FDA nod,mddionline.com
- CMR Surgical,FDA Marketing Authorization for Versius,2024-10-15,us.cmrsurgical.com;MedTech Dive,CMR gains FDA clearance for Versius Plus,medtechdive.com
- MicroPort,Toumai surpasses 300 global commercial orders,2026-06,microport.com;MicroPort MedBot 新闻中心,medbotsurgical.com;TechRadar,Toumai wins EU approval,techradar.com
- MedTech Insight,Stryker taps ASCs with Mako RPS as Mako 4 drives record robot installations,insights.citeline.com
- Yang、Cambias、Cleary 等,Medical robotics: regulatory, ethical, and legal considerations for increasing levels of autonomy,Science Robotics 2(4),2017,eaam8638
- Sen、Garg、Gealy、McKinley、Jen、Goldberg,Automating Multi-Throw Multilateral Surgical Suturing with a Mechanical Needle Guide,ICRA 2016,goldberg.berkeley.edu
- Johns Hopkins Hub,Robot performs first realistic surgery without human help,2025-07-09,hub.jhu.edu;webiano,What the Johns Hopkins autonomous surgery result proved and where it stops,webiano.digital
- MIT Technology Review,Watch this robot as it learns to stitch up wounds,2024-02-22,technologyreview.com
- Goldberg、Guthart,Augmented dexterity: How robots can enhance human surgical skills,Science Robotics 9(95),2024-10-30,autolab.berkeley.edu;STITCH 2.0,arxiv.org;Surgical D-Knot,IROS 2025,autolab.berkeley.edu
- Presten 等,AlphaGarden: Learning to Autonomously Tend a Polyculture Garden,arXiv:2111.06014,2021,arxiv.org
- Adebola、Parikh 等,Can Machines Garden? Systematically Comparing the AlphaGarden vs. Professional Horticulturalists,arXiv:2306.17162,2023,arxiv.org
- UC Berkeley IEOR,Ken Goldberg investigates robot-assisted precision irrigation,ieor.berkeley.edu;UC Merced,Robots and People Working Together to Save Water,2016,engineering.ucmerced.edu
- Precision Farming Dealer,Farmers Use John Deere See & Spray Across 5 Million Acres in 2025,precisionfarmingdealer.com;DTN,John Deere Rolls Out Upgrades for See & Spray,2026-01-22,dtnpf.com;AgNavigator,John Deere reveals See & Scout,2026-04-23,agnavigator.com
- John Deere,Technology and Innovation,deere.com
- The Robot Report,Carbon Robotics brings in $70M to scale LaserWeeder,2024-10,therobotreport.com;GeekWire,Carbon Robotics raises $70M,geekwire.com
- DroneXL,DJI Agricultural Drone Fleet Hits 600,000,2026-04-30,dronexl.co;新华社,DJI Agriculture reports strong 2025 performance,2025-11-19,english.news.cn
- TechNode,Beyond the Drone: How XAG Is Betting on Autonomous Farming,2026-10-02,technode.com;China Daily,Chinese agricultural drone maker unveils new robots,2026-07-07,chinadaily.com.cn
- New AG International,Oishii acquires Tortuga AgTech's intellectual property and assets,2025-03,newaginternational.com
- AgFunderNews,DailyRobotics enters strawberry harvesting race,agfundernews.com
- AgFunderNews,A look back at agtech in 2025,agfundernews.com
- Future Farming,Caterpillar acquires Monarch tech after autonomous tractor startup collapses,futurefarming.com;Futurism,AI-Powered Tractor Startup Burns Through a Quarter Billion Dollars,futurism.com
- PitchBook,Bowery, once a leading indoor farming company valued at $2.3B, shuts down,pitchbook.com
- Crunchbase News,Vertical Farming Venture Capital Has Dried Up,news.crunchbase.com
- Avigal、Wong、Presten 等,Simulating Polyculture Farming to Learn Automation Policies for Plant Diversity and Precision Irrigation,IEEE Transactions on Automation Science and Engineering 19(3),2022,DOI 10.1109/TASE.2021.3138995,autolab.berkeley.edu;escholarship.org
- BerkeleyAutomation/AlphaGarden,GitHub 代码仓库,github.com
- Future Farming,Carbon Robotics introduces faster and lighter LaserWeeder G2,2025-03-17,futurefarming.com;Carbon Robotics,LaserWeeder G2,carbonrobotics.com
- TechCrunch,Carbon Robotics built an AI model that detects and identifies plants,2026-02-02,techcrunch.com;New AG International,Carbon Robotics unveils Large Plant Model,newaginternational.com
- New Atlas,Autonomous Weeder robot uses lasers to take out 100,000 plants an hour,2021,newatlas.com
- Freethink,Farming robot kills 200,000 weeds per hour with lasers,freethink.com;Power Progress,Carbon Robotics' laser-wielding robot weeders,powerprogress.com;Carbon Robotics,Laser Weeding Results,carbonrobotics.com
- Western Growers,Center for Innovation & Technology Case Study: Carbon Robotics,2024-03,wga.s3.us-west-1.amazonaws.com
- AIhub,Combining cultures, from code to canvas: an interview with Ken Goldberg,2026-09-01,aihub.org
- TechCrunch,Physical Intelligence is reportedly in talks to raise $1B, again,2026-03-27,techcrunch.com;Bloomberg,Ex-DeepMind Staffers' Robotics Startup in Talks for $11 Billion Valuation,bloomberg.com;Wikipedia,Physical Intelligence Inc.,en.wikipedia.org
- TechCrunch,Robotic software maker Skild AI hits $14B valuation,2026-01-14,techcrunch.com;Humanoids Daily,Skild AI secures $1.4 billion Series C,humanoidsdaily.com
- Wikipedia,Gemini Robotics,en.wikipedia.org;awesome-vision-language-action,GitHub,github.com
- GeekWire,Amazon hires Covariant founders, inks licensing deal,2024,geekwire.com;Wikipedia,Covariant (company),en.wikipedia.org
- Zhu 等,A Factory-Floor Deployment Case Study of VLA Pipelines for Industrial Packaging Task,arXiv:2605.27461,2026,arxiv.org;alphaXiv 概述,alphaxiv.org
- Wikipedia,Figure AI,en.wikipedia.org;iFactory,Figure 03 at BMW Spartanburg case study,ifactoryapp.com
- Boston Dynamics,Boston Dynamics Unveils New Atlas Robot,2026-01,bostondynamics.com;Forbes,Boston Dynamics Atlas Robot That Beat Tesla To The Factory Floor,2026-01-19,forbes.com
- Tesla,2026 年第二季度股东更新(8-K),sec.gov;Electrek,Tesla pushes Optimus V3 reveal later this year,2026-04-22,electrek.co
- Agility Robotics,Agility Unveils Digit 5,agilityrobotics.com;GlobeNewswire,Agility Robotics Expands Pittsburgh Presence,2026-10-21,globenewswire.com
- CNBC,Apptronik raises $520 million,2026-02-11,cnbc.com;TechCrunch,Apptronik has now raised $935M at a $5B valuation,techcrunch.com
- Robotics 24/7,1X announces NEO pre-order details,robotics247.com;Humanoids Daily,1X details NEO's human-in-the-loop strategy,humanoidsdaily.com;Startup Fortune,1X starts delivering its $20,000 Neo home robot,startupfortune.com
- 财新,Unitree Fast-Tracks Shanghai IPO,2026-05-26,caixinglobal.com;Global Times,Unitree Robotics kicks off STAR market IPO pricing,2026-08,globaltimes.cn;BigGo Finance,Unitree soars 629% on STAR Market debut,finance.biggo.com;Robotopian,Unitree IPO 2026: Financials,robotopian.com
- Robotics & Automation News,IDC data shows Agibot led global humanoid robot shipments in H1 2026,2026-10-02,roboticsandautomationnews.com;Next Move,Humanoid Robots: Announced vs. Shipped Units,nextmsc.com;Crypto Briefing,AgiBot kicks off Hong Kong IPO process,cryptobriefing.com
- TechCrunch,Amazon deploys its 1 millionth robot, releases generative AI model,2025-07-01,techcrunch.com
- Georgia Tech CS7643,Spring 2026,Modern Vision-Language-Action Models(讲义),faculty.cc.gatech.edu
- Transferring Vision-Language-Action Models to Industry Applications: Architectures, Performance, and Challenges,arXiv:2509.23121,arxiv.org
- RobotWale,Vision-Language-Action Models: From Research Benchmarks to Deployed Arms,robotwale.com
- How VLAs (Really) Work In Open-World Environments,arXiv:2604.21192,arxiv.org
- Robot foundation models / VLA: the “ChatGPT moment for robotics” claim versus what the benchmarks actually measure,2026-07-17,uthandonethemba.com
- Vision Language Action (VLA) Models for Unmanned Aerial Robotics and Bimanual Manipulation: A Review,arXiv:2607.06706,arxiv.org
- Liu、Zhu、Gao、Feng、Liu、Zhu、Stone,LIBERO: Benchmarking Knowledge Transfer for Lifelong Robot Learning,NeurIPS 2023 Datasets and Benchmarks,arXiv:2306.03310,papers.neurips.cc
- Parallels Between VLA Model Post-Training and Human Motor Learning: Progress, Challenges, and Trends,arXiv:2506.20966,2025,arxiv.org;Emergent Mind,LIBERO Benchmark,emergentmind.com
- Zhou 等,LIBERO-PRO: Towards Robust and Fair Evaluation of Vision-Language-Action Models Beyond Memorization,arXiv:2510.03827,2025,arxiv.org
- Zhang、Ge 等(含 Goldberg、Darrell、Stoica、Kanazawa),Playful Agentic Robot Learning,arXiv:2606.19419,2026-06-17,arxiv.org
- NVIDIA Newsroom,NVIDIA Announces NemoClaw for the OpenClaw Community,2026-03-16,nvidianews.nvidia.com
- NVIDIA,NemoClaw Developer Guide,docs.nvidia.com;GitHub,NVIDIA/NemoClaw,github.com;NVIDIA,NemoClaw 产品页,nvidia.com
- NVIDIA Technical Blog,How to Use AI Agents to Prepare 3D Scenes for Simulation,2026-09-16,developer.nvidia.com
- Seeed Studio Wiki,Control reBot Arm with NemoClaw on NVIDIA Jetson Thor,wiki.seeedstudio.com
- BleepingComputer,Google sees 68% drop in Android memory safety flaws over 5 years,2024-09,bleepingcomputer.com;The Register,Google's Rust belts bugs out of Android,2024-09-25,theregister.com
- Embassy,embassy.dev
- Ferrous Systems,Officially Qualified - Ferrocene,ferrous-systems.com;Ferrous Systems,Ferrocene 产品页,ferrous-systems.com
- FOSDEM 2026,Introducing rclrs: the official ROS 2 client library for Rust,archive.fosdem.org;FOSDEM Robotics Dev Room Summary,mikelikesrobots.github.io
- Codethink,Real-Time Performance Optimisations for Multi-Axis Robotic Systems using copper-rs,2026,codethink.co.uk;FOSDEM 2026,Why Copper-rs is a game changer,archive.fosdem.org
- Rust 论坛,I was tired of ROS2, so I rewrote it in Rust,users.rust-lang.org;Medium,Rust Is Moving Into Robotics And the Crates Are Getting Interesting,2026-08,medium.com
- Generative Compilation: On-the-Fly Compiler Feedback as AI Generates Code,arXiv:2607.13921,2026,arxiv.org
- Marc Love,How Rust's Compiler Catches What Coding Agents Get Wrong,2025-12-13,marclove.com
- AdaTrans: Automated C to Rust Transformation via Error-Adaptive Repair,arXiv:2606.31706,2026,arxiv.org
- Chen、Xie、Fu 等(含 Linxi Fan、Yuke Zhu、Goldberg),GaP: A Graph-as-Policy Multi-Agent Self-Learning Harness For Variational Automation Tasks,arXiv:2607.05369,2026-07-06,arxiv.org;项目页,graph-robots.github.io
- ROS 2 官方文档,Concepts,docs.ros.org;Wikipedia,Robot Operating System,en.wikipedia.org
- Open Robotics Discourse,ROS Noetic End-of-Life: May 31, 2025,discourse.openrobotics.org;Ubuntu Blog,ROS Noetic is EOL,ubuntu.com
- endoflife.date,ROS,endoflife.date;ROS 2 Jazzy vs Humble vs Lyrical,2026-05,robocloud-dashboard.vercel.app
- Chen、Xie、Yoo 等(含 Coumans、Macklin、Goldberg),RoboSimStudio: An Interactive Toolkit for Rapid Real2Sim of Robot Manipulation Tasks,arXiv:2610.18835,2026-10,arxiv.org;项目页,robosimstudio.github.io;GitHub,github.com
- Ken Goldberg,X 帖子,2026-10,x.com
- Berkeley AUTOLab 官网,autolab.berkeley.edu
- Berkeley AUTOLab,People,autolab.berkeley.edu
- Berkeley Engineering,The art of grasping,2026-05-11,engineering.berkeley.edu
- Ken Goldberg,Curriculum Vitae,goldberg.berkeley.edu;Ken Goldberg: Students,goldberg.berkeley.edu
- EECS at Berkeley,EECS researchers win Best Robot Learning Paper Award at IEEE ICRA 2025,eecs.berkeley.edu
- Kerr、Kim、Goldberg、Kanazawa、Tancik,LERF: Language Embedded Radiance Fields,ICCV 2023,arXiv:2303.09553,arxiv.org
- Jacobi Robotics,Company,jacobirobotics.com;Michael Danielczuk 个人主页,mjd3.github.io
- Georgia Tech,Animesh Garg,people.research.gatech.edu;Jeffrey Ichnowski 个人主页,ichnow.ski
- Business Wire,Ambi Robotics Announces $26 Million Series A Funding Led By Tiger Global,2021-09-14,businesswire.com;Built In SF,Ambi Robotics Pulled in $32M,builtinsf.com
- The Robot Report,Ambi Robotics raises $32M for sorting robots,2022-10,therobotreport.com;Ambi Robotics,Ambi Robotics Secures $32 Million,ambirobotics.com
- Ambi Robotics,新闻稿列表,ambirobotics.com;Automated Warehouse,Ambi Robotics launches AI Skill Suite, powered by AmbiOS,2026-02,automatedwarehouseonline.com;Automated Warehouse,Pitney Bowes amps up e-commerce operations with Ambi Robotics,automatedwarehouseonline.com;Pitney Bowes,Ambi Robotics Expands Partnership to Automate Middle Mile Sorting,2023,s24.q4cdn.com
- Tracxn,Ambi Robotics 2026 Company Profile,tracxn.com
- Fu、Yu、El-Refai 等(含李飞飞、Goldberg),CaP-X: A Framework for Benchmarking and Improving Coding Agents for Robot Manipulation,ICML 2026,arXiv:2603.22435,arxiv.org;GitHub,github.com
- Xiao、Xie 等(含 Sastry、Goldberg、Fan、Zhu、Shi),ENPIRE: Agentic Robot Policy Self-Improvement in the Real World,CoRL 2026,arXiv:2606.19980,arxiv.org
- Lu、Wu 等(含 Shi、Goldberg、Zhu、Fan、Wang),ASPIRE: Agentic Skills Discovery for Robotics,arXiv:2607.00272,arxiv.org
- Jia、Lin 等,Agent as Policy for Robotic Manipulation,arXiv:2609.12541,2026-09,arxiv.org
- Qin、Wu 等(林达华、姜育刚、岳翔宇指导),Towards Agentic Robots: Model, Data, Environment, and Harness,arXiv:2610.20442,2026-10,arxiv.org
- Anthropic,How Claude performs on robotics tasks(Claude Plays Robotics),2026-07-09,anthropic.com;Anthropic,Project Fetch: Can Claude train a robot dog?,anthropic.com
- Wevolver,Dexterous Robotic Hands Part 1: History, Technology, and Applications,wevolver.com;Wevolver,Part 2: the Shadow Dexterous Hand,wevolver.com
- OpenAI(Akkaya 等),Solving Rubik's Cube with a Robot Hand,arXiv:1910.07113,2019,arxiv.org
- TechCrunch,Meta is making a robot hand that can 'feel' touch,2024-10-31,techcrunch.com;Yuan、Dong、Adelson,GelSight: High-resolution robot tactile sensors for estimating geometry and force,Sensors,2017
- Teslarati,Tesla Optimus V3 hand and arm details revealed in new patents,2026-04,teslarati.com
- Humanoid.guide,Tendon-Driven Humanoid Hands,humanoid.guide;Core Matter,What Tesla and Figure Reveal About Robot Hands,corematter.substack.com
- MM-Hand: A 21-DOF Multi-modal Modular Dexterous Robotic Hand with Remote Actuation,arXiv:2604.17245,arxiv.org
- Forbes,Meet The $3 Billion Chinese Startup Solving Elon Musk's Robotic Hands Problem,2026-08-24,forbes.com;China Humanoid Robotics Tracker,The State of Robot Hands in China,robotics.techbuzzchina.com
- SourceBotics,Chinese Dexterous Robotic Hands in 2026: Buyer's Guide,sourcebotics.com
- CNX Software,Sharpa Wave is a high-end dexterous robotic hand with 22 DoF,2026-06-02,cnx-software.com;Robotics & Automation News,Interview with Sharpa's Alicia Veneziani,2026-06-22,roboticsandautomationnews.com;FELT: Generating Tactile Signals from Vision for Visuo-Tactile Manipulation,arXiv:2607.20683,arxiv.org
- MIT Technology Review,Jamie Condliffe,AI breakthroughs in robotics won't change your life any time soon,2026-10-08,technologyreview.com;TechSpot,Jensen Huang is calling it: Human-like robots arrive in 2026,techspot.com
- 36Kr,Wang Xingxing's Latest Prediction: Embodied Intelligence Inflection Point to Arrive Within 1-2 Years,2026-10,36kr.com;TIME,China's Unitree Robotics Is Leading the Humanoid Revolution,2026-07-23,time.com;SCMP,Unitree to focus on industrial models before household aides,2025,scmp.com
- Humanoids Daily,1X CEO Bernt Børnich Predicts "Hard Takeoff" in 3 Years,humanoidsdaily.com;Forbes,1X Kicks Off Full-Scale Production Of Humanoid Robot Neo,2026-04-30,forbes.com;Wikipedia,Bernt Øivind Børnich,en.wikipedia.org
- TIME,Figure 03 Is The Robot in Your Kitchen,time.com;Metatrends,Figure's General Purpose Robot: Why 2026 Changes Everything,metatrends.substack.com;Humanoids Daily,Figure's Aggressive 2026 Roadmap,humanoidsdaily.com
- RobotsBeat,Elon Musk Predicts 100 Million Humanoid Robots in Next 5 Years,robotsbeat.com
- Dwarkesh Podcast,Sergey Levine: Fully autonomous robots are much closer than you think,2025-09,dwarkesh.com;Developing.dev,Sergey Levine: Current State of Humanoid Robotics, China & Future Predictions,2026-08,developing.dev
- CBS News,60 Minutes:Demis Hassabis 访谈,cbsnews.com;Humanoids Daily,Demis Hassabis: World Models and 'Infinite Training Loops',humanoidsdaily.com
- Rodney Brooks,Predictions Scorecard, 2026 January 01,rodneybrooks.com;TechCrunch,Famed roboticist says humanoid robot bubble is doomed to burst,2025-09-26,techcrunch.com
- TechCrunch,Yann LeCun's AMI Labs raises $1.03 billion to build world models,2026-03-09,techcrunch.com;HPCwire,Yann LeCun's AMI Secures $1B Seed to Develop AI World Models,hpcwire.com
- Ken Goldberg,X 账号 @Ken_Goldberg,x.com;X 帖子,x.com;LinkedIn,linkedin.com;alphaXiv,alphaxiv.org
- 飞书妙记,Robot Tech Discussion(课间之后),2026-10-22 录音,feishu.cn
- 2026-10-25 核对讲者主页。新增名词解释依据本页课程内容。Goldberg:个人主页。