卡马克与Sutton联手打造机械手,让AI在真实世界打Atari游戏
由约翰·卡马克领导的Keen Technologies联合阿尔伯塔大学等机构发布论文,推出名为Physical Atari的系统。该系统通过一只成本低于1000美元的机械手,在真实物理环境中操作Atari摇杆,让强化学习算法直接通过摄像头观看屏幕并学习打游戏。在六款游戏上累计145小时的无人工干预实验中,系统展现了算法在真实世界持续自学的可行性。
2026年初,成都一商场内人形机器人与老人发生碰撞致其受伤,再次暴露了机器人在不可预测的真实世界中面临的可靠性挑战。实验室里的流畅演示,一旦进入现实,往往状况不断。这背后是一个更深层的技术难题:让AI在模拟器里学会一件事,和让它在真实世界里稳定执行,是完全不同的两关,模拟与现实的微小差异就可能导致训练好的策略失灵。
就在行业为“能否站稳”反复交学费时,由传奇程序员约翰·卡马克领导的Keen Technologies,联合阿尔伯塔大学和Openmind研究所的研究者发表了一篇论文,试图从一个更基础的角度回应这个问题:能否让强化学习算法在真实世界里,长时间不间断地自主学习,而无需人类照看。为此,他们造了一套名为Physical Atari的系统,专门用来打Atari游戏。
Atari游戏在AI领域并不陌生,但此前所有经典算法的测试均在模拟器中进行,游戏世界会等待算法做出决策。论文将真实世界“世界不会等你”的设定称为“实时强化学习”,这正是机器人面临的真实处境。目前机器人训练主要有三条路径:在模拟器训练后迁移到真机、通过人类远程操控采集数据离线训练,以及让机器人在真实世界边干边学。第三条路省去了建模拟器和采数据的成本,也从根本上避免了模拟与现实的差异问题,但代价是需要一台足够耐用、便宜且能支撑数周高强度运转的机器人。Physical Atari正是为填补这一空白而生。
该团队第一作者是Keen Technologies的研究科学家Khurram Javed,作者名单中还包括卡马克与强化学习奠基人之一、阿尔伯塔大学教授理查德·萨顿。卡马克是id Software联合创始人,主导开发了《毁灭战士》等划时代游戏,后加入Oculus担任CTO。2022年他创立Keen Technologies瞄准通用人工智能,次年邀请萨顿加入。Physical Atari正是他们“让智能体在现实中学习”理念的具体落地。
整套系统由两个核心部件构成:一个名为Atari Devbox的设备,本质是塞进3D打印外壳的树莓派5,连接5英寸屏幕运行Atari游戏模拟器;另一个名为Robotroller的机械手,通过三个伺服电机控制一支未经改装的Atari CX40+摇杆,完成上下、左右移动和开火动作。摄像头拍摄屏幕画面,算法据此决策并指令机械手操作。这一设计让AI完全通过“看屏幕、动摇杆”这种人类交互方式与游戏对话,无需额外仿真接口。
论文大量篇幅讲述了如何让机械手在数周内不坏。研究者先后解决了螺丝松动、伺服电机塑料齿轮磨损等问题,并因摇杆被“用坏”而调整控制参数使动作更柔和。最关键的一项修复是为伺服电机加入“高电流反射”机制:一旦检测到电流超阈值,系统会让电机瞬间停住、松开扭矩再重新锁紧,类似人体的腱反射,避免电机烧坏。这成为系统能连续运转数周不出故障的关键。游戏得分也未通过代码传输,而是由屏幕上显示的视觉标记让摄像头直接“看”出加减分,感知方式与人类玩家无异。整套硬件成本控制在1000美元以内。
研究者让该系统在Pong、Seaquest、Ms Pacman等六款游戏上分别学习五个半小时,每款游戏重复4到5次实验,累计运行近145小时,期间无任何人工干预。另一组实验中,研究者先让智能体在一台Robotroller上学习6小时,再将策略部署到原机器人和另一台按相同图纸制造的机器人上测试。结果显示,即便设计图纸和零件完全相同,策略在“陌生身体”上的表现也明显更差。在需要精准卡点的Pong游戏中,策略能判断球的方向并移动球拍,却总是差一点没接住,因为同型号零件间的微小公差足以让时机错位。随后让智能体在“陌生身体”上继续学习,表现才逐渐回升。这印证了论文的判断:哪怕差异小到同款机器人换一台,也足以拖累表现,直接在目标身体上持续学习是修复偏差的最直接办法。系统约165毫秒的端到端响应延迟也落在人类反应速度区间内,说明硬件反应能力并非瓶颈。
Physical Atari并不打算让机器人学会走路或叠衣服,它解决的是一个更基础的问题:为验证“机器人能否在现实世界自主学习”提供了一套足够便宜、耐用且可复刻的实验台。在真实世界连续运转145小时无需人工干预,或许比发布会上的精心演示更能检验强化学习算法的真正可靠性。
为什么重要该研究直面强化学习从模拟到现实迁移的核心难题,由游戏与AI领域两位标志性人物主导,为机器人自主学习提供了低成本实验范式。