Mobile ALOHA是一款可移动的双臂操纵机器人,用于处理日常家务。日常的家务往往需要机器人移动能力和操纵能力协作才能完成,例如:机器人把锅放在冰箱内,机器人先要移动到冰箱前,然后打开冰箱,最后把物品放入冰箱。在打开冰箱的时候,甚至需要机器人底座倒车。然而,前人工作只是移动能力或操纵能力单方面的研究,这与现实相差很大。

- 阅读剩余部分 -

如图1所示,ViT整体架构很简单,由Transformer的Encoder构成,非双向。首先,图片分成$N$块patch,作为输入序列的token。然后,$N$token被打平,再输入线性映射层得到embedding。接下来,patch embedding与position embedding相加输入Encoder。与Bert的class token一样,也有一个可学习类别embedding的token $z_0^0$,其在Encoder对应输出$z_L^0$是整个图片的表示。最后,$z_L^0$输入到MLP网络预测类别,即在图片分类任务上预训练。

- 阅读剩余部分 -

经典的控制器是针对特定任务设计的,很难使机器人拥有敏捷的动作和多样的动作,运动呈现不灵活性,且很难应用到户外任务。同时,控制器的设计需要丰富经验的工程师,耗费大量时间才能设计出来,时间成本很高。与之相对的,最近基于强化学习的控制器在仿真环境中能够表现出良好的性能,它的缺点就是仿真与现实之间的gap很难处理,常见有两种处理方法,分别是提高仿真的可信度和提高策略的鲁棒性。

- 阅读剩余部分 -