Technology

Physical AIの、しくみのすべて。

むずかしい話は、しません。カタログのデモがどう動いているのかを、ひとつずつ図と映像で解きほぐします。

2実機デモ
4実機検証したVLAモデル
20回お手本だけで動き始める
10+支えるAWSサービス

Big Picture

全体像 — 役割分担は、たった2つ。

Physical AIのシステムは複雑に見えますが、本質は「ミリ秒の反射は現場(エッジ)、時間をかける知能はクラウド」というシンプルな役割分担です。学習や計画のような重い知能はクラウドが、リアルタイムの推論・制御はエッジが受け持つ — 人間の熟考と反射の関係と同じです。

クラウド — 賢い思考

学習・状況の理解・計画。ミリ秒を争わない、深い知能の仕事。

Amazon Bedrock公式アイコン
Amazon Bedrock言葉と画像を理解するAI。指示の解釈や状況判断を担う
Strands Agents / Bedrock AgentCoreAIエージェントの実行基盤。道具を使い、記憶し、計画する
Amazon SageMaker公式アイコン
Amazon SageMakerロボットの「脳」となるAIモデルを学習させる工場

エッジ — 速い反射

リアルタイムの推論と制御。毎秒何十回もの計算に、遅延は許されない。

NVIDIA Jetson / エッジPC現場に置く小さなAIコンピュータ。AI推論やロボット制御をローカル実行
ロボットSO-101アーム、FANUC CRX、TurtleBot。実際に世界へ働きかける体
カメラ・センサー俯瞰カメラ、手先カメラ、深度カメラ。世界を知覚する目

クラウドとエッジをつなぐのはAWS IoT Core(MQTT)。ミリ秒を争う制御ループはエッジ内で完結させ、クラウドとは「指示」「完了報告」「状態の共有」といった軽いメッセージだけをやりとりする疎結合設計。だから通信が一瞬切れてもロボットは安全に動き続けられます。学習済みモデルの配布など大きなデータはAmazon S3が受け持ちます。

この役割分担のうえに、「賢さをどこに置くか」で2つの代表パターンがあります。このカタログの2つのデモが、ちょうど1つずつの実例です。

Stack 01 — VLA

VLAモデル — 見て、聞いて、動くAI

VLA(Vision-Language-Action)は、カメラ映像(Vision)と言葉の指示(Language)を入力すると、ロボットの動き(Action)を出力するAIモデル。ChatGPTのようなAIが「言葉」を返すかわりに、「関節の角度の列」を返すと考えるとわかりやすいです。

カメラ2視点の映像と関節角度データが並ぶ記録ビューア

入力: いまの世界と、やってほしいこと

カメラ画像(俯瞰+手先)、「消しゴムを片付けて」という指示、いまの関節角度

VLAモデルの解説スライド(カメラ映像と言葉の指示から動きを直接生成)

AIが考える

学習した経験から「この状況ならこう動く」を推論。数十ステップ先までの動きをまとめて生成(Action Chunking)

ロボットアームが消しゴムに向かって動き出す様子

出力: 次の動き

各関節の目標角度の列。これを毎秒何十回も繰り返して、なめらかな動作になる

カメラ画像 「片付けて」という指示
1視覚エンコーダ — 世界を見る
2言語モデル — 指示と状況を理解する
3アクションヘッド — 動きを生成する
関節の動き — 毎秒何十回、なめらかに

中身はこうなっている

視覚エンコーダがカメラ画像を理解し、言語モデルが指示と合流し、アクションヘッドが関節の動きを生成する — どのVLAモデルもこの3段構成が基本です。違いは規模と得意分野。だから「どのモデルを選ぶか」が腕の見せどころになります。

VLAモデル図鑑 — しまってAIが実機で試した4モデル

同じタスクでも、モデルによって個性がまるで違います。しまってAIチームは4モデルを実機で並行検証し、本番には確実性で選びました。

π0.5
Physical Intelligence

π0.5 — 汎化に強い本命格

PaliGemma 2B + Gemma 300Mベースの大型モデル。初めて見る配置にも対応する汎化力が持ち味。

しまってAIでは134エピソードで学習し、3タスクを実機検証
NVIDIA GR00Tのアーキテクチャ図Image: NVIDIA
NVIDIA

GR00T — ヒューマノイド由来

NVIDIAのロボット基盤モデルファミリー。System1/System2の2層設計で「反射」と「思考」を分担。

しまってAIではペンの把持タスクを実機検証
本番ライブ採用
ACT
ALOHA (Stanford/UC Berkeley系)

ACT — 軽量で確実な職人

タスク特化の軽量モデル。一連の動きをまとめて予測するAction Chunkingで小さな物体の精密把持が得意。

本番ブースのライブデモは、3タスクを1つのACTモデルで実演
Hugging Face

SmolVLA — フルオープンな入門機

コード・重み・学習データまでApache 2.0で公開。手元のGPUでも動かせる規模で、始める1台目に最適。

筆者のVLA検証環境(AWS上に構築)でも学習・実機推論を実践

VLAが実際に動く様子

双腕アームの協調動作双腕の協調動作(筆者による検証)
FANUCロボットによるシャツたたみ柔軟物のシャツたたみ(FANUC様との検証)
人からロボットへの受け渡し人からロボットへの受け渡し(筆者による検証)

Stack 02 — Physical AI Ops

ロボットの学ばせ方 — 収集、生成、学習、評価。

VLAモデルは、人がお手本を見せる「模倣学習」で育ちます。現場を写し取り(収集)、仮想空間で増やし(生成)、クラウドで鍛え(学習)、シミュレータと実機で測る(評価)。足りないデータが見つかったら、また収集へ — このサイクルを何周も回して精度を上げるのが、ロボット版のMLOpsです。

1収集 — 現場を写し取る
人がリーダーアームでお手本を実演(テレオペレーション)し、映像と関節角度を数十回分記録。データはAmazon S3に保存し、由来を管理して後からやり直せる形に
2生成 — 仮想空間で増やす
2つの方法でデータを増やす。合成データ生成(SDG)は、実写の動きを保ったまま色・素材・照明を変えた映像をAIが自動生成。シミュレーション(Isaac Sim on EC2 GPU)は仮想空間でお手本を自動収集
GR00Tアーキテクチャ図 Image: NVIDIA
3学習 — クラウドで鍛える
Amazon SageMakerのGPUでVLAモデルをファインチューニング。実験条件と結果はMLflowに記録し、いつでも同じ学習を再現できる
4評価 — 測って、1に戻る
まずシミュレータで安全に確かめ、次に実機で成功率を測る。できないタスク・苦手な配置が見つかったら、そのデータを追加収集して1に戻る — このループが精度を育てる

しまってAIの例: 消しゴムの片付けは、わずか20回のお手本(約10分の実演)でも動き始めました。本番用には照明パターンを変えながら50回収集。「まず小さく学ばせて、評価で弱点を見つけて、そこだけデータを足す」— 一周ごとに賢くなる、この回し方が実践のコツです。

Stack 03 — Agentic AI

AIエージェント — 手順書のないところで、考えて動く。

FANUC×AWSデモの主役は、Amazon Bedrock AgentCore上のAIエージェント。「ツールを使う」「記憶する」「計画する」というソフトウェアの世界で磨かれたエージェント能力を、ロボットという体に接続しています。

ブースの画面に映るAIエージェントの思考過程

「AIの思考」が見える

ブースの画面には、エージェントがいま何を考えているかがそのまま流れます。「ブルー通りで配送が止まった。まず隣のエリアを調査しよう」— 判断の理由が言葉で見えるから、来場者は"AIが本当に考えている"ことを実感できます。

ツール = ロボット

エージェントの「道具」がAPIではなくロボット制御。例: 「オレンジ通りをカメラで調査する」という道具を呼び出すと、実物のFANUCアームが動いて撮影する

メモリ = 世界の認識

調査結果を記憶に蓄積し「AIが認識している世界」を更新。例: 「ブルー通りは調査済み・異常なし」を覚えているから、同じ場所を二度調べない

計画 = 1ターン1アクション

「調査する」か「除去する」かを毎ターン自分で選ぶ。例: 障害物を見つけたら、形とサイズから「つかめるか」を判断してから除去に進む

重要なのは、障害物の位置を誰も教えていないこと。エージェントは道路の地図だけを頼りに、ゼロから調査計画を立てます。これが「事前プログラムされた自動化」と「自律」の違いです。

Stack 04 — Connectivity

AWS IoT Core — クラウドと現場をつなぐ神経。

クラウドの「脳」と現場の「体」は、AWS IoT CoreのMQTTという軽量な通信でつながります。ポイントは、何でもかんでも送らないこと。

指示と報告だけを送る

「片付けて」という指示と「終わりました」という報告だけがクラウドを往復。映像の推論ループはエッジ内で完結するので、通信量はごくわずか

切れても、安全

通信断のとき、アームは安全停止し、配達車両は最後に知らされた状態で待機。復旧したらクラウドから再開指示。Device Shadowが状態のズレを吸収する

守られた通信

TLS相互認証でロボットとクラウドがお互いを確認してから通信。工場でも展示会場でも、同じセキュリティ基準で運用できる

Stack 05 — Edge

エッジコンピュータ — 現場に置く、小さな頭脳。

NVIDIA Jetson AGX ThorPhoto: NVIDIA

NVIDIA Jetson AGX Thor

しまってAIのVLA推論を担うのは、手のひらサイズのAIコンピュータ。カメラ映像から関節の動きを計算するループを、ネットワークを介さずローカルで回すため、通信遅延の影響を一切受けません。学習済みモデルはクラウド(Amazon S3)からAWS Systems Manager経由で配信され、現場のコンピュータが受け取って動き出します。

ローカル推論 = 遅延ゼロ設計モデルはクラウドから配信
NVIDIA Jetson Orin NanoモジュールImage: NVIDIA

Jetson Orin Nano Super — 軽量なGPUでも動かせる

VLAの実機推論に、必ずしも大型GPUは要りません。手のひらサイズ・低消費電力(7〜25W)のこの開発キットでも動作し、筆者のVLA検証でも実機推論に使っています。まず小さく始めるのに十分な頭脳です。

Stack 06 — Sim2Real

Sim2Real — 仮想空間で練習して、現実で本番。

NVIDIA Isaac Sim

実機でのデータ収集は手間がかかります。そこで、実機とそっくりな仮想空間(NVIDIA Isaac Sim)をクラウドGPU上に構築し、お手本データの自動生成や学習前の検証を行います。見た目や物理の「仮想と現実のギャップ」は、カメラ校正(ChArUco)や、条件をあえてランダムに変える学習でならしていきます。

Isaac Sim on AWS GPUドメインランダマイゼーションカメラ校正

AWS Services

支えているAWSサービス

Physical AIといっても、使うのは特別なサービスではありません。いつものAWSの組み合わせです。

Amazon Bedrock状況理解・会話・エージェントの頭脳
Amazon SageMakerVLAモデルの学習と実験記録(MLflow)
Amazon S3学習データとモデルの保管庫
Amazon EC2 (GPU)Isaac Simシミュレーション環境

Learn More

もっと深く知る