SHIELDS / AISafety
動的システムのための安全で人間包摂的な身体化学習

概要

正式課題名：AIロボティクス分野等の安全性／金広・Benallegue

学習ベースの動作方策は，ロボットに高い柔軟性と性能を与える一方，分布外入力，モデル誤差，バランスのような時間依存ダイナミクス，予期しない物理接触，シミュレーションと実機の差異，人間の意図の誤認識などに起因する安全上の課題により，実環境への導入が制約されている．SHIELDSプロジェクトでは，AIによるロボット動作生成に対して，実行時に安全性を保証するための統合的な枠組みを開発する．中心的な考え方は，学習方策の出力を動作の提案として扱い，モデルベースのハイブリッド制御層によって実際に実行される動作の安全性を保証するとともに，学習技術によって危険な状態に入る頻度そのものを低減することである．具体的には，QPや制御バリア関数を用いた動作投影，MPCによる予測的な安全制御，安定化制御器内部への強化学習の安全な統合，分布外状態に対するモデルベースの補正，転倒や失敗の予測と事前回復，敵対的学習によるロバスト性向上，厳格な安全制御下での実機学習などに取り組む．さらに，シミュレーションを用いた接触力のモデル化による安全な物理インタラクション，人間の意図の誤解による危険動作を防止する言語・知覚グラウンディング，および安全な器用操作を実現するためのハードウェア・ソフトウェア協調設計を研究する．本プロジェクトでは，学習を用いるロボットシステムの安全な実用化に向けて，再利用可能な実行時安全モジュール，定量的な評価プロトコル，および実機による検証を実現することを目指す．

PI in JRL

Mehdi Benallegue

実施期間

2026.1 - 2027.3

資金提供

研究開発とSociety 5.0との橋渡しプログラム（BRIDGE）