AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルベニア工科大学（米国）の研究者らは、複数のAI制御ロボットプラットフォームにこれまで特定されていなかったセキュリティ上の脆弱性を発見したと伝えられている。

「私たちの研究は、現時点では、大規模言語モデル（LLM）は、複雑な物理ハードウェアと統合された場合、一般的に十分に安全ではないことを示しています」とUPS財団の電気システム工学教授、ジョージ・パパス氏は声明で述べた。

パパス氏と彼のチームは、「LLM制御ロボットを解読するために設計された最初のアルゴリズム」であるRoboPAIRと呼ばれるアルゴリズムを開発した。また、チャットボットを標的とした既存の矢継ぎ早の技術的攻撃とは異なり、RoboPAIR は、ボストン ダイナミクスとトヨタ リサーチ インスティテュート (TRI) が開発中の Atlas と呼ばれるヒューマノイド ロボット プラットフォームなど、LLM 制御ロボットから「有害な物理的動作を誘発する」ように特別に構築されています。

RoboPAIR は、4 本足の Unitree Go2、4 輪の Clearpath Robotics Jackal、自律走行車用 Dolphins LLM シミュレーターという 3 つの人気のロボット研究プラットフォームのクラッキングに 100% の成功率を達成したと報告されています。アルゴリズムがそれらのシステムに完全にアクセスし、セキュリティ障壁を回避し始めるまでには、わずか数日しかかかりませんでした。研究者らが制御権を握ると、自律型ロボットプラットフォームを停止せずに交差点を通過するなどのさまざまな危険な動作を実行させることができた。

「最初の評価の結果は、クラックされた LLM のリスクがテキスト生成にとどまらないことを示しています。クラックされたロボットが現実世界で物理的な損害を引き起こす可能性があることは明らかです。」

ペンシルバニア工科大学のチームは、プラットフォーム開発者と協力して、さらなる侵入に対してシステムを強化することに取り組んでいるが、これらのセキュリティ問題は体系的なものであり、完全に対処するのは困難であると警告している。

「この論文の知見は、責任あるイノベーションを実現するには安全対策の採用が不可欠であることを明確に示しています。AI搭載ロボットを現実世界に導入する前に、固有の脆弱性に対処しなければなりません」と研究チームは述べています。

安全な運用には、AI システムの潜在的な脅威と脆弱性をテストすることが必要であり、これは作成された AI システムを保護するために不可欠です。なぜなら、弱点を特定することによってのみ、リスクを防ぐためにシステムをテストし、トレーニングすることができるからです。