AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルベニア工科大学(米国)の研究者らは、複数のAI制御ロボットプラットフォームにこれまで特定されていなかったセキュリティ上の脆弱性を発見したと伝えられている。

私たちの研究は、現時点では、大規模言語モデル(LLM)は、複雑な物理ハードウェアと統合された場合、一般的に十分に安全ではないことを示しています」とUPS財団の電気システム工学教授、ジョージ・パパス氏は声明で述べた。

パパス氏と彼のチームは、「LLM制御ロボットを解読するために設計された最初のアルゴリズム」であるRoboPAIRと呼ばれるアルゴリズムを開発した。また、チャットボットを標的とした既存の矢継ぎ早の技術的攻撃とは異なり、RoboPAIR は、ボストン ダイナミクスとトヨタ リサーチ インスティテュート (TRI) が開発中の Atlas と呼ばれるヒューマノイド ロボット プラットフォームなど、LLM 制御ロボットから「有害な物理的動作を誘発する」ように特別に構築されています。

RoboPAIR は、4 本足の Unitree Go2、4 輪の Clearpath Robotics Jackal、自律走行車用 Dolphins LLM シミュレーターという 3 つの人気のロボット研究プラットフォームのクラッキングに 100% の成功率を達成したと報告されています。アルゴリズムがそれらのシステムに完全にアクセスし、セキュリティ障壁を回避し始めるまでには、わずか数日しかかかりませんでした。研究者らが制御権を握ると、自律型ロボットプラットフォームを停止せずに交差点を通過するなどのさまざまな危険な動作を実行させることができた。

最初の評価の結果は、クラックされた LLM のリスクがテキスト生成にとどまらないことを示しています。クラックされたロボットが現実世界で物理的な損害を引き起こす可能性があることは明らかです。」

AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルバニア工科大学のチームは、プラットフォーム開発者と協力して、さらなる侵入に対してシステムを強化することに取り組んでいるが、これらのセキュリティ問題は体系的なものであり、完全に対処するのは困難であると警告している。

この論文の知見は、責任あるイノベーションを実現するには安全対策の採用が不可欠であることを明確に示しています。AI搭載ロボットを現実世界に導入する前に、固有の脆弱性に対処しなければなりません」と研究チームは述べています。

安全な運用には、AI システムの潜在的な脅威と脆弱性をテストすることが必要であり、これは作成された AI システムを保護するために不可欠です。なぜなら、弱点を特定することによってのみ、リスクを防ぐためにシステムをテストし、トレーニングすることができるからです。

Sign up and earn $1000 a day ⋙

Leave a Comment

音楽が脳を刺激する方法

音楽が脳を刺激する方法

音楽は単なる娯楽ではなく、それ以上に多くの利点があることをほとんどの人が知っています。音楽が脳の発達を刺激する方法をいくつか紹介します。

食事で最も不足しがちな栄養素

食事で最も不足しがちな栄養素

食事は私たちの健康にとって非常に重要です。しかし、私たちの食生活のほとんどには、これら 6 つの重要な栄養素が不足していることが多いのです。

サークルKのCKクラブアプリを使って魅力的なオファーを受け取る方法

サークルKのCKクラブアプリを使って魅力的なオファーを受け取る方法

Circle K からのプロモーション情報を最も早く入手するには、CK Club アプリをインストールする必要があります。このアプリケーションは、買い物やサークル K での支払い時の料金と、集めたスタンプの数を保存します。

Instagramは最長3分間のリール動画を許可

Instagramは最長3分間のリール動画を許可

Instagramは、これまでの90秒の制限の2倍となる、最長3分間のリール動画をユーザーが投稿できるようにすると発表した。

ChromebookのCPU情報を表示する方法

ChromebookのCPU情報を表示する方法

この記事では、Chromebook で CPU 情報を表示し、CPU 速度を直接確認する方法について説明します。

古いAndroidタブレットでできる8つのクールなこと

古いAndroidタブレットでできる8つのクールなこと

古いタブレットを売却したり譲渡したりしたくない場合は、高品質のフォトフレーム、音楽プレーヤー、電子書籍および雑誌リーダー、家事アシスタント、サブスクリーンとして、5 つの方法で使用できます。

美しい爪を早く手に入れる方法

美しい爪を早く手に入れる方法

美しく輝く健康な爪を早く手に入れたい。以下に美しい爪のための簡単なヒントをご紹介しますので、ぜひご参考ください。

デザイナーだけが知っている色のインスピレーションの秘密

デザイナーだけが知っている色のインスピレーションの秘密

この記事では、Creative Market コミュニティのトップデザイナーが共有する色に関するヒントを紹介します。これにより、いつでも完璧な色の組み合わせを実現できます。

ノートパソコンを携帯電話に置き換えるために必要なものすべて

ノートパソコンを携帯電話に置き換えるために必要なものすべて

本当にノートパソコンを携帯電話に置き換えることができるのでしょうか?はい、ただし、携帯電話をラップトップに変えるには適切なアクセサリが必要になります。

ChatGPTはまもなく画面上で起こっているすべてを見ることができるようになります

ChatGPTはまもなく画面上で起こっているすべてを見ることができるようになります

イベントの完全版ビデオで重要なことの 1 つは、今後リリースされる ChatGPT アプリの機能がデモされたが、実際の詳細は共有されなかったことです。 ChatGPT は、ユーザーのデバイス画面上で起こっていることをすべて把握できる機能です。

AIは正直になるように訓練されているにもかかわらず、人間を騙すことを学んでいる

AIは正直になるように訓練されているにもかかわらず、人間を騙すことを学んでいる

新たな研究によると、多くのトップクラスのAIは、正直であるように訓練されているにもかかわらず、訓練を通じて欺くことを学び、体系的にユーザーを誤った信念に誘導することが判明した。

ChatGPTで質問を変更する方法

ChatGPTで質問を変更する方法

ChatGPT に質問変更オプションが追加され、ユーザーは ChatGPT と交換している質問やコンテンツを編集できるようになりました。

偽のQRコードを見分けてデータを安全に保つ方法

偽のQRコードを見分けてデータを安全に保つ方法

QR コードは、不正な QR コードをスキャンしてシステムに何か厄介なものが投げ込まれるまでは、かなり無害に見えます。携帯電話とデータを安全に保ちたい場合は、偽の QR コードを識別する方法がいくつかあります。

クアルコム、数々の注目すべき改良を施したX85 5Gモデムを発表

クアルコム、数々の注目すべき改良を施したX85 5Gモデムを発表

MWC 2025のステージ上で、クアルコムはX85と呼ばれる第8世代5Gモデムを発表して大きな話題を呼んだ。このモデムは今年後半に発売される主力スマートフォンに搭載される予定だ。

新しい技術により、携帯電話の色を柔軟に変えられるようになった

新しい技術により、携帯電話の色を柔軟に変えられるようになった

流行の「ウルトラマリン」カラーのiPhone 16を持っていますが、ある日突然その色に飽きてしまったとします。あなたは何をしますか?