AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルベニア工科大学(米国)の研究者らは、複数のAI制御ロボットプラットフォームにこれまで特定されていなかったセキュリティ上の脆弱性を発見したと伝えられている。

私たちの研究は、現時点では、大規模言語モデル(LLM)は、複雑な物理ハードウェアと統合された場合、一般的に十分に安全ではないことを示しています」とUPS財団の電気システム工学教授、ジョージ・パパス氏は声明で述べた。

パパス氏と彼のチームは、「LLM制御ロボットを解読するために設計された最初のアルゴリズム」であるRoboPAIRと呼ばれるアルゴリズムを開発した。また、チャットボットを標的とした既存の矢継ぎ早の技術的攻撃とは異なり、RoboPAIR は、ボストン ダイナミクスとトヨタ リサーチ インスティテュート (TRI) が開発中の Atlas と呼ばれるヒューマノイド ロボット プラットフォームなど、LLM 制御ロボットから「有害な物理的動作を誘発する」ように特別に構築されています。

RoboPAIR は、4 本足の Unitree Go2、4 輪の Clearpath Robotics Jackal、自律走行車用 Dolphins LLM シミュレーターという 3 つの人気のロボット研究プラットフォームのクラッキングに 100% の成功率を達成したと報告されています。アルゴリズムがそれらのシステムに完全にアクセスし、セキュリティ障壁を回避し始めるまでには、わずか数日しかかかりませんでした。研究者らが制御権を握ると、自律型ロボットプラットフォームを停止せずに交差点を通過するなどのさまざまな危険な動作を実行させることができた。

最初の評価の結果は、クラックされた LLM のリスクがテキスト生成にとどまらないことを示しています。クラックされたロボットが現実世界で物理的な損害を引き起こす可能性があることは明らかです。」

AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルバニア工科大学のチームは、プラットフォーム開発者と協力して、さらなる侵入に対してシステムを強化することに取り組んでいるが、これらのセキュリティ問題は体系的なものであり、完全に対処するのは困難であると警告している。

この論文の知見は、責任あるイノベーションを実現するには安全対策の採用が不可欠であることを明確に示しています。AI搭載ロボットを現実世界に導入する前に、固有の脆弱性に対処しなければなりません」と研究チームは述べています。

安全な運用には、AI システムの潜在的な脅威と脆弱性をテストすることが必要であり、これは作成された AI システムを保護するために不可欠です。なぜなら、弱点を特定することによってのみ、リスクを防ぐためにシステムをテストし、トレーニングすることができるからです。

Sign up and earn $1000 a day ⋙

Leave a Comment

ハードドライブへのアクセスを回復し、ハードドライブを開けないエラーを修正する方法

ハードドライブへのアクセスを回復し、ハードドライブを開けないエラーを修正する方法

この記事では、ハードドライブが故障した場合に、アクセスを回復する方法をご紹介します。さあ、一緒に進めていきましょう!

AirPodsで会話認識とライブリスニングを使用する方法

AirPodsで会話認識とライブリスニングを使用する方法

一見すると、AirPodsは他の完全ワイヤレスイヤホンと何ら変わりません。しかし、あまり知られていないいくつかの機能が発見されたことで、すべてが変わりました。

IOS 26のすべて

IOS 26のすべて

Apple は、まったく新しいすりガラスデザイン、よりスマートなエクスペリエンス、おなじみのアプリの改善を伴うメジャーアップデートである iOS 26 を発表しました。

2025年の学生に最適なノートパソコン

2025年の学生に最適なノートパソコン

学生は学習のために特定のタイプのノートパソコンを必要とします。専攻分野で十分なパフォーマンスを発揮できるだけでなく、一日中持ち運べるほどコンパクトで軽量であることも重要です。

Windows 10にプリンターを追加する方法

Windows 10にプリンターを追加する方法

Windows 10 にプリンターを追加するのは簡単ですが、有線デバイスの場合のプロセスはワイヤレス デバイスの場合とは異なります。

最高の精度でコンピューターのRAMをチェックし、RAMエラーをチェックする方法

最高の精度でコンピューターのRAMをチェックし、RAMエラーをチェックする方法

ご存知の通り、RAMはコンピューターにとって非常に重要なハードウェア部品であり、データ処理のためのメモリとして機能し、ノートパソコンやPCの速度を決定づける要因です。以下の記事では、WebTech360がWindowsでソフトウェアを使ってRAMエラーをチェックする方法をいくつかご紹介します。

通常のテレビとスマートテレビの違い

通常のテレビとスマートテレビの違い

スマートテレビはまさに世界を席巻しています。数多くの優れた機能とインターネット接続により、テクノロジーはテレビの視聴方法を変えました。

なぜ冷凍庫にはライトがないのに、冷蔵庫にはライトがあるのでしょうか?

なぜ冷凍庫にはライトがないのに、冷蔵庫にはライトがあるのでしょうか?

冷蔵庫は家庭ではよく使われる家電製品です。冷蔵庫には通常 2 つの部屋があり、冷蔵室は広く、ユーザーが開けるたびに自動的に点灯するライトが付いていますが、冷凍室は狭く、ライトはありません。

Wi-Fiの速度低下を引き起こすネットワーク混雑を解決する2つの方法

Wi-Fiの速度低下を引き起こすネットワーク混雑を解決する2つの方法

Wi-Fi ネットワークは、ルーター、帯域幅、干渉以外にも多くの要因の影響を受けますが、ネットワークを強化する賢い方法がいくつかあります。

Tenorshare Reibootを使ってデータ損失なくiOS 17からiOS 16にダウングレードする方法

Tenorshare Reibootを使ってデータ損失なくiOS 17からiOS 16にダウングレードする方法

お使いの携帯電話で安定した iOS 16 に戻したい場合は、iOS 17 をアンインストールして iOS 17 から 16 にダウングレードするための基本ガイドを以下に示します。

ヨーグルトを毎日食べると体に何が起こるのでしょうか?

ヨーグルトを毎日食べると体に何が起こるのでしょうか?

ヨーグルトは素晴らしい食べ物です。ヨーグルトを毎日食べるのは良いことでしょうか?ヨーグルトを毎日食べると、身体はどう変わるのでしょうか?一緒に調べてみましょう!

健康に最も良いお米の種類は何ですか?

健康に最も良いお米の種類は何ですか?

この記事では、最も栄養価の高い米の種類と、どの米を選んだとしてもその健康効果を最大限に引き出す方法について説明します。

朝時間通りに起きる方法

朝時間通りに起きる方法

睡眠スケジュールと就寝時の習慣を確立し、目覚まし時計を変え、食生活を調整することは、よりよく眠り、朝時間通りに起きるのに役立つ対策の一部です。

Rent Please! をプレイするためのヒント初心者向け大家シミュレーション

Rent Please! をプレイするためのヒント初心者向け大家シミュレーション

レンタルして下さい! Landlord Sim は、iOS および Android 向けのシミュレーション モバイル ゲームです。あなたはアパートの大家としてプレイし、アパートの内装をアップグレードして入居者を受け入れる準備をしながら、アパートの賃貸を始めます。

最新のバスルームタワーディフェンスコードとコードの入力方法

最新のバスルームタワーディフェンスコードとコードの入力方法

Bathroom Tower Defense Roblox ゲーム コードを入手して、魅力的な報酬と引き換えましょう。これらは、より高いダメージを与えるタワーをアップグレードしたり、ロックを解除したりするのに役立ちます。