AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルベニア工科大学(米国)の研究者らは、複数のAI制御ロボットプラットフォームにこれまで特定されていなかったセキュリティ上の脆弱性を発見したと伝えられている。

私たちの研究は、現時点では、大規模言語モデル(LLM)は、複雑な物理ハードウェアと統合された場合、一般的に十分に安全ではないことを示しています」とUPS財団の電気システム工学教授、ジョージ・パパス氏は声明で述べた。

パパス氏と彼のチームは、「LLM制御ロボットを解読するために設計された最初のアルゴリズム」であるRoboPAIRと呼ばれるアルゴリズムを開発した。また、チャットボットを標的とした既存の矢継ぎ早の技術的攻撃とは異なり、RoboPAIR は、ボストン ダイナミクスとトヨタ リサーチ インスティテュート (TRI) が開発中の Atlas と呼ばれるヒューマノイド ロボット プラットフォームなど、LLM 制御ロボットから「有害な物理的動作を誘発する」ように特別に構築されています。

RoboPAIR は、4 本足の Unitree Go2、4 輪の Clearpath Robotics Jackal、自律走行車用 Dolphins LLM シミュレーターという 3 つの人気のロボット研究プラットフォームのクラッキングに 100% の成功率を達成したと報告されています。アルゴリズムがそれらのシステムに完全にアクセスし、セキュリティ障壁を回避し始めるまでには、わずか数日しかかかりませんでした。研究者らが制御権を握ると、自律型ロボットプラットフォームを停止せずに交差点を通過するなどのさまざまな危険な動作を実行させることができた。

最初の評価の結果は、クラックされた LLM のリスクがテキスト生成にとどまらないことを示しています。クラックされたロボットが現実世界で物理的な損害を引き起こす可能性があることは明らかです。」

AIロボットは「脱獄」可能、その結果は悲惨なものになる

ペンシルバニア工科大学のチームは、プラットフォーム開発者と協力して、さらなる侵入に対してシステムを強化することに取り組んでいるが、これらのセキュリティ問題は体系的なものであり、完全に対処するのは困難であると警告している。

この論文の知見は、責任あるイノベーションを実現するには安全対策の採用が不可欠であることを明確に示しています。AI搭載ロボットを現実世界に導入する前に、固有の脆弱性に対処しなければなりません」と研究チームは述べています。

安全な運用には、AI システムの潜在的な脅威と脆弱性をテストすることが必要であり、これは作成された AI システムを保護するために不可欠です。なぜなら、弱点を特定することによってのみ、リスクを防ぐためにシステムをテストし、トレーニングすることができるからです。

Sign up and earn $1000 a day ⋙

Leave a Comment

通常のテレビとスマートテレビの違い

通常のテレビとスマートテレビの違い

スマートテレビはまさに世界を席巻しています。数多くの優れた機能とインターネット接続により、テクノロジーはテレビの視聴方法を変えました。

なぜ冷凍庫にはライトがないのに、冷蔵庫にはライトがあるのでしょうか?

なぜ冷凍庫にはライトがないのに、冷蔵庫にはライトがあるのでしょうか?

冷蔵庫は家庭ではよく使われる家電製品です。冷蔵庫には通常 2 つの部屋があり、冷蔵室は広く、ユーザーが開けるたびに自動的に点灯するライトが付いていますが、冷凍室は狭く、ライトはありません。

Wi-Fiの速度低下を引き起こすネットワーク混雑を解決する2つの方法

Wi-Fiの速度低下を引き起こすネットワーク混雑を解決する2つの方法

Wi-Fi ネットワークは、ルーター、帯域幅、干渉以外にも多くの要因の影響を受けますが、ネットワークを強化する賢い方法がいくつかあります。

Tenorshare Reibootを使ってデータ損失なくiOS 17からiOS 16にダウングレードする方法

Tenorshare Reibootを使ってデータ損失なくiOS 17からiOS 16にダウングレードする方法

お使いの携帯電話で安定した iOS 16 に戻したい場合は、iOS 17 をアンインストールして iOS 17 から 16 にダウングレードするための基本ガイドを以下に示します。

ヨーグルトを毎日食べると体に何が起こるのでしょうか?

ヨーグルトを毎日食べると体に何が起こるのでしょうか?

ヨーグルトは素晴らしい食べ物です。ヨーグルトを毎日食べるのは良いことでしょうか?ヨーグルトを毎日食べると、身体はどう変わるのでしょうか?一緒に調べてみましょう!

健康に最も良いお米の種類は何ですか?

健康に最も良いお米の種類は何ですか?

この記事では、最も栄養価の高い米の種類と、どの米を選んだとしてもその健康効果を最大限に引き出す方法について説明します。

朝時間通りに起きる方法

朝時間通りに起きる方法

睡眠スケジュールと就寝時の習慣を確立し、目覚まし時計を変え、食生活を調整することは、よりよく眠り、朝時間通りに起きるのに役立つ対策の一部です。

Rent Please! をプレイするためのヒント初心者向け大家シミュレーション

Rent Please! をプレイするためのヒント初心者向け大家シミュレーション

レンタルして下さい! Landlord Sim は、iOS および Android 向けのシミュレーション モバイル ゲームです。あなたはアパートの大家としてプレイし、アパートの内装をアップグレードして入居者を受け入れる準備をしながら、アパートの賃貸を始めます。

最新のバスルームタワーディフェンスコードとコードの入力方法

最新のバスルームタワーディフェンスコードとコードの入力方法

Bathroom Tower Defense Roblox ゲーム コードを入手して、魅力的な報酬と引き換えましょう。これらは、より高いダメージを与えるタワーをアップグレードしたり、ロックを解除したりするのに役立ちます。

変圧器の構造、記号、動作原理

変圧器の構造、記号、動作原理

変圧器の構造、記号、動作原理を最も正確な方法で学びましょう。

AIがスマートテレビを進化させる4つの方法

AIがスマートテレビを進化させる4つの方法

画質や音質の向上から音声制御まで、これらの AI 搭載機能により、スマートテレビはさらに優れたものになります。

ChatGPTがDeepSeekより優れている理由

ChatGPTがDeepSeekより優れている理由

当初、人々はDeepSeekに大きな期待を寄せていました。 ChatGPT の強力な競合製品として販売されている AI チャットボットは、インテリジェントなチャット機能とエクスペリエンスを約束します。

Fireflies.ai をご紹介します: 仕事の時間を節約できる無料の AI 秘書

Fireflies.ai をご紹介します: 仕事の時間を節約できる無料の AI 秘書

他の重要な事柄を書き留めるときに重要な詳細を見逃すことはよくありますし、チャットしながらメモを取ろうとすると気が散ってしまうこともあります。 Fireflies.ai が解決策です。

Minecraftでアホロートルを育てる方法、Minecraftでサラマンダーを飼いならす方法

Minecraftでアホロートルを育てる方法、Minecraftでサラマンダーを飼いならす方法

Axolot Minecraft は、使い方を知っていれば、水中で操作するときにプレイヤーにとって素晴らしいアシスタントになります。

『クワイエット・プレイス:ザ・ロード・アヘッド』PCゲーム設定

『クワイエット・プレイス:ザ・ロード・アヘッド』PCゲーム設定

『A Quiet Place: The Road Ahead』の構成は非常に高く評価されているため、ダウンロードを決定する前に構成を考慮する必要があります。