マイクロソフト、AI出力内の幻覚的コンテンツを検出・修正する新ツールを発表

Azure AI コンテンツ セーフティは、アプリ、サービス、プラットフォーム全体で AI によって生成された有害なコンテンツを検出するのに役立つ Microsoft の AI サービスです。このユーティリティはテキスト API と画像 API の両方を提供し、開発者が不要なコンテンツを識別できるようにします。

Azure AI コンテンツ セーフティの Groundedness API は、大規模言語モデルからの応答がユーザーが選択したソース ドキュメントに基づいているかどうかを識別できます。現在の大規模言語モデルは不正確な情報や誤った情報(錯覚情報)を生成する可能性があるため、この API は開発者が AI 出力データ内のそのようなコンテンツを識別するのに役立ちます。

マイクロソフト、AI出力内の幻覚的コンテンツを検出・修正する新ツールを発表

本日、マイクロソフトは修正のプレビューを発表しました。その結果、開発者は AI 出力データ内の「錯覚的な」コンテンツをリアルタイムで検出して修正できるようになり、エンドユーザーは常に事実に基づいた正確な AI 生成コンテンツを受け取ることができるようになります。この機能は次のように動作します。

  • アプリ開発者は編集機能を有効にします。
  • 根拠のないデータが検出されると、エラーを修正するための新しいリクエストが AI モデルに送信されます。
  • LLM アルゴリズムは、信頼できる文書に基づいて全体的なスコアを評価します。
  • 基礎となる認証済み文書に関連しない文は完全に除外される場合があります。
  • コンテンツがベース ドキュメントから派生されている場合、ベース モデルは、根拠のない文をドキュメントに合わせて書き換えます。

編集機能に加えて、Microsoft は、Hybrid Azure AI Content Safety (AACS) のパブリック プレビューも発表しました。この機能により、開発者はクラウドとデバイスにコンテンツ セキュリティ メカニズムを実装できます。 AACS の組み込み SDK により、インターネットに接続していなくても、デバイス上で直接リアルタイムのコンテンツ セキュリティ チェックを実行できます。

最後に、Microsoft は、コード生成 AI アプリケーションで使用して、LLM が保護されたコードを生成しているかどうかを検出できる、Protected Materials Detection for Code のプレビューを発表しました。この機能は以前は Azure OpenAI サービスを通じてのみ利用可能でした。 Microsoft は現在、Protected Materials Detection for Code を他のコード生成 AI モデルと組み合わせてお客様が使用できるようにしています。

Sign up and earn $1000 a day ⋙

Leave a Comment

マイクロソフトがDeepSeekをPC Copilot+プラットフォームに統合

マイクロソフトがDeepSeekをPC Copilot+プラットフォームに統合

1 月に、Microsoft は、Qualcomm Snapdragon X プロセッサで動作する Copilot+ コンピューターに、DeepSeek-R1 モデルの NPU 最適化バージョンを直接提供する計画を発表しました。

マイクロソフトは、Windows 11のスタートメニュー広告をWindows 10にも導入する。

マイクロソフトは、Windows 11のスタートメニュー広告をWindows 10にも導入する。

マイクロソフトは、このオペレーティング システムが 2025 年 10 月に必ず終了するという事実にもかかわらず、Windows 10 に新機能を追加する計画を発表し続けています。

Microsoft が新しい Fluid Textures デスクトップ壁紙コレクションをリリースしました。今すぐダウンロードしてください。

Microsoft が新しい Fluid Textures デスクトップ壁紙コレクションをリリースしました。今すぐダウンロードしてください。

マイクロソフトが新しいFluidTexturesデスクトップ壁紙コレクションをリリース

マイクロソフトがOffice 2016および2019アプリケーションとサーバーのサポート終了日を発表

マイクロソフトがOffice 2016および2019アプリケーションとサーバーのサポート終了日を発表

Microsoft はついに、Office 2016 および Office 2019 アプリケーション エコシステムの計画的なサポート終了 (EOS) を正式に発表しました。

マイクロソフト、ユーザーにWindows 11 24H2バージョンへのアップデートを強制開始

マイクロソフト、ユーザーにWindows 11 24H2バージョンへのアップデートを強制開始

2024 年の唯一の主要な Windows 11 アップデートである Windows 11 バージョン 24H2 は、数か月前にリリースされ、徐々に安定しつつあります。

マイクロソフト、一部のASUS PCでWindows 11 24H2をブロックした理由を説明

マイクロソフト、一部のASUS PCでWindows 11 24H2をブロックした理由を説明

この問題は、一部の PC が更新を完了できず、ブルー スクリーン (BSOD) エラーが発生したというユーザーの報告を受けて初めて報告されました。

新しくリリースされたWindows 11 24H2アップデートを入手する方法

新しくリリースされたWindows 11 24H2アップデートを入手する方法

Windows 11 は今年、2 つの注目すべきメジャーアップデートを受ける予定です。

マイクロソフトは、古いCPUがWindows 11を実行できない理由をユーザーに理解してもらいたいと考えている

マイクロソフトは、古いCPUがWindows 11を実行できない理由をユーザーに理解してもらいたいと考えている

ユーザーがWindows 11ビルド26058をインストールしようとすると、セットアップファイルに「このPCのプロセッサは重要な機能(PopCnt)をサポートしていません」というメッセージが表示されます。

Windows 11の「オリジナル」バージョンは終了間近

Windows 11の「オリジナル」バージョンは終了間近

少し前に、Microsoft は Windows 10 バージョン 21H2 のサポートを停止しました。つまり、現時点ではバージョン 22H2 が唯一サポートされている Windows 10 リリースになります。

Windows 10と11にペイント3Dをインストールする方法

Windows 10と11にペイント3Dをインストールする方法

Paint 3D は Microsoft Store では入手できなくなりましたが、もう一度試す機会がないわけではありません。

マイクロソフトがWindows 11のUSBインストールに関するさらに注目すべき情報を共有

マイクロソフトがWindows 11のUSBインストールに関するさらに注目すべき情報を共有

2023 年に、Windows 11 は USB4 40Gbps を正式にサポートし、その後、最大 80 および 120Gbps のデータ転送速度をサポートするように拡張されました。

Microsoft では、ユーザーが Windows 上で Office アプリケーションを無料で使用することを許可していますが、いくつかの制限があります。

Microsoft では、ユーザーが Windows 上で Office アプリケーションを無料で使用することを許可していますが、いくつかの制限があります。

Microsoft は最近、Microsoft 365 サブスクリプションの価格を値上げしましたが、この変更はサービスに AI エクスペリエンスを追加することで正当化されました。

Microsoft は、Windows を音楽制作者にとって理想的なオペレーティング システムとして位置づけています。

Microsoft は、Windows を音楽制作者にとって理想的なオペレーティング システムとして位置づけています。

マイクロソフトは、10 月 22 日の Qualcomm Snapdragon Summit で、ミュージシャン、音楽プロデューサー、その他のオーディオ プロフェッショナルの全体的なエクスペリエンスを向上させる Windows PC 向けの一連の改善を発表しました。

マイクロソフトがTPMの利点とWindows 11がWindows 10より優れている理由を説明

マイクロソフトがTPMの利点とWindows 11がWindows 10より優れている理由を説明

Microsoft が Windows 10 ユーザーに Windows 11 へのアップグレードを望んでいるのは驚くことではありません。

Microsoft、Copilotの無料版にGPT-4 Turbo LLMを追加

Microsoft、Copilotの無料版にGPT-4 Turbo LLMを追加

2023年、マイクロソフトは人工知能に大きく賭け、OpenAIと提携してCopilotを実現しました。

1314とは何ですか?

1314とは何ですか?

1314 は若者が愛の暗号としてよく使う数字です。しかし、1314 が何であるか、そしてそれが何を意味するのかを誰もが知っているわけではないのでしょうか?

有害な環境にいるときに心身の健康を守る方法

有害な環境にいるときに心身の健康を守る方法

有害な状況に対処することは信じられないほど困難になる可能性があります。有害な環境にうまく対処し、心の平穏を保つためのヒントをいくつか紹介します。

音楽が脳を刺激する方法

音楽が脳を刺激する方法

音楽は単なる娯楽ではなく、それ以上に多くの利点があることをほとんどの人が知っています。音楽が脳の発達を刺激する方法をいくつか紹介します。

食事で最も不足しがちな栄養素

食事で最も不足しがちな栄養素

食事は私たちの健康にとって非常に重要です。しかし、私たちの食生活のほとんどには、これら 6 つの重要な栄養素が不足していることが多いのです。

サークルKのCKクラブアプリを使って魅力的なオファーを受け取る方法

サークルKのCKクラブアプリを使って魅力的なオファーを受け取る方法

Circle K からのプロモーション情報を最も早く入手するには、CK Club アプリをインストールする必要があります。このアプリケーションは、買い物やサークル K での支払い時の料金と、集めたスタンプの数を保存します。

Instagramは最長3分間のリール動画を許可

Instagramは最長3分間のリール動画を許可

Instagramは、これまでの90秒の制限の2倍となる、最長3分間のリール動画をユーザーが投稿できるようにすると発表した。

ChromebookのCPU情報を表示する方法

ChromebookのCPU情報を表示する方法

この記事では、Chromebook で CPU 情報を表示し、CPU 速度を直接確認する方法について説明します。

古いAndroidタブレットでできる8つのクールなこと

古いAndroidタブレットでできる8つのクールなこと

古いタブレットを売却したり譲渡したりしたくない場合は、高品質のフォトフレーム、音楽プレーヤー、電子書籍および雑誌リーダー、家事アシスタント、サブスクリーンとして、5 つの方法で使用できます。

美しい爪を早く手に入れる方法

美しい爪を早く手に入れる方法

美しく輝く健康な爪を早く手に入れたい。以下に美しい爪のための簡単なヒントをご紹介しますので、ぜひご参考ください。

デザイナーだけが知っている色のインスピレーションの秘密

デザイナーだけが知っている色のインスピレーションの秘密

この記事では、Creative Market コミュニティのトップデザイナーが共有する色に関するヒントを紹介します。これにより、いつでも完璧な色の組み合わせを実現できます。

ノートパソコンを携帯電話に置き換えるために必要なものすべて

ノートパソコンを携帯電話に置き換えるために必要なものすべて

本当にノートパソコンを携帯電話に置き換えることができるのでしょうか?はい、ただし、携帯電話をラップトップに変えるには適切なアクセサリが必要になります。

ChatGPTはまもなく画面上で起こっているすべてを見ることができるようになります

ChatGPTはまもなく画面上で起こっているすべてを見ることができるようになります

イベントの完全版ビデオで重要なことの 1 つは、今後リリースされる ChatGPT アプリの機能がデモされたが、実際の詳細は共有されなかったことです。 ChatGPT は、ユーザーのデバイス画面上で起こっていることをすべて把握できる機能です。

AIは正直になるように訓練されているにもかかわらず、人間を騙すことを学んでいる

AIは正直になるように訓練されているにもかかわらず、人間を騙すことを学んでいる

新たな研究によると、多くのトップクラスのAIは、正直であるように訓練されているにもかかわらず、訓練を通じて欺くことを学び、体系的にユーザーを誤った信念に誘導することが判明した。

ChatGPTで質問を変更する方法

ChatGPTで質問を変更する方法

ChatGPT に質問変更オプションが追加され、ユーザーは ChatGPT と交換している質問やコンテンツを編集できるようになりました。

偽のQRコードを見分けてデータを安全に保つ方法

偽のQRコードを見分けてデータを安全に保つ方法

QR コードは、不正な QR コードをスキャンしてシステムに何か厄介なものが投げ込まれるまでは、かなり無害に見えます。携帯電話とデータを安全に保ちたい場合は、偽の QR コードを識別する方法がいくつかあります。