prompt injection

利用者の入力や、読み込ませた外部の文書・Webページに指示文を仕込んで、ボット本来の指示を上書きする攻撃。

概念URI

https://comcomponent.com/knowledge/prompt-injection/

別名・表記

プロンプトインジェクション

最終確認日

2026-08-01

機械可読データ

JSON-LD

この概念が関わる関係

• ガードレール(guardrails)はprompt injectionを軽減します。外部コンテンツをsystem instructionと同列に扱わず、ツール実行権限を最小化するガードレールは、prompt injectionが与える影響を軽減する / 確度: 確立した関係 / 確認日: 2026-08-01 出典
• 権限の最小化(least privilege)はprompt injectionを軽減します。読める資料や実行できる操作を最小化しておくことで、prompt injectionが成功した場合の被害範囲を軽減できる / 確度: 確立した関係 / 確認日: 2026-08-01 出典

この概念を扱う記事

• 業務で役立つチャットボット設計のベストプラクティス(言及)

一次資料

• https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/content-filter-prompt-shields

このページはサイトの知識グラフ(_data/knowledge/)から自動生成されています。誤りの指摘はお問い合わせからお願いします。