
プロンプトインジェクションとは?生成AIを攻撃する手法、リスク、対策、セキュリティツールの選定基準まで徹底解説!
プロンプトインジェクションは、LLM(大規模言語モデル)版の「SQLインジェクション」とも言えるサイバー攻撃 ユーザーが直接入力する「直接的攻撃」だけでなく、A...
生成AI、画像認識、AI開発企業等のAI会社マッチング支援サービス

プロンプトインジェクションは、LLM(大規模言語モデル)版の「SQLインジェクション」とも言えるサイバー攻撃 ユーザーが直接入力する「直接的攻撃」だけでなく、A...

ChatGPTなどのLLM(大規模言語モデル)は、その仕組み上、事実と異なる情報(ハルシネーション)を生成するリスクを完全には排除できません。 ハルシネーション...

OpenAIは、自社提供モデル(GPT-4.1、GPT-4oなど)の安全性評価結果を一般公開する専用ページ「Deployment Safety Hub」を公開し...

LLM(大規模言語モデル)、及び生成AIを企業導入するにあたって、間違った情報を真実のように出力する「ハルシネーション(幻覚)」が導入障壁となっているケースが少...

生成AI、特にLLM(大規模言語モデル)の活用で頻繁に耳にするハルシネーション(幻覚)とは、AIがもっともらしい(まるで正しいかのような)嘘を生成する自称を指し...