はじめに!この記事は、CYBOZU SUMMER BLOG FES '25の記事です。こんにちは、サイボウズ株式会社 PSIRTのJJ (yuasa)です。本記事では、LLMアプリケーション向けのシステムプロンプト堅牢化ツール Prompt Hardener の使い方を紹介します。システムプロンプトの評価、改善、攻撃の自動テストまでの流れをまとめています。https://github.com/cybozu/prompt-hardener Prompt Hardenerの概要LLMを用いたアプリケーションでは、ユーザー入力や外部データを通じてLLMが誤動作を起こしてし...