AI推進課の笹木です。 みなさんはAIエージェントを使っていますか？使っているならどんなことをさせていますか？ なかにはもうAIエージェントに買い物をさせている、なんてこともあるかもしれません。 でも、それって安全でしょうか？確実に欲しいものだけを買ってくれるのでしょうか？あとはひょっとしてAIに買い物をさせるために買うもの以上のコストをかけてる、なんてことはないですか？ 当然ですがエージェントに色んなことを任せられるようになればなるほど、その運用の重要性は増していきます。 AWSでもこの1年でAIエージェント向けのサービスが数多く発表され、多くの企業様がAIエージェント運用特有の難しさに直面…

1. はじめに こんにちは、クラウドエース第三開発部の小林です。 生成 AI アプリの開発が急速に広まる一方で、プロンプトインジェクションをはじめとする「Large Language Model（以下、LLM） 固有のセキュリティリスク」への対策はまだまだ手探りな現場も多いと感じています。 Google Cloud には Model Armor というセキュリティサービスがありますが、「名前は知っているけれど具体的な使い方はよく分からない」という方も多いのではないでしょうか。 今回は Model Armor を触ってみたので、基本概念からハンズオンでの挙動検証までをまとめてみました！

はじめに 前回は本シリーズの第二弾として、ペネトレーションテスト（Penetration Test）の基本概念と実施時の注意点を整理したうえで、HTB（Hack The Box）ラボ環境を用いてウェブディレクトリのブルートフォース攻撃を実施し、攻撃者の情報収集手法を確認した。さらに、その結果から防御側の観点で得られる知見をまとめた。まだ読んでいない方は、先にこちらを確認していただきたい。 今回は、ペネトレーションテスト実施の続きを解説する。 【要注意】 事前の了承を得ないまま勝手にペネトレーションテストを実施することは禁止である。 とても重要な内容であるため、上記の文言は今後の記