おなかが痛くてもコーヒーは飲む、近藤恭平です。 前回は責任ある AI の原則・バイアス・透明性・人間中心の AI を整理しました。今回は、AI システムを守るためのセキュリティ・ガバナンス・コンプライアンスの実装方法を解説します。試験ガイドのドメイン5に対応した内容です。 AI システムを保護する ここで紹介するサービスは AI システムに限定されない、AWS 上のシステム全般に共通するセキュリティの基盤でもあります。AI の文脈では「トレーニングデータの保護」「モデルへのアクセス制御」「推論ログの監査」といった用途で活用されます。 アクセス制御:IAM と SageMaker Role Ma…
おなかが痛くてもコーヒーは飲む、近藤恭平です。 前回は生成 AI の基礎(FM・LLM・トークン・埋め込み・推論パラメータ)を整理しました。今回は、基盤モデルを実際のアプリケーションに活用するための設計・実装・評価に関する知識を整理します。試験ガイドのドメイン3に対応した内容です。 基盤モデルを使ったアプリ設計の考慮事項 FM の特性:大規模・ブラックボックス 深層学習の過程と学習の結果得られる基盤モデル(FM)には、以下の固有の特徴があります。 特性 内容 大規模なコンピューティング要件 FM のトレーニングには多くの GPU リソースと時間が必要。既存の FM をそのまま利用したり、転移学…