4GenAI アプリの運用効率と最適化

• 4.1コスト最適化とリソース効率

  FM コストを抑える戦略を学びます。トークン効率（コンテキスト最適化・圧縮・プルーニング）、モデル階層化、プロンプトキャッシュ／セマンティックキャッシュ、バッチ推論、プロビジョンドスループット最適化を扱います。

• 4.2アプリケーションパフォーマンスの最適化

  GenAI アプリの応答性を高める手法を学びます。レイテンシ最適化モデル、並列リクエスト、ストリーミング、temperature／top-k／top-p の調整、検索の最適化、Auto Scaling を扱います。

• 4.3GenAI アプリケーションのモニタリング

  FM アプリの可観測性を学びます。CloudWatch でのトークン使用/ハルシ率/応答品質、Bedrock Model Invocation Logs、異常検知、ツール呼び出しのオブザーバビリティ、golden dataset による幻覚検出を扱います。