生成 AI における Agent をすぐに体感できるサンプル実装です。 Amazon Bedrock Agents を使ってすぐに Agent を動かすことができるほか、使用している Knowledge Bases のデータや Lambda 関数を差し替えたり付け加えたりすることで自社用の Agent に改造できます。

  pythonCoder: {
    enabled: true,
  },
  hrAgent: {
    enabled: false,
  },
  productSupportAgent: {
    enabled: false,
  },
  bedrockLogWatcher: {
    enabled: true,
    config: {
      bedrockLogsBucket: '',
      bedrockLogsPrefix: '',
    },
  },

# リポジトリの Clone
git clone /~https://github.com/aws-samples/agent-preparation-toolkit

# カレントディレクトリをリポジトリに移す
cd agent-preparation-toolkit

# Agent で利用する Lambda のパッケージダウンロード
npm install && cd custom-resources && npm ci && cd ..
cd ./action-groups/python-coder/lambda && pip install -r requirements.txt -t lib/ && cd ../../../
cd ./action-groups/bedrock-logs-watcher/lambda && pip install -r requirements.txt -t lib/ && cd ../../../

# CDK Bootstrap 
cdk bootstrap

# Agent のデプロイ
npm run cdk:deploy

# (待つ)
# CDK の出力にあるStackName = の後ろの値をコピーする
# 例: Dev-AgentPreparationToolkitStack.StackName = dev-AgentPreparationToolkitStack

# DataSource の同期 
# {YOUR_STACK_NAME} には dev-AgentPreparationToolkitStack などを入力
python 1_sync.py -s {YOUR_STACK_NAME} -r us-west-2 # DataSource の同期が走る。region を変えた場合は region 名を修正する

# Agent 呼び出しサンプル
python 2_invoke.py -r us-west-2 # region を変えた場合は region 名を修正する。詳細のトレースがほしい場合は --raw オプションを入れる

ユーザーは Python Coder にコーディングして欲しい内容を与えると、Python Coder は自分でコードを書き、自動でテストし、コードとテスト結果を返します。
試しに ３次元ベクトルの外積を計算するコードを書いて などと依頼するとその通りのコード及びテストコードと結果を返してくれます。

コードは単一ファイルで実行できる前提で、リポジトリ丸ごと作成する処理はできません。

カスタマイズする場合のメインのカスタマイズ箇所は以下です。

• AWS リソース定義 の const BASE_AGENT_NAME:string = 'python-coder'; 以下
• Action Group
  • Lambda 関数
  • OpenAPI スキーマ
• プロンプト
  • デフォルトプロンプト
  • Python Coder 用プロンプト

Knowledge Base に会社の年休付与規則と Database (Lambda 内で動く SQLite) に社員の入社日が格納されています。
各社員の今年の年休付与日数を問い合わせることができます。 試しに Kazuhito Go の今年度の年休付与日数は？ と問い合わせると、本日の日付を取得して Kazuhito Go の入社日から在籍日数を計算し、Knowledge Base から年休付与日数を算出します。

カスタマイズする場合のメインのカスタマイズ箇所は以下です。

• AWS リソース定義 の const BASE_HR_AGENT_NAME:string = 'human-resource-agent'; 以下
• Action Group
  • Lambda 関数
  • OpenAPI スキーマ
• Knowledge Base のデータソース
• プロンプト
  • デフォルトプロンプト
  • Human Resource Agent 用プロンプト

プリンタのエラーコードを持つ Knowledge Base と、Database (Lambda 内で動く SQLite) にエラーコードごとの対応履歴が格納されています。
エラーコードを与えるとどんなことをすれば直る可能性があるかを教えてくれます。 試しに E-03 と検索すると、過去の E-03 の詳細及び過去の対応から何をすればいいかを出力します。

カスタマイズする場合のメインのカスタマイズ箇所は以下です。

• AWS リソース定義 の const BASE_PS_AGENT_NAME:string = 'product-support-agent'; 以下
• Action Group
  • Lambda 関数
  • OpenAPI スキーマ
• Knowledge Base のデータソース
• プロンプト
  • デフォルトプロンプト
  • Human Resource Agent 用プロンプト

Amazon Bedrock ではモデルの呼び出しログを S3 に保存することができます。

Log を Glue のテーブルに取り込んだ上、Agent が SQL を発行して Lambda から Athena 経由でクエリを実行できます。
例えば、input token, output token の上位 2 identity について、年月ごとに input token, output token を identity ごとに集計して折れ線グラフにして という自然言語のプロンプトを入力すれば、今まで Input/Output Tokens の使用量 Top 2 の IAM ユーザー/ロールの特定と tokens の推移を可視化できます。
裏側ではユーザーのプロンプトから LLM が SQL を発行/実行し、返された csv データに対して、LLM が作成した python のコードを実行して図にして返してくれます。

Bedrock Logs Watcher を有効化するには事前の設定が必要で、parameter.ts の以下部分 2 箇所を設定をした後、再度デプロイコマンドを順に実行してください。

export const BEDROCK_LOGS_CONFIG: BedrockLogsConfig = {
  bedrockLogsBucket: "", // Bedrock のログを保存しているバケット。ログの有効化をしていない場合はマネジメントコンソールから S3 にログを出力するように設定する必要があります。
  bedrockLogsPrefix: "", //デフォルトだとこちら → /AWSLogs/{ACCOUNT}/BedrockModelInvocationLogs/{REGION}/
};

このリポジトリに GUI は無いですが、AWS マネジメントコンソールの GUI を使うことができる他、GenU を利用することで、簡単に GUI を作成できます。
(上記のスクリーンショットは GenU を用いたものです)
1_sync.py を実行したあと、genu.json という json ファイルが出来上がります。
GenU の ./packages/cdk/parameter.ts もしくは ./packages/cdk/cdk.json の agents パラメータの配列の中に json ファイルの中身を格納してください。
./packages/cdk/parameter.ts を使用する場合は key のダブルクオーテーションは削除しなければならない点(value は必要)に注意してください。
詳細は 手動で作成した Agent を追加 を参照ください。

開発に利用できる AI エージェント Bedrock Engineer を GUI とすることもできます。
ツールの設定 から APT で作成した Bedrock Agent の agent id と alias id を指定してください。

以下コマンドで削除してください。

npm run cdk:destroy