AWS

TIPS

[AWS]Bedrockのトークン削減の考え方

Knowledge Baseに登録するDB定義を減らし、SQL生成時のトークン数を削減すると事はシステムのパフォーマンスとコストに直結する非常に重要です。今回はプロジェクtの知見から具体的かつ実践的な方法を複数提案します。重要なのは、単に情...
AI

[AWS]Bedrockで数値のみを扱う場合の考え方

結論としてはAgentはアーキとしてないと辛いし、詰む可能性が非常に高い。Agentあり結論から申し上げますと、はい、Bedrockは数値を出力する業務に非常に向いています。ただし、それはBedrockに「計算」をさせるのではなく、Bedr...
AI

[AWS]BedrockでRAGとKnowledge BaseとAgentの位置付け

RAGはあくま概念でKnowledge Baseは必須でAgents は選択可能です。Knowledge Baseを使うこと = RAGを実践していること です。両者は切り離せません。Agentは、Knowledge Baseを含む複数の道...
TIPS

[AWS]BedrockのRAGとKendra

Amazon BedrockのRAGとKendraの関係は、これらは競合するサービスではなく、強力なRAGアプリケーションを構築するために連携・補完しあう関係です。一言で言うと、Kendraが優秀な「検索担当(Retriever)」、Bed...
AI

[AWS]Bedrock KnowledgeBase: インテントルーティング及び実行ルール

ハンバーガー店を例にして一般的な定義を記載1. 基本方針と処理フロー本ルールセットは、ユーザーからの自然言語による問い合わせ(Utterance)を解析し、その意図(Intent)を正確に分類した上で、最適なAPIエンドポイントへルーティン...
AI

[AWS]Bedrock KnowledgeBaseの「正しい」ルール設定

「ハンバーガー店」のルールファイル(bedrock_rules_hamburger_pro)を優れた見本として、ルール設定のポイントを改めて解説します。「正しい」形式とは「誰が読んでも理解しやすく、メンテナンスが容易で、拡張性の高い構造」に...
AI

[AWS]Bedrock Agentsのパフォーマンス・チューニング

Agentの「パフォーマンス」とは、単なる応答速度(レイテンシー)だけではありません。「ユーザーの指示をどれだけ正確に、効率的に、そして賢く完遂できるか」という総合的な能力を指します。このガイドでは、Agentのパフォーマンスを構成する「タ...
AI

[AWS]Bedrock RAGのパフォーマンス・チューニング

Amazon Bedrock RAGの「パフォーマンス」は、主に以下の3つの側面から成り立っています。これらをバランス良く、または目的に応じて重点的に改善していくことがチューニングの鍵となります。回答精度 (Relevance/Accura...
AI

[AWS]Bedrockで正確な情報出力が必要な場合

Bedrockで正確な情報の出力が必要な場合、基本的にはRAGを選択するのが正しいアプローチです。ただし、タスクの性質によってはAgentが最適となるケースもあります。結論から言うと、両者の選択は「情報の出所とタスクの複雑さ」によって決まり...
ツール

[AWS]Aurora PostgreSQLのチューニングでBedrockの性能を最大化

Amazon Bedrock のバックエンドで PostgreSQL(特に Aurora PostgreSQL)を使用する場合、パラメータチューニングは有効です。適切なチューニングにより、ベクトル検索のレイテンシ削減、RAG(Retriev...