TIPS [AWS]Bedrockのトークン削減の考え方
Knowledge Baseに登録するDB定義を減らし、SQL生成時のトークン数を削減すると事はシステムのパフォーマンスとコストに直結する非常に重要です。今回はプロジェクtの知見から具体的かつ実践的な方法を複数提案します。重要なのは、単に情...
チューニング
TIPS AI [AWS]Bedrockで生成されるSQLを修正・制御する方法
Amazon Bedrockで生成されるSQLを修正・制御する方法について最適なアプローチを解説します。Bedrockが直接データベースに対してアドホックにSQLを自動生成して実行する、という動きはしません。 むしろ、開発者であるあなたがS...
AI [AWS]Bedrock RAGのパフォーマンス・チューニング
Amazon Bedrock RAGの「パフォーマンス」は、主に以下の3つの側面から成り立っています。これらをバランス良く、または目的に応じて重点的に改善していくことがチューニングの鍵となります。回答精度 (Relevance/Accura...
ツール [AWS]Aurora PostgreSQLのチューニングでBedrockの性能を最大化
Amazon Bedrock のバックエンドで PostgreSQL（特に Aurora PostgreSQL）を使用する場合、パラメータチューニングは有効です。適切なチューニングにより、ベクトル検索のレイテンシ削減、RAG（Retriev...
TIPS [AWS]Bedrockエージェントのスキーマ設定
Amazon BedrockでAIがデータベースを理解し、自然言語からSQLを自動生成するためのスキーマ定義ファイルの作成手順を解説します。JSON形式が推奨されており、テーブル名、カラム名、データ型、主キー、外部キーなどを正確に記述するこ...
ツール [AWS]BedrockとOpenSearchで始める、全く新しいベクトルDB入門
Amazon BedrockでOpenSearchをベクトルDBとして使う際、インデックス、マッピング、k-NNアルゴリズムの設定が重要です。運用にはベクトルデータとメタデータ（元のテキストやスキーマ情報）が必要。テーブル名やカラム情報をメ...
ツール [AWS]Bedrockで利用可能なLLMモデル一覧
Amazon BedrockでLLMエンジンを変更する手順と、利用可能な主要モデルの詳細を解説。コンソールまたはAPIを介してモデルを選び、コンテンツに合わせて最適なAIを使い分ける方法を紹介します。Titan、Claude、Llamaなど...
ツール [AWS]Bedrock ハイパーパラメータ設定
業務内容や学習データ量に応じたハイパーパラメータの参考値をご提案します。Amazon Bedrockではモデルやタスクによって最適値が異なりますが、下記は一般的なベンチマークです。自然言語処理 (NLP) タスク（例：テキスト分類、感情分析...
ツール [AWS]Amazon BedrockでSQL生成がボトルネック対処案
Amazon BedrockでSQL生成がボトルネックになっている場合、以下の対策が有効と考えられます。プロンプトとスキーマ情報の最適化スキーマ情報の絞り込み: 大規模なスキーマ全体をプロンプトに含めるのではなく、ユーザーの質問に関連するテ...