TIPS LLM Wikiとは？
LLM Wikiとは、一言で言えば「LLM（大規模言語モデル）によって生成・整理された、構造的な知識ベース」のことです。従来のWiki（Wikipediaなど）は人間が手動で書き込み、リンクを貼りますが、LLM Wikiは膨大なデータや社内...
情報
TIPS 
TIPS [Mac]「._」ファイル作成無効化
「._*」ファイルを作成しないことでMacのOS自体に不具合や問題が起きることは100%ありません。 安心して無効化して大丈夫です。なぜ不具合が起きないのか、そして無効化した場合に「何が失われるのか」を分かりやすく解説します。1. なぜMa...
TIPS [AWS]Bedrockのトークン削減の考え方
Knowledge Baseに登録するDB定義を減らし、SQL生成時のトークン数を削減すると事はシステムのパフォーマンスとコストに直結する非常に重要です。今回はプロジェクtの知見から具体的かつ実践的な方法を複数提案します。重要なのは、単に情...
TIPS [AWS]BedrockのRAGとKendra
Amazon BedrockのRAGとKendraの関係は、これらは競合するサービスではなく、強力なRAGアプリケーションを構築するために連携・補完しあう関係です。一言で言うと、Kendraが優秀な「検索担当（Retriever）」、Bed...
AI [AWS]Bedrock RAGのプロンプトテンプレート
Bedrock RAGのプロンプトテンプレートは、検索した情報（コンテキスト）とユーザーの質問を組み合わせて、最終的にLLM（大規模言語モデル）へ渡す指示書を動的に生成するための設計図です。このテンプレート内で利用できる専用のプレースホルダ...
AI [AWS]Bedrock RAGのパフォーマンス・チューニング
Amazon Bedrock RAGの「パフォーマンス」は、主に以下の3つの側面から成り立っています。これらをバランス良く、または目的に応じて重点的に改善していくことがチューニングの鍵となります。回答精度 (Relevance/Accura...
AI [AWS]Bedrockで正確な情報出力が必要な場合
Bedrockで正確な情報の出力が必要な場合、基本的にはRAGを選択するのが正しいアプローチです。ただし、タスクの性質によってはAgentが最適となるケースもあります。結論から言うと、両者の選択は「情報の出所とタスクの複雑さ」によって決まり...
ツール [AWS]トークン上限突破！NL-to-SQLの壁を壊すBedrock RAG活用法
Amazon Bedrockでトークンの上限を超えるような巨大なテーブル構成（データベーススキーマ）を読み込ませ、自然言語での問い合わせ（NL-to-SQL）などに活用するには、すべてのテーブル定義を一度にプロンプトへ含めるのではなく、必要...
ツール [AWS]BedrockとOpenSearchで始める、全く新しいベクトルDB入門
Amazon BedrockでOpenSearchをベクトルDBとして使う際、インデックス、マッピング、k-NNアルゴリズムの設定が重要です。運用にはベクトルデータとメタデータ（元のテキストやスキーマ情報）が必要。テーブル名やカラム情報をメ...
ツール [AWS]Amazon BedrockでSQL生成がボトルネック対処案
Amazon BedrockでSQL生成がボトルネックになっている場合、以下の対策が有効と考えられます。プロンプトとスキーマ情報の最適化スキーマ情報の絞り込み: 大規模なスキーマ全体をプロンプトに含めるのではなく、ユーザーの質問に関連するテ...