トークン

ツール

[rtk] トークン消費を80%削減

AIとの対話や、Claude Code、CursorといったAIコーディングツールを使っているエンジニアの皆さん、「トークン消費」に頭を悩ませていませんか?AIエージェントが裏側で実行するgit statusやnpm testの膨大な出力が...
TIPS

[AWS]Bedrockのトークン削減の考え方

Knowledge Baseに登録するDB定義を減らし、SQL生成時のトークン数を削減すると事はシステムのパフォーマンスとコストに直結する非常に重要です。今回はプロジェクtの知見から具体的かつ実践的な方法を複数提案します。重要なのは、単に情...
AI

トークンをカウントする

Linuxの標準コマンドだけでOpenAIの公式なトークン数と完全に一致させるのは困難です。なぜなら、トークナイズ(文章をトークンに分割する処理)のルールがモデルごとに複雑だからです。しかし、「近い近似値」を素早く計算する便利なコマンドと、...
AI

トークンとは?

ChatGPTのような生成AIにおける「トークン」は、多くの人が直感的に考える「単語数」や「文字数」、あるいは「ファイルサイズ」とは少し異なる、AIが言語を処理するための独自の基本単位を指します。結論から言うと、トークンは「AIが文章を意味...
AI

[AWS]Bedrockを調教!AIモデルを最強にする「学習データ」の極意

Amazon BedrockにおけるAIモデルカスタマイズの学習方法を解説します。微調整(Fine-Tuning)と継続的予備訓練(Continued Pre-Training)の2手法を紹介し、特に「データの質」が成功の鍵となります。高品...