LLM

AI

[pi]極小のコアと無限の拡張性を持つコーディングエージェント

最小限のコアとシステムプロンプト最適化により、低コストかつ高速動作を実現するオープンソースのコーディングエージェント「pi」を解説。マルチプロバイダ対応やツリー構造のセッション管理、自作拡張機能による高いカスタマイズ性の詳細に迫ります。
AI

[リコー120Bモデル]継続事前学習とモデルマージ

リコーが開発した120B規模の国産LLMを例に、日本語特化の語彙拡張や継続事前学習、モデルマージ(SLERP、TIES、DARE)の数理的背景を解説。vLLMを用いた高速な推論環境構築手順や運用コストの課題も網羅します。
コマンド

[llmfit]自分のPCで動くローカルLLMを自動判定

ローカルLLMの動作可否や推論速度を自動判定するツール「llmfit」の技術解説。ハードウェア検出、量子化・コンテキスト長を考慮した適合度(Fit)判定、MoEモデルのメモリ計算、ハードウェアシミュレーションの仕組みを詳解します。
TIPS

[IDCFインシデント]ISMAPの限界

IDCFのランサムウェアインシデントを元に、ハイパーバイザー侵害によるISMAPの限界と責任共有モデルの崩壊を解説。対策として、同一クラウドに依存しない「3-2-1-1ルール」や不変ストレージを用いた自立的BCP設計の重要性を提示します。
AI

[Strix]ローカルAPIをセキュリティ検証

AIを活用したOSSペネトレーションテストツール「Strix」を使い、Ubuntu環境でローカルAPIの脆弱性診断を自動化する方法を解説。OpenAPI仕様書を用いた診断手順や、LLMの設定、コスト管理などの実践的なノウハウが学べます。
AI

[Clef]Cloudflareの判断モデル

Cloudflareが発表した意思決定特化型モデル「Clef」を解説。従来のLLMが抱える遅延や出力のゆらぎを、非自己回帰設計による超低レイテンシと型安全な確率出力で解決し、エージェントの分岐判断を高速化する技術的特徴を紹介します。
TIPS

LLM Wikiとは?

LLM Wikiの定義やRAGとの違い、3層アーキテクチャ、運用サイクルを解説。Obsidianを活用して、AIにより非構造化データを構造化された知識ベースへと再構成・構築する具体的な手順と技術的知見を提供します。
ツール

[rtk] トークン消費を80%削減

AIコーディング時のトークン消費を平均80%削減するRust製ツール「rtk」を紹介。コマンド出力の重複排除やスマートフィルタリングにより、AIの理解精度を落とさずにコストを劇的に抑える仕組みと導入手順を解説します。
TIPS

[Ollama]モデル管理・運用

OllamaにおけるLLMモデルの効率的な管理・運用方法を解説。CLIでの検索代替案から、ダウンロード(pull/run)、一覧確認(list)、不要モデルの削除(rm)まで、ディスク容量を圧迫させないための必須コマンドと運用テクニックが学べます。
ツール

[MarkItDown]最強ドキュメント化ツール

Microsoftが開発したファイル変換ツール「MarkItDown」の導入からPython APIでの活用法まで解説。PDFやOfficeファイルをMarkdown化し、LLM連携による画像解析やRAGのデータ前処理を効率化する技術的知見を提供します。