dev.to スコア: 8/10

10個のMCPサーバーをベンチマークしたら、47000トークンを消費していた

I Benchmarked 10 MCP Servers — One of Them Burns 47K Tokens Just to Say Hello

10個の人気MCPサーバーを調査したところ、847個のツールが合計11万トークンのJSONスキーマを持つことが判明した。中でもGoogle DriveのMCPサーバーは31個のツールで47293トークンを消費し、シェイクスピア全集の5%に相当する。10個のMCPサーバーを接続した状態での1日のコストは10.80ドル、月間に216ドル、年間2592ドルに達する可能性がある。著者はmcptoonというCLIプロキシを構築し、スキーマを97%圧縮することでこの問題を解決した。

#MCP #AI #DevTools #LLM
dev.to スコア: 7/10

A2Aプロトコルで3つのクラウドエージェントを比較する

Mix and Match: One Agent, Three Clouds, One Protocol

Google ADK、AWS Strands、Microsoft Agent Frameworkの3つのエージェントフレームワークを、A2Aプロトコルで相互運用させた場合の比較記事。同じResearch Agentを3つのクラウド(Cloud Run、Bedrock AgentCore、Container Apps)で動作させ、プラットフォーム間の差異を検証している。プロトコルは同じでも、モデル指定の方法やツールバインディングのAPI、系统プロンプトの名称すら三者三様で.Adapter_layer間の実装共有は困難であり、各フレームワークごとにエージェントの実装を持続させることが結論付けられている。

#A2A #AI Agents #AWS #Azure #GoogleCloud
zenn スコア: 8/10

RTX 5090でFreeTokenを試す、35Bでは不要だが120B級MoEでは話が変わる

RTX 5090でFreeTokenを試みた。35Bでは不要、120B級MoEでは話が変わる

FreeTokenはMoEモデルのexpertをホストRAMへ配置し、必要なexpertだけをGPUへキャッシュしながら推論するサービングエンジン。RTX 5090 32GB環境でテストした結果、23.5GBのOrnith 1.5ではllama.cppとvLLMの方が速かったが、65.2GBのgpt-oss-120bでは単発127.1 tok/sで動作し、VRAMに収まらないモデルをコンシューマGPUで動かせることを確認した。Qwen3.5-122B-A10B(83.5GB)も32.0 tok/sで推論可能であり、VRAM超えのMoEモデル向けというFreeTokenの立ち位置が明確になった。

#FreeToken #MoE #LLM #GPU