Ghostty 1.4.0をリリース - Kittyグラフィックプロトコルの完全実装とpaste保護の修正
Ghostty 1.4.0 Release Notes
Ghostty 1.4.0が2026年10月27日にリリースされた。7ヶ月分の開発、172名のコントリビューターによる2,889コミットからなる大型リリースだ。目玉はKittyグラフィックプロトコルの完全実装で、アニメーションと相対配置にも対応し、Kitty以外としては初の完全実装となる。さらに大きなパフォーマンスとメモリ使用量の改善、SSH統合の強化、各プラットフォームにまたがる数百の修正が含まれる。セキュリティ面では、貼り付け保護がキャリッジリターンを行末として扱わず、bracketed paste 非対応のプログラムで意図せずコマンドが実行されうる問題(GHSA-4hwh-wx3w-3fqg)が修正された。悪意あるKittyグラフィックコマンドによるクラッシュや一時ディレクトリ外ファイルの読み書き、tmux制御モード経由で全ウィンドウを落としてしまう問題も修正されている。
Google DeepMindがGenie 4を発表 - 音と映像を同時に生成するリアルタイム・ワールドモデル
Introducing Genie 4: A new generation of world simulation
Google DeepMindは2026年10月27日、ワールドモデル「Genie 4」を発表した。Gemini Omniを土台に現実世界の外観と挙動を固定し、別のGeminiモデルがシミュレーションの整合性維持に論理的推論を提供する二段構えのアーキテクチャを採用している。映像だけでなく音や環境音、対話も同時に生成するネイティブマルチモーダルで、自然言語で天気やカメラ位置を指定したり、新しい人物や物体をその場で追加したりできる。Geminiが文脈に応じて指示を解釈してシーンへ反映するため、シミュレーション環境の構築の手間が大きく減る。ロボットやエージェントの学習環境生成、インタラクティブな体験の生成が想定される用途で、Google AI Ultra加入者のProject GenieとGemini APIおよびAI Studioの一部パートナーの研究プレビューとして提供開始された。
WikipediaがAI生成コンテンツの排除を進め - 新規記事15〜20%がAI生成と検出
How Wikipedia's Editors Keep the Online Encyclopedia Human-Written
IEEE Spectrumの取材によると、WikipediaはAI生成されたコンテンツの除去を専用プロジェクトで進めている。AI検出企業Pangramの測定では、2025年末時点で新規記事やドラフトの約20%がAI生成と判定され、2026年初頭には15〜16%まで下がったという。ただしこれがポリシー効果なのか、検出器の精度向上なのかはまだ判断できない。Wikipedia自身はAIによるAI対策として、ページ内の出典と主張の整合性を検証するAIソース検証器や、チャットボットから貼り付けられたテキストを検知する Paste Check を開発している。編集長Ellia Lebleuは、純粋に人が書いたコーパスはAIの訓練にも価値を持つ希少資源だと強調し、帰属フレームワークやAI経由での編集リクエストなどAI時代のWikipediaの姿を描いている。
Anthropicがスタンフォード教授の著作を無断取得してClaudeを訓練 - 判所で海賊行為と認定
Anthropic illegally trained Claude with Stanford professors' books
The Stanford Dailyによると、5月のBartz v. Anthropic訴訟でfederal judge William Alsupは、Anthropicが10名を超えるスタンフォード大学教授の著作を無断で取得し、Claudeの学習に用いたと認定した。対象にはTobias Wolff、Abraham Verghese、Chang-Rae Lee、Daniel Mason、Hayagreeva Rao、Myra Stroberらの書籍が含まれる。判事はAIの学習を目的とする書籍の正当な取得はfair useとして正当化した一方、恒久的な中央図書館のために著作物を複製して保存することは明確に禁じた。つまり線引きは「学習目的の取得は合法、著作物を集めて保存する行為は違法」という整理になる。AIと書籍の著作権を巡る最大の訴訟として、出版社側の今後の主張にも影響しうる。
CPythonの実験的JITコンパイラが削除へ - PEP 836「JIT Go Brrr」で最終判断
Python's experimental JIT to be removed
2024年のPython 3.13でCPythonに追加された実験的JITコンパイラが、導入当初の形では撤退局面に入っている。6月のPython Steering Councilは、保守体制や互換性に関する懸念と、明確な成功指標および完成期限を備えたPEPが受理されるまで、CPythonのメインブランチでのJIT作業を停止すると発表していた。その後PEP 836「JIT Go Brrr: The Path to a Supported JIT Compiler for CPython」が提出され、検討の結果、CPythonにおけるJITの全面採用には至らない判断がなされた。CPython 3.13と3.14で提供された実験的JITはデフォルトで無効のままで、標準ビルドには含まれない扱いになる。
Liquid AIがLFM3を発表 - 6つのモダリティを1つのバックボーンに統合した2B級モデル群
Introducing LFM3: Every Modality for Specialized Intelligence
Liquid AIは2026年10月27日、新世代のLiquid Foundation Models「LFM3」を発表した。テキスト、ビジョン、オーディオ、オムニ、決定の6モデルがLFM3-1.7B-Baseという共通バックボーンから作られ、22兆トークンの事前学習とtri-hybridアーキテクチャを採用する。LFM3-1.7Bはパラメータを35%減らしながらLFM2.5-2.6Bを上回る。テキストモデルは4bit精度で約1GBに収まり、コンテキストウィンドウは256K。 自社製のビジョンとオーディオエンコーダも搭載し、全モデルが単一GPUでのファインチューンに対応する。ハードウェアインザループの自動アーキテクチャ探索の対象を1台の携帯と1台のラップトップから、Galaxy S26 UltraやOnePlus 15、Raspberry Pi 5、M4 Max、Ryzen AI、Qualcomm Hexagon NPUを含む14種のデバイス・バックエンドへ広げている。
AIエージェントがコードを書く時代にエンジニアが必要とするもの - CIが循環的複雑度で落ちた日
Here Be Monsters: What Do You Still Need to Know When Agents Do the Work?
突然のCI失敗から始まるエンジニアのエッセイ。エージェントに実装を任せるとApp.tsxの30行のうち15行が1行に詰め込まれた巨大なコンポーネントになり、SonarQubeが循環的複雑度を指摘した。生成されたコード自体は正しくbusiness requirementsも満たしていたが、以前の自分なら丁寧にリファクタして可読性を担保していた、という回想から始まる。結論として、エージェント時代でもエンジニアに必要なのは基礎的な知識(Fundamentals)、広い見識(Breadth)、そして必要な場所だけを掘る即応の深さ(Just-in-Time Depth)であり、AIは広い知識endgroupを素早く生成できるが、要件解釈・設計判断・検証の責任は人間が持ち続ける必要があるという主張。
AI時代のThe Mythical Man-Month - ブルスの法則は消えず変異して現れる
The Mythical Man-Month in the age of AI
「AIエージェントが数秒で即戦力になるなら、遅れたプロジェクトに人を足すと更に遅れるというブルスの法則はもう死んだのでは」という問いへの考察記事。著者は4人が1台のノートパソコンを画面につなぐ光景を目にして、この問いを投げかける。答えは法則が消えたのではなく形を変えて残った、というもの。「9人のエージェントが1か月で赤ちゃんを産む」というBaby Problemが依然として存在する。従来のボトルネックだったオンボーディング、頻繁な stand-up、組織内の政治的思惑は消えたが、制約は共有コンテキストの理解と統合、そして信頼の獲得へ移動しただけだ。AI時代のプロジェクトの納期は、人数を増やすことではなく、つなげられるコンテキストの品質と統合手段の設計で決まる。
C++で10億クエリ/秒のルックアップテーブル - 完璧ハッシュで衝突処理を排除
Billion-query-per-second lookup tables in C++
Daniel Lemireが、HTTPメソッドやヘッダ名、言語キーワードのようにキーがコンパイル時点で確定する辞書の高速化手法を紹介した。通常のstd::unordered_mapは実行時に文字列全体をハッシュし、バケットを探し、比較と連鎖探索を行うが、perfect hash functionを使えばハッシュ計算1回・比較1回で決着する。実装はGNU gperfと同じ設計で、キーの長さと少数位置の文字からassociation table(asso)を参照してスロットを決める。未知のキーが来た場合も別のキーと1回比較すれば不一致と判定でき、探索結果をたどる必要がない。精心した実装なら1回のルックアップは約5サイクルで済み、ConstexprCore/perfect_hashという単一ヘッダのライブラリとして公開されている。P99 CONF 2026で発表済み。
DuckDB.NET 1.5.6.1で読み取りが最大12倍高速化 - 改善は.NET側のコードだけ
DuckDB.NET 1.5.6.1: Reading Data Up to 12× Faster
DuckDBの.NETクライアント1.5.6.1リリースで、ADO.NET経由のデータ読み取りが大幅に高速化された。型付き読み取りが3.5〜6倍、スカラー関数が5〜7.7倍、表関数が2.5〜6倍、DateTimeのAppendが26倍速くなり、100万行のAppendにおけるアロケーションは2.8GBから0.1MB未満に削減された。改善点はDuckDB本体ではなく.NET側のコードにあり、ベンチマークはすべて同じDuckDB 1.5.6エンジンに対して1.5.6と1.5.6.1を比較しているため、差分は純粋にC#側の実装に由来する。generic仮想メソッド呼び出しの削除、隠れたboxingの除去、nullableな読み取りの高速化などが具体的な改善点として説明される。変更はDuckDB.NET 2.0にも引き継がれ、並行して公開予定の新エンジンDuckDB 2.0はTPC-H scale factor 10で1.26倍、再帰クエリでは約34倍高速化される見込み。
データセンターの機器が輸送中に強盗で失われる - GPS偽装やアカウント侵害で1億ドル規模
Data center gear is being hijacked in transit to the tune of hundreds of millions
Tom's Hardwareの報道によると、organized犯罪集団がデータセンターの搬入機器を輸送の途中で強盗しており、2026年6月以降だけで1億ドルを超える機器が奪われている。手段はアカウント侵害やフィッシング、車両のクラッシュ、GPS信号の偽装、国際犯罪組織とのつながりなど手口は多彩である。2026年6月のMojave Desert周辺では1,300万ドル、Texas向けのサーバーラック部品が1,000万ドル相当窃取され、Renoの1件事件では3,800万ドルの機材が消えたという。対象はサーバ、光ファイバや銅ケーブル、RAM、ドライブ、ルータなど対象は広く、銅線だけで30万ドルの価値がある。ベリスクのKeith Lewisは「銀行強盗より手法が容易だ」と表現している。
セキュリティスタートアップが12時間弱でAnthropicの社内システムに侵入 - 検証試験として
AI startup hacks Anthropic in 12 hours, gains access to employee details and internal messages
Washington Postの報道によると、AIセキュリティスタートアップのCathedralが、Anthropicの外部研究者向けテストプログラムを通じて12時間弱で社内システムへのアクセスを確立した。攻撃にはAIエージェントを使用し、Anthropicが業務で使うビジネスソフトウェアの弱点を探索した。侵入後、会議の書き起こしや社内外のメッセージ、従業員の個人情報、報酬に関するデータといった内部情報が取得された。狙いは破壊ではなく検証であり、精密に設計されたテストだが、その技術力は「12時間弱で社内データに到達できる」ことを示す。Anthropic側はこのテストである旨を強調している。
UIテストは画面が変わると壊れる - 310本のPlaywrightテストで71件が赤くなった内訳
Why do our UI tests break every time the interface changes? I counted 71 failures and most weren't even bugs
ReactアプリのE2Eテスト約310本を持つ前端エンジニアが、一スプリントで71件が赤くなったのを総当たりで調べた結果を公開した。内訳はロケーター起因47件(要素は残っているが、コンテナ追加・クラス名変更・ボタンがリンクに変わるなど「到達経路」が変わったもの)、タイミング起因14件(データ変更でページが遅くなり待機条件が追いつかない)、環境起因6件(CIの実行環境がローカルと乖離)、本物のバグ4件。つまり大半は「ページがどう組まれているか」ではなく「何をするか」を検証していないことに起因する。解決策としてgetByRoleやgetByLabelといった利用者視点のロケーターが推奨されるが、半数のコンポーネントに実際のroleとlabelがない状態では機能しない、という限界も指摘されている。
レスポンシブWebデザインの現代的CSSガイド - ブレークポイントとフレームワークの実測比較
A Modern CSS Guide to Responsive Web Design
レスポンシブCSSの実用的なリファレンスで、モバイルがWebトラフィックの60%を占めるという前提から、レイアウト(Flex/Grid)、流体的なテキストサイズ、type scale、スクリーンサイズ、media/picture/videoの各セクションを実例付きでまとめている。ブレークポイントの比較では、Tailwindの40rem/48rem/64rem/80rem/96remに対してBootstrapやChakra、MUI、Primerがほぼ同じrem基準を持つ一方、MediumやXLargeの区分ではずれが生じ、MUIはTailwindとほぼ一致する。コンテンツ幅はVitePressの43rem、Nextraの720px、Confluenceの816pxなど実測値が一覧されている。meta viewportの設定、bodyの初期marginと100vw指定による横スクロールの注意点、main要素による全幅レイアウトやmax-width・margin-inline autoの書き方も-armed
iframeにもAPIを持たせる - ブラウザ内関数を越境させるzoidの設計
Iframes should have an api
Daniel Brainが、サーバのAPIだけでなくWebページ自体にも関数呼び出し用のAPIを持たせるべきだと論じている。従来はDOMをスクレイプするか、postMessageのプロトコルを自前でinventして相手ページが実装ocerことを期待するしかなく、いずれも脆い。PayPal時代に作ったzoidはiframeをReactコンポーネントのように扱えるようにする試作で、コンポーネントを定義して名前とURLを指定するだけでプロパティやコールバックを渡してレンダリングできる。境界を越えられるのは関数に限られ、誰が呼べるのか、どのページで実行されるのかという認可の設計が重要になる。postMessageの拡張に過ぎないという批判に対しては、関数境界を明示する設計の利点を主張している。
コードを読まずにマージするために必要なこと - no look mergeの組織的合意
コードを読まずにマージするために必要なこと
AIに実装を任せるとPRが次々にできあがり、差分を1つずつ読んで指摘を返し、修正を待つ間にレビュー待ちのPRが積み上がる。この状況を解決する「no look merge」の前提を論じた記事だ。no look mergeでも品質確認の仕組みは別途必要で、要求どおりの動作をテストで確かめ、設計やセキュリティレビューをAIに任せ、修正後に再検証する。Rouan WilsenachのShip/Show/AskのShowのように、自動チェックを通過したらマージを止めない運用は生成AI以前に存在した。ただし人の最終確認を外すには、AIレビューの指摘を根拠にマージ判断を委ねてもよいという組織のコンセンサスが必要で、不具合を見逃したときの責任の所在を個人ではなく組織とする形で合意しておかないと「やはり人が読むべきだった」で終わる。また全PRを一律で対象にする必要はなく、どの変更を品質確認の対象に載せるかの切り分けも設計課題になる。
Goで動く新世代の補完プラグイン goda-cmp.vim - Denoからの脱却とdenops.vimの後継
Go で動く新世代の補完プラグイン goda-cmp.vim
Vim/Neovim両対応の自動補完プラグイン「goda-cmp.vim」の紹介。ddc.vimの精神的後継にあたり、補完本体はGo製のgoda.vimの上に載り、source・filter・UIは別拡張として分離されている。設定はGoのコードで書き、ユーザーが自分でビルドする方式で、VimとはJSON channel、Neovimとはmsgpack-rpcで通信するため同一バイナリが両方で動作する。動機はDeno社の開発終了とdenops.vim原作者による開発終了宣言で、移行の受け皿が必要だったこと。Go製プラグインのフルスクラッチ開発にはClaude Codeの力を借りたものの、AI前提の開発は避ける姿勢で、テキストエディタこそが本体という考えを保っている。denops.vimのメンテナンスも自分で引き継ぐ。現状は開発初期で、APIは予告なく変わる可能性がある。
AAIFに加わったOpen ResponsesをAmazon Bedrockで試す - 複数LLMプロバイダーの共通仕様
AAIF に加わった Open Responses を Amazon Bedrock で試す
2026年10月22日、Linux Foundation傘下のAgentic AI Foundation(AAIF)にOpen Responsesが新しいプロジェクトとして加わった。OpenAIのResponses APIをもとにしたLLM APIの共通仕様で、リクエストとレスポンスの共通スキーマ、ストリーミングで流れるイベントの種類と順序、ツール呼び出しの手順の3点を定める。仕様は日付つきのバージョンとして公開され、最新は2026-04-24。同じ日にAnthropicのAgent Skills、Hugging FaceのOpenEnv、AlibabaのOpenSandboxも加わり、AAIFのプロジェクトはMCPやA2A、AGENTS.mdなどと合わせて10個となった。Open Responsesに沿ったエンドポイントならクライアントコードはそのまま、接続先とモデル名だけを変えれば済む。BedrockのほかOllama、vLLM、OpenRouter、Hugging Face、Databricks Model Serving、Vercel AI Gatewayにも対応エンドポイントがある。仕様にない機能はプロバイダー名を前置して定義し、クライアントは未知のイベントを無視できる。
Chromium(V8)のArray.prototype.lastIndexOfを最大約26000倍高速化 - 内部表現と型の分岐で
Chromium(V8)のArray.prototype.lastIndexOfを最大約26000倍高速化した
V8 Contributorのriyo amemiyaが、Array.prototype.lastIndexOfの高速化パッチをchromium-reviewに提出し、その内容を解説した。lastIndexOfは仕様上、配列を後ろから走査し、===で等しい最初の要素のインデックスを返すもので、第2引数fromIndexで開始位置を指定する。高速化はV8のElementsKind(配列の内部表現)と探索値の型で分岐し、double arrayではHeapNumberの生成を避け、TaggedEqualを先に見てFastJSArrayForReadまで広げる手法を取る。ベンチマークでは最大で約26000倍の速度差が出るとされ、値の種類ごとの特殊化と文字列比較の回避が効いている。パッチはchromium-review.googlesource.comで公開されている。
Dockerのビルドを遅くしたコミットをGrafana Tempoのトレースで見つける
Dockerのビルドを遅くしたコミットをGrafana Tempoのトレースで見つける
docker buildの実体はbuildxというCLIプラグインと、デーモンのBuildKitである。BuildKitはOpenTelemetryのトレースを出し、Dockerfileの手順ひとつひとつがスパンになる。1回調べるだけなら docker buildx history trace で起動するJaeger UIで十分だが、同じトレースをGrafana Tempoに送ってコミットIDを付けておけば、どのコミットからビルドが遅くなったかをグラフで特定できる。送る只需要OTEL_TRACES_EXPORTER=otlpとOTEL_EXPORTER_OTLP_TRACES_ENDPOINTの2つの環境変数をbuilderに渡すだけだ。記事内ではビルドを意図的に遅くさせたり、コーディングエージェントやGrafana Assistantにトレースを読ませて原因の特定と修正を任せたりする手順まで紹介している。検証環境はDocker Engine 29.0.0、buildx v0.29.1、BuildKit v0.33.1、grafana/otel-lgtm 0.37.0、Claude Code 2.1.303。
Jevで問い合わせメッセージを仕分ける - 学習不要で確率と確信度を返す分類モデル
Jevに問い合わせメッセージを仕分けてもらう
会社の問い合わせチャット/フォームでは、受信メッセージから「営業」か「通常」かを識別してラベルを付け、HubSpotのフォームへ振り分けている。これまではopenai/gpt-5.6-lunaを使っていたが応答が遅く、同じ用途でJevという分類特化モデルの導入を試した。Jevには判断対象・指示・選択肢を渡すだけで学習は不要で、ラベルの追加や変更も自由。出力が構造化データの形で「選んだ選択肢」「選択肢ごとの確率」「回答の確信度」を返すため、LLMのようにJSON生成にトークンを使う重さがなく、出力形式もぶれない。text classification、LLM、Jevの3つをモデル学習の必要性・ラベル変更の自由度・処理の重さで比較し、LLMの柔軟さと分類モデルの速度を両立させる位置づけだと整理している。同じテストデータでgpt-5.6-lunaと精度および応答時間を比較している。
5種類のコーディングエージェントの使い分け - Claude Codeを窓口に他をCLIで呼び出す
私が5種類のコーディングエージェントを使い分ける理由
5種類のコーディングエージェントを併用している開発者が、その理由と役割分担を明かした記事。理由は2つあり、1つ目はモデルごとに得手不得手があること、2つ目はトークンが慢性的に足りないこと(Claude Max 20xプランでも2日弱で枯渇する)だという。人間が5画面を行き来するのを避け、Claude Codeを「窓口・設計・デザイン」の担当に置き、他のエージェントはCLIコマンド経由で呼び出す。Claude Codeは要件解釈や設計判断、DB設計、フロントエンドのデザインを担当し、Codex(gpt-6.1-sol)は画面操作・思考・画像生成、Antigravity(gemini-4-argon)は記事や資料、アプリのテクニカルライティングを担当する。日本語の可読性や句読点、遠回しな言い回しの違いを基準に役割を割っている。
'use server'関数は公開HTTPエンドポイント - Next.js Server Actionsの背後にある危険
Your "use server" functions are public HTTP endpoints and middleware won't save you
Next.js App Routerの 'use server' 関数は、React Server Componentから呼ぶ内部関数のように見えるが、実際にはビルド時に公開可能なHTTP POSTエンドポイントへコンパイルされる。識別子さえ知っていればcurlやPostman、スクリプトから任意のJSONペイロードで直接呼び出せ、UIやmiddlewareの認証チェックを完全に迂回できる。保護されたレイアウトやページでrequireAdminSessionを呼んでいても、Server Action自体は保護されない。Next.jsのmiddlewareもRoute Handlerを通過する形になるため、Server Actionの呼び出しを確実に弾くことはできない。force-staticやforce関数パターンを使い分けること、入力バリデーションと認可チェックをAction内で行うことなど、Server Actionsを公開RESTエンドポイントとして扱う設計が求められる。
AIが「修正しました」と言う前にテストを走らせる - proof-of-doneプラグイン
Your AI said "fixed" but never ran the tests? I made a plugin that won't let it say done until they pass
Claude CodeやCodex、Cursorに「すぐ直して」と頼むと、コードを変更して「Fixed」と返すだけで、テストを1度も実行していないことがある。実例では合計金額の誤りを直させた際、AIはファイルを触って「Fixed」と返したが、プラグインが停止をブロックしてテスト実行を要求。テストを実行するとクーポン適用時に合計がマイナスになるバグが1件見つかり、AIはそれも修正、4件すべてがパスして初めて完了となった。proof-of-doneはClaude Code向けの無料プラグインで、Hookが編集とチェックの履歴を記録し、最後の編集後にテスト・ビルド・lintが通っていない限り完了の宣言を許さない。Claude Codeでは /plugin marketplace add WST2002/claude-code-skills と /plugin install proof-of-done@claude-code-skills で導入できる。
Web PKI历史上最も恥ずかしい秘密鍵 - eMudhraの8つのCA証明書
The Most Embarrassing Private Key in Web PKI History
eMudhraのCAインシデントは、暗号の失敗であると同時に運用とレビュー、インシデント対応の失敗であったとする分析記事。2025年4月30日の鍵生成式で、eMudhraが運用する8つの中間認証局の秘密鍵が弱く生成された。影響を受けた証明書は楕円曲線暗号(P-384)を使っており、本来は巨大な乱数であるべき秘密鍵の値が256未満だったと伝えられ、広く議論された例では値が4だったという。証明書は見た目は正常で、熟悉したCA名の明記とtrusted rootへのチェーンを持ち、ブラウザでの検証も通り、監査サイクルも素通りしていた。鍵が4であることは、金庫の4桁暗証番号を置いていたのと同じで、超大型計算機も量子技術も要らず数えるだけで解ける鍵だった。eMudhraの最終root cause analysisは未完で、確定事実と報道に基づく推定を分けて記述している。
VPSからメールサーバを消して1.2GBのRAMを取り戻す - 壊れた部分が一番学びがあった
I deleted the mail server from my VPS and got 1.2 GB of RAM back
8GBのRAMを持つ1台VPSでDjangoのバックエンドとNext.jsのフロントエンド(Vercel上)を動かし、同じVPSで自前のメールサーバも運用していた個人開発者が、そのメールサーバを撤去した経験記。コンテナ内でPostfix、Dovecot、スパム対策のrspamd、ウイルス対策のClamAV(シグネチャデータベースだけでディスク上309MB)、fail2banが動いていた。ポート25・587・993をインターネットに開放していたためボットに毎日攻撃され、ログとプロセスが膨張していた。外部のsmtpfa.stへ移すことに成功后、Djangoから1.2GBのRAMを取り戻せ、メモリ起因の不安定性やログのノイズが解消されたという。記事の中心は移行手順ではなく、撤去時に想定外の挙動が起きた部分と、運用しなくて済むことの価値を再評価する点にある。
Gemma 4 E2B/E4BはAmazon L4と小さなGPUでどう違うか - 実行環境ごとにモデルを-sizingする
Size Your Model to Where You Run It: Gemma 4 E2B and E4B on an AWS L4 and two Small GPUs
Googleの量子化対応学習(QAT)済み小規模モデルGemma 4 E2B/E4Bを、llama.cppでAWS EC2 G6インスタンスのNVIDIA L4(24GB)、8GBのデスクトップRTX 3050、4GBのノートPC GTX 1650 Tiで動かして比較した実測レポート。単一ユーザーでは24GBのL4が8GBのデスクトップカードの1.2〜1.3倍でしかなく、回答の品質は同じだった。4bitの小規模モデルはL4のメモリの13〜29%しか使わず、残りはアイドル状態になる。E2BはdrafterなしでL4が133.4 tok/s、RTX 3050が76.5 tok/s、GTX 1650 Tiが90.3 tok/s。E4BではL4が74.0 tok/s(同drafter込み129.7 tok/s)、3050が38.0 tok/s、1650 Tiが56.5 tok/s。RTX 3050はdrafterなしでL4の79〜81%、drafter込み69〜77%を達成し、L4の価値は複数ユーザーが同時にアクセスする場合に効いてくるという結論。