AI スタック

前の 2 章は AI が FrontierStack を操作する側でした — 組み込みの管理者（第 13 章）と、自分のツールから MCP 経由でアプリを操作する話（第 14 章）です。本章はその逆です。FrontierStack が実行・監視を手助けする AI インフラそのもの — エージェント基盤、ローカルモデルサーバ、コードサンドボックス、ブラウザ自動化、GPU ファブリック、ML ツール、ガバナンス、そしてそれら全部の費用を扱います。これらは他と同じカタログ上のサービスで、サイドバーの AI 系カテゴリーにまとまっていますが、AI を動かすことが「呼び出す箱」ではなく「運用するスタック」になった今、独立した一章に値します。

15.1Agent Operations

サイドバーから Agent Operations を開くと、エージェント作業をサーバ中心に確認できます。各フリートホストには、到達性・環境・CPU・メモリ・検出済みワーカーが表示され、ホスト詳細と状況に合ったシェルを開けます。この Mac ではローカルシェル、リモートではそのホストに設定した SSH・mosh・SSH3 の信頼設定を使います。同じボードにランタイム健全性、ローカルのコーディングエージェント、FrontierStack セッション、エージェントコンテナもまとまります。

ランタイムは 2 種類です。一つは CLI ランタイム — コマンドラインツールがインストールされ（かつ --version に応答する）ことで検出されます。コーディングエージェントの Claude Code・Gemini CLI・OpenAI Codex、そして Factory の droid です。もう一つは状態エンドポイントを公開し、ライブメトリクスをポーリングする HTTP ランタイムです。いくつかのクラウドエージェント製品（OpenHands・Manus・Devin・OpenAI Operator・E2B）は、ポーリングではなく接続するカタログ項目として下部に並びます。

設定済みランタイムはより広いシステムに連動するため、ランタイムが停止したり、トークンのクォータ（レート制限・429・課金）に達したりすると、アラートが上がり、Local Health ボードの services グループに赤で表示されます。各ランタイムのエンドポイントと資格情報を一度設定すれば、以後は他のサービスと同様に監視されます。

15.2Activity・Work・Runtimes・Routing

4 つの関連ビューが、同じライブ状態を運用タスク別に整理します。

• Activity — ベル型の運用受信箱。Needs You に障害や消失ワーカー、失敗したセッション／ジョブを集め、Running と Recently Finished で現在と最近の作業を分けます。
• Work — ランタイムのキュー、管理者セッション、隔離された Codex／Claude サンドボックスジョブを 3 タブにまとめます。
• Runtimes — ローカル／HTTP エンジン、検出済み T3 Code ワーカー、クラウド基盤を、到達性または資格情報の状態付きで表示します。
• Routing & Integrations — モデル／プロバイダキーとリポジトリアクセスを 2 タブにまとめます。GitHub・GitLab・Bitbucket トークンは Keychain に保持され、ライブ確認も継続します。

エージェントランタイムとコネクターは、一度保存した資格情報で認証します。FrontierStack の他の場所と同様、これらのトークンは macOS Keychain に置かれ、アプリの設定ファイルには入らず、クラウドモデルに送られることもありません。

15.3Work セッション・T3 ワーカー・組み込みターミナル

Work ▸ Sessions は、目標駆動の運用・SaaS ループを単発または定期で実行する場所です。各セッションは管理者と同じガード付きツールを使い、停止可能なトランスクリプトへ各ステップを流します。セッションループからスクリプトは許可されません。

FrontierStack は、127.0.0.1:3773/.well-known/t3/environment が有効な環境レシートを返した場合だけ T3 Code ワーカーと判定します。一般的な Node プロセスや開いているポートだけでは判定しません。検出は読み取り専用・ループバック限定で、T3 のネットワーク公開、ペアリング、スレッド／承認へのアクセスは行いません。該当サーバには macOS と iOS の一覧で T3 マークが付きます。ライブジョブ数には、別途認可された読み取り専用コネクタが必要です。

Agent Operations の各ワーカー行から、ローカルではログイン zsh、リモートでは設定済み SSH／mosh／SSH3 を SwiftTerm の PTY で開けます。Terminal Style は iTerm2・Ghostty・Alacritty・Warp のテーマを取り込めます。

隣の Terminal Sessions ボタンは、そのホスト上の tmux・GNU screen・Zellij の継続セッションを検出します。画面、スクロールバック、コマンド履歴、プロセス環境、コマンドは読み取りません。実 PTY への接続、または確認後に指定したセッションだけを終了できます。終了成功は、ホストからセッション消失を確認できた場合だけ報告します。

iPhone／iPad の More ▸ Agent Activity では、ペアリングした Mac が把握している実行中エージェント、FrontierStack セッション／ジョブ、ランタイム、ワーカーボックスを状態だけで確認できます。プロンプト、コマンド行、トランスクリプト、環境変数、ターミナル内容、資格情報は送られません。Servers ▸ Host ▸ Terminal Sessions から同じ一覧を確認でき、一覧と終了はペアリング Mac 経由、フルスクリーン接続は Direct SSH の本人鍵とサーバ識別確認が済んだ場合だけ利用できます。

15.4ローカルモデルを動かす

クラウドモデルに何も送らない選択も可能です。FrontierStack はローカル推論サーバを管理し、管理者をそのうちの一つに向けられます。主要なローカルアプリ 3 つは一級市民です。

• Ollama — 最も手軽なローカルモデルランナー。モデルを取得・提供し、管理者のエンジンとして選択できます。
• LM Studio — LM Studio ペインがインストールを検出し、lms CLI でロード済みモデルとダウンロード済みを一覧。ヘッダーに「N models loaded」または「no model loaded」を表示します。
• VibeProxy — これだけ性質が異なり、モデルランタイムではなくすでに契約している AI サブスクリプションへの橋渡しです。Claude Code・ChatGPT・Gemini・Kimi・Qwen・GitHub Copilot・Z.AI GLM を一度接続すれば、従量課金の API キーなしでそれらのモデルがハーネスの選択肢に現れます。VibeProxy ペインは Homebrew でのインストール、起動と停止、通常どおりの Group Start／Run at startup 設定、そしてリクエストログとアカウント状態を見る CLI Proxy API ダッシュボードの起動を提供します。
• LocalAI — ポート 8080 のカタログサービスとして動かす、セルフホストの OpenAI 互換サーバ。

これらの他にも、AI / LLMs カテゴリーはセルフホスト推論の棚一式を備えます — vLLM・llama.cpp・Apple の MLX-LM サーバ・Jan・LiteLLM（100 以上のプロバイダをまとめるプロキシ）・Open WebUI・AnythingLLM・PrivateGPT、RAG／ベクトルツール。ローカルで動かす意義はプライバシーと費用です — 管理者のエンジンがローカルモデル（Ollama・ループバックのエンドポイント・Apple のオンデバイスモデル）のとき、Mac から何も出ないので何も秘匿されません — クラウドエンジンを守る秘密情報のスクラブが、そもそも不要なのです。

15.5コードサンドボックスとブラウザ自動化

エージェントには、コードを安全に動かす場所と、ライブな Web を読む手段が要ります。FrontierStack はその両方を管理します。

コードについては、E2B ペインが e2b CLI 経由でセキュアなクラウドサンドボックスを管理します。API キーを入力（Keychain に E2B_API_KEY として保存、または e2b auth login で一度認証）し、一覧・テンプレートからの起動・実行中サンドボックスのkillができます — 後片付け用の Kill All と「一時停止を含める」トグル付き。緑のドットは稼働中、オレンジは一時停止。エージェントが使う、使い捨ての隔離マシンで、そのコードがサーバに触れることはありません。

Web については、AI カテゴリーがブラウザ・クロールツールを含みます — Browserbase（マネージドのヘッドレスブラウザ）・Crawl4AI・Firecrawl・Apify（サイトをモデル向けの整ったテキストに変換）、そしてスクリプト自動化の Playwright。API のないページにもエージェントの「目」を与えます。

15.6GPU インフラとクラスタ

AI が実 GPU 上で動くなら、GPU Fabric ペインがハードウェアの読み取り専用ヘルスを提供します。連携サーバを選び、SSH で診断を実行します — GPU の構成と温度（nvidia-smi）、NVLink 状態、GPU トポロジー行列、NVSwitch Fabric Manager の健全性、DCGM インベントリ（dcgmi）、InfiniBand と RoCE/RDMA リンク、Slurm の GPU 割り当て、コンポーザブルファブリック CLI（WEKA・Liqid・GigaIO）。GPU は Linux ホスト上にあるため、これはフリート内のサーバを対象とします。GPU のないマシンではツールが単に「not found」と報告します。チェックを 1 つ実行するか、Run All Checks で一括実行します。

ホストの GPU 温度と負荷は、エージェントを入れていれば標準のホストモニタ（第 8 章）でも表面化するので、過熱した GPU ボックスは他のマシンと同様にアラートを上げます。スケールアウトには、AI Clusters カテゴリーが Exo（複数の Mac で 1 モデルを実行）・Petals・Distributed Llama・Ray・Slurm・Run:ai を、ML Workbench カテゴリーが学習側の実験管理・パイプラインツール（MLflow・ClearML・Weights & Biases・Kubeflow・JupyterLab）を備えます。

15.7AI ガバナンスと安全性

本番でエージェントを動かすとは、何をするかを見張り、何ができるかを縛ることです。FrontierStack は AI Governance & Safety の棚をカタログ化し、これらのツールが監視対象のランタイムの隣に並ぶようにしています — LLM 可観測性・トレーシングの Langfuse・Helicone・Arize Phoenix、評価・レッドチーミングの Promptfoo・Ragas・garak、入出力検証とプロンプトインジェクション防御の Guardrails AI・NeMo Guardrails・Lakera Guard、そして Credo AI や Holistic AI などのガバナンス基盤。カタログサービスとしてインストール・監視します — 上のボードのエージェントにとっての監査証跡とシートベルトです。

15.8AI コストモニタ

アシスタント、自作エージェント、複数のローカルモデル、外部ハーネスを使うと、費用は複数の場所に分散します。AI Model Costs はそれをひとつの画面に集約します。ヘッダーは今月の合計と予算に対する割合を表示し、色分けバーは 80% でオレンジ、100% で赤になります。AI ツール get_ai_costs は同じ数値を管理者に公開します。

ダッシュボードは 3 つの流れを一緒に追跡します。

• 従量 API 課金 — プロバイダ・モデル別。編集可能な価格表（100 万トークンあたり USD）から計算するか、請求書から直接入力。Connect Accounts は OpenAI・Anthropic・OpenRouter・DeepSeek、そしてセルフホストの LiteLLM プロキシから月初来の費用を自動取得します — プロバイダごとに複数アカウント、それぞれ独立した費用行。
• 継続的な支払いすべて（AI に限りません）。プリセットは主要な AI プラン、クラウドとホスティング（Cloudflare・Vercel・DigitalOcean・Hetzner・Backblaze など）、SaaS ツール（Apple One・Google Workspace・1Password・Figma・Adobe など）、ドメイン更新・Apple Developer・TLS 証明書といった年次費用をカバーし、任意の名前を入力することもできます。API のないサービスも、アプリが照会できるサービスと同じように追跡されます。各項目は週次・月次・年次で請求され、行には実際の支払額を表示しつつ、合計は月額に換算されます。項目はカテゴリ別に小計付きで表示され、ヘッダには月額と年額の両方が並びます。行のトグルをオフにすれば削除せずに合計から除外でき、解約を検討する際に便利です。FrontierStack のライセンスはティアに基づいて自動的に追加されます。
• ローカル CLI 使用量 — この Mac の Claude Code と Codex のログをワンクリックでスキャンし、モデル別に今月のトークンを推定として集計。

コストはサービスごとの請求通貨で発生します — 米国の SaaS は米ドル、欧州のレジストラはユーロ、FrontierStack のライセンスは日本円。各項目は元の金額と通貨をそのまま保持し、合計はすべて選択した表示通貨に換算されます。為替レートは基準日付きで編集でき、ECB の日次フィキシングからいつでも更新可能。変更すると履歴も即座に再計算されます — 会計用ではなく予算管理用の概算です。多くのサービスペインにはプランと料金セクションがあり、サービスを管理するその場で支払額を記録すると、すぐにこの合計に反映されます。

プロバイダ別の内訳（ドーナツチャート）、予算ラインを引いた 6 か月トレンド、そして費用を費用最適化アドバイザーに渡す Ask AI ボタンが、これを締めくくります。請求ヘルス監視は、接続済みの有料サービスをクレジット切れ・上限到達・支払い遅延・アカウント停止についてプローブし、アラートを上げます — キーが止まろうとしているのを、止まる前に捉えます。支出しきい値アラートがこれを補完します。月間予算の 80% または 100% を超えるとアラート(回復通知つき)が発報され、同期済みの各 AI アカウントには個別の月間上限を設定でき、DigitalOcean・Vultr・Linode のペインはプロバイダ API から当月料金を読み取って独自のしきい値を持てます。