Communitygithub.com

Itô 推理

檢查已完成的 Itô 計算預約中模型服務的可用性,並在標準後端可用時,移交一個明確確認的服務清單。應在 ito-compute 已預約 GPU 節點且使用者要求 OpenAI 相容端點、ito-serve、託管 Kimi 或自託管開放權重推理之後使用。ECC 本身不實作任何服務堆疊。

Itô 推理 是什麼?

Itô Inference (`ito-inference`) 是 ECC 生態系中唯一的標準推理服務技能,專門用於在 Itô 計算環境中進行模型服務。它不直接管理 SSH、下載權重、啟動引擎或暴露端點,而是作為一個檢查與協調層,確保在後端準備就緒後,將經過確認的服務清單(manifest)安全地移交給標準後端。此技能支援 OpenAI 相容端點、ito-serve、託管 Kimi 及自託管的開放權重推理場景,但本身不執行任何實際的推理或計算任務。 由於生產環境中的託管服務目前尚未實現,`ito-inference` 目前主要作為一個失敗閉合的可用性檢查工具,會回報缺少的功能並將控制權交還給發起代理。其依賴於一個嚴格的確認流程,包括:伺服器驗證的完整預約、不可變的服務清單及其數位摘要、單次使用的確認機制、以及調用者提供的冪等金鑰。所有操作都必須通過標準後端進行驗證,且 ECC 絕不替代標準後端創建工作負載。 未來,此技能的 CLI 合約將以 `serve` 命令為核心,接受預約 ID、服務清單檔案路徑、確認參考和冪等金鑰等參數。標準 API 將擁有工作負載創建、狀態查詢、日誌、指標、取消和清理等完整生命週期管理功能,並在確認端點健康、模型身份和測試推理通過後才報告 `ready` 狀態。錯誤處理需包含穩定錯誤碼和安全訊息,絕不暴露機密資訊。

相容平台~Claude Code✓Codex CLI~Cursor
npx skills add https://github.com/affaan-m/everything-claude-code/tree/main/skills/ito-inference

在你喜歡的 AI 中提問

開啟一個已預先載入此 Agent Skill 的新對話。

說明文件

Itô 推理 是做什麼的?

ito-inference 是 ECC 中唯一用於 Itô 計算推理服務的標準技能。要求命名為 ito-serve 的請求會路由到此處;請勿建立或安裝第二個 ito-serve 技能。ECC 絕不會 SSH 到節點、下載權重、啟動引擎或暴露端點;它也不會進行預約、保留或花費。

當前生產邊界

託管服務目前無法使用。ECC 橋接器僅暴露 login、auth、find、status 以及明確閘控的 evals。它沒有 serve 命令。標準執行環境僅將 inference 記錄為不受支援的相容性探測;ECC 不會呼叫或依賴它。MCP 表面僅暴露 auth、find 和 status。本地可強制執行的保證是,ECC 在解析或生成攜帶憑證的標準用戶端之前,會拒絕 serve。

因此,請在身份驗證或任何命令調用之前停止。回報缺少的功能並返回給發起代理。絕不要替代使用本機執行器、SSH 輔助工具、瀏覽器工作流程、購買端點或任何未追蹤的本地 ito-serve 草稿。

必要的授權

當服務實現時,其第一個關卡是伺服器驗證過的完整預約。記憶體、詢價單、報價、節點 IP 或 SSH 存取都不是授權的證明。後端必須返回綁定到已認證帳戶、預約、GPU 拓撲、區域、網路結構、租期和模型策略的最新服務資格。已過期、已撤銷、不匹配、不完整或已釋放的預約在確認前會失敗閉合。

未來 CLI 與 API 合約

預期的命令名稱是 serve;在生產合約落地後,inference 可能僅保留為明確棄用的相容性別名。未來移交必須等同於:

ecc ito serve \
  --booking <server-verified-booking-id> \
  --manifest <absolute-reviewed-json-file> \
  --confirmation-ref <opaque-non-authorizing-reference> \
  --idempotency-key <stable-retry-key> \
  --json

審查過的清單必須標識模型修訂版、引擎與版本、量化方式、張量/管線拓撲、端點暴露策略、工件校驗和、儲存上限、執行時間限制、可選的 TTFT/TPOT 目標以及最大增量成本。任何原始 API 金鑰、SSH 金鑰、節點密碼或持有者權杖都不應出現在參數、清單、日誌、MCP 結果或交談中。

用戶端必須規範化清單路徑、拒絕符號連結、開啟不跟隨連結的常規檔案、要求適當的所有權和限制性權限、強制限制大小,並從開啟的描述符中對位元組進行雜湊。該摘要必須與工作負載變更前綁定到確認中的摘要完全相等。路徑交換、摘要不匹配、檔案過大或可變的不安全檔案會失敗閉合。

標準 API(非 ECC)必須擁有工作負載創建權,並返回結構化 JSON,包含 ok、live_api_contacted、notice 以及 data 或 error。服務資料必須包含穩定的預約、工作負載、清單和冪等 ID,以及一個狀態列舉;在健康檢查和模型檢查通過之前,不得聲稱端點已上線。錯誤必須包含穩定的錯誤碼和安全的訊息,不得洩漏機密。

確認與執行關卡

在工作負載創建之前,需要滿足以下所有條件:

  1. 來自標準後端的最新授權和服務資格。
  2. 可審查的不可變清單和確定性摘要。
  3. 一個單次使用的確認,綁定到帳戶、動作、清單和成本,具有短暫的到期時間和重播保護。CLI 參數僅攜帶不透明、非授權的確認參考;伺服器會離線解析並消耗該承載能力。
  4. 呼叫者提供的冪等金鑰,與工作負載原子性地保留。
  5. 伺服器端的網路結構、容量、模型策略、儲存和成本驗證。

身份驗證是身份,而非工作負載授權。登入、API 金鑰、報價或完成的預約絕不能替代服務確認。檢查和計劃生成不得建立工作負載。取消和清理是獨立的變更操作,具有各自範圍的確認和冪等邊界。

生命週期與復原

在相同的標準用戶端公開租戶範圍的狀態、日誌、指標、取消和清理操作之前,生產表面是不完整的。每個操作都需要有界連線和總逾時、感知撤銷的錯誤以及結構化輸出。在出現模糊的傳輸失敗後,應先透過冪等金鑰查詢狀態再重試;絕不要僅僅因為第一個回應遺失就建立第二個工作負載。已撤銷的憑證會停止輪詢並將控制權返回給發起代理,而不會自動開始登入。

僅在端點健康、模型身份和金絲雀推理都通過後,才報告 ready。誠實地報告中間和最終的失敗狀態。清理必須是可觀察的,且不得釋放或修改底層預約,除非該獨立的經濟行為已獲得明確授權。

提議的後端階段

這些階段描述的是未來後端,而非 ECC 中現有的程式碼:

  1. 驗證授權、拓撲、網路結構和成本關卡。
  2. 將校驗和固定的權重提取到後端管理的儲存中。
  3. 發出並驗證可審查的拓撲/引擎計劃。
  4. 透過提供者控制平面啟動,絕不從 ECC 直接 root SSH。
  5. 預熱、測試健康與模型身份、執行 SLO 金絲雀,然後註冊端點和脫敏配置。

在標準執行環境中上述每個關卡和生命週期操作都存在之前,此技能將保持為失敗閉合的可用性檢查和文件移交。

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

accessibility

Design, implement, and audit inclusive digital products using WCAG 2.2 Level AA. Use when building or auditing UI that must meet WCAG 2.2 Level AA, or when reviewing a change for keyboard, contrast, or screen-reader support.

affaan-m/claude-api

Anthropic Claude API patterns for Python and TypeScript. Covers Messages API, streaming, tool use, vision, extended thinking, batches, prompt caching, and Claude Agent SDK. Use when building applications with the Claude API or Anthropic SDKs.

affaan-m/everything-claude-code

End-to-end marketing campaign planning and execution. Covers audience research, positioning, campaign angle definition, landing page copy, email sequences, social posts, ad copy, short-form video scripts, and content calendars. Use as the orchestration layer for multi-channel product launches. Use when planning or executing a multi-channel product launch, or producing landing page, email, social, or ad copy.

affaan-m/everything-claude-code

Development conventions and patterns for everything-claude-code. JavaScript project with conventional commits.

affaan-m/everything-claude-code-conventions

Development conventions and patterns for everything-claude-code. JavaScript project with conventional commits.

affaan-m/frontend-design

Create distinctive, production-grade frontend interfaces with high design quality. Use when the user asks to build web components, pages, or applications and the visual direction matters as much as the code quality.

affaan-m/gget

gget CLI and Python workflow for quick genomic database queries, sequence lookup, BLAST-style searches, enrichment checks, and reproducible bioinformatics evidence logs.

affaan-m/literature-review

Systematic literature-review workflow for academic, biomedical, technical, and scientific topics, including search planning, source screening, synthesis, citation checks, and evidence logging.

affaan-m/motion-ui

Production-ready UI motion system for React/Next.js. Use when implementing animations, transitions, or motion patterns.

affaan-m/project-guidelines-example

Example project-specific skill template based on a real production application.

affaan-m/pubmed-database

Direct PubMed and NCBI E-utilities search workflows for biomedical literature, MeSH queries, PMID lookup, citation retrieval, and API-backed literature monitoring.

affaan-m/scholar-evaluation

Structured scholarly-work evaluation for papers, proposals, literature reviews, methods sections, evidence quality, citation support, and research-writing feedback.

affaan-m/uspto-database

USPTO patent and trademark data workflow for official record lookup, PatentSearch queries, TSDR checks, assignment data, and reproducible IP research logs.

agent-architecture-audit

Full-stack diagnostic for agent and LLM applications. Audits the 12-layer agent stack for wrapper regression, memory pollution, tool discipline failures, hidden repair loops, and rendering corruption. Produces severity-ranked findings with code-first fixes. Essential for developers building agent applications, autonomous loops, or any LLM-powered feature. Use when an agent or LLM feature misbehaves and the failing layer is unknown, or before shipping an agent stack.

agent-eval

Head-to-head comparison of coding agents (Claude Code, Aider, Codex, etc.) on custom tasks with pass rate, cost, time, and consistency metrics. Use when choosing between coding agents, or when a change to an agent setup needs measured pass rate, cost, and time rather than an impression.

agent-harness-construction

Design and optimize AI agent action spaces, tool definitions, and observation formatting for higher completion rates. Use when defining or revising an agent

agentic-engineering

Operate as an agentic engineer using eval-first execution, decomposition, and cost-aware model routing. Use when planning or executing engineering work that agents will carry out end to end.

agentic-os

Build persistent multi-agent operating systems on Claude Code. Covers kernel architecture, specialist agents, slash commands, file-based memory, scheduled automation, and state management without external databases. Use when building a persistent multi-agent system on Claude Code with its own memory, commands, and scheduling.

agent-introspection-debugging

Structured self-debugging workflow for AI agent failures using capture, diagnosis, contained recovery, and introspection reports. Use when an agent run fails and you need a reproducible diagnosis instead of a retry.

agent-payment-x402

Add x402 payment execution to AI agents with per-task budgets, spending controls, and non-custodial wallets. Supports Base through agentwallet-sdk and X Layer through OKX Payments / OKX Agent Payments Protocol. Use when an agent must pay for something itself and needs per-task budgets, spending controls, and a non-custodial wallet.

相關技能