ProgramAsWeights (PAW) 是做什麼的?
ProgramAsWeights 將簡短的自然語言規格編譯成一個微小的神經函數 (「神經軟體」),該函數接收一個文字輸入並返回一個文字輸出,且 在本地執行。您只需在託管的 API 上編譯一次;生成的函數隨後即可在本地 永久離線執行。
何時使用此工具
當任務是模糊的 文字 -> 文字,且您希望它便宜、快速、本地化
且可重複時,請使用 PAW:
- 分類 / 歸類 - 情緒、緊急程度、意圖、主題、垃圾郵件,或
ALERT與QUIET的日誌行。 - 提取 - 從雜亂/非結構化文字中提取電子郵件、姓名、日期、ID 或欄位。
- 格式修復 / 正規化 - 修復損壞的 JSON,正規化日期,清理不一致的輸入。
- 模糊匹配 - 容忍錯字的匹配、近似重複檢測,將一個短語映射到最接近的選項。
- 分類 / 路由 - 從日誌中過濾雜訊,將請求路由到正確的處理常式。
它用一個小型的函數取代了脆弱的正則表達式或每次項目昂貴的 LLM 調用, 編譯後,該函數在本地執行大約需要 0.05-0.5 秒,且無需網路。
何時不應使用
- 長篇或開放式生成(論文、程式碼、聊天) - 請改用完整的 LLM。
- 多步驟推理、數學或需要廣泛世界知識的任務。
- 任何不是單一文字輸入 -> 單一文字輸出的任務。函數是無狀態的,且 規範 + 輸入 + 輸出共享約 2048 個 token 的視窗。
如何使用(工作流程)
1. 先查看 Hub。 可能已經有人發布了一個函數;在編譯之前先嘗試一個別名:
import programasweights as paw
fn = paw.function("email-triage") # 下載一次,然後本地執行
fn("緊急:伺服器掛了!") # "immediate"
fn("電子報:春季野餐") # "wait"
2. 否則編譯您自己的。 一個好的規範包含描述加上一些
Input: ... Output: ... 範例和明確的輸出限制:
import programasweights as paw
fn = paw.compile_and_load("""
分類支援單。僅回傳下列其中一個:帳務、錯誤、功能、其他。
Input: 我這個月被收了兩次錢
Output: 帳務
Input: 匯出按鈕沒有反應
Output: 錯誤
Input: 請增加深色模式
Output: 功能
""")
fn("我的信用卡又被扣款了") # "帳務"
3. 用測試案例迭代 - 這是第一要務。 不要接受第一個結果。 建立一組小型的輸入/預期配對,測量準確度,然後改進措辭 和範例,並重新編譯,直到夠好為止。把它當作軟體對待:測試、除錯 特定的失敗、修正規範、重新測試。一個最小的評估循環:
import programasweights as paw
tests = [
{"input": "我這個月被收了兩次錢", "expected": "帳務"},
{"input": "匯出按鈕沒有反應", "expected": "錯誤"},
{"input": "請增加深色模式", "expected": "功能"},
]
fn = paw.compile_and_load(open("spec.txt").read())
results = [(t, fn(t["input"]).strip()) for t in tests]
misses = [(t, got) for t, got in results if got != t["expected"]]
print(f"準確度:{(len(tests) - len(misses)) / len(tests):.0%}")
for t, got in misses: # 檢查失敗,然後修正規範並重新編譯
print("FAIL:", t["input"], "-> 得到", repr(got), "預期", repr(t["expected"]))
請參閱 references/writing-good-specs.md 以了解如何除錯這些未命中的情況。
4. 儲存程式 ID 或別名,以便在本地重複使用。 在首次下載資源後, 推理不需要伺服器。
安裝
pip install programasweights --extra-index-url https://pypi.programasweights.com/simple/
瀏覽器 / JavaScript:npm install @programasweights/web。使用
compiler="paw-4b-gpt2" 編譯的函數可透過 WebAssembly 在客戶端執行。請參閱 references/browser-sdk.md。
在哪裡執行(資料流程 - 使用前請閱讀)
- 編譯 將您的規範傳送到託管的 PAW API(
https://programasweights.com),並 回傳一個程式 ID。請勿在規範中放入機密資訊。 - 推理在本地執行,透過 SDK,在首次下載後即可離線運作。
- 驗證為選用 - 匿名使用即可。僅在需要更高的編譯速率限制
和命名的別名時才登入(
export PAW_API_KEY=paw_sk_...)。
更多詳細資訊(按需載入)
- 完整的 API、編譯器、版本控制、鏈接、驗證:
references/api.md - 編寫和除錯規範:
references/writing-good-specs.md - 瀏覽器 / JavaScript SDK:
references/browser-sdk.md - 常見錯誤與修正:
references/troubleshooting.md - 實戰案例研究(日誌監控、語義搜尋、工具呼叫):https://programasweights.readthedocs.io