ProgramAsWeights (PAW) 是做什么的?
ProgramAsWeights 将简短的自然语言规格说明编译成一个微型的神经函数 (“神经软件”),该函数接受一个文本输入并返回一个文本输出,且在本地运行。 您在托管 API 上编译一次;所得函数随后即可永久、离线地在本地运行。
何时使用
当任务属于模糊的 text -> text 类型,且您希望它廉价、快速、本地化且结果可重复时,请使用 PAW:
- 分类 / 归类 - 情感、紧急程度、意图、主题、垃圾邮件,或日志行中的
ALERT与QUIET分类。 - 信息提取 - 从杂乱/非结构化文本中提取电子邮件、姓名、日期、ID 或字段。
- 格式修复 / 规范化 - 修复格式错误的 JSON、规范化日期、清理不一致的输入。
- 模糊匹配 - 容错匹配、近似重复检测、将短语映射到最接近的选项。
- 分类 / 路由 - 从日志中过滤噪音、将请求路由到正确的处理程序。
它用一个小的函数取代了脆弱的正则表达式或昂贵的逐项 LLM 调用,编译后该函数在本地运行大约需要 0.05-0.5 秒,且无需网络。
何时不应使用
- 长篇或开放式的生成(文章、代码、聊天)——应使用完整的大语言模型。
- 多步推理、数学或需要广泛世界知识的任务。
- 任何不符合单文本输入 -> 单文本输出的任务。函数是无状态的,并且在规格说明 + 输入 + 输出之间共享约 2048 个 token 的窗口。
如何使用(工作流)
1. 首先检查中心仓库。 可能已经有人发布了函数;在编译之前尝试使用一个 slug:
import programasweights as paw
fn = paw.function("email-triage") # 下载一次,然后在本地运行
fn("紧急:服务器宕机了!") # "immediate"
fn("新闻通讯:春季野餐") # "wait"
2. 否则编译您自己的。 一个好的规格说明是一个描述,再加上几个 Input: ... Output: ... 示例和一个明确的输出约束:
import programasweights as paw
fn = paw.compile_and_load("""
对支持工单进行分类。仅返回以下之一:billing, bug, feature, other。
Input: 我这个月被扣了两次费
Output: billing
Input: 导出按钮没有反应
Output: bug
Input: 请添加夜间模式
Output: feature
""")
fn("我的卡又被扣钱了") # "billing"
3. 使用测试用例迭代——这是最重要的实践。 不要接受第一次的结果。构建一个小型的输入/预期对集合,测量准确率,然后优化措辞和示例,重新编译直到结果足够好。像对待软件一样对待它:测试、调试具体的失败、修正规格说明、重新测试。一个最小化的评估循环:
import programasweights as paw
tests = [
{"input": "我这个月被扣了两次费", "expected": "billing"},
{"input": "导出按钮没有反应", "expected": "bug"},
{"input": "请添加夜间模式", "expected": "feature"},
]
fn = paw.compile_and_load(open("spec.txt").read())
results = [(t, fn(t["input"]).strip()) for t in tests]
misses = [(t, got) for t, got in results if got != t["expected"]]
print(f"准确率: {(len(tests) - len(misses)) / len(tests):.0%}")
for t, got in misses: # 检查失败案例,然后修正规格说明并重新编译
print("失败:", t["input"], "-> 得到", repr(got), "期望", repr(t["expected"]))
参见 references/writing-good-specs.md 了解如何调试遗漏项。
4. 保存程序 ID 或 slug,并在本地复用。 首次资产下载后,推理无需服务器。
安装
pip install programasweights --extra-index-url https://pypi.programasweights.com/simple/
浏览器 / JavaScript:npm install @programasweights/web。使用 compiler="paw-4b-gpt2" 编译的函数可通过 WebAssembly 在客户端运行。参见 references/browser-sdk.md。
不同部分的运行位置(数据流——使用前阅读)
- 编译 将您的规格说明发送到托管的 PAW API(
https://programasweights.com)并返回一个程序 ID。不要在规格说明中包含敏感信息。 - 推理在本地运行(通过 SDK),首次下载后即可离线工作。
- 认证是可选的——匿名使用即可。仅当需要更高的编译速率限制和命名的 slug 时才登录(
export PAW_API_KEY=paw_sk_...)。
更多细节(按需加载)
- 完整 API、编译器、版本管理、链式调用、认证:
references/api.md - 编写和调试规格说明:
references/writing-good-specs.md - 浏览器 / JavaScript SDK:
references/browser-sdk.md - 常见错误与修复:
references/troubleshooting.md - 实际案例研究(日志监控、语义搜索、工具调用):https://programasweights.readthedocs.io