Vercel AI Gateway 上架免费试用版 Nemotron 3.5 Lightning，Arm 推出首门 ExecuTorch 课程

Vercel 在 10 月 14 日把 NVIDIA 的 Nemotron 3.5 Lightning 以免费端点上架 AI Gateway，但它属于试用性质，提示词和输出会被 NVIDIA 记录，免费层还有限流。Arm 在 10 月 13 日给 Arm Learning Paths 加了第一门课程，讲 ExecuTorch 端侧推理，约八小时，官方写明免费。

Vercel AI Gateway 上的免费 Nemotron 3.5 Lightning

出处是 Vercel 的 changelog。模型名是 nvidia/nemotron-3.5-lightning-free，由 NVIDIA 提供推理。官方介绍它是开放权重的推理和对话模型，30B 参数、每个 token 激活 3B，混合了 Mamba-2、MoE 和少量注意力层，上下文窗口 1M token，支持工具调用和结构化输出。

调用方式有 AI SDK、Chat Completions、Responses 和 Messages 几种接口，也能接到 Claude Code、Codex、Cursor 这类编码代理里。接代理时，官方给的做法是装好最新的 Vercel CLI 后运行：

npx vercel ai-gateway setup

然后在代理里选 nvidia/nemotron-3.5-lightning-free。

免费的范围要看 AI Gateway 计费文档。每个 Vercel team 账号都有免费层，每月含 5 美元额度，只能用标记为免费层可用的模型，并且按模型限流，限额比付费层低，超了会返回 429。购买 AI Gateway Credits 后，账号转到付费层。changelog 没有写这个免费端点的截止日期。

数据方面要留意两处原文。changelog 写的是 “The provider may retain prompts for model improvement”，即提供方可能保留提示词用于改进模型。模型页的说法更严格：免费端点的所有提示词和输出都会被记录，用来改进 NVIDIA 的产品和服务；不要上传个人、机密或其他敏感信息；这只是试用，不要用于生产或关键业务系统，适用 NVIDIA API Trial Terms of Service。

这次没有实际申请密钥调用这个模型，上面的接口和限制都来自官方页面。

Arm 的第一门课程：ExecuTorch 端侧推理

Arm 在 10 月 13 日的官方博客里宣布给 Arm Learning Paths 加两种新内容：Courses 和 Insights。原文说 Courses 和 Learning Paths 其他内容一样 “self-service and free”。

第一门课叫 Optimize and deploy AI inference with ExecuTorch on Arm，入口在 learn.arm.com/courses。官方说约八小时，理论加动手编码练习，讲怎么用 ExecuTorch 把 PyTorch 模型部署到 Arm 的 CPU 和 NPU 上，内容包括后端委托、量化和性能对比。

同时上线的 Insights 是一组整理好的技术问答，首批覆盖 ExecuTorch、SVE 和 SME，可以下载成结构化 JSON 给编码代理当上下文。Arm Learning Paths 本身是开源的，内容通过 GitHub PR 贡献。

这门课偏端侧 AI 和 Python 工具链，跟 Java 后端关系不大。官方博客举的例子是在 Android 应用里用 ExecuTorch 做端侧语音识别。