为什么选 Kaggle 而不是另一套工具链

轻量工具链的关键不是「免费」，而是「不需要维护」。Kaggle Notebooks 的定位正好卡在这条线上：浏览器里打开就能跑，GPU/TPU 由平台配额调度，本地只需要一个 Python 解释器和一份 API 凭证，就能把 Notebook 里的推理能力当成本地端点调用。

它有三个对「攒 Token」特别有用的属性：

  1. 配额按周刷新，不是一次性赠额，因此适合做成周更节奏，而不是抢首月。
  2. 不需要绑卡，注册与验证走邮箱/手机，不触发计费信息。
  3. Notebook 与 Models 是同一账号下的两块地，产物可以直接挂到 Models 页面，形成可复用的推理资产。

注意：这里说的「Token」指的是通过这条通道实际消耗的推理量，而不是某个厂商发给你的余额。Kaggle 不发放通用大模型 API 额度，它给的是算力与运行环境。

操作步骤

第一步：确认账号与配额节奏

用邮箱注册 Kaggle 账号，完成手机验证（部分 GPU 类型要求验证后才可选用）。进入 Notebook 新建页面，在右侧 Session 选项里查看当前可选的 Accelerator。

关键点：

  • 可选项会随平台调度变化，通常包括若干档 GPU 与 TPU；具体型号与每周可用小时数由平台动态调整，不要按固定数字做计划。
  • 配额通常按周滚动重置，周界以平台时区为准；把重活安排在周初，能减少「跑到一半额度用完」的情况。
  • 单次会话有最长运行时长限制，超时会被回收，长任务要拆分。

第二步：在 Notebook 里装一个推理服务

不要试图在 Notebook 里跑完整训练。目标是把开源模型加载起来，暴露一个本地 HTTP 端点，供同一会话内的脚本调用。

推荐做法：

  1. 在 Notebook 的第一个 cell 里用 pip install 装 transformers、accelerate 或 vllm 的精简组合，装完立刻 import 验证。
  2. 用 transformers 的 pipeline 起一个文本生成任务，模型选显存能装下的开源小模型（量化版本优先）。
  3. 需要 OpenAI 兼容端点时，在会话内起一个轻量 HTTP 服务（如 FastAPI），把 pipeline 包一层 /v1/chat/completions 形状的接口。
  4. 用 Notebook 内 requests 自测一次，确认返回结构正确。

这一步的产物是一个「会话内可用」的推理端点。会话结束即消失，这是设计的一部分。

第三步：把可复用部分推到 Models

Notebook 会话是一次性的，但配置不是。把以下内容提交到 Kaggle Models 或 Datasets：

  • 推理脚本与提示词模板；
  • 量化后的模型权重（如果许可允许再分发）；
  • 一份 README 写清模型来源、量化方式、显存占用与已知限制。

这样下次开新会话时，直接从自己的 Models 页面挂载，省掉重复下载与调试。Models 页面同时是一个公开可引用的资产页，便于在团队内共享同一份推理配置。

第四步：用 API 凭证把通道接到本地

这是把「一次性 Notebook」变成「周更 Token 通道」的关键：

  1. 在账号设置里生成 Kaggle API token（kaggle.json）。
  2. 本地脚本用 Kaggle API 触发 Notebook 运行，或拉取上一次运行的输出文件。
  3. 对于交互式需求，保留一个常开会话，本地通过该会话暴露的临时地址调用；会话关闭后自动失效，避免长期暴露凭证。

限制要说清：Kaggle 的 API 面向数据集、模型与 Notebook 管理，不是通用的低延迟推理网关。它适合批处理式调用（例如每天跑一批摘要、分类、改写），不适合线上实时服务。

第五步：把周更流程固化

建议固定成每周一次的动作：

  • 周一检查配额与可用 Accelerator；
  • 跑一次基准小任务，确认脚本仍可用（依赖版本会漂移）；
  • 把本周产物挂到 Models；
  • 记录实际消耗，便于下周排期。

注意事项

  • 会话不是永久的：Notebook 会话结束后内部端点即失效，任何依赖它的下游脚本都要能容忍失败并重试。
  • 配额是共享资源：GPU 类型会因平台负载变化而不可选，计划里要留降级方案（例如退到 CPU 或更小的模型）。
  • 不要外传凭证：kaggle.json 等同于账号权限，不要提交到公开仓库。
  • 许可限制：把模型权重推到 Models 前先确认模型许可证允许再分发；不允许时只推脚本与配置。
  • 不适合低延迟场景：会话启动本身有冷启动时间，实时对话类应用不要架在这条通道上。
  • 额度数字会变：平台会调整每周可用时长与可选硬件，任何固定数字都不可依赖，按「约」估算并留余量。

适用场景

  • 个人开发者想在不装 CUDA、不绑卡的前提下跑通开源模型推理；
  • 小团队需要一个每周可重置的批处理推理通道（摘要、标注、改写、评测）；
  • 教学或演示场景，需要可分享、可复现的 Notebook 资产；
  • 原型阶段验证提示词与模型选型，再决定是否迁移到付费端点。

不适用：线上低延迟服务、需要长期稳定 SLA 的生产推理、需要私有数据不出环境的合规场景。

和其他轻量通道怎么配合

这条通道的定位是「算力」，不是「余额」。它可以和官方 Free Tier 的模型 API 搭配：批处理与实验放在 Kaggle Notebooks，线上调用走官方免费层。两者都不需要绑卡，组合起来就是一套完整的零成本起步栈。