AI圈真是风水轮流转。Jev爆火之后，更多传统NLP技术也跟着翻红了——还真有人愿意为它们掏钱。
专门做任务型小模型的创业公司 Fastino，此前刚拿下 1750 万美元种子轮融资，加上更早一笔 700 万美元的 Pre-seed 轮，累计融资约 2450 万美元。领投方 Khosla Ventures 还是 OpenAI 的早期投资方。
现在 ScaleDown 也来凑热闹了，刚刚发布了全新的 CDM 约束解码模型架构，一口气上线分类、实体提取、摘要三款模型。NLP 老三样直接组团复出。
相比前沿大模型 API，其新模型最高快 200 倍、成本低 467 倍，还能处理 100 万 Token 的多模态输入。每百万输入 Token 只要 0.05 美元，输出免费，摘要生成也不另外收费。
连《福布斯》都专门讨论起了这条技术路线：小语言模型，正在部分任务上反过来赢大模型。
不是，2026 年了，传统 NLP 真要打赢复活赛了？
传统NLP回归AI舞台
过去几年，大模型几乎把整个 NLP 领域重新洗了一遍。一度让人觉得，以前那些专门训练的 NLP 模型，似乎已经没什么存在的必要。
但现在突然有了点文艺复兴的意思。
今年 6 月，《福布斯》专门报道了专用小语言模型（Task-Specific Small Language Models，TSLM）的测试结果。当时 ScaleDown 已经推出了面向分类、信息提取、摘要等任务的小模型，并拿它们与 Claude、GPT、Gemini 等主流大模型进行了比较。
在 ScaleDown 公布的三项基准测试中，其专用模型与测试中的 Claude 系列相比，平均准确率高出约 8%，调用成本约为对方的 1/161，响应速度达到约 3.8 倍。换成 OpenAI 系列，平均准确率高出 8.72%，成本约为 1/89，速度约为 2.4 倍。与 Gemini 系列相比，平均准确率高出 9%，成本约为 1/29，速度约为 8.3 倍。
这些比较虽然只针对特定 NLP 任务，但即便限定在这些任务里，结果也足够有意思了。尤其是成本。
在文本分类任务上，按照当时的测试结果，ScaleDown 专用模型的调用成本，相比测试中的 Anthropic 模型平均低约 5250 倍，相比 OpenAI 模型平均低约 1810 倍。摘要生成方面，假设每天需要生成 1 万份摘要，ScaleDown 给出的成本估算是：使用其专用模型，每天约 7.2 美元；使用 GPT-4.1 Mini，则约 58 美元。而在其报告的人类评价中，两者的摘要质量没有表现出明显差异。
就拿企业来说，客服工单、商品评论、金融公告、企业文档、会议记录、用户反馈……需要的只是几个实体标签，却得调用一个拥有复杂推理、代码生成、长文本理解等各种能力的通用模型。模型还可能额外解释两句，或者返回不符合预期格式的结果。
有时候用户并不需要模型给出过多的解释，该识别的识别，该分类的分类，干完活儿直接交结果就行。ScaleDown 最近发布的 CDM，就是沿着这个方向又往前走了一步。
创始人 Neal Patel 在发布时，先抛出了一个问题：
你都已经把答案给大模型了，它为什么还要从头写一遍？
比如给模型一封客服邮件，让它判断属于退款、物流还是售后。候选答案明明已经列出来了，通用大模型通常仍要经过逐 Token 生成的过程，才能输出最终结果。ScaleDown 觉得，这中间有不少可以省掉的步骤。
于是，它推出了 CDM 约束解码模型架构。CDM 针对特定任务设计，读取一次输入，跳过传统大模型逐Token生成答案的循环，直接返回任务需要的结果。首批上线的三款模型如下。
Classify，负责分类。开发者可以预先定义标签，模型根据输入内容，返回各标签对应的校准概率和判断理由。比如给客服消息分类、识别用户意图，或者判断一条请求应该交给哪个 Agent 处理。
Extract，负责实体提取。开发者用自然语言描述需要找出的信息，模型直接返回结构规范的JSON，同时附带置信度和引用信息。比如从新闻中提取公司、人名、日期，从合同中提取金额、签署方和关键条款，或者识别需要脱敏的个人信息。
Summarize，负责摘要。这一款可以接收长文本、图像或 PDF，并返回不超过 1000 Token 的摘要。可以用来压缩 Agent 上下文、生成文档元数据，或者整理会议和访谈记录。
这三个功能听起来确实不新鲜。但 ScaleDown 的思路，是把它们重新做成面向生产环境的专用模型服务。企业需要什么结果，就调用对应的模型，不必每次都把一项明确的小任务，交给通用大模型完整处理。
价格也相当激进。每百万输入 Token 收费 0.05 美元，输出免费——对，连摘要输出也免费。与此同时，CDM 支持 100 万 Token 的文本与图像输入，已经接入了 OpenRouter、Vercel、LiteLLM、LangChain 等平台。
至于性能，除了最高 200 倍速度、467 倍成本优势，ScaleDown 这次还公布了与其他专用模型的直接比较。
被拉出来的，还有最近同样颇受关注的 Jev。
Jev也在走这条路，现在还能看图了
说起专用模型，Jev 也是这段时间绕不开的一个名字。它来自 TypeSafe AI，主打结构化决策。开发者提供上下文和候选答案，模型直接做出选择，并返回相应的概率信息。
这和传统 NLP 的思路其实有相通之处：把问题限制在一个相对明确的范围里，再针对性地优化模型。
按照 ScaleDown 公布的数据，在 DecisionBench 上，CDM 取得了 77.2% 的成绩，Jev 则是 72%。上下文方面，ScaleDown 宣称自己的 100 万 Token 输入窗口，是 Jev 的 31 倍。
当然，Jev 也没闲着。Jev 1.14.0 刚刚发布，这次连图片都能看了。而且 TypeSafe AI 还顺手爆了个料：其实 Jev 1.13.0 就已经具备多模态能力，只是此前没有向用户开放。好嘛，原来早就留了一手。
这次更新之后，开发者可以直接把图片放进 Jev 的输入里，让它根据视觉内容进行判断。比如识别图片中的手势、判断画面里有没有某种商品，或者对不同的图片内容进行分类。不需要先通过 OCR 把图片转换成文字，再交给模型处理。
而且图片还可以作为候选答案的示例。以前开发者可能需要用文字描述“竖大拇指”“张开手掌”等类别，现在可以直接提供几张示例图片，让 Jev 根据视觉信息完成判断。
对于商品分类、视觉审核等场景，这种方式就方便多了。
不过，Jev 1.14 最有意思的新功能，还不只是看图。它还增加了一种名叫 Box 的输出类型。以前 Jev 擅长回答“是不是”“选哪个”；现在，它还能回答：“东西在哪儿？”
比如给它一张厨房照片，让它找到咖啡杯。模型可以直接返回咖啡杯在图片中的矩形边界框坐标。
除此之外，新版还改进了多语言能力，并开放实验性的长上下文选项。当然，TypeSafe AI 也提醒，图像、Box 和长上下文功能目前仍处于实验阶段，需要手动开启，尚未达到生产环境的可靠性要求。
从 Jev 到 ScaleDown，这些专用小模型的动作已经越来越密集了。
回到专用小模型这条路线，说白了，这一轮也谈不上旧技术打败新技术。只是在大模型几乎包办一切的时代，大家又开始重新计算：哪些任务真的需要这么强的模型？
文本分类、实体识别、摘要生成，这些需求一直都在，只是前几年大模型的光芒太盛，把这类基础 NLP 任务的价值都给盖过去了。如今 AI 应用逐渐走向规模化，成本、速度和输出稳定性又成了绕不开的问题。行业终于意识到，杀鸡没必要用屠龙刀。
兜兜转转，文本分类、实体识别、文本摘要这些 NLP 老熟人，又重新回到了 AI 圈的聚光灯下。这场传统 NLP 复活赛，算是赶上时候了。
参考链接：
[1] https://www.forbes.com/sites/joetoscano1/2026/06/25/small-language-models-outperform-frontier-ai-on-cost-speed-and-accuracy/
[2] https://x.com/neal_k_patel/status/2109978626124898587?s=46&t=iTysI4vQLQqCNJjSmBODPw
[3] https://x.com/EGafni/status/2110489489265312255?s=20
[4] https://typesafe.ai/blog/jev-1-14
发表于 1 小时前
|
查看: 3|
回复: 0
