Pokee AI发布Isaac 28B,10M令牌上下文模型实现内网部署
•1 阅读•4分钟•前沿
长上下文Agentic AIPokee AIIsaac 28B
•1 阅读•4分钟•前沿
关键发布
Pokee AI在本周宣布推出 Isaac 28B,这是一款专为“边界内部署”设计的文本‑only 基础模型。模型规模 28 B 参数,支持高达 10 M 令牌 的单次上下文,旨在解决长时序任务在安全合规环境中的痛点。
主要技术亮点
- 超长上下文窗口:10 M 令牌是目前公开模型中最长的单次上下文长度,显著超越 GPT‑5.6 Luna(512 K)和 Gemini 3.5 Flash Lite(1 M)等云端基线。
- 单卡可运行:在单块 B200‑class GPU(相当于 RTX 4090)上即可完成前置填充(Prefill)速率 137,200 tokens/s,解码速率约 335 tokens/s,满足实时交互需求。
- 兼容 OpenAI API:提供与 OpenAI 兼容的开发者接口,便于现有应用快速迁移。
- 多平台支持:可在 VPC、数据中心本地部署,亦可运行在 Intel Arc Pro B70、Core Ultra 系列以及 Qualcomm Snapdragon X2 Elite 等边缘设备上。
基准表现
| 基准 | Isaac 28B | 对标模型 |
|---|---|---|
| RULER(10 M) | 93.3% | 所有基线 >2 M 皆为 0.0 |
| BFCL v4 | 70.94(领先) | Luna 70.61 |
| τ³‑bench(平均) | 0.662 | Gemini 0.631 |
| MCP‑Atlas(覆盖率) | 74.59%(第3) | 采用 9.10 次交互/任务,显著低于 Gemini 14.99 |
| Terminal‑Bench 2.1 | 65.1%(第2) | Luna 70% |
| DTAP(攻击成功率) | 35.6(最低) | — |
在 RULER 测试中,Isaac 在 10 M 长度仍保持 93.3% 的准确率;而同类云基线在 1 M 处即出现上下文溢出。Agentic 基准显示其在安全防护(DTAP)上拥有最低的攻击成功率,表明模型在受限环境下的鲁棒性更佳。
部署与定价
- 授权模式:模型权重不公开,仅通过商业授权方式提供,支持 VPC、私有云、现场部署或端侧运行。
- 价格:输入/输出令牌计费,分别为 $0.15 与 $1.00 每百万令牌,标注为临时价格,后续可能调整。
- 硬件要求:单卡 RTX 4090 级别即可完成全量推理,边缘设备如 Intel Arc Pro B70 亦可满足吞吐需求。
行业影响与应用场景
长上下文能力让模型能够一次性处理完整日志、合同全文或代码库,避免频繁的摘要或上下文裁剪。主要适用行业包括:
- 医疗与保险:患者记录、理赔文档全链路分析。
- 金融与合规:审计日志、合约全文审查。
- 国防与公共部门:机密情报处理,数据永不离网。
- 法律与电子发现:大规模文档检索与推理。
- 半导体研发:专利与技术文档的深度检索。
这些场景的共同点是“数据不能跨出组织边界”,而 Isaac 的本地化部署正好满足此类合规要求。
结论:Isaac 28B 通过前所未有的 10 M 令牌上下文、单卡高效推理以及灵活的本地授权模式,为监管严格的行业提供了可落地的长上下文 Agentic 解决方案,标志着大模型从云端向企业内部迁移的关键一步。
本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。