Pokee AI发布Isaac 28B,10M令牌上下文模型实现内网部署

1 阅读4分钟前沿

关键发布

Pokee AI在本周宣布推出 Isaac 28B,这是一款专为“边界内部署”设计的文本‑only 基础模型。模型规模 28 B 参数,支持高达 10 M 令牌 的单次上下文,旨在解决长时序任务在安全合规环境中的痛点。

主要技术亮点

  • 超长上下文窗口:10 M 令牌是目前公开模型中最长的单次上下文长度,显著超越 GPT‑5.6 Luna(512 K)和 Gemini 3.5 Flash Lite(1 M)等云端基线。
  • 单卡可运行:在单块 B200‑class GPU(相当于 RTX 4090)上即可完成前置填充(Prefill)速率 137,200 tokens/s,解码速率约 335 tokens/s,满足实时交互需求。
  • 兼容 OpenAI API:提供与 OpenAI 兼容的开发者接口,便于现有应用快速迁移。
  • 多平台支持:可在 VPC、数据中心本地部署,亦可运行在 Intel Arc Pro B70、Core Ultra 系列以及 Qualcomm Snapdragon X2 Elite 等边缘设备上。

基准表现

基准Isaac 28B对标模型
RULER(10 M)93.3%所有基线 >2 M 皆为 0.0
BFCL v470.94(领先)Luna 70.61
τ³‑bench(平均)0.662Gemini 0.631
MCP‑Atlas(覆盖率)74.59%(第3)采用 9.10 次交互/任务,显著低于 Gemini 14.99
Terminal‑Bench 2.165.1%(第2)Luna 70%
DTAP(攻击成功率)35.6(最低)

在 RULER 测试中,Isaac 在 10 M 长度仍保持 93.3% 的准确率;而同类云基线在 1 M 处即出现上下文溢出。Agentic 基准显示其在安全防护(DTAP)上拥有最低的攻击成功率,表明模型在受限环境下的鲁棒性更佳。

部署与定价

  • 授权模式:模型权重不公开,仅通过商业授权方式提供,支持 VPC、私有云、现场部署或端侧运行。
  • 价格:输入/输出令牌计费,分别为 $0.15$1.00 每百万令牌,标注为临时价格,后续可能调整。
  • 硬件要求:单卡 RTX 4090 级别即可完成全量推理,边缘设备如 Intel Arc Pro B70 亦可满足吞吐需求。

行业影响与应用场景

长上下文能力让模型能够一次性处理完整日志、合同全文或代码库,避免频繁的摘要或上下文裁剪。主要适用行业包括:

  • 医疗与保险:患者记录、理赔文档全链路分析。
  • 金融与合规:审计日志、合约全文审查。
  • 国防与公共部门:机密情报处理,数据永不离网。
  • 法律与电子发现:大规模文档检索与推理。
  • 半导体研发:专利与技术文档的深度检索。

这些场景的共同点是“数据不能跨出组织边界”,而 Isaac 的本地化部署正好满足此类合规要求。

结论:Isaac 28B 通过前所未有的 10 M 令牌上下文、单卡高效推理以及灵活的本地授权模式,为监管严格的行业提供了可落地的长上下文 Agentic 解决方案,标志着大模型从云端向企业内部迁移的关键一步。

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。