DeepSeek 全面开源内部推理框架 DeepInfer
AI HOT/公众号:DeepSeek(深度求索) · 昨天 16:54
把支撑自家最快最便宜模型的推理引擎连同 Token 编解码组件一起放出,等于把成本优势的工艺路线公开。这与 MiniMax 降本 70% 是同一场仗的两种打法:一个压价,一个开放引擎。盯社区复现的吞吐数据。
每日摘要 · Daily Brief · No.108
今天两条线并行:一是「开源到底」,DeepSeek 把推理框架 DeepInfer 连同 Token 编解码组件一起开源,Google/Meta 的 TorchTPU 也在拆硬件绑定,开源正从权重层下探到引擎层,这是国产模型价格战之外的第二种竞争方式;二是「监管收紧」,美方联邦机构清除 DeepSeek 与 Anthropic 自推高门槛安全法案同时出现,说明合规成本正被制度化,谁先把安全叙事变成行业标准,谁就在下一轮招标里占位。资本端 OpenAI 抢跑融资,把估值推到……
AI HOT/公众号:DeepSeek(深度求索) · 昨天 16:54
把支撑自家最快最便宜模型的推理引擎连同 Token 编解码组件一起放出,等于把成本优势的工艺路线公开。这与 MiniMax 降本 70% 是同一场仗的两种打法:一个压价,一个开放引擎。盯社区复现的吞吐数据。
AI HOT/PyTorch:Blog(RSS) · 今天 00:00
迁移只需把 .to("cuda") 改成 .to("tpu"),这是从框架层拆英伟达生态绑定的关键一刀,和今日 Google 争夺 AI 应用开发者同频。若能进主流训练栈,算力议价权会重新分配。
AI HOT/X:fal (@fal) · 今天 01:42
第三方人类偏好评测并列第一,说明视频生成的第一梯队已不是单点领先而是贴身缠斗。约 12 秒出 10 秒 7 秒素材,工时成本已接近可商用阈值,盯后续 API 定价。
AI HOT/X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas) · 今天 00:34
模型和智能体都在本机跑、能操作原生应用和本地文件,敏感数据不出机器——这是把 Agent 卖给企业与个人的关键合规卖点。与今天端侧 MoE、边缘 TTS 同一条「本地化」暗线。
The Decoder · 今天 01:17
语音正从「接口」变成「完整 Agent 栈」,与 ElevenLabs 的实时语音对语音模型同日发布。这条赛道卷的是延迟和打断处理,不是识别准确率,盯端到端延迟指标。
TechCrunch AI · 昨天 21:07
双源(TechCrunch 与 The Decoder)同报,从「禁用」升级到「清除」,措辞变化意味着存量部署也要拆。和 Anthropic 自推安全法案对读:监管之手在同时抬高国内外玩家的合规门槛。
TechCrunch AI · 今天 07:01
用极端红线换立法话语权,本质是把安全标准变成准入牌照。若成法,闭源大厂受益、开源与中小模型承压。这条线下半年会反复出现在各国立法听证里。
AI HOT/X:Rohan Paul (@rohanpaul_ai) · 昨天 16:06
比 3 月的 8520 亿高至少 64%,时间点选在对手 IPO 前,是典型的抢跑定价。盯融资结构里债务与股权的比例——这决定 neocloud 链条的脆弱程度。
AI HOT/TechCrunch:AI(RSS) · 今天 05:25
最尖锐的一条:模型公司想规模化,却要向把自己当对手的云厂商租算力。这解释了 Anthropic 为何要外租 450 亿算力、自建基础设施——垂直一体化的压力来自客户兼对手。
TechCrunch AI · 今天 02:38
和 TorchTPU 是一套组合拳:一手拆框架绑定,一手抢开发者心智。硬件护城河正被「生态+后端」两条腿同时敲,盯开发者迁移的实际留存率而非发布会口径。
Reddit r/LocalLLaMA · 昨天 18:59
第三方独立评测,比自报榜单可信度高。注意 Sol 走的是受信任访问通道,测试条件不完全对等。和 10-20 那条「自报数字打折扣」的教训对照读,独立评测权重该上调。
Reddit r/LocalLLaMA · 昨天 22:40
不比题库比真实工程任务,这才是编程 Agent 的有效测法。国产 Flash 级模型与顶级闭源正面对撞,结论比跑分有意义——盯失败模式而非总分。
Reddit r/LocalLLaMA · 今天 05:03
比厂商 SDK 快约 2 倍,说明端侧推理的性能上限还卡在软件栈而非硬件。和面壁端侧 MoE、Perplexity 本地跑同一方向:本地化的瓶颈正被工程社区一个个拆掉。
Reddit r/LocalLLaMA · 昨天 11:27
把「显存不够」重新定义为调度问题,和 ORCA 的多模型编排、本地部署成本下放是一个思路。对自建推理的读者,这是能直接省硬件预算的工程判断。
Reddit r/LocalLLaMA · 今天 07:04
推测解码的迭代速度明显加快,直接决定 Agent 场景的 token 成本与延迟。这类底层加速进展常被模型发布盖过,但对推理经济性的影响更实在。
@OpenAIDevs · 1,920 赞
共享指令、工具和上下文可以缓存 12 小时,请求隔几个小时也按缓存价计费。对全天常驻的 agent 来说是实打实的降本,也是上下文工程的新变量。
@deepseek_ai · 2,352 赞
DeepSeek 公布 V4.1 Flash 大规模推理服务方案,并开源相关代码,邀请社区一起优化。swyx 也提醒知乎原文里的技术细节更多。
@OpenAIDevs · 1,315 赞
可以把每周汇总进展、阻塞项这类重复工程工作交给 ChatGPT 定时跑,队友能一起审阅和调整下次内容。agent 从个人工具走向团队流程。
@simonw · 380 赞
Battle Drones 是一款类红警的浏览器即时战略游戏,3D 模型全由 Claude 生成,还支持通过音频做设备间联机,甚至能让两个 LLM 对战。是 AI 编程能力的生动案例。
@DamiDefi · 179 赞
盘点上周 agent 相关更新,其中 Claude Code Review 进入正式可用,单次审查从约 20 分钟缩到 6 到 10 分钟,并分快速、标准、深度三档。
@AYi_AInotes · 159 赞
介绍 Anthropic 工作坊里的多智能体编排思路:一个主代理统筹,下面的子代理像项目经理一样分头带任务,而不是一问一改。
@akshay_pachaar · 135 赞
在一个工具里纠正的问题和沉淀的 skill,能被其他编程 agent 继续用,知识跟着人走。是今天 agent 记忆方向讨论最多的一条。
@ataiiam · 50 赞
一套让任意应用接入生成式 UI 的开源方案,兼容任意 LLM 和 agent 框架,也能用自己的组件和设计系统,登上 GitHub 趋势榜。
@indie_maker_fox · 38 赞
JetBrains 推出的轻量 AI 编程 IDE,用 git worktree 隔离工作区,让多个智能体并行干活,作者实测体验不错。
@FinanceYF5 · 8 赞
每 1000 次调用 0.75 美元,通过 Claude Code、Codex 和 DeepSeek Harness 调用目前免费,北京时间 11 月 1 日起收费。DSH 用户做联网 agent 可以趁现在试。
Interconnects · 今天 01:04
把今日三条主线——开源引擎、美国清除 DeepSeek、安全法案——收进同一篇,正是「监管成为竞争变量」的框架文。和中美两地的准入政策对照读最有效。
Latent Space · 今天 03:31
算力从「租机器」走向「按需编程调度」,和 Anthropic 自建、neocloud 债务扩张是同一条资本开支曲线的两端。盯的是单位算力定价能否被调度效率压下来。
AI HOT/Ai2 / Allen Institute for AI(RSS) · 昨天 16:00
1300 万测试用例、用对抗前缀测「被说服难度」的群体差异,比静态公平性题库更接近真实部署风险。若被监管引用,会成为模型准入的又一量化门槛。