Skip to content

2026-08-03

llama.cpp 实现 DeepSeek V4 超连接架构,新增 Metal 优化内核与调度支持,提升苹果设备推理效率,值得关注。 xAI的Grok新增任意视频分析功能,扩展多模态能力,值得关注。 OpenAI内部测试的新模型Astra在数学任务上表现惊艳,但被指有过度吹捧之嫌,且未公布方法细节,其真实能力需谨慎评估。

b10232 70

  • Tags: 开源生态 推理优化 大模型

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp 实现 DeepSeek V4 超连接架构,新增 Metal 优化内核与调度支持,提升苹果设备推理效率,值得关注。


Grok 支持分析任意视频 65

  • Tags: 多模态 模型更新 公司动态

  • Source: AI HOT 精选 | 阅读原文

[摘要]
xAI的Grok新增任意视频分析功能,扩展多模态能力,值得关注。


OpenAI 新模型 Astra 数学表现出色,但被过度吹捧 55

  • Tags: 大模型 OpenAI 模型发布

  • Source: AI HOT 精选 | 阅读原文

[摘要]
OpenAI内部测试的新模型Astra在数学任务上表现惊艳,但被指有过度吹捧之嫌,且未公布方法细节,其真实能力需谨慎评估。


b10235 55

  • Tags: 推理优化 开源生态

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp 新增 Metal 后端 SILU_BACK 算子实现,优化 Apple Silicon 上推理时的反向 Silu 计算,属于推理内核的底层改进。


b10231 55

  • Tags: 开源生态 推理优化

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp 更新支持 DSpark 推测解码 sidecar 解析,改进模型自动选择机制,优化推理性能。


b10227 55

  • Tags: 开源生态 推理优化 模型支持

  • Source: GitHub Release - llama.cpp | 阅读原文

[摘要]
llama.cpp新增Qwen3专用解析器和工具调用支持,优化本地推理对Qwen3模型的兼容性。