2026-08-03
llama.cpp 实现 DeepSeek V4 超连接架构,新增 Metal 优化内核与调度支持,提升苹果设备推理效率,值得关注。 xAI的Grok新增任意视频分析功能,扩展多模态能力,值得关注。 OpenAI内部测试的新模型Astra在数学任务上表现惊艳,但被指有过度吹捧之嫌,且未公布方法细节,其真实能力需谨慎评估。
b10232 70
Tags:
开源生态推理优化大模型Source:
GitHub Release - llama.cpp| 阅读原文
[摘要]
llama.cpp 实现 DeepSeek V4 超连接架构,新增 Metal 优化内核与调度支持,提升苹果设备推理效率,值得关注。
Grok 支持分析任意视频 65
Tags:
多模态模型更新公司动态Source:
AI HOT 精选| 阅读原文
[摘要]
xAI的Grok新增任意视频分析功能,扩展多模态能力,值得关注。
OpenAI 新模型 Astra 数学表现出色,但被过度吹捧 55
Tags:
大模型OpenAI模型发布Source:
AI HOT 精选| 阅读原文
[摘要]
OpenAI内部测试的新模型Astra在数学任务上表现惊艳,但被指有过度吹捧之嫌,且未公布方法细节,其真实能力需谨慎评估。
b10235 55
Tags:
推理优化开源生态Source:
GitHub Release - llama.cpp| 阅读原文
[摘要]
llama.cpp 新增 Metal 后端 SILU_BACK 算子实现,优化 Apple Silicon 上推理时的反向 Silu 计算,属于推理内核的底层改进。
b10231 55
Tags:
开源生态推理优化Source:
GitHub Release - llama.cpp| 阅读原文
[摘要]
llama.cpp 更新支持 DSpark 推测解码 sidecar 解析,改进模型自动选择机制,优化推理性能。
b10227 55
Tags:
开源生态推理优化模型支持Source:
GitHub Release - llama.cpp| 阅读原文
[摘要]
llama.cpp新增Qwen3专用解析器和工具调用支持,优化本地推理对Qwen3模型的兼容性。