2026-07-14
Meta 宣布将路易斯安那州数据中心扩建至 5GW,总投资超 500 亿美元,为全球最大 AI 基础设施投资之一,配套能源与水资源承诺,凸显算力扩张与行业格局变化。 英伟达CEO透露季度营收逼近千亿美元,否认Rubin Ultra延期,GPU在AI项目中占比接近50%,CPU业务预计达200亿美元,摩根士丹利维持增持评级。 腾讯混元开源端到端OCR大模型Hy…
Meta 宣布扩建路易斯安那州数据中心至 5GW,总投资超 500 亿美元 88
Tags:
芯片算力基础设施公司动态AI基础设施Source:
AI HOT 精选| 阅读原文
[摘要]
Meta 宣布将路易斯安那州数据中心扩建至 5GW,总投资超 500 亿美元,为全球最大 AI 基础设施投资之一,配套能源与水资源承诺,凸显算力扩张与行业格局变化。
黄仁勋:英伟达季度收入逼近千亿美元,Rubin Ultra 架构未延期 88
Tags:
公司动态芯片算力算力基础设施Source:
AI HOT 精选| 阅读原文
[摘要]
英伟达CEO透露季度营收逼近千亿美元,否认Rubin Ultra延期,GPU在AI项目中占比接近50%,CPU业务预计达200亿美元,摩根士丹利维持增持评级。
腾讯混元发布 HyOCR-1.5:端到端 OCR 大模型全栈开源,推理提速 6.37 倍 86
Tags:
模型发布开源生态推理优化多模态Source:
AI HOT 精选| 阅读原文
[摘要]
腾讯混元开源端到端OCR大模型HyOCR-1.5,1B参数,引入投机解码框架实现6.37倍推理加速,支持4K分辨率与128K上下文,在OmniDocBench上排名第一。
Deceptive Grounding: Entity Attribution Failure in Clinical Retrieval-Augmented Generation 85
Tags:
RAGAI安全模型评估临床AISource:
arXiv Computation and Language| 阅读原文
[摘要]
临床RAG存在“欺骗性归因”漏洞:模型引用正确文档但归属错误实体,现有真实性检查无法检测。13个模型测试中发生率高达8-87%,微调模型更易失败。提出实体属性验证方法,精度97%、召回98.7%。
A Sovereign, Open-Source Foundation Model for German and English 85
Tags:
模型发布开源生态大模型Source:
arXiv Computation and Language| 阅读原文
[摘要]
Soofi S 30B-A3B 开源 MoE 混合 Mamba Transformer 模型发布,面向德语和英语,激活3B参数,预训练27万亿token,性能超越多个稠密模型和欧洲主权基准,代码和权重完全开放。
REAL: REtrieval-reAsoning and Logic-constructed Attention Behaviors for Long-Context KV Cache Compression 85
Tags:
推理优化KV缓存压缩长上下文模型优化Source:
arXiv Computation and Language| 阅读原文
[摘要]
提出REAL方法,通过分析注意力头的成功与失败行为实现高效KV缓存压缩,在LongBench v2上精度持平最强基线但空间减少32倍。
WILDTRACE: Benchmarking Natural Evidence Trails in Long-Context Reasoning 85
Tags:
大模型推理评测长上下文Source:
arXiv Computation and Language| 阅读原文
[摘要]
WILDTRACE 是一个新基准,用于评估模型在真实长文档中整合自然分散证据的推理能力,弥补现有基准在源内证据推理上的不足。
Mach-Mind-4-Flash Technical Report 85
Tags:
模型发布训练方法推理优化Source:
arXiv Computation and Language| 阅读原文
[摘要]
Mach-Mind-4-Flash 是一个 35B 参数 MoE 模型(3B 激活),通过后训练优化与多专家强化学习蒸馏,性能媲美 100B 级模型,推理成本大幅降低。
Neural Collapse Is Forbidden: Information Floors in Language Models 85
Tags:
研究发布大模型理论解释Source:
arXiv Computation and Language| 阅读原文
[摘要]
论文提出语言模型表示中的类别内方差并非神经崩溃不完整,而是被分配的信息存储,并通过理论证明和14个模型的实证揭示其与条件互信息的比例关系,深化了对表示学习的理解。
德国AI协会发布开源模型Soofi S,在英语和德语基准测试中领先 82
Tags:
模型发布开源生态大模型推理优化Source:
AI HOT 精选| 阅读原文
[摘要]
德国AI协会发布开源MoE模型Soofi S(30B,激活3.2B),采用Mamba-2+注意力混合架构,英语德语基准超越OLMo等开源模型,支持100万token上下文,推理高效,权重已开源。
Beyond Black-Box Obfuscation: Mechanistic Analysis and Defense of White-Box Monitors 82
Tags:
AI安全大模型模型发布Source:
arXiv Computation and Language| 阅读原文
[摘要]
研究揭示白盒监控被规避的两种机制(几何漂移与协方差操纵),并推出SafetyNet集成防御,在基准上达约100% AUROC,开源代码,对LLM安全部署有重要价值。
Seedream 5.0 Pro 测评:图像编辑门槛爆降 80
Tags:
多模态产品发布图像生成字节跳动Source:
AI HOT 精选| 阅读原文
[摘要]
字节跳动发布 Seedream 5.0 Pro 图像生成模型,支持精准局部编辑(打点、画框、涂鸦),图像质量追平 GPT-Image 2.0,已通过火山引擎 API 上线。
xAI 官方 Grok CLI 被曝静默上传整个代码库及用户密钥 80
Tags:
AI安全公司动态模型发布Source:
AI HOT 精选| 阅读原文
[摘要]
xAI 官方 Grok CLI 被曝在每轮任务前后静默上传整个代码库及用户密钥,xAI 随后远程关闭该默认上传行为,引发严重隐私担忧。
Hierarchical Causal Models 80
Tags:
研究因果推断Source:
arXiv Statistics - Machine Learning| 阅读原文
[摘要]
介绍层次因果模型(HCM),扩展结构因果模型与do演算以处理嵌套数据结构(如学生-学校),提出图形识别技术和贝叶斯估计策略,实现非层次数据下无法获得的因果识别,是因果推断的重要理论进展。
Self-Guided Test-Time Training for Long-Context LLMs 80
Tags:
L长上下文自监督训练推理优化模型训练Source:
arXiv Computation and Language| 阅读原文
[摘要]
提出自引导测试时训练,在长上下文中筛选相关篇幅进行参数调整,显著提升推理准确率,最高达15%。
Sticky Routing: Training MoE Models for Memory-Efficient Inference 80
Tags:
模型训练推理优化边缘计算Source:
arXiv Computation and Language| 阅读原文
[摘要]
StickyMoE提出训练时路由一致性损失,减少MoE模型相邻token专家切换60%,降低边缘设备内存交换开销,困惑度损失<4%。
Accelerating Large Language Model Inference with Self-Supervised Early Exits 80
Tags:
推理优化大模型研究进展Source:
arXiv Computation and Language| 阅读原文
[摘要]
提出自监督早期退出方法加速LLM推理,并引入动态自推测解码(DSSD),在Pythia模型上实现显著推理成本降低,令牌接受率提升1.66倍。
Sensitivity-Aware Thresholding and Token Routing for Activation Sparsification in Large Language Models 80
Tags:
推理优化大模型效率Source:
arXiv Computation and Language| 阅读原文
[摘要]
提出敏感度感知阈值(SATS)与令牌路由方法,通过激活稀疏化和条件路由改善大语言模型推理效率与质量权衡,具有实用价值。
RELISH: LLM REgression with a Latent Iterative State Head 78
Tags:
模型架构推理优化LLMSource:
arXiv Computation and Language| 阅读原文
[摘要]
RELISH提出一种轻量级架构,通过迭代潜状态头从冻结LLM表征直接预测标量,仅需0.01-0.04%额外参数量,在多项回归任务上超越基线。
Super-Tuning: From Activation-Aware Pruning to Sparse Fine-Tuning 76
Tags:
大模型模型发布推理优化Source:
arXiv Computation and Language| 阅读原文
[摘要]
新研究利用剪枝显著性信号指导稀疏微调,提出Super-Tuning与Supra混合适配器,降低大模型微调成本。