AI TrendTrackers

深度思考实验室（DeepSeek）最近发布了全新的推理模型R1，声称该模型不仅性能超越目前最先进的推理模型（如OpenAI的O1系列），而且训练规模只用到了西方大厂GPU集群的一个小小分支。更引人注目的是，和这些大厂不同，DeepSeek还公开了一篇论文，详细解释了他们的技术原理。 简单来说，传统模型的工作原理是根据提示预测下一个或一系列的输出文本。而推理模型则尝试将“逐步思考”的行为直接嵌入到模型中，从根本上改变其逻辑思维方式。OpenAI的模型具体如何运作并未公开，但一种可能的机制是这样的：先用一个强大的常规模型生成大量“逐步推理”的示例，然后筛选出正确答案的数据，再用这些数据对模型进行微调。这个过程虽然有效，但耗费巨大，尤其是需要生成海量的高质量推理数据。 而DeepSeek采用了完全不同的方法。他们的训练基于强化学习，而非微调，不需要预先准备海量的推理链数据，也不需要运行高昂的答案验证模型。具体操作如下： 这种强化学习方法不仅降低了成本，还可能带来质量上的提升。传统方法中的推理能力取决于最初基础模型的表现，而DeepSeek的方法允许模型在自我训练过程中创造出全新的推理链，这种自我进化的能力可能最终导致真正的超智能推理能力，类似于国际象棋超级AI展现出的“非人类”策略。 然而，DeepSeek的方法并非没有局限性。由于训练依赖于可机械验证的推理链，模型目前只能在代码和数学领域中表现出色。而像语言逻辑谜题、法律分析等更复杂的推理场景，由于难以验证答案的正确性，暂时无法纳入训练。 至于为何DeepSeek的创新选择在此刻出现，而非更早？一个可能的原因是开源基础模型的性能最近才达到足够强大的水平，能够支撑这种强化学习方法。此外，推理相关的基准测试质量也有了显著提高，为模型提供了足够多需要推理解决的问题。 总的来说，DeepSeek-R1展示了一种高效且潜力巨大的推理模型训练方法，但在跨领域应用方面仍有改进空间。未来的表现，尤其是在人文学科上的能力，仍需拭目以待。

苹果在人工智能领域的最新动作令人瞩目，尤其是即将发布的iOS 18.4和后续版本将迎来更多创新。据内部泄露的备忘录显示，苹果今年的AI战略将聚焦两个核心领域：重塑Siri技术基础和改进现有AI模型。 Siri大升级：从“语音助手”到“智能助理” 根据彭博社记者Mark Gurman的报道，苹果正在对Siri进行大规模幕后重组，其目标是让Siri实现更高级的语言模型支持，被称为“LLM Siri”。这一项目预计将在2026年春季，可能是iOS 19.4版本中正式亮相。 此外，苹果人工智能部门主管John Giannandrea在内部备忘录中提到，苹果的首要任务是重建Siri的核心技术，让其摆脱当前系统的种种限制。为了加速这一转型，苹果已将Kim Vorrath调入AI部门，由她负责推动这项关键任务的落地。 优化AI模型：解决通知问题 苹果的第二个优先事项是全面改进AI模型。Giannandrea表示，这不仅是提升用户体验的需求，也是解决当前一些技术问题的关键。例如，iOS的通知摘要功能虽然很实用，但因AI支持的准确率问题，常常出现错误分类或遗漏。目前，苹果已在iOS 18.3中暂时禁用部分类别的通知摘要功能，直至相关AI模型得到改善。 苹果的“渐进式创新”策略 尽管苹果的AI计划听起来并非革命性突破，但正如一贯的风格，苹果更倾向于逐步改进，注重细节和整体用户体验的提升。正如网友Gary Hoff所说：“苹果设备的协同能力首屈一指，但Siri作为核心功能却表现落后，希望这次能真正做好！” 苹果的AI战略正朝着更智能、更实用的方向迈进，Siri的技术重塑和AI模型的优化是2025年实现这一目标的关键步骤。对于广大苹果用户而言，这无疑是一个值得期待的转变。

在自然语言处理（NLP）的迅猛发展中，大型语言模型（LLMs）已展现出卓越的上下文理解、代码生成和逻辑推理能力。然而，当前的模型仍面临关键限制：上下文窗口大小有限。大多数模型的上下文长度上限为12.8万词元，对于需要处理长文档或调试大规模代码库等任务来说，这一限制往往导致开发者不得不采取分块处理等复杂的替代方案，增加了计算成本和技术门槛。解决这一难题需要支持超长上下文且性能卓越的模型。 https://qwenlm.github.io/blog/qwen2.5-1m/ Qwen AI 的最新突破 Qwen AI 团队推出了两款新模型——Qwen2.5-7B-Instruct-1M 和 Qwen2.5-14B-Instruct-1M。这两款模型专为处理高达 100 万词元的超长上下文而设计，并配备开源的推理框架，针对长上下文任务进行了深度优化。它们能让开发者一次性处理更大规模的数据集，极大简化了应用场景中的复杂性，尤其是在分析长文档和代码库时。此外，这些模型集成了稀疏注意力机制和内核优化技术，大幅提升了处理长输入时的速度。 技术细节与创新 Qwen2.5-1M 系列基于 Transformer 架构，采用以下核心技术以支持超长上下文： 此外，这些模型兼容 vLLM 的开源推理框架，开发者可轻松集成并部署于实际项目中。 性能表现与优势 在基准测试中，Qwen2.5-1M 系列展示了卓越能力： 这些结果表明，Qwen2.5-1M 不仅具有卓越的长上下文处理能力，还兼顾了高效性，适用于现实场景中对上下文要求较高的任务。 开拓 NLP 的新可能性 Qwen2.5-1M 系列通过延展上下文长度并保持高效性，成功解决了长期困扰 NLP 领域的关键瓶颈。无论是分析大规模数据集、处理完整代码库，还是实现复杂上下文推理，这些模型都能为开发者和研究者提供强大工具。凭借稀疏注意力机制、内核优化以及渐进式长上下文预训练，Qwen2.5-1M 系列已成为处理复杂任务的理想选择。 对于需要超长上下文处理的应用场景，Qwen AI 的这一突破无疑将改变游戏规则，引领下一代 NLP 模型的新潮流。

Meta Platforms Inc.首席执行官马克·扎克伯格近日宣布，公司计划在2025年投资高达650亿美元，用于人工智能（AI）相关项目，包括建设一个巨型新数据中心以及扩大AI团队的招聘规模。 扎克伯格在Facebook帖子中提到，这笔资金将用于建设一座“规模大到足以覆盖曼哈顿大部分区域”的数据中心。Meta计划在2025年上线约1吉瓦的计算能力，并预计到年底拥有超过130万块图形处理单元（GPU）。他说：“这是一项大规模的努力，未来几年将推动我们核心产品和业务的创新，为美国技术领导力开创新的篇章。” AI投资浪潮加速 近年来，Meta在AI领域的投资已显著增加。公司近期在路易斯安那州宣布了一项耗资100亿美元的数据中心建设计划。此外，Meta还购买了新型计算芯片，为AI助手和Ray-Ban智能眼镜等产品提供支持。扎克伯格透露，公司将在2025年“大幅扩充AI团队”。 这一消息发布之际，Meta的AI竞争对手也在加紧布局。OpenAI、软银集团（SoftBank Group Corp.）与甲骨文公司（Oracle Corp.）日前宣布成立联合项目“Stargate”，计划在全美范围内建设数据中心和AI基础设施，总投资高达1000亿美元。 Meta资本支出创新高 Meta 2025年的资本支出预计将达到650亿美元，较2024年的开支预测增加约50%，几乎是2023年的两倍。据彭博社分析，这将成为Meta有史以来最大规模的年度投资支出。Meta将在1月29日发布第四季度财报时公布2024年的最终资本支出数据。 尽管扎克伯格去年曾承认，科技公司可能在AI领域存在过度投资的风险，但他强调，与错失技术变革相比，这样的财务损失是可以接受的。他在接受彭博社采访时表示：“如果回头看，或许我们这些公司可能额外多花了几十亿美元。但相比之下，如果在这一领域落后，将会错失未来10到15年最重要的技术变革。” 市场反应与分析师观点 这一投资计划发布后，Meta股票在盘前交易中一度下跌，但纽约交易所开盘后上涨1.7%。Meta的主要芯片设计服务供应商博通公司（Broadcom Inc.）股价也随之上涨3.9%。 彭博社高级信用分析师Robert Schiffman评论道：“Meta将2025年的资本支出大幅提高到650亿美元以上，远超去年和市场预期，这或许是其资本的最佳利用方式，将推动未来增长并巩固其AI领域的领先地位。” 值得注意的是，扎克伯格选择在公司财报发布前五天通过Facebook披露这一重大计划，打破了通常通过财报或官方公告发布的惯例。然而，美国联邦监管机构此前曾裁定，大多数社交媒体平台适用于公司向投资者公开重要信息。 Meta此举表明，AI领域的竞争正在加速，各大科技公司都在争夺下一代技术的制高点。这场烧钱大战，或将决定未来数十年的技术格局。

字节跳动的全新人工智能代理UI-TARS横空出世，其能力不仅可以接管用户的电脑，还能自主完成复杂的工作流，大幅超越现有的竞争对手。 UI-TARS与Anthropic的“Computer Use”类似，能够理解图形用户界面（GUI）、进行逻辑推理并逐步执行操作。 行业领先的性能表现 UI-TARS基于约500亿训练标注数据，提供7B和72B参数版本。无论是在性能、感知能力、任务执行能力还是整体表现上，UI-TARS在10多个GUI基准测试中均表现出色，超越OpenAI的GPT-4o、Anthropic的Claude，以及谷歌的Gemini。 例如，在VisualWebBench测试中，UI-TARS 72B取得了82.8%的高分，领先于GPT-4o（78.5%）和Claude 3.5（78.2%）。在WebSRC测试（衡量网页语义内容理解能力）中，UI-TARS-7B得分93.6%，而在复杂屏幕布局理解的ScreenQA-short测试中，UI-TARS-72B以88.6%的成绩拔得头筹，全面超越Qwen、Claude 3.5和Gemini系列模型。 研究团队表示，这些成果证明了UI-TARS在网页与移动端环境中优异的感知与理解能力。这种能力为复杂任务的精准执行奠定了坚实基础。 操作演示：能看懂界面并自主行动 UI-TARS的操作界面分为两部分：左侧为思考过程，实时记录其每一步推理逻辑；右侧为操作窗口，可自动打开文件、访问网站或运行应用程序。 实例场景： UI-TARS的多步骤操作能力和故障恢复能力展示了其出色的自主学习和适应性。 背后技术解析 UI-TARS通过大规模截图数据集训练，数据包含元素描述、类型、视觉信息、位置框和功能等元数据。模型可以全面描述截图内容，不仅识别界面元素，还能理解它们的空间关系。 研究人员还引入了纠错和反思数据，确保模型能够识别错误并动态调整，从而进一步提升任务完成的可靠性与效率。 超越竞争对手的全能表现 与Anthropic的Claude相比，UI-TARS不仅在网页任务中表现优异，还能轻松胜任移动端操作。 Claude在移动任务上的短板反映了其GUI操作能力的局限，而UI-TARS在跨平台领域（如网页和移动端）都展现了卓越的能力。例如，在多步骤操作与移动任务中，UI-TARS在AndroidWorld的116项测试中实现了高分表现，进一步验证了其通用性和实用性。 未来展望 UI-TARS的诞生代表着AI原生代理技术的重大进步。研究人员表示，未来的发展方向在于结合主动学习和持续学习，使代理通过与真实世界的交互自主改进能力。这种前瞻性设计将推动AI在更多实际场景中的落地应用，成为竞争激烈的AI代理市场中的重要玩家。

这篇博客聚焦于NVIDIA H200 GPU在大型语言模型（LLM）、视觉语言模型（VLM）和双塔模型（DiT）推理与训练中的性能表现。当前，SGLang团队正与研究团队共同开展实验，确保结果的可重复性和正式性，并投入了GPU基础设施和工程资源。未来文章将探讨H200的硬件优化及SGLang最新的DeepSeek V3功能改进（如FP8 GEMM优化及H200专属的FusedMoE优化）。 Hopper GPU规格对比：H100与H200 技术参数 H100 SXM H200 SXM BFLOAT16 989.5 TFLOPS 989.5 TFLOPS FP16 989.5 TFLOPS 989.5 TFLOPS FP8 1979 TFLOPS 1979 TFLOPS INT8 1979 TFLOPS 1979 TFLOPS GPU内存 80 GB 141 GB GPU内存带宽 3.35 TB/s 4.8 TB/s 相比H100，H200的芯片内存增加了76%（141 GB对比80 GB），内存带宽提升了43%（4.8 TB/s对比3.35 TB/s）。 研究方向 LLM推理中的内存分配 1. 模型状态内存 推理过程中主要关注模型参数占用的内存，而非优化器状态和梯度。 2. 残差状态内存 LLM推理中的主要内存开销在于中间状态和激活值，尤其是KV缓存的存储需求。更大的批次和上下文长度会显著增加KV缓存的大小，这通常远超模型参数的内存占用。…

微软近期就 OpenAI 宣布的 5000 亿美元数据中心计划（“Stargate 项目”）澄清了双方的合作关系。在 OpenAI 日益增长的计算需求下，这一合作模式正在发生变化。 合作现状与变化 微软的态度与立场 微软 CEO Satya Nadella 曾在 2023 年 11 月表示，即便 OpenAI 不复存在，微软也具备所有必要资源和能力，包括 IP、计算力和数据。Nadella 强调：“我们在 OpenAI 的上下左右无处不在。” 尽管双方合作关系不再完全独占，微软仍在 OpenAI 的发展中占据核心地位。通过 Azure 的深度绑定以及对 OpenAI 的技术支持，微软在推动 AI 技术发展的同时，确保了自身在云计算和 AI 市场的战略地位。

特朗普周二宣布与 OpenAI、甲骨文（Oracle）和软银（Softbank）合作，成立名为 “Stargate” 的联合企业，计划在未来四年内投资 5000 亿美元，用于加强美国的人工智能基础设施。这一消息在白宫由特朗普、软银 CEO 孙正义、OpenAI CEO Sam Altman 和甲骨文联合创始人 Larry Ellison 共同发布。 项目亮点 背景与发展 行业与国家战略意义 展望 Stargate 项目的公布标志着美国在全球 AI 竞争中的重大动作。尽管面临技术和资本密集的挑战，但通过 OpenAI、软银和甲骨文等公司的合作，这一计划将成为推动美国人工智能发展、重塑国家技术优势的重要催化剂。

Anthropic 正计划为其聊天机器人 Claude 推出“双向语音模式”和一个新的记忆功能，以进一步增强用户体验。Anthropic CEO Dario Amodei 在达沃斯世界经济论坛上接受《华尔街日报》采访时透露了这一消息，并表示公司计划在未来几个月内推出“更智能”的 AI 模型。 功能升级：语音与记忆 未来发展与市场压力 Amodei 提到，过去一年（尤其是最近三个月），用户需求激增，令 Anthropic 的算力供应不堪重负。他表示：“这种需求激增远超我们目前的计算能力。” 行业趋势与挑战 Anthropic 在推出 Claude 新功能的同时，正努力跟上用户需求和技术迭代的步伐： 总结 随着功能的升级和更智能 AI 模型的推出，Claude 将与 OpenAI 的 ChatGPT 等竞争对手展开更激烈的市场争夺。尽管 Anthropic 面临巨大的资金和算力压力，其在用户体验优化和技术进步上的努力显示出其争夺市场领先地位的决心。这场 AI 军备竞赛仍在升温。

中国 AI 实验室 DeepSeek 推出了其最新开源推理模型 DeepSeek-R1，引发行业广泛关注。据称，这款模型在某些基准测试中的表现已媲美 OpenAI 的 o1 模型，同时具备完全开源和商用无约束的优势。 DeepSeek-R1 的亮点 局限与挑战 行业格局与未来趋势 结论 DeepSeek-R1 的发布不仅展示了中国 AI 实验室在推理模型领域的技术实力，也标志着开源 AI 模型的新高度。尽管存在内容审查和政策挑战，其性能与灵活性已让全球开发者看到更广阔的应用前景。随着类似 R1 的模型继续扩展，AI 技术的平民化趋势或将以更快速度到来。