找回密码
立即注册
搜索
热搜: Java Python Linux Go
发回帖 发新帖

4197

积分

0

好友

577

主题
发表于 2 小时前 | 查看: 2| 回复: 0

2026年3月19日,AI基础设施领域动态频传,尤其在本地智能体、端侧模型微调以及企业级部署方面涌现出重要进展。

🧭 核心速览

🤖 NVIDIA 推出“agent computers”本地智能体类别
🔧 Tether 的 BitNet LoRA 框架实现消费级设备微调
🏢 Anthropic 推出 B2B 应用市场
📊 Qevlar AI 融资 3000 万美元用于自主 SOC 平台
🍎 Apple 发布 MacBook Neo 等多款 AI 硬件
🛒 Picsart 推出 AI 智能体市场
🔐 Okta 提出 LLM 身份风险评分方法
💾 Dell 更新 AI Factory 基础设施

本地智能体硬件化

🤖 NVIDIA 推出本地智能体“agent computers”

根据 NVIDIA Blogs 报道,NVIDIA 引入了一个名为“agent computers”的新硬件类别,其中包括 DGX Spark 和 RTX PCs 等产品。这些设备将预装 Nemotron 3 Super (120B) 和 Nano (4B) 等优化模型。

据悉,Nemotron 3 Super 在 PinchBench 基准测试上得分达 85.6%,并专为 OpenClaw 智能体框架进行了优化。配套的开源 NemoClaw 技术栈旨在支持本地、私有的智能体部署。

这标志着本地智能体正从纯粹的软件形态走向软硬件一体化。NVIDIA 的“agent computers”概念试图通过专用硬件(DGX Spark、RTX PCs)与深度优化的模型栈(Nemotron)相结合,为用户提供开箱即用的本地智能体体验。

💾 Dell 更新 AI Factory 基础设施

根据 Dell 官方报道,Dell 与 NVIDIA 合作推出了 AI Factory 解决方案的更新。该方案已服务于超过 4000 家客户,并声称在部署首年即可实现最高 2.6 倍的投资回报率。

此次更新新增了桌面 AI 超级计算机(Dell Pro Max with GB300)、液冷服务器(Rubin NVL72/NVL8)以及 RTX PRO 4500 Blackwell Server Edition 等产品。

从这些数据来看,AI 基础设施已经跨越实验阶段,进入了大规模生产级部署时期。Dell AI Factory 所展示的客户规模与投资回报,表明企业 AI 应用正在创造实际价值。桌面超级计算机和液冷服务器等多样化产品线,也反映出市场对不同场景(从边缘到数据中心)算力需求的深度细分。

🍎 Apple 发布 MacBook Neo 等多款硬件

根据 TechCrunch 报道,Apple 发布了多款新硬件,包括售价 599 美元的 MacBook Neo(搭载 A18 Pro 芯片)、改进主动降噪(ANC)的 AirPods Max 2、M4 iPad Air、以及 M5 Pro/Max 芯片和 iPhone 17e。

消费级硬件的 AI 能力正在持续提升。MacBook Neo 以 599 美元的亲民价格,显著降低了体验强大端侧 AI 的硬件门槛。而 A18 Pro 和全新的 M5 系列芯片,则为设备本地的 AI 推理与计算提供了坚实的算力基础,进一步推动了 AI 应用从云端向设备端的迁移。

端侧微调与训练

🔧 Tether 发布 BitNet LoRA 跨平台框架

根据 Tether 报道,其旗下的 QVAC 部门推出了一个跨平台的 BitNet LoRA 框架。该框架支持在消费级 GPU 甚至智能手机上,对十亿参数级别的模型进行微调

框架提供了在智能手机和笔记本电脑上的基准测试结果,显示其在显存(VRAM)利用率和推理效率方面均有显著提升。

端侧模型微调的门槛正在被大幅拉低。BitNet LoRA 使得利用个人消费级设备定制十亿参数模型成为可能,这正在将 AI 能力民主化的范围从使用扩展到了定制。个人开发者与小团队将不再完全依赖云服务商或大型企业的基础设施来进行模型个性化,这或许会催生更多样化的 AI 应用创新。

企业级 AI 部署

🏢 Anthropic 推出 B2B 应用市场

根据 Digital Commerce 360 报道,Anthropic 发布了一个面向企业的 B2B 应用市场。企业用户可以在此发现并部署基于 Claude 模型的第三方软件应用。

该市场已集成 Snowflake、GitLab 等服务,企业客户可以直接使用其现有的 Claude 订阅来访问这些专注于自动化、数据分析和软件开发的专用应用。

AI 应用生态正走向标准化与商品化。Anthropic 的 B2B 市场采用了类似传统应用商店的模式,极大地降低了企业寻找和部署垂直领域 AI 工具的门槛。通过现有订阅集成,企业能够更快速、低成本地将 AI 能力渗透到具体的业务场景中。

🛒 Picsart 推出 AI 智能体市场

根据 TechCrunch 报道,图片编辑平台 Picsart 推出了一个 AI 智能体市场。首批上架了 4 个智能体,用户可以通过 WhatsApp 或 Telegram 等即时通讯工具与之交互。

这些智能体支持可调节的自主性,并且官方计划每周新增智能体,以保持生态的活力。

智能体市场作为一种新兴的商业模式正在兴起。Picsart 选择通过熟悉的即时通讯软件作为交互入口,极大地降低了用户的使用与学习成本。可调节的自主性则为用户提供了更灵活的控制权,平衡了自动化与可控性。每周更新的计划则有助于维持用户的新鲜感和市场活跃度。

📊 Qevlar AI 融资 3000 万美元

根据 French Tech Journal 报道,专注于安全的 Qevlar AI 公司成功融资 3000 万美元,用于开发其自主安全运营中心(SOC)平台。

该平台采用混合架构,声称能在实际部署中将安全事件调查时间缩短至 3 分钟,效率提升高达 10 倍。

AI 驱动的安全自动化领域正持续吸引投资。自主 SOC 平台的价值在于,它能够通过混合智能架构,将传统上需要数小时的人工调查分析工作压缩到分钟级别。10 倍的效率提升直观地展现了 AI 在复杂安全运维场景中的实用价值与投资回报。

安全与身份

🔐 Okta 提出 LLM 身份风险评分方法

根据 Okta Blog 报道,Okta 概述了一种实验性的、由 LLM 驱动的身份风险评分方法。该方法基于对日志流数据进行“下一个 Token 预测”。

系统通过计算预测结果的峰值困惑度来评估风险等级,并使用了 TLoRA 技术进行模型微调以适配特定场景。

LLM 的应用范围正在向更底层的安全领域拓展。Okta 的这种方法尝试将身份验证与风险识别从传统的规则驱动转向模型驱动。通过分析用户行为序列的“下一个 Token”,模型可以更细腻地识别异常模式,而 TLoRA 这类轻量级微调技术则使得该方案能够以较低成本实现部署。

开源生态与研究

🧪 MSU 开发基因表达预测 GPS 模型

根据 Phys.org 报道,密歇根州立大学(MSU)的研究人员开发了一种名为 GPS 的模型,能够直接根据化合物的化学结构预测其可能引起的基因表达变化。

该研究在肝细胞癌(HCC)和特发性肺纤维化(IPF)的化合物发现中验证了结果,并提供了公共门户供研究人员访问。

AI 正在成为加速药物发现过程的关键工具。GPS 模型绕过了传统繁琐的生物学实验,从化学结构直指基因表达影响,为早期药物筛选提供了新的强大工具。在 HCC 和 IPF 等具体疾病上的验证,体现了其实际应用潜力,而开放公共门户则有助于推动更广泛的学术研究。

📊 滑铁卢大学研究结构化输出编码准确性

根据 TechXplore 报道,滑铁卢大学的 StructEval 研究发现,最先进的大型语言模型在生成结构化输出(如代码、JSON)的编码任务上,准确率大约为 75%,而开源模型的准确率约为 65%。这意味着平均每四次生成就会出现一次错误。

这项研究给热衷AI编程辅助的开发者提了个醒:LLM 的代码生成能力仍不完全可靠。75% 或 65% 的准确率在需要高可靠性的生产环境中是难以接受的。它明确指出,对于结构化的关键输出,严格的人工审查与自动化测试验证依然是不可或缺的环节。

🤖 Nature 揭示 AI 机器人通过问卷检查

根据 Nature 报道,一篇发表于《自然·通讯》的论文指出,AI 机器人在通过问卷调查的注意力检查题时,通过率高达 99.8%。这一发现引发了学术界对传统问卷调查数据质量评估方法的重新思考。

AI 的能力开始挑战许多传统的数据收集与质量控制方法。高达 99.8% 的通过率暴露了传统“注意力检查题”在面对AI时的脆弱性。这项研究警示我们,为确保数据的真实性与有效性,未来的调查设计与质量验证实践可能需要从根本上重新设计,以防范AI生成的虚假响应。

🔍 趋势洞察

本日核心趋势:本地智能体硬件化、端侧微调普及化、企业应用生态商品化。

  • 本地智能体从软件走向硬件:NVIDIA 的“agent computers”和 Apple 的亲民硬件共同推动着这一进程。Dell 等厂商提供的生产级基础设施则表明,市场不仅需要概念,更需要稳定、可扩展的解决方案。未来,硬件与软件的协同深度优化,将成为本地智能体性能与体验的关键。
  • 端侧微调门槛大幅降低:Tether 的 BitNet LoRA 框架是一个重要信号。它使得在消费级GPU和设备上进行模型定制成为可能,这将真正把模型定制的能力“民主化”,让更多开发者和小型组织能够参与到AI模型的个性化浪潮中。
  • 企业AI应用生态商品化:Anthropic 和 Picsart 推出的市场表明,“应用商店”模式正在被复制到AI领域。这种模式极大地降低了企业寻找、试用和部署垂直AI工具的成本与复杂度,预计将显著加速AI技术在各类企业业务场景中的渗透与落地。

你对这些AI基础设施的进展有何看法?是更看好端侧AI的发展,还是认为企业级应用市场更有潜力?欢迎在云栈社区与我们交流你的见解。

原文链接:https://ai-infra.jimmysong.io/zh/brief/2026-03-19/




上一篇:腾讯2025年财报:营收利润双增,员工人均年薪超百万,云与AI业务规模化盈利
下一篇:从 Linux 内核到 Git:Linus Torvalds 如何重塑软件工程与开源协作
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-3-20 12:34 , Processed in 0.480138 second(s), 41 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表