技术方向
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
3 条精选近 30 天 3 条共收录 7 条
NVIDIA 与 Microsoft 宣布围绕 Windows PC 共同推进 AI 智能体的硬件与软件基础设施。Microsoft 宣布 Microsoft Execution Containers（MXC）正式可用；RTX Spark 笔记本已开放预订，10 月 16 日上市，紧凑型桌面设备将于 11 月开售。
推荐理由：文章串联 MXC、RTX Spark 与 DGX Station for Windows，展示 AI 智能体如何从系统安全、端侧硬件延伸到企业级本地算力。
Liquid AI 发布两款开放权重决策模型 d1-3B 和实验性的 d1-omni-600M，分别支持文本与图像、文本与图像或文本与音频输入。在七个公开数据集上，d1-3B 的平均分为 82.9，d1-omni-600M 为 78.4；d1-3B 在 Jetson AGX Thor 上单个问题延迟为 16 ms，在 Jetson Orin Nano 上为 50 ms。
推荐理由：文章将模型结构、公开数据集对比和端侧延迟放在一起，便于判断两款决策模型在质量、模态支持与设备部署之间的取舍。
Google DeepMind 发布 EmbeddingGemma 2，将文本、代码、图像、视频和音频映射到统一嵌入空间，面向端侧推理。
推荐理由：EmbeddingGemma 2 将文本、图像、音频和视频统一到共享嵌入空间，并公开端侧内存、上下文和向量压缩数据，便于判断其本地检索适用性。