跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

21 条精选近 30 天 17 条共收录 37 条

更新

精选归档 · 第 2 页

7月7日周二第 21–21 条
  1. Berkeley AI Research62

    智能近乎免费后怎么办?面向、支撑和由智能体构建的数据系统

    Berkeley AI Research 的这篇观点文章认为,近乎零成本的模型推理将带来三类数据系统挑战:面向智能体优化、支撑多智能体群体运行,以及由智能体按工作负载合成定制数据系统。

    推荐理由:文章将近零推理成本带来的变化拆分为面向智能体、支撑智能体群体以及由智能体构建数据系统三条研究主线。