跳到正文

部署工程

把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。

2条精选相关主题开源生态数据与训练端侧 AI

最新精选

第 1–2 条 · 共 2 条
今天9月30日周三
  1. AWS Machine Learning Blog66

    GPT-6.1 Sol 在 Amazon Bedrock 正式可用

    GPT-6.1 Sol 现已在 Amazon Bedrock 正式可用，面向智能体编码、计算机使用和日常专业工作负载提供更强的推理能力。据 OpenAI 说法，它在 DeepSWE v1.1 上以约五分之一的单任务成本达到 GPT-6 Astra 的水平，并比 GPT-6 Sol 的最佳成绩高出 6.4 个百分点。

    推荐理由：AWS 官方给出 GPT-6.1 Sol 在 Bedrock 上的可用范围与数据隔离条款，便于评估企业级部署条件。

8月11日周二
  1. Mistral AI62

    Mistral 推出区域推理端点与优先服务层级，并接入 GLM-5.2 等第三方开源模型

    Mistral 宣布三项推进 AI 主权的举措：Mistral Regional Endpoints 正式可用，客户可选择推理在欧洲或美国运行；Mistral Priority Tier 进入公开预览，为关键业务负载提供自定义速率限制和带 SLA 的正常运行时间保障。

    推荐理由：Mistral 把区域推理、优先服务层级与第三方开源模型接入打包成一套主权 AI 方案，可观察欧洲厂商如何用合规与算力承诺做差异化。