韩企 Innogrid 将 GPU 推理与成本管理整合为 AI 平台

韩国 Innogrid 正把 GPU、NPU 等异构加速器纳入统一资源池，并在顶层控制平面统一观测资源状态与成本、下发调度策略。其已推出的 AICubeit 平台可部署在客户数据中心或封闭网内，管理 AI 模型的训练、部署与运营，面向难以将数据外传的企业和机构。公司还计划将 GPU 管理平台与 AI PaaS 打通，使推理变慢时能定位是 GPU 资源争用、模型数据变更还是资源分配不足。