基于K8s的云原生AI基础设施:架构、部署与实践【003】-AI算力的驰骋之地
Worker Node 批量纳管:从手工部署到 Ansible 自动化…
0 Comments
19/04/2026
随着大模型推理、训练与微调逐步走向真实业务场景,AI 基础设施的建设也开始从“能跑起来”迈向“可规模化、可维护、可演进的平台化建设”。 在这个过程中,Kubernetes 正在成为越来越多团队的基础底座选择。但真正进入实践后,人们很快会意识到:在 Kubernetes…
Introduction Agentgateway是一个开源、高可用、高可扩展、企业级的数据面,可以在任何环境中为AI agents和工具提供AI连接能力。你可以使用kgateway作为控制面,在Kubernetes环境中快速启动并管理agentgateway proxy的生命周期。控制面会将Kubernetes Gateway…