在 Kubernetes 上轻松玩转 AI

Romil Bhardwaj·2024年7月11日·12分钟阅读

SkyPilot 0.6:托管作业 API、Kubernetes 上的 SkyServe、竞价 + 按需混合、支持 Paperspace

SkyPilot 团队·2024年6月4日·4分钟阅读
https://docs.skypilot.org.cn/en/latest/serving/sky-serve.html

介绍 SkyServe:在任何云上提供 50% 更便宜且高可用的 AI 服务

SkyServe:一个简单、经济高效、支持多区域/云的库,用于服务生成式 AI 模型。

夏添, 吴张浩, 毛子鸣, 杨宗恒·2024年2月20日·10分钟阅读

利用高 GPU 可用性和成本效率扩展 Mixtral LLM 服务

使用 SkyPilot 和 SkyServe 服务 Mixtral 8x7B 模型的教程。

吴张浩·2023年12月21日·8分钟阅读

在云上扩展 AI 机器人技术

Covariant 使用 SkyPilot 在云上运行 AI,经济高效地将模型交付速度提高了 4 倍。

Rocky Duan (CTO, Covariant), Clay Rosenthal (生产工程师, Covariant), Marco Almeida (生产工程团队TLM, Covariant), Chris Colby (软件和研究负责人, Covariant)·2023年9月26日·10分钟阅读