SkyServe:一个简单、经济高效、支持多区域/云的库,用于服务生成式 AI 模型。
使用 SkyPilot 和 SkyServe 服务 Mixtral 8x7B 模型的教程。
Covariant 使用 SkyPilot 在云上运行 AI,经济高效地将模型交付速度提高了 4 倍。