按该来源的展示范围,站内仅提供摘要。
前往原站阅读(在新标签页打开)vLLM 与 DeepLearning.AI 推出免费课程《Fast & Efficient LLM Inference with vLLM》
AI 导读
vLLM 与 Red Hat、Andrew Ng 的 DeepLearning.AI 联合推出免费课程《Fast & Efficient LLM Inference with vLLM》,约 1.5 小时,含 9 节视频和 3 个 JupyterLab 动手实验。
vLLM 官方博客(RSS)
精选
61
AI 编辑部评分,满分 100vLLM 与 DeepLearning.AI 推出免费课程《Fast & Efficient LLM Inference with vLLM》
vLLM 与 Red Hat、Andrew Ng 的 DeepLearning.AI 联合推出免费课程《Fast & Efficient LLM Inference with vLLM》,约 1.5 小时,含 9 节视频和 3 个 JupyterLab 动手实验。
推荐理由
课程覆盖压缩、部署、基准测试全流程,用可视化讲清 KV cache 和量化原理,并配三个可动手的实验。
来源:vLLM 官方博客(RSS)· vllm.ai