该仓库包含来自2026年PyTorch尼泊尔聚会(Herald College Kathmandu)的幻灯片和代码,重点介绍使用Unsloth进行训练和使用vLLM进行推理。

Stars

9

7 天增长

暂无数据

Fork 数

2

开放 Issue

0

开源协议

暂无数据

最近更新

2026-06-27

AI 仓库情报摘要
FR-AI / ANALYSIS

为什么值得关注

它提供了社区活动的教育材料,展示了如何使用两个流行的开源工具(Unsloth和vLLM)高效地进行大语言模型训练和推理,适合本地学习与分享。

适合谁使用

  • 对高效LLM微调感兴趣的机器学习从业者
  • 探索Unsloth和vLLM的PyTorch用户
  • 参加聚会的尼泊尔学生和研究人员
  • 希望从社区演讲中获取实际代码示例的开发者

典型使用场景

  • 学习如何使用Unsloth进行内存高效的LLM微调
  • 了解vLLM用于高吞吐量推理部署
  • 在本地或课堂环境中复现幻灯片中的代码示例

项目优势

  • 与真实聚会演讲直接关联,具有实际背景和相关性
  • 聚焦两个互补工具(Unsloth用于训练,vLLM用于推理)
  • 内容简洁明了,便于快速浏览参考

使用前须知

  • 除幻灯片和代码外没有详细文档或解释
  • 可能依赖聚会时使用的特定包版本或硬件配置
  • 范围有限——仅涵盖单次演讲中展示的内容

项目描述

Pytorch Nepal Meetup 2026, Herald College Kathmandu Slides and Code. Unsloth and vLLM for training and inference.

相关仓库与替代方案

根据分类、Topic 和编程语言匹配的相似项目。

qiskit-community
qiskit-community GitHub avatar

qgss-2026

A repository hosting graded exercises (labs) for the Qiskit Global Summer School 2026, with new labs added via releases.

Jupyter Notebook
232
mate-matt
mate-matt GitHub avatar

rag-memory-lab

A hands-on tutorial project that teaches core local RAG retrieval concepts by running Jupyter notebooks without external API keys.

Jupyter Notebook
32
harinishri2204-cpu
harinishri2204-cpu GitHub avatar

Pollu-Sence

PolluSense is an AI-driven platform that monitors and forecasts air pollution by identifying sources and predicting Air Quality Index (AQI) levels using machine learning and deep learning with real-time data.

AI 与机器学习云服务与 DevOps
24