qiskit-community
qgss-2026
A repository hosting graded exercises (labs) for the Qiskit Global Summer School 2026, with new labs added via releases.
AI 仓库情报摘要
FR-AI / ANALYSIS为什么值得关注
它提供了一个自包含、代码驱动的示例，在可访问的笔记本格式中将 RoPE 和 MoE 两种先进的 Transformer 技术结合，便于实验和学习。
适合谁使用
- 探索 MoE 架构的机器学习从业者
- 研究 RoPE 变体的研究人员
- 学习实现自定义 Transformer 组件的学生
- 对小型 GPT 训练感兴趣的爱好者
典型使用场景
- 作为在 Transformer 中实现 RoPE 的教育参考
- 语言模型稀疏 MoE 原型的起点
- 快速实验相位感知 MoE 路由机制
- 在笔记本环境中对小规模 GPT 训练流程进行基准测试
项目优势
- 单个已执行的 Notebook 确保端到端实验的可复现性
- 在紧凑实现中结合了 RoPE 和稀疏 MoE 两种现代技术
- 小模型规模使其可在有限硬件上运行
- 代码风格呈现有助于理解架构设计选择
使用前须知
- 除笔记本外文档有限
- 小模型规模可能无法反映真实性能或行为
- 未提供评估指标或对比基线
项目描述
A single executed notebook building and training a small GPT with RoPE and a phase-aware sparse MoE experiment
相关仓库与替代方案
根据分类、Topic 和编程语言匹配的相似项目。
mate-matt
rag-memory-lab
A hands-on tutorial project that teaches core local RAG retrieval concepts by running Jupyter notebooks without external API keys.
harinishri2204-cpu
Pollu-Sence
PolluSense is an AI-driven platform that monitors and forecasts air pollution by identifying sources and predicting Air Quality Index (AQI) levels using machine learning and deep learning with real-time data.