slvDev
精选
esp32-ai
A 28.9 million parameter language model runs on an $8 ESP32-S3 microcontroller entirely on-device, generating simple stories at about 9.5 tokens per second.
AI 仓库情报摘要
FR-AI / ANALYSIS为什么值得关注
该系统结合稠密与稀疏检索（加权 RRF 融合），可选重排器，并提供完整的评测指标（Hit Rate、MRR、nDCG）和切片消融实验，同时注重医疗安全与可复现性。
适合谁使用
- 构建医疗 RAG 应用的开发者
- 信息检索与医疗健康交叉领域的研究者
- 眼科科普内容创作者或教育者
- 关注可复现评测与安全机制的 AI 工程师
典型使用场景
- 基于精选眼科文档回答健康科普问题
- 通过内置评测对比不同检索策略（纯向量 vs 混合 vs 混合+重排）
- 学习带有安全边界和证据引用的 RAG 系统架构
- 构建能够对低相关问题拒答的医疗问答原型
项目优势
- 同时支持 DashScope text-embedding-v4 向量检索与 BM25 关键词检索，通过加权 RRF 融合
- 可选 gte-rerank-v2 重排，失败时自动降级
- 包含低相关拒答、紧急症状安全提示和证据标注引用格式
- 提供可复现的评测，含多项指标和切片参数消融实验
使用前须知
- 评测集仅 8 条问题，统计显著性不足
- 现有文档偏短，缺乏真实多章节医疗资料
- 尚未实现 Faithfulness 评估或答案引用准确率检测
README 快速开始
安装与启动
项目描述
Ophthalmology RAG system with hybrid retrieval, rerank, citations and evaluation
相关仓库与替代方案
根据分类、Topic 和编程语言匹配的相似项目。
gavamedia
精选
deltafin
Deltafin is a research project that runs the 2.8-trillion-parameter Mixture-of-Experts model Kimi K3 on a single Apple Silicon Mac (e.g., M1 Max with 64 GB) at about 16 seconds per token, using exact, reproducible inference with local or streaming expert loading.
jamesob
精选
local-llm
A comprehensive guide for building and configuring a high-end local machine to run state-of-the-art LLMs, with detailed hardware choices, BIOS tuning, and Docker-based model serving.