Elemental-EL GitHub avatar

InfernoNet-Quantization

Elemental-EL

InfernoNet 实现了一个用于火灾检测的自定义CNN的静态INT8训练后量化,并将量化权重和二进制分数重新量化参数导出到边缘部署(AVX-VNNI CPU和FPGA)。

Stars

3

7 天增长

暂无数据

Fork 数

0

开放 Issue

0

开源协议

暂无数据

最近更新

2026-07-29

AI 仓库情报摘要
FR-AI / ANALYSIS

为什么值得关注

该项目通过将浮点重新量化转换为硬件友好的二进制分数(整数乘子和位移),实现了PyTorch FX图量化与裸机硬件验证的桥接,同时达到了3.72倍的压缩比。

适合谁使用

  • 高效深度学习与模型压缩领域的研究人员
  • 从事FPGA或NPU推理加速器设计的硬件工程师
  • 面向边缘设备的火灾检测系统开发者
  • 学习图模式量化和硬件感知部署的学生

典型使用场景

  • 在仅支持整数运算的嵌入式系统上部署低延迟火灾检测
  • 通过PyTorch参考模型验证自定义FPGA数据路径的输出
  • 教学FX图量化与训练后量化的工作流程
  • 在资源受限环境中比较INT8与FP32模型的内存占用节省

项目优势

  • 通过FX图量化实现3.72倍压缩(从0.96 MB到0.26 MB)
  • 使用全局平均池化在全连接层前大幅减少内存
  • 采用按通道的仿射权重量化和按张量的激活量化(7位输入范围避免溢出)
  • 导出二进制分数(整数乘子+位移)的重新量化参数,适配纯整数硬件

使用前须知

  • 未报告FP32与INT8模型的准确度指标,难以评估性能损失
  • 专门针对AVX-VNNI架构和裸机FPGA测试平台设计,通用CPU部署受限
  • 自定义火灾数据集未公开,用户需要自行收集和预处理数据

README 快速开始

Usage

  1. Train the FP32 model:

相关仓库与替代方案

根据分类、Topic 和编程语言匹配的相似项目。

lopopolo
精选
lopopolo GitHub avatar

harness-engineering

Harness Engineering is a methodology for improving coding agent outputs by carefully crafting the environment around them—providing curated context, tools, and executable constraints that encode an organization’s nonfunctional requirements and cumulative lessons.

AI 与机器学习AI 智能体
2,390
slvDev
精选
slvDev GitHub avatar

esp32-ai

A 28.9 million parameter language model runs on an $8 ESP32-S3 microcontroller entirely on-device, generating simple stories at about 9.5 tokens per second.

AI 与机器学习大语言模型
1,960
littledivy
精选
littledivy GitHub avatar

mimic

mimic captures traffic from any iOS or web app and automatically generates a Python client library that lets you call the app's API like a regular library.

AI 与机器学习
1,482