esp32-ai
A 28.9 million parameter language model runs on an $8 ESP32-S3 microcontroller entirely on-device, generating simple stories at about 9.5 tokens per second.
它精准解决了韩国公务人员每天处理数十份公文时的痛点,提供即时可操作的摘要,且支持完全本地运行以保护敏感文档;创新性地从通常无法直接抓取的Web版Hangeul查看器中提取文本。
공공기관 전자문서(공문) 열람 화면에서 본문을 추출해 LLM으로 요약·검토하는 브라우저 확장입니다. 클릭 한 번이면 문서 종류 · 조치 필요 여부 · 기한(D-day) · 핵심 내용 · 조치사항 · 주의점이 위젯 패널로 정리됩니다. 하루 수십 건 공문을 접수하는 담당자가 "이 문서로 내가 뭘 언제까지 해야 하는가"를 10초 안에 파악하는 것이 목표입니다.
cseoul.go.kr) 문서관리카드 + 한컴 웹한글 기안기 실측 기반아래 그림은 실제 UI를 재현한 기능 소개 목업입니다 (문서 내용은 예시).
문서 화면 위에 바로 뜨는 요약 패널. 문서 종류·조치 필요 뱃지, D-day 계산, 라벨링된 핵심 내용, 조치사항 체크리스트, ※ 주의 문구까지 한 화면에 정리됩니다.
같은 패널에서 검토 버튼 하나로 전환. 결재 가능 여부를 4단계로 판정하고 잘된 점·보완점·결재 전 확인사항을 원문 근거로만 짚어줍니다.
설치된 로컬 모델 자동 조회(/v1/models), 연결 테스트 버튼으로 저장 전에 왕복 확인.
공문 본문은 일반 웹페이지처럼 DOM에 있지 않습니다. 서울시 전자문서의 경우 본문이 한컴 웹한글 뷰어(캔버스 렌더링) 안에 있어서, 4단계 추출 파이프라인으로 접근합니다.
| 순위 | 방법 | 비고 |
|---|---|---|
| 1 | 사용자가 드래그 선택한 텍스트 | 추출이 이상할 때 수동 폴백 |
| 2 | 문서관리카드 DOM(SITE_RULES) + 웹한글 HwpCtrl.GetTextFile API | 한컴 공식 API — 캔버스 렌더링이어도 본문 추출 |
| 3 | 전체 프레임 중 최장 텍스트 프레임 | 범용 사이트 폴백 |
| 4 | 붙여넣기 입력창 | 전부 실패 시 |
2단계의 웹한글 API 프로브는 GetTextFile(콜백/동기 반환 모두 수용)이 실패하면
InitScan → GetText 청크 루프로 폴백하고, executeScript가 못 들어가는 about:blank
프레임은 부모에서 iframe contentWindow를 직접 조회해 커버합니다.
카드 메타([문서관리카드 정보])와 공문 본문([공문 본문])을 병합해 LLM에 전달하고,
구조화된 JSON(서지정보·핵심내용·조치·주의)으로 받아 렌더링합니다. 응답은 SSE 스트리밍으로
받아 미완성 JSON을 부분 파싱해 실시간으로 그리며, 유휴 30초/전체 2분 이중 타임아웃으로
멈춘 스트림을 끝없이 기다리지 않습니다.
edge://extensions → 개발자 모드 켜기 → 압축을 풀어서 로드 → 레포 폴더 선택
(Chrome도 동일하게 동작합니다)powershell -ExecutionPolicy Bypass -File scripts\setup-local-llm.ps1
Ollama 설치 확인(없으면 winget 설치) → 확장 접근 허용(OLLAMA_ORIGINS) → 모델 다운로드 →
검증까지 자동으로 처리합니다. 끝나면 확장 옵션에서 프로바이더를 내부 LLM으로 바꾸고
드롭다운에서 모델만 고르면 됩니다 (Base URL 비워두면 localhost:11434).
확장 아이콘 우클릭 → 확장 옵션 → aistudio.google.com/apikey에서 발급한 키 입력. 비공개·민감 문서에는 사용하지 마세요.
전자문서 AI 요약 Edge 확장 — 서울시 전자문서 본문 추출 + LLM 요약 위젯 (KRDS UI)
根据分类、Topic 和编程语言匹配的相似项目。
A 28.9 million parameter language model runs on an $8 ESP32-S3 microcontroller entirely on-device, generating simple stories at about 9.5 tokens per second.

A comprehensive guide for building and configuring a high-end local machine to run state-of-the-art LLMs, with detailed hardware choices, BIOS tuning, and Docker-based model serving.
Cindy is an open-source AI agent that runs locally on your machine, integrates multiple AI harnesses and models, and provides memory, skills, and automation to perform real work in your projects and apps.