一款在 macOS 上运行的本地应用,通过 TRELLIS.2 等管线将单张图片转换为带骨骼动画的 GLB 3D 模型,涵盖网格简化、UV 烘焙、孔洞修复、纹理投影和自动蒙皮。

Stars

188

7 天增长

暂无数据

Fork 数

17

开放 Issue

0

开源协议

MIT

最近更新

2026-07-26

AI 仓库情报摘要
FR-AI / ANALYSIS

为什么值得关注

它在 Apple Silicon 上提供了从图片到可动 3D 资产的完整本地管线,并对纹理质量、网格修复和自动蒙皮做了详细分析与调优。

适合谁使用

  • macOS 上的 3D 美术和游戏开发者
  • 在 Apple 硬件上探索图生 3D 的机器学习从业者
  • 需要从图片快速生成 3D 原型的独立开发者
  • 评估端到端 3D 生成管线的研究人员

典型使用场景

  • 从参考图快速生成带纹理的 3D 模型用于游戏资产
  • 无需云端即可创建带骨骼的角色用于动画预览
  • 测试和比较不同网格简化、纹理烘焙参数的效果
  • 离线渲染旋转展示动画用于作品集或文档

项目优势

  • 完全本地运行,在 Apple Silicon 上高质量生成约需 14 分钟
  • 模块化阶段架构便于添加 LOD 生成或格式转换等新步骤
  • 提供详尽的纹理质量分析(伽马、Alpha、纹素密度)和可调设置
  • 自动蒙皮采用多种回退策略,对非水密网格有效,输出带骨骼动画的 GLB

使用前须知

  • 仅支持 Apple Silicon(M1+),需至少 24GB 统一内存和 macOS 12+,其他平台无法使用 GPU
  • 生成结果因随机种子而显著变化,可能需要多次运行才能获得理想纹理
  • 已知问题:长时间 Metal 内核可能触发 GPU 看门狗、单视角投影导致纹理错位、网格裂缝约 4% 无法完全修复

README 快速开始

Image to 3D

1枚の画像から 3Dモデル (GLB) をローカル生成し、ブラウザで確認するアプリ。 生成エンジンは TRELLIS.2 (Microsoft) の Apple Silicon / MPS ポートを使う。

形状生成のあとに ポリゴン削減 → UV再展開 → メッシュ修復 → 入力画像の投影 → オートリグ をつなげられるステージ式パイプラインになっていて、リグ付き GLB (スキン + アニメーション) まで一気に出力できる。

画像 ─> 前処理 ─> 3D生成 ─> ポリゴン削減 ─> UV展開/リベイク ─> メッシュ修復 ─> 投影 ─> オートリグ ─> GLB
          (TRELLIS.2/MPS) (fast-simplification) (xatlas)      (numpy)              (Blender headless)

必要なもの

ハードApple Silicon (M1以降)、unified memory 24GB以上
OSmacOS 12以降 (Metal 拡張を使う場合は 26以降)
Python3.11以上 (uv があると楽)
Node.js20以上
Blender5.x (オートリグに使用。無くても生成はできる)
ディスク約20GB (依存1GB + モデル重み約15GB)

セットアップ

1. アプリ本体

make setup

uv.venv を作り、バックエンドの依存とフロントエンドの npm パッケージを入れる。

2. TRELLIS.2 (生成エンジン)

TRELLIS.2 は torch + Metal 拡張 + Python 3.11 という重い専用環境を要求するので、 アプリ本体とは別の venv に隔離して入れる。

先に Metal Toolchain を入れておくと生成が大幅に速くなる (数GBのダウンロード):

xcodebuild -downloadComponent MetalToolchain

続いて:

make setup-trellis

最後に Hugging Face の認証を通す。TRELLIS.2 本体 (MIT) は自由に落とせるが、 内部で使う特徴抽出器と背景除去モデルがゲート付きのため必要:

vendor/trellis-mac/.venv/bin/hf auth login

その上で以下のアクセス申請をする (通常は即時承認):

認証を通してから make setup-trellis をもう一度流すと、最後の工程で重み (合計約15GB) を取得する。中断しても再実行で再開する。SKIP_WEIGHTS=1 を 付ければ飛ばせるが、その場合は初回生成時にまとめて落ちてくる。

セットアップ状況の確認:

PYTHONPATH=backend .venv/bin/python -m app.engines.trellis

未充足の前提条件は起動後の画面左上「セットアップ」パネルにも出る。

3. 起動

make serve

を開く。フロントを触りながら開発する場合は make dev (Vite が :5173 で立ち、/api を :8100 にプロキシする)。

使い方

  1. 左パネルに画像をドラッグ&ドロップする (リポジトリ直下の images/samples/ は初回起動時に自動で取り込まれる)
  2. サムネイルを選ぶ
  3. 生成プリセットを押す
プリセット内容
形状のみ生成テクスチャベイクを省略。形の確認用
テクスチャ付き生成 (標準)PBRテクスチャをベイク。生成の標準
最高品質 (低速)カスケード(1024) + 25ステップ + 入力画像の投影。細部が必要なとき。約14分
高ポリゴン (最大)面数48万 + 4096テクスチャ。ディテールは +5% 程度、51MB
ゲーム向け最適化+ ポリゴン削減 (既定2万面) + UV再展開・リベイク
リグ付き生成+ ヒューマノイド骨格の自動生成とスキニング

メッシュ修復 (repair_mesh) は全プリセットで既定オン。入力画像の投影 (project_texture) は 最高品質 のみ既定オンで、他は詳細設定から有効にできる。

所要時間はプリセットごとに実測平均を記録して表示する (未計測のうちは「未計測」と出る。 推測値は表示しない)。

「詳細設定」でシード、解像度 (512/1024/1024_cascade/1536_cascade)、目標面数、 テクスチャ解像度などを個別に上書きできる。エンジンに mock を選ぶと、 TRELLIS.2 を使わずシルエット押し出しのダミーメッシュで パイプラインとビューワの挙動を確認できる。

サーバを立てずに CLI から回すこともできる:

.venv/bin/python scripts/run_pipeline.py images/usa.png --pr

相关仓库与替代方案

根据分类、Topic 和编程语言匹配的相似项目。

lopopolo
精选
lopopolo GitHub avatar

harness-engineering

Harness Engineering is a methodology for improving coding agent outputs by carefully crafting the environment around them—providing curated context, tools, and executable constraints that encode an organization’s nonfunctional requirements and cumulative lessons.

AI 与机器学习AI 智能体
2,390
slvDev
精选
slvDev GitHub avatar

esp32-ai

A 28.9 million parameter language model runs on an $8 ESP32-S3 microcontroller entirely on-device, generating simple stories at about 9.5 tokens per second.

AI 与机器学习大语言模型
1,960
littledivy
精选
littledivy GitHub avatar

mimic

mimic captures traffic from any iOS or web app and automatically generates a Python client library that lets you call the app's API like a regular library.

AI 与机器学习
1,482