AirLLM:讓 4GB 顯存也能跑 70B 大模型,突破硬體門檻的推理方案
AirLLM 是一個專為低端硬體設計的推理庫,透過將模型分層儲存並在推理時逐層載入 GPU 的方式,實現了在僅 4GB VRAM 的設備上運行 70B 參數模型,甚至在 8GB VRAM 上運行 Llama 3.1 405B。它不依賴量化或剪枝即可維持原模型精度,但以犧牲推理速度為代價。
GitHub →
AirLLM 是一個專為低端硬體設計的推理庫,透過將模型分層儲存並在推理時逐層載入 GPU 的方式,實現了在僅 4GB VRAM 的設備上運行 70B 參數模型,甚至在 8GB VRAM 上運行 Llama 3.1 405B。它不依賴量化或剪枝即可維持原模型精度,但以犧牲推理速度為代價。
GitHub →
MiroFish 是一個結合 GraphRAG 與多智能體社交模擬(OASIS)的預測框架,能將現實世界的種子數據轉化為數位平行世界,透過數千個具有獨立人格的 Agent 互動來推演輿論走向或事件結果。該項目目前屬於功能完備的 Demo 級別,高度依賴外部 LLM API 與 Zep Cloud 記憶庫。
GitHub →
LunarData 是一個將 1970 至 2100 年農曆運算結果預先產出的靜態資料庫。它將複雜的曆法邏輯轉化為易於讀取的 JSON 格式,大幅降低前端開發門檻。其內容完整涵蓋吉凶、節氣及星相,是高效開發曆法應用的理想選擇。
GitHub →
本專案是一個基於 DeepSeek V4 Flash 等 AI 模型生成的靜態網站模板畫廊,收錄 90 套涵蓋多元產業的 HTML 模板。它並非一個軟體框架,而是一個展示 AI 生成能力、提供設計參考與提示詞(Prompt)的資源庫,適合需要快速搭建簡單形象站的開發者或設計師。
GitHub →
這是一個基於 HTML/CSS/JS 的輕量級大富翁遊戲 demo,展示了如何不使用框架實作遊戲邏輯、2.5D 棋盤渲染與簡單的 AI 自動對戰系統,適合作為前端初學者學習遊戲狀態管理與 UI 渲染的練習專案。
GitHub →
這是一個由 AI 模型 BigPickle 生成的靜態網站樣板集合,包含 90 套獨立設計、涵蓋 25 種版型與 15 個產業的完整多頁網站。本 Repo 並非技術框架或工具,而是一個展示 AI 生成能力、可用於快速原型開發的靜態 HTML/CSS 資源庫。
GitHub →
本 Repo 是一個由 AI (MinMax 2.7) 生成的大規模靜態網站樣板展示庫,包含 24 套針對不同產業設計的 HTML/CSS 模板。其核心價值不在於程式碼的複雜度,而是在於展示 AI 如何精準地將「產業調性」轉化為「視覺版型」與「內容結構」,適合前端初學者參考佈局或快速搭建原型。
GitHub →
這是一個專為 AI 工程師設計的知識庫,而非程式碼庫。它將 LLM 的底層運作(Transformer, KV Cache)、模型選型、RAG 最佳實踐、Agent 協作協議(MCP)以及面試準備(110+ 題庫)系統化地整理在一起,旨在填補學術論文與實際生產部署之間的鴻溝。
GitHub →
Webwright 是一個輕量級的瀏覽器代理框架,其核心理念是將瀏覽器視為可丟棄的環境,而將本地工作區(代碼與日誌)視為狀態。它讓 LLM 通過編寫並執行 Playwright 腳本來完成複雜的網頁任務,而非傳統的單步指令交互,顯著提升了處理長路徑任務的成功率。
GitHub →
VoxCPM2 是一個基於擴散自回歸架構的端到端 TTS 系統,捨棄了傳統的離散 Token 化過程,支持 30 種語言及 48kHz 高品質音頻輸出。它提供了從自然語言描述創造音色的 Voice Design 以及極高還原度的聲音克隆能力,並支持 LoRA 微調與 vLLM 級別的生產環境部署。
GitHub →
OpenUI 是一個完整的 Generative UI 框架,透過自定義的 OpenUI Lang 語言取代傳統 JSON 格式,大幅降低 LLM 輸出 token 消耗並實現高效的串流渲染,適合需要構建 AI 助手、Copilot 或動態互動介面的 React 開發者。
GitHub →
ARS 是一個專為 Claude Code 設計的學術研究技能套件,它不追求全自動生成論文,而是建立一套「人機協作」的管線(Pipeline),透過多 agent 協作模擬研究、寫作、審稿與修正的完整流程,並導入嚴格的誠信閘門以解決 AI 幻覺問題。
GitHub →