📝 目錄
引言
在這個技術飛速發展的時代,開放源代碼社群不斷推出令人驚嘆的創新項目。本文將介紹十個最新的 AI 儲存庫,這些儲存庫是在 2023 年秋季創建的,並於 11 月初整理出來。每個項目在那時的星數不到五千,大多數在 Hacker News 或 Reddit 上幾乎未被注意。這些項目展示了 AI 技術的多樣性和潛力,從讓 AI 操作真實的 iPhone 到進行聲音盲測等。
10. Project Maya
Project Maya 是一個革命性的儲存庫,它在創建後的九天內獲得了約 300 顆星。儘管通常需要資料中心才能運行這些規模的模型,但 Maya 可以在你已有的硬體上運行四個這樣的模型。這個項目的挑戰在於它會佔用幾乎所有的可用 RAM,僅剩大約六 GB 給其他程式使用。Maya 的模型使用了專家混合模型技術,僅在需要時調用部分專家,並將其保存在 GPU、RAM 或 NVMe SSD 上。這種技術讓一台遊戲 PC 也能適應為資料中心構建的模型。
實際應用
- 在硬體受限的情況下部署大型 AI 模型。
- 優化資源使用,使得個人電腦也能運行高效能模型。
9. Sand 3D
Sand 3D 是一個用於創建可編輯 3D 物件的語言模型,創建後的十二天內獲得了約 2000 顆星。它的 README 提供了一個示例,使用 38 行 Python 程式碼構建了一整台前負載式洗衣機。這個項目使用 Python 庫運行在 Blender 的 Python 模組之上,通過名稱而非手動計算的座標來達到各個部分。這不僅提高了編碼效率,還確保了每次構建的網格都是一樣的。
優勢與限制
- 以更少的代碼構建複雜的 3D 結構。
- Blender 模組尚未有 Python 3.12 的構建,需使用其他版本。
8. Indra
Indra 是一款 OCR 模型,擁有一百萬個參數,能完全在 CPU 上運行,不需要 GPU 和 PyTorch。它可以將 PDF 和圖片轉換為 markdown、文字或 JSON 格式。根據其 README 的基準測試,它能以每頁約五分之一秒的速度進行讀取,這比 PaddleOCR 的全管道快了約 190 倍。然而,它在手寫體和老舊或褪色的掃描件上的表現較差。
實用性建議
- 適用於需要快速處理大量印刷文本的應用。
- 不適合處理手寫文檔或質量較差的掃描件。
7. Kensaku
Kensaku 是一個免費的桌面文件啟動器,能夠在本地搜索文件名、文檔、代碼和截圖,保證數據不會離開你的機器。它在 Windows 上可在 18 毫秒內搜索 10 萬個文件名。該專案的挑戰在於,單線程的搜索速度比其 16 線程的預設值還要快,這揭示了其性能優化的潛力。
實用建議
- 對於需要在本地大量文件中快速檢索的用戶來說,非常有用。
- 注意初次安裝時的系統警告。
6. BLA
BLA 是 Blind LLM Agents 的縮寫,其星數在九天內從約 2500 增加到約 5700。它是一個用於防止反向工程的工具,通過擴展文件大小來超過 R.E.A 的分析器的大小限制。儘管它能成功阻止某些格式的分析,但其 README 也承認 R.E.A 使用者可以通過改變設定來繞過這些限制。
實用方案
- 適合需要保護軟件不被反向工程的開發者。
- 需了解反向工程工具的運行機制以更好地進行防護。
5. Kanzo
Kanzo 是一個 kanban 看板和 MCP 伺服器,允許多個程式代碼代理共享任務列表。它本身僅 4.7 MB,並且能在 Raspberry Pi 上運行。然而,該專案沒有登錄系統,僅在信任的網絡上共享。
實用建議
- 適合需要簡易協作工具的小型團隊。
- 在共享網絡上使用 VPN 以提高安全性。
4. Infer SSD
Infer SSD 的星數在九天內從約 300 增加到約 1100。它能夠在 MacBook 上運行超過 RAM 或 VRAM 容量的模型。其主要目標是 MacBook,用於展示 DeepSeek 的大模型。這使得在資源有限的 MacBook 上進行 AI 處理成為可能。
應用建議
- 適用於需要在 MacBook 上運行大型 AI 模型的用戶。
- 需考慮首次運行時的大量數據下載。
3. earshot
earshot 能將聲音轉換為書面證據,使編程代理能夠對其進行推理。它在本地 CPU 上運行,作為命令行工具、Python API 或 MCP 伺服器使用。這對於需要分析音頻的開發者來說非常有用。
實用性考量
- 適合需要聲音分析或合成的應用。
- 無法判斷聲音的情感或質感。
2. API Anything
API Anything 能夠學習網站的請求模式,從而直接調用站點的請求,無需語言模型的介入。這使得在無公開 API 的網站上獲取數據成為可能。該專案在 Google Flights 上的測試中,回答速度是 Clawed Opus 的 1.5 到 2 倍。
實際應用
- 適合需要從無 API 的網站獲取數據的應用。
- 了解網站請求模式以提高數據抓取的效率。
結論
以上介紹的十個 AI 儲存庫展示了新興技術的多樣性和可能性。無論是資源有限的硬體上運行的大型模型,還是防止反向工程的工具,每一個項目都在其領域中發揮了創新作用。這些項目不僅為開發者提供了強大的工具,也為未來的技術發展指明了方向。
