跳到主要內容

Aithy: Your Private AI Agent—Because Your Secrets Shouldn't Be the LLM's Training Data | Aithy:你的私人 AI 特工,別讓你的機密變成 LLM 的訓練集

Local-first AI agency with sandboxed execution and persistent memory. | 本地優先的 AI 特工,具備沙箱執行環境與持久化記憶。

🔎 工具速覽 / AT A GLANCE

CategoryLocal AI Agent / Developer Tool
PricingOpen Source (Free)
BestForDevelopers, Privacy-conscious Power Users, System Architects
GitHub Stars⭐ 21

🚀 引言 / Introduction

各位在內科、外科(指修 Bug)奮鬥的工程師們,你們有沒有一種感覺:現在的 AI 助手越來越強,但每次要把公司機密或是私房專案的 Code 丟上去時,內心總有個聲音在尖叫?『這要是被訓練進下個版本,我的年終獎金可能就變成了全人類的共同財產!』

身為一個幫過不少企業設計系統的顧問,我最常被問到的是:『有沒有一種 AI,既能像 Copilot 那樣懂我的脈絡,又不會讓我的 API Key 或核心邏輯在雲端裸奔?』今天介紹的 Aithy 剛好擊中了這個痛點。它不是那種只會聊天(Chatbot)的玩具,而是一個真正的『本地特工(Local Agent)』。它把狀態、秘密、歷史紀錄全都鎖在你自己的 `~/.config/aithy/` 裡,讓你可以安心地在本地端建構自己的 AI 知識庫,而不需要擔心被老闆發現你其實是用 AI 寫 80% 的 Code(噓,這是我們的秘密)。

***

Fellow engineers fighting in the 'trenches' of bug fixing, do you ever feel that while AI assistants are getting stronger, there's a voice in your head screaming every time you paste a secret project's code? 'If this ends up in the next training set, my bonus might become a public asset!'As a system design consultant, the most common question I get is: 'Is there an AI that understands my context like Copilot but doesn't let my API keys or core logic run naked in the cloud?' Aithy is the answer. It's not just another chatbot; it's a true 'Local Agent.' By locking state, secrets, and history in your own `~/.config/aithy/`, it allows you to build a local AI knowledge base without the anxiety of your boss finding out that AI is doing 80% of your heavy lifting.

🛠️ 核心功能 / Key Features

Aithy 的設計邏輯非常『工程師』。首先,它基於 Bun 運行,啟動速度快到像是我下午茶雞排剛端上桌就吃完一樣。它最核心的亮點在於其『持久化記憶』與『沙箱環境』。

很多 AI Agent 最煩的就是『金魚記憶』,對話一長就忘了前面在幹嘛。Aithy 透過本地狀態管理,能記得你的偏好與專案脈絡。更關鍵的是,它引入了 Microsandbox。這意味著 AI 執行的指令是在 Linux 沙箱中運行的,而不是直接在你主機上跑 `rm -rf /`(雖然我們都曾經在凌晨三點因為精神恍惚差點這麼做)。你可以明確地決定要 Mount 哪些資料夾給 AI,這種『有限度的信任』才是系統設計中最高級的安全策略。

此外,它支援 MCP (Model Context Protocol) 進行網頁搜尋。這讓 Aithy 能在不犧牲隱私的前提下,透過 Parallel Search 獲取即時資訊,然後再用本地 Fetcher 把內容讀回來。這就像是給 AI 裝了一個可以隨時開關的『外部感官』。

***

Aithy's logic is pure 'engineer energy.' Built on Bun, it boots up faster than I can finish my afternoon fried chicken cutlet. The core highlights are its 'Persistent Memory' and 'Sandboxed Environment.'Most AI agents suffer from 'goldfish memory,' forgetting the context as conversations grow. Aithy solves this with local state management. More importantly, it implements Microsandbox. This means AI commands run in a Linux sandbox rather than directly on your host—preventing the dreaded `rm -rf /` (which, let's be honest, we've all almost done at 3 AM during a production crisis). The ability to explicitly mount folders is a masterclass in 'limited trust' security design.Furthermore, it leverages MCP for web search. Using Parallel Search, Aithy can fetch real-time information via a local fetcher without compromising privacy, effectively giving the AI a toggleable 'external sensory organ.'

💡 技術亮點 / Tech Highlights

從系統設計的角度來看,Aithy 展現了對『控制權』的極致追求。它不試圖建立一個巨大的雲端生態,而是將自己定義為一個『本地工具集』。其 `bot-scoped workspace` 的設計,讓你可以為不同的專案建立不同的 Bot ID,完全隔離。這對於需要處理多個機密客戶專案的顧問來說,簡直是救星。

最讓我驚艷的是它的『技能發現』機制。當 Aithy 發現你重複執行某個工作流時,它會主動建議將其封裝為可重複使用的 Skill。這就像是有個聰明的小弟在幫你寫腳本,你只要負責下指令就好。這種從『對話』轉向『工作流自動化』的演進,正是 AI Agent 從玩具變成工具的分水嶺。

雖然目前還在早期階段,但 Aithy 告訴我們:未來的 AI 不應該是雲端上的一個黑盒,而應該是像 `.vimrc` 或 `.zshrc` 一樣,是我們個人開發環境中可以被定製、被控制且完全私有的數位資產。

***

From a system design perspective, Aithy is an ode to 'Control.' It doesn't try to build a massive cloud ecosystem; instead, it defines itself as a 'Local Toolkit.' The `bot-scoped workspace` allows for isolated Bot IDs for different projects—a lifesaver for consultants juggling multiple confidential clients.The most impressive part is the 'Skill Discovery' mechanism. When Aithy notices a repeated workflow, it suggests encapsulating it into a reusable Skill. It's like having a smart junior dev writing your scripts for you. This shift from 'Chatting' to 'Workflow Automation' is the tipping point where AI agents evolve from toys into professional tools.While still in its early stages, Aithy proves that the future of AI shouldn't be a black box in the cloud, but rather a digital asset—like our `.vimrc` or `.zshrc`—that is customizable, controllable, and entirely private.

📦 快速上手 / Quick Start

1. 安裝 Bun (v1.3.14+): `curl -fsSL https://bun.sh/install | bash`

2. 複製並安裝: `bun install`

3. 啟動 Aithy: `bun run start`

4. 開啟瀏覽器訪問 `http://127.0.0.1:3000` 並配置你的 API Key 即可開始!

***

1. Install Bun (v1.3.14+): `curl -fsSL https://bun.sh/install | bash` 2. Clone and Install: `bun install` 3. Launch Aithy: `bun run start` 4. Open `http://127.0.0.1:3000` in your browser, configure your API Key, and you're ready to go!

準備好試試 Aithy: Your Private AI Agent—Because Your Secrets Shouldn't Be the LLM's Training Data | Aithy:你的私人 AI 特工,別讓你的機密變成 LLM 的訓練集 了嗎?

Ready to try Aithy: Your Private AI Agent—Because Your Secrets Shouldn't Be the LLM's Training Data | Aithy:你的私人 AI 特工,別讓你的機密變成 LLM 的訓練集?

前往 GitHub 頁面 →

KLOOK 客路

身為開發者,工欲善其事必先利其器。這款精選工具能顯著提升您的生產力與開發體驗。 | Boost your development workflow.

查看詳情 | Discover More

留言

這個網誌中的熱門文章

text-to-cad: 讓 AI 驅動的參數化 CAD 建模成為現實 / text-to-cad: Bringing AI-Driven Parametric CAD Modeling to Reality

一個讓 AI 代理能生成、預覽並迭代 3D CAD 模型的開源框架 / An open-source harness for AI agents to generate, preview, and iterate 3D CAD models. 🔎 工具速覽 / AT A GLANCE Category AI-Powered CAD Tooling / AI 驅動 CAD 工具 Pricing Free (Open Source) / 免費(開源) BestFor Robotics engineers and product designers using AI coding agents / 使用 AI 程式碼代理的機器人工程師與產品設計師 GitHub Stars ⭐ 93 🚀 引言 / Introduction text-to-cad 是一個強大的開源框架,旨在填補大型語言模型(LLM)與專業 3D 建模之間的鴻溝。它允許開發者利用 Claude Code 或 Codex 等 AI 代理,透過程式碼生成精確的參數化幾何模型,並提供即時預覽與迭代能力。 text-to-cad is a powerful open-source harness designed to bridge the gap between Large Language Models (LLMs) and professional 3D modeling. It enables developers to leverage AI agents like Claude Code or Codex to generate precise parametric geometry via code, providing real-time preview and iteration capabilities. 🛠️ 核心功能 / Key Features 與 Codex 或 Claude Code 等代理...

kimiflare:將 Moonshot Kimi-K2.6 直接部署於 Cloudflare 的終端 AI 編碼助手 | kimiflare: A Terminal Coding Agent Powered by Moonshot Kimi-K2.6 on Cloudflare

無需中繼,在你的 Cloudflare 帳戶中直接運行強大的 Kimi 終端編碼智能體。 | No middleman, run the powerful Kimi terminal coding agent directly on your own Cloudflare account. 🔎 工具速覽 / AT A GLANCE Category AI Coding Agent / Developer Tool Pricing Free (Open-weight model / Cloudflare Workers AI pricing) BestFor Developers seeking a private, high-context terminal AI assistant with direct infrastructure control. GitHub Stars ⭐ 36 🚀 引言 / Introduction kimiflare 是一款為開發者量身打造的終端編碼智能體,它將 Moonshot 的 1 兆參數開源模型 Kimi-K2.6 與 Cloudflare Workers AI 完美結合。不同於傳統 AI 工具,kimiflare 讓流量直接在你的 Cloudflare 帳戶中流動,徹底擺脫第三方代理或 AI 閘道的束縛,實現最高等級的控制力與隱私。 | kimiflare is a terminal coding agent tailored for developers, seamlessly combining Moonshot's 1T-parameter open-source model Kimi-K2.6 with Cloudflare Workers AI. Unlike traditional AI tools, kimiflare routes traffic directly through your Cloudflare account, eliminating the n...

Orca Skills: 開源賦能,加速雲安全工作流

加速雲安全工作流 - Orca Skills 整合多種工具與插件,打造高效安全環境 | Accelerate Cloud Security Workflows with Orca Skills, a Suite of Tools and Plugins 🔎 工具速覽 / AT A GLANCE Category 开源安全工具 Pricing 开源免费 BestFor 雲安全团队、DevSecOps工程师 GitHub Stars ⭐ 33 🚀 引言 / Introduction 在雲端環境中,確保安全不僅是一種技術挑戰,更是對工作效率的一場考驗。Orca Skills 是一款專為加速 Orca 云平台安全工作流而設計的开源插件工具包。透過整合多種工具和插件,幫助我們在複雜的安全環境下保持高效率。 🛠️ 核心功能 / Key Features Orca Skills 提供了一系列功能強大的安全工作流工具,包括警報處理、影響分析、配置源頭追溯等。這些工具不僅能夠幫助我們快速定位問題,還能確保在解決問題時避免造成不必要的後續問題。 💡 技術亮點 / Tech Highlights Orca Skills 真正的亮點在于其開放性與兼容性。它不僅支持Anthropic Claude Code、Cursor 和 Codex,還能夠與 MCP(Orca Security)集成,為安全團隊提供全面的支持。 📦 快速上手 / Quick Start 要快速開始使用 Orca Skills,首先需要安裝所需環境和工具。接下來,配置 MCP 以實現與 Orca Cloud Platform 的集成。最後,測試各個技能插件以確保其正常運行。 中英文對照: 要快速開始使用 Orca Skills 首先需要安裝所需環境和工具 接著配置 MCP 以實現與 Orca 云平台的集成 最...