解構 Claude 的神話：OpenMythos 理論重建框架 | Deconstructing the Claude Mythos: The OpenMythos Theoretical Framework

作者： -
基於第一原理重建的遞迴深度 Transformer 架構，探索可變深度推理的邊界。 | A first-principles reconstruction of the Recurrent-Depth Transformer, exploring the boundaries of compute-adaptive reasoning.

🔎 工具速覽 / AT A GLANCE

CategoryAI Architecture / Open Source Framework
PricingFree (Open Source)
BestForAI Researchers, LLM Architects, Depth-Variable Reasoning Studies
GitHub Stars⭐ 4148

🚀 引言 / Introduction

OpenMythos 是一個開源的理論實作，旨在透過公開研究文獻，從第一原理出發重建 Claude Mythos 的模型架構。它為研究者提供了一個探索計算自適應與深度可變推理的實驗場。 | OpenMythos is an open-source theoretical implementation aimed at reconstructing the Claude Mythos architecture from first principles using available research literature, providing a sandbox for exploring compute-adaptive and depth-variable reasoning.

🛠️ 核心功能 / Key Features

採用三階段設計：前奏 (Prelude)、循環塊 (Recurrent Block) 與尾聲 (Coda)。 | Implements a three-stage design: Prelude, a looped Recurrent Block, and a Coda.

支援 MLA (Multi-head Latent Attention) 與 GQA (Grouped Query Attention) 切換。 | Supports switchable attention mechanisms between MLA and GQA.

採用包含路由專家與共享專家的稀疏混合專家模型，優化推理效率。 | Utilizes sparse MoE with both routed and shared experts for optimized inference efficiency.

💡 技術亮點 / Tech Highlights

透過 `max_loop_iters` 實現遞迴推理，允許模型根據複雜度調整計算量。 | Achieves recurrent reasoning via `max_loop_iters`, allowing the model to scale computation based on complexity.

完全基於公開文獻與理論推演，不依賴私有數據或內部 API。 | Entirely based on public research and theoretical deduction, independent of proprietary data or APIs.

高度可配置的參數（如 LoRA Rank, Expert Dim），便於快速迭代實驗。 | Highly configurable parameters (e.g., LoRA Rank, Expert Dim) facilitating rapid iterative experimentation.

📦 快速上手 / Quick Start

使用 pip 安裝：`pip install open-mythos` | Install via pip: `pip install open-mythos`

定義 `MythosConfig` 配置（如指定 attn_type 為 'mla' 或 'gqa'）。 | Define `MythosConfig` (e.g., specifying attn_type as 'mla' or 'gqa').

透過 `OpenMythos` 類別初始化模型並開始理論驗證。 | Initialize the model via the `OpenMythos` class to begin theoretical verification.

準備好試試 解構 Claude 的神話：OpenMythos 理論重建框架 | Deconstructing the Claude Mythos: The OpenMythos Theoretical Framework 了嗎？

Ready to try 解構 Claude 的神話：OpenMythos 理論重建框架 | Deconstructing the Claude Mythos: The OpenMythos Theoretical Framework?

前往 GitHub 頁面 →

留言

張貼留言

這個網誌中的熱門文章

[Security] wpa_supplicant setup

作者： -
20111115 - wpa_supplicant conf的範例 現在我還在測試中，後續慢慢補上。 20111121 - 後來證實，我之前使用的wpa-supplicant v0.5.10有問題，導致在Enterprise模式時，SSL認證一直不正常，一下子是password不見，一下子是group key有問題。所以我就把atheros-carrier搭配的wpa_supplicant v0.5.10換成v0.6.9，果然一測就ok了，只改了driver_wext.c，順便加了一個檔案是driver_atheros11n.c，用來搭配atheros-carrier driver的Ioctl。 wpa_supplicant的設定檔案說明。 位置大都是在/etc/下。 ctrl_interface=/var/run/wpa_supplicant     #//無更動 ctrl_interface_group=0                            #//無更動 ap_scan=1                                              #//如是在wireless Station狀態務必要使用。 network={ scan_ssid=1                                     #//務必要填為1 ssid="BrianTEST-62bg"                   #//AP的SSI...
閱讀完整內容

[拆機] Nexus5 更換背蓋、電池

作者： -
圖片
2016/1/22更新.. 因為購買紀錄已經超過六個月，ＹＡＨＯＯ拍賣就把紀錄清除了 Ｏrz... 不過當初我在ＹＡＨＯＯ拍賣搜尋關鍵字是“原廠”“Nexus5”“電池” 到今天為止～我的Nexus5仍在運作中 --------------- Nexus系列的手機，真的是工程師都想追求握在手裡的機器，畢竟彈性大，隨時可以擁有Google的更新，這怎麼能叫人輕易放手。 於是在前年，我跟前公司的工程師們，請同事從美國帶回Nexus 5 32G版本，總共是5隻，隨後大家都隨身帶著他。 用了一年多，最近電池死得很快，但又不想換新手機，仍舊覺得Nexus5實在是很好用又超值，所以心一橫，上了掏寶買了背蓋跟側條，然後同時想購買電池時... 掏寶賣家告訴我貨運不再收電池的貨品，所以沒辦法出貨給我，於是我同時把這件事公布在ＦＢ動態時，有朋友又告訴我，可以用集貨的方式，讓賣家把電池轉寄給我。 不過我這個人是行動派的，馬上又找了台灣的賣家，結果真的讓我找到原廠電池，我想應該也是從掏寶來的吧？立馬買了兩顆。 零件都到齊了。 ▼ 這段期間，電池都是3分鐘內，馬上死掉，強制關機，所以我都要隨時插著行動電源。 ▼ 在掏寶購買背蓋跟側條時，送了兩個拆機工具，一個就是這個藍色、像吉他撥片的東西。拆解的過程中，其實滿容易的，我很放心的把藍色撥片插進去，慢慢把卡榫撬開。 ▼ 很快就像下面這樣，開口被撬開，不過我也發現，好像有什麼東西黏著，所以沒辦法像iFix一樣，一撬開就彈開。 ▼ 大約5分鐘左右，就可以完全撬開。右邊就是電池、主機板、螢幕的那一面。 ▼ 可以看到天線的部分，被黏了膠條，所以在拆解的過程中，我總是怕怕的會不會把天線扯掉？結果證實不用擔心這個，慢慢的撬開的同時，用點小巧勁，就可以把背蓋從膠條上脫離。 ▼ 主機板的部分，被另一個塑膠蓋給包著，這個保護蓋，要用螺絲起子轉開所住的地方，然後再輕輕一拉就開了。 ▼ 接著就可以把電池下方基板的排線拉開，一直到這個階段，其實你就可以直接換電池了。 ▼ 電池一樣是被黏住了，所以要像iFix一樣，先把電池面朝下，用力晃動，然後再用個平頭螺絲起子把電池翹起來。翹電池的過程中要小心，千萬別用螺絲起子去戳電...
閱讀完整內容

[我的MAC Air] 2012年中，MAC Air SSD升級

作者： -
圖片
因為有在拍照，所以硬碟很快就滿了，但前陣子剛好去了沖繩一個星期，照片整個塞爆了我的MAC Air，但照片整理又慢，還有一些照片想傳到Blogger裡面做記錄，就變得非得要把照片放在電腦裡。 接著，又遇到一些專案想要開發，在MAC Air上想安裝Xcode跟一些App，然後...然後硬碟就爆了～～～～Orz..App更新也動彈不得了。 就這樣，立馬下手了觀望很久的JetDrive 520 for 2012年中的MAC Air。 ▼ 24小時到貨真方便，隔天就到貨，還剛剛好在我出門前，被我堵到。 ▼ 開箱囉！！！好爽480G，快點來我這吧！！！ 總覺得網路上，關於JetDrive的中文介紹真的很少，所以我一定要寫下來。 ▼ 整體包裝有點仿造Apple的風格，白色->簡單。 ▼ 拿出所有東西，有SSD 480G一隻，工具2隻，SSD外接盒*1，外接盒的傳輸線*1，外接盒的衣服*1，還有說明書.....但是說明書請各位可以不用看了，太簡單，根本沒有參考價值。 ▼ 就這樣，中文說明...而且是簡體字。 還不如參考Youtube的介紹 ▼ 首先，先把新的SSD硬碟放到外接盒。 ▼ 組合完成。 ▼ 放到電腦上備份，原本以為...可以用Time machine去備份。結果Time Machine備份的確是可以完成，但是它會把硬碟裡的系統備份成一個資料夾，根本就不是整個系統轉移.... 所以我只照了影片裡面的介紹，完成硬碟的格式化。 ▼ 不用再試這招，浪費時間。 最後，格式化完成後，我還是把硬碟接著，然後MAC Air重開機後，馬上按下 Command + R ，進入Recovery模式，創建提供的說明書跟影片都說，長按 option ，但是我試了很多次，都不會進入Recoevery模式。 Recovery模式，整個系統備份到新的SSD上，只需要10分鐘左右，我大約已經用掉110G的空間了，所以Recovery模式速度挺快的！ ▼ 接著，迫不及待，把MAC Air給拆開。 ▼ MAC Air的螺絲...很小，就跟手機一樣...都是用這類規格的螺絲。 ▼ 開心呀～硬碟裝好後，開機～～～果然開始跑新的SSD裡面的...
閱讀完整內容