· MIT CSAIL Blog
MIT: GPT-6 Astra न्यूरल नेटवर्क पढ़ता और संपादित करता है
फोटो: Sandip Kalal Unsplash पर
MIT CSAIL के शोधकर्ताओं ने बताया कि GPT-6 Astra ने Qwen3.5-0.8B के 0.016% वज़न संपादित किए और मॉडल का MATH-500 स्कोर 7.9% से बढ़ाकर 48.1% कर दिया। वेट-स्पेस प्रोग्रामिंग एक ऐसी विधि है जिसमें एक सामान्य-उद्देश्यीय LLM किसी न्यूरल नेटवर्क के कच्चे वज़न पढ़ता है और किसी प्राकृतिक-भाषा लक्ष्य से उन्हें सीधे संपादित या लिखता है, बिना ग्रेडिएंट डिसेंट या प्रशिक्षण लूप के। MIT CSAIL में रिकिया टकेही, जेडन टियोह, एलेक्स झांग और ओमर खत्ताब ने यह शब्द 2 नवंबर, 2026 के एक ब्लॉग पोस्ट में पेश किया।
MIT CSAIL के चार शोधकर्ताओं ने जिसे वे वेट-स्पेस प्रोग्रामिंग कहते हैं, उसका वर्णन किया: एक फ्रंटियर LLM जो किसी नेटवर्क के कच्चे वज़नों का निरीक्षण और संपादन करता है, बिना ग्रेडिएंट प्रशिक्षण के। उन्होंने संपादक के रूप में OpenAI के GPT-6 Astra का उपयोग किया और उसे प्रशिक्षण लूप लिखने या ग्रेडिएंट डिसेंट का उपयोग करने नहीं दिया, इसलिए हर बदलाव उस मॉडल के संख्याओं पर तर्क करने से आया।
सबसे चौंकाने वाला परिणाम एक छोटे ओपन रीज़निंग मॉडल से जुड़ा था। उनके सर्वोत्तम परिणाम ने Qwen3.5-0.8B में लूपिंग को उसके वज़नों का 0.016% बदलकर ठीक किया, लेकिन उसी दृष्टिकोण ने ऐसे मॉडल को बेहतर नहीं बनाया जिसमें यह खामी नहीं थी। Qwen3.5-0.8B का GSM8K बेंचमार्क 13.8% से 67.1% तक बढ़ा और IFEval 21.0% से 62.3% तक सुधरा।
पढ़ने के प्रयोग पहले आए। टीम ने Breakout, Pong, Pac-Man और Freeway के अपने स्वयं के ग्रिड संस्करणों पर चार छोटी पॉलिसियों को प्रशिक्षित किया, और हर एक को बिल्कुल समान 17,253-वज़न वाली आर्किटेक्चर, इनपुट और क्रियाएँ दीं। इसने प्रदर्शित किया कि फ्रंटियर भाषा मॉडल अब केवल वज़नों का विश्लेषण करके यह पहचान सकते हैं कि कोई नेटवर्क क्या करता है।
शोधकर्ताओं का मानना है कि वेट-स्पेस प्रोग्रामिंग न्यूरल नेटवर्क के अनुकूलन और ऑडिट के तरीके को बदल सकती है। यह पोस्ट सहकर्मी-समीक्षित पत्र के बजाय एक प्रारंभिक-चरण की शोध रिपोर्ट है, लेकिन यह बिना पुनः प्रशिक्षण के AI की आत्म-उन्नति और तेज़ मॉडल मरम्मत के लिए एक नई दिशा खोलती है।
स्रोत और क्रेडिट
मूल स्रोत: MIT CSAIL Blog