
Weight-space programming: AI die modelgewichten direct bewerkt
Een taalmodel kan in vroege experimenten neurale netwerken lezen en gericht aanpassen. De winst zit voorlopig in begrijpelijke taken en specifieke reparaties, niet in het vervangen van training.
Een taalmodel kan niet alleen code schrijven om een neuraal netwerk te trainen, maar soms ook rechtstreeks de getallen in dat netwerk aanpassen. Dat is het idee achter weight-space programming. Vroege experimenten laten zien dat zo'n gerichte ingreep gedrag kan veranderen zonder een gebruikelijke trainingsronde. Ze bewijzen nog niet dat grootschalige training overbodig wordt.
Caleb Writes Code bespreekt de aanpak aan de hand van onderzoek met GPT-6 Astra. Het belangrijkste onderscheid zit tussen een netwerk repareren en het werkelijk een nieuwe vaardigheid leren. Een fout wegnemen die een bestaande capaciteit blokkeert, is iets anders dan die capaciteit vanaf nul opbouwen.
Van een tekstinstructie naar modelgewichten
De gewichten van een neuraal netwerk zijn de numerieke waarden die bepalen hoe het invoer verwerkt. Normaal worden die tijdens training stapsgewijs aangepast. Een optimizer gebruikt daarvoor onder meer gradiënten: informatie over hoe een kleine verandering in een gewicht de trainingsfout beïnvloedt.
Bij weight-space programming redeneert een taalmodel over wat het netwerk zou moeten doen en schrijft het zelf wijzigingen in de gewichten. De tussenschakel is dus niet een nieuwe trainingslus, maar een voorstel voor concrete numerieke aanpassingen. Dat kan door waarden direct uit te schrijven of door gereedschap te gebruiken dat geselecteerde delen van gewichtsmatrices bewerkt.
Dat laatste is belangrijk voor de schaalbaarheid. Alle gewichten als tekst door een taalmodel laten verwerken wordt snel onpraktisch. Een gerichte wijziging is compacter, maar stelt een moeilijkere inhoudelijke eis: het taalmodel moet weten waar een aanpassing zinvol is en welke andere functies daardoor kunnen veranderen.
Kleine netwerken geven bruikbare aanwijzingen
In de experimenten van de onderzoekers herkent Astra waarvoor bepaalde kleine netwerken zijn getraind. Het model leidt bijvoorbeeld uit de structuur van gewichten af welk spel een netwerk speelt. Ook schrijft het gewichten voor eenvoudige spelbesturing.
Dat is interessant omdat het taalmodel zijn redenering over een taak vertaalt naar een numerieke implementatie. Maar de taakomschrijving en netwerkarchitectuur geven veel houvast. Als bekend is welk invoerkanaal een objectpositie bevat en welke uitvoer bij een actie hoort, hoeft het model niet de volledige betekenis van een onbekend netwerk te reconstrueren.
De vergelijking met reinforcement learning vraagt eveneens precisie. Daarbij leert een netwerk door interactie met een omgeving en een beloningssignaal. De onderzoekers vergelijken hun spelnetwerken met PPO, een veelgebruikte methode voor dat leerproces. De rechtstreeks geschreven netwerken presteren goed, maar de uitkomst hangt af van het spel en van hoeveel training de vergelijking kreeg. Niet iedere getrainde tegenhanger wordt verslagen.
De les is daarom smaller dan 'AI kan training overslaan'. Bij overzichtelijke taken kan een taalmodel een geschikte strategie soms direct in netwerkvorm gieten. Of dat ook lukt wanneer nuttige kennis over veel lagen is verspreid, is een andere vraag.
De opvallende wiskundewinst blijkt een reparatie
Het concreetste grotere voorbeeld betreft Qwen3.5-0.8B. Volgens de onderzoekers verbetert een gerichte gewichtsbewerking de score op MATH-500 van 7,9 naar 48,1 procent. Dat is een grote sprong binnen deze evaluatie, maar geen onafhankelijk bewezen algemene prestatiewinst voor alle toepassingen.
De verklaring maakt het resultaat juist leerzaam. Het oorspronkelijke model loopt vaak vast in herhalingen en bereikt daardoor zijn uitvoerlimiet. De wijziging vermindert die lussen, zodat het model vaker een antwoord kan afronden. De onderzoekers veranderen hiervoor 0,016 procent van de gewichten.
Dat laat zien dat een kleine ingreep veel zichtbaar verschil kan maken wanneer één specifieke verstoring een bestaande vaardigheid verbergt. Het laat niet zien dat het model door die ingreep ineens een volledig nieuw wiskundig redeneervermogen krijgt.
Ook de testvoorwaarden horen bij het resultaat. De genoemde score komt uit een opzet met een budget van 50 forward passes. Een forward pass is het uitvoeren van het netwerk op invoer; één zo'n stap kan hier een batch voorbeelden omvatten. Het taalmodel mag resultaten gebruiken om gerichte wijzigingen te beoordelen. Minder evaluatiestappen leveren in dit experiment beduidend minder winst op.
Geen gradiënttraining betekent dus niet: geen evaluatie, geen gereedschap of geen rekenkosten. De eerste kleine experimenten kennen strengere beperkingen dan deze grotere opzet. Die verschillen mogen niet verdwijnen wanneer de resultaten worden samengevat.
Waar de aanpak nog niet werkt
Bij Gemma 3 270M lukt het Astra niet om uit de gewichten alleen betrouwbaar te bepalen welk van twee aangepaste modellen vleieriger reageert. Met extra informatie over aandachtspatronen tijdens uitvoering ontstaat wel meer inzicht. Dat onderstreept dat statische gewichten bekijken en gedrag onderzoeken verschillende vormen van bewijs opleveren.
Ook een poging om Gemma beter te maken in wiskunde levert geen overtuigende verbetering op. Daar herkennen de onderzoekers vooral gewone redeneerfouten, niet één terugkerende lus die met een gerichte reparatie kan worden aangepakt.
Deze negatieve resultaten zijn essentieel voor de interpretatie. De methode lijkt voorlopig sterker bij een afgebakend defect dan bij het toevoegen van breed inzetbare kennis. Grotere modellen stellen bovendien hogere eisen aan de selectie van relevante gewichten, beschikbare context en betrouwbare evaluaties.
Wat dit betekent voor modelbeheer
Voor ontwikkelteams is de interessante mogelijkheid niet dat iedere fine-tuning morgen verdwijnt. Het is dat modelonderhoud een extra instrument kan krijgen: een probleem lokaliseren, een kleine gewichtswijziging voorstellen en gecontroleerd testen of die echt helpt.
Zo'n werkwijze vraagt dezelfde discipline als andere wijzigingen aan een productiesysteem. Bewaar de oorspronkelijke versie, leg de wijziging vast en vergelijk niet alleen de gewenste taak. Controleer ook of taalvaardigheid, instructievolging en andere belangrijke toepassingen achteruitgaan. Een kleine wijziging in bestandsgrootte garandeert geen klein effect op gedrag.
Daarbij blijft een zakelijke kostenvergelijking nodig. Neem de aanroep van het grotere taalmodel, evaluaties, infrastructuur en regressietests mee. Een methode die geen optimizer gebruikt, is niet automatisch goedkoper dan een bestaande aanpassingstechniek. Daarvoor zijn metingen op de eigen taak nodig.
Conclusie
Weight-space programming maakt een interessante grens zichtbaar: een taalmodel kan soms niet alleen uitleggen hoe een netwerk werkt, maar die uitleg ook vertalen naar bruikbare wijzigingen in de gewichten. De sterkste resultaten zijn voorlopig specifiek en experimenteel.
Voor een nuchtere beoordeling tellen vooral deze punten:
- Onderscheid directe gewichtsbewerking van het schrijven van trainingscode.
- Beoordeel kleine spelnetwerken niet als bewijs voor onbeperkte schaalbaarheid.
- Lees benchmarkwinst samen met de uitgangssituatie en het evaluatiebudget.
- Maak verschil tussen een blokkade wegnemen en een nieuwe vaardigheid toevoegen.
- Test ongewenste neveneffecten voordat een aangepast model wordt ingezet.
De belofte is gerichter modelonderhoud. De open vraag is hoe vaak een echt praktijkprobleem zich laat terugbrengen tot zo'n begrijpelijke, veilig te repareren ingreep.
Verder lezen
Zelf aan de slag met AI of een nieuwe website?
Code Lieshout bouwt het voor je — vaste prijs vooraf, reactie binnen één werkdag.