Prompt engineering är död – länge leve kontextdesign

Läsvärt från forskningsfronten

I takt med att modellerna blivit bättre har trixiga prompts ersatts av något viktigare: att ge modellen rätt kontext. RAG, verktygsanrop och strukturerade utdata är dagens byggstenar.

De team som lyckas behandlar sina AI-flöden som mjukvara: versionerade prompts, utvärderingssviter och regressionstester. Magkänsla skalar inte.

Skiftet syns tydligast i var förbättringarna kommer ifrån. För två år sedan kunde en omformulerad instruktion lyfta resultaten märkbart; i dag ger samma trixande marginella effekter, medan bättre återfinning, renare källdata och genomtänkta verktygsdefinitioner flyttar berget. Modellen är sällan flaskhalsen längre – det är vad du matar den med.

Kontextfönstren har vuxit enormt, men “stoppa in allt” visar sig vara en fälla: relevant information drunknar i irrelevant, kostnaderna stiger linjärt och modeller presterar bevisligen sämre när nyckelfakta göms mitt i långa dokument. Kurerad kontext – rätt utdrag, rätt ordning, rätt mängd – slår maximal kontext varje gång.

Utvärderingssviterna är det som skiljer hobbyprojekt från produktion. En mängd verkliga frågor med bedömningskriterier, körd vid varje ändring av prompt, modell eller återfinning, förvandlar “det känns bättre nu” till “träffsäkerheten steg fyra procentenheter”. Utan den ryggraden är varje modellbyte ett vågspel.

För den som bygger karriär i området är lärdomen uppmuntrande: det som efterfrågas är inte hemliga promptknep utan klassiskt ingenjörsarbete – datakvalitet, testbarhet, versionshantering – tillämpat på en ny sorts komponent. Gamla dygder, nytt material.