Originally published on Medium — this is a mirror.
"Maliyetleri düşürmek için pahalı modelleri stratejik işlerde, ucuz modelleri ise metin üretimi gibi rutin görevlerde kullan."
Bu bir tavsiyedir. AI, bağlam (context) kalabalıklaştığında bu tarz soyut tavsiyeleri unutabilir veya karmaşık görevler sırasında bunları atlayarak en güçlü modele hem mimariyi kurdurup hem de sayfalarca metin yazdırmaya devam edebilir.
Bunun yerine, esneklik payı bırakmayan kesin kurallar (hard constraints) ve net bir asimetri kurmalısınız. Token dünyasında üretmek (output), okumaktan (input) pahalıdır; üstelik en güçlü modelin output token maliyeti alt sınıf modelin yaklaşık beş katıdır.
Çoklu-Model Ajan Mimarisini (Multi-Model Agent Architecture) şu kesin kurallarla yapılandırmanızı öneririm:
1.1 — Model Rollerinin Kesin Ayrımı (Orchestration vs. Production)
En güçlü ve pahalı model (Orchestrator) yalnızca üç şey yapabilir: Planı kurmak, alt-ajanlara dar kapsamlı brief'ler yazmak ve dönen işi okuyup karar vermek. Çok dilli mağaza metinleri, dosya dönüşümleri ve şablondan üretim gibi asıl ağır üretim işleri tamamen alt-ajanlara verilmelidir.
// ❌ YASAK (FORBIDDEN)
// Orkestratör modelin (örn. Opus) hem plan yapması hem de 12 dilde metin üretmesi.
const blogPost = await orchestratorModel.writeText(brief, '12_languages')
// ✅ ZORUNLU (REQUIRED)
// Orkestratörün sadece brief yazması, üretimi paralel çalışan ucuz ajanlara
// (örn. Sonnet) yıkması.
const brief = orchestratorModel.createBrief(data)
const outputs = await Promise.all(
languages.map((lang) => cheapAgent.production(brief, lang))
)1.2 — Sıfır-Token ve Katmanlı Denetim Zorunluluğu
Karakter limitleri ve format kuralları gibi mekanik kontroller LLM'e okutularak değil, sıfır token maliyetiyle doğrudan script (kod) seviyesinde sayılmalıdır. İçerik kalitesi denetimi ise üretimi yapan ajandan tamamen izole edilmeli ve yuvarlama hatası maliyetindeki bir alt modele (örn. Haiku) "geçti/kaldı + gerekçe" formatında çapraz kontrol olarak verilmelidir. Orkestratör en sona sadece kısa bir okuma ve hüküm için girmelidir.
// ❌ YASAK (FORBIDDEN)
// Metni üreten ajana "Yazdığın metni kendin kontrol et, karakter sınırına uy"
// talimatı vermek.
// ✅ ZORUNLU (REQUIRED)
// Karakter kontrolünün kodla yapılması, kalite kontrolünün ise bağımsız
// ucuz ajanla yürütülmesi.
if (output.length > maxLimit) reject()
const review = await verificationAgent.evaluate(output) // Çıktı: "PASS/FAIL + Reason"
1.3 — Context Hijyeni ve İzole Oturum Zorunluluğu
Alt-ajanın tüm ara çalışması (taslaklar, başarısız denemeler, araç çağrıları) kendi izole context'inde kalmalıdır. Ana konuşmaya yalnızca nihai sonuç dönmelidir. Ana context temiz kalmalıdır. Bu kural ihlal edilirse mimari başarısız sayılır.
1.4 — Delegasyon Eşiği (The Threshold Constraint)
Ajan başlatmanın sabit bir maliyeti vardır (brief, sistem yükü, devir teslim). Tek bir paragraf için alt-ajan kurmak, tasarruf edeceğiniz token'dan fazlasını yakar.
Mimari içerisindeki delegasyon sınırını şu kesin bareme bağlamalısınız:
- Eşik değeri: 3 paralel birim.
- Kural: İş yükü 3 paralel birimin altındaysa işi doğrudan orkestratör yapar. 3 ve üzerindeyse alt-ajan delegasyonu zorunludur.
Tasarruf; "pahalı model okur ve karar verir, ucuz model üretir" disiplininin ürünüdür.