Agent’lar hakkında eskiden yanıldığımız, şimdi inandığımız altı şey.

İki yıllık çok ajanlı sistem yayına alma deneyimi neredeyse her konuda fikrimizi değiştirdi. İşte eskiden reddettiğimiz, şimdi sıkıca tuttuğumuz altı inanç — ve hâlâ kendi içimizde tartıştığımız bir tane.

1. Daha büyük bağlam pencereleri belleğin yerini tutmaz.

Her bellek problemini daha uzun bağlamla çözmeye çalıştık. Bir yere kadar işe yaradı — uzun bağlamlar bilginin nerede yaşadığını gizler ve hata ayıklaması, yeniden tasarlamaktan daha pahalıdır. Bellek yapılandırılmıştır. Prompt’a daha az tıkın; daha çoğunu kalıcı kılın.

2. RAG bir özellik değil, bir tool çağrısıdır.

Retrieval, agent’ın bir şeye ihtiyacı olduğunda çağırmaya karar verdiği bir tool’dur. Prompt’ları ‘ilgili bağlamla’ önceden doldurmayı bıraktık ve agent’lara talep üzerine retrieval çağırma izni verdik. Daha iyi cevaplar, daha küçük prompt’lar, daha az sürpriz.

3. ‘Otonom’ bir pazarlama kelimesidir.

Müşteriler otonom istemez. Geri alınabilir ister. Agent’ın ne yaptığını, neden yaptığını ve nasıl geri alacaklarını bilmek isterler. Tek başına ‘otonomi’ bir sorumluluk yüzeyidir. Geri alınabilirlik bir özelliktir.

4. Uzmanlaşmış agent’lar tek bir büyük agent’ı yener.

Ne zaman ‘modeli sadece daha akıllı yapsak yeter’ demeye yeltensek pişman olduk. Küçük uzmanlardan oluşan bir ekip, her şey olmaya çalışan tek bir modelden daha hızlı, daha ucuz ve denetimi daha kolaydır.

5. Demolar yalan söyler. Üretim doğruyu söyler.

Demo çalıştırmaları kısa, iyi prompt’lanmış ve özenle seçilmiştir. Üretim çalıştırmaları uzun, dağınık ve düşmancadır. Demo sunumu için değil, üretim trace’leri için inşa edin.

6. Orchestrator sıkıcı olmalıdır.

Orchestrator’daki kurnazlık borçtur. Orchestrator’ın tek görevi sıradaki agent’ı seçmek ve tipli yükü yönlendirmektir. Kurnazlığı uzmanlara saklayın.

“Demolar ürünü satar. Üretim trace’leri güveni satar.”