מפרומפטים להנדסת קונטקסט

חלק 2 מתוך 3 — מסע ה-Claude Code של Busoft.

נקודת המפנה הגיעה כשהודינו שהפרומפטים הטובים ביותר שלנו נכשלים מסיבה ששום ניסוח משופר לא יתקן: המודל פשוט לא ראה את מה שהוא צריך — או טבע במה שהוא לא.

ממילים לקשב

חלון הקונטקסט של מודל הוא משאב מוגבל, כמו ה-RAM במכונות שעליהן גדלנו כמתכנתים. הנדסת קונטקסט היא הדיסציפלינה של להוציא אותו בחוכמה: אילו קבצים, איזה תיעוד, אילו תוצאות כלים ואיזו היסטוריה מרוויחים מקום מול המודל בכל צעד — ולא פחות חשוב, מה נשאר בחוץ. התעשייה הגיעה לאותה מסקנה באותו זמן; המאמר של Anthropic על הנדסת קונטקסט אפקטיבית לסוכני AI והמדריך המעשי של Sourcegraph ממסגרים את זה אותו דבר: השאלה זזה מ"איך לנסח?" אל "על מה המודל צריך להסתכל?"

מה השתנה בפועל

נתנו לכל פרויקט קובץ אמת-יסוד — החוקה של הפרויקט: החלטות ארכיטקטורה, קונבנציות, מהלכים אסורים, והמוקשים שעלו לנו פעם ביום עבודה ולא יעלו שוב. הוא נטען לכל סשן, כך ששום דבר לא מוסבר מחדש. הפסקנו לשפוך ריפוזיטורים שלמים על המודל והתחלנו לאחזר רק את הקוד שהמשימה נוגעת בו. פיצלנו עבודות גדולות לתתי-משימות עם קונטקסט טרי במקום לתת לסשן ארוך אחד להתנוון. הכרחנו את המודל לכתוב מה הוא למד, כדי שהסשן הבא יתחיל חכם מקודמו.

האפקט לא היה עדין. אותו מודל, על אותן משימות, הפך ממתמחה מוכשר שדורש השגחה לעמית בכיר שזוכר את הפרויקט. התיקונים למשימה ירדו; אורך העבודה שיכולנו למסור בלי להתערב עלה מדקות לשעות.

הלקח שמתחת ללקח

הנדסת קונטקסט התגלתה כמיומנות ארגונית בתחפושת טכנית. להחליט מה המודל חייב לראות זה להחליט מה החברה שלכם באמת יודעת — לכתוב את זה, לבנות את זה, לעדכן את זה. צוותים שמעולם לא תיעדו את שיקול הדעת שלהם קיבלו פתאום סיבה עסקית להתחיל. וההבנה הזאת הכינה את המהלך האחרון בסדרה: אם אפשר להנדס ידע לתוך הסביבה, אפשר להנדס לתוכה גם את הבדיקה ואת המשמעת. חלק 3: ה-Harness הגיע — ועכשיו אנחנו על הלולאה.