وقتی خصلت‌ها به هم برخورد می‌کنند

عنوان اصلی: When properties collide

هدف یادگیری: نشان دادن اینکه در کارهای واقعی، چهار خصلت (next token prediction، knowledge، working memory، steerability) با هم در تعامل‌اند؛ و آموزش تشخیص شکست با پرسش «کدام خصلت زیر فشار است؟».

مفاهیم کلیدی: multi-property failures، تشخیص: «کدام خصلت شکست خورد؟»، اصلاحات هدفمند (retrieval برای knowledge، chunking برای working memory، re-prompt برای steerability)

در استفاده‌ی واقعی، چهار خصلت همیشه در هم تنیده‌اند. یک بازبینی قرارداد طولانی هم‌زمان working memory را زیر فشار می‌گذارد و فراتر از knowledge مدل درباره‌ی صلاحیت قضایی آن قرارداد می‌رود. یک بریف خلاقانه‌ی مبهم، steerability را دقیقاً در ناحیه‌ای آزمون می‌کند که next token prediction با شادی هرچه تمام، چیزی محتمل‌به‌نظر را پر می‌کند. یک درخواست برای «خلاصه‌ی تازه‌های این سند ۲۰۰صفحه‌ای» هم‌زمان آزمون working memory، فاصله‌ی knowledge (مواد جدید) و پرسش steerability (تعریف «تازه» چیست؟) است.

حرکت پداگوژیک دوره این است: تشخیص را آموزش بدهیم. وقتی خروجی غلط است، نگویید «AI خراب است» — بپرسید کدام خصلت زیر فشار است:

• اگر مدل متن روان با حقایق ساختگی تولید کرد ⇐ شکست knowledge ⇐ اصلاح با retrieval / paste کردن منبع.
• اگر مدل دستوری از چند نوبت قبل را گم کرد ⇐ شکست working memory ⇐ اصلاح با تکرار، خلاصه‌سازی نوبت‌های پیشین، یا chunking.
• اگر مدل از مسیر مورد نظر منحرف شد ⇐ شکست steerability ⇐ اصلاح با system/user prompt تیزتر یا examples.
• اگر مدل متنی روان اما کلی تولید کرد ⇐ next token prediction در ناحیه‌ی کم‌اطلاع کار خود را می‌کند ⇐ اصلاح با افزودن context grounding.

این عضله‌ی تشخیصی همان چیزی است که موفقیت دوره با آن سنجیده می‌شود: «خروجی AI ناخواسته را ببین و تشخیص بده کدام نوع از ناخواسته است.»

مثال عملی

تصور کنید یک سرپرست تیم فروش در یک شرکت پخش تهران از Claude خواسته است گزارش ماهانه‌ی فروش ۳۵ شعبه را خلاصه کند. خروجی روان است اما شعبه‌ی بندرعباس را فراموش کرده است. این یک شکست working memory است (سند بزرگ، شعبه در میانه گم شده). راه حل: chunk کردن سند بر اساس استان و درخواست خلاصه‌ی هر chunk جداگانه. اگر در عوض Claude ادعای آماری ساختگی درباره‌ی شعبه‌ی بندرعباس می‌ساخت، شکست knowledge بود و راه حل، grounding با داده‌ی واقعی.

اشتباهات رایج

• «مدل فقط بد است.» معمولاً یک خصلت زیر فشار است؛ تشخیص بدهید کدام.
• «هرچه توکن بیشتر، نتیجه بهتر.» ریختن context بیشتر روی prompt اشباع‌شده‌ی working memory، اوضاع را بدتر می‌کند، نه بهتر.