Working Memory

عنوان اصلی: Working Memory

هدف یادگیری: توضیح context window به‌عنوان حافظه‌ی کاری مدل، تمایز آن از دانش آموخته‌شده، و تشخیص اینکه کِی یک کار از این حافظه سرریز می‌شود یا آن را کم‌توصیف می‌کند.

مفاهیم کلیدی: context window (مثلاً ۲۰۰k یا ۱M توکن در مدل‌های فعلی)، تفاوت working memory با persistent memory، position effects و context rot، attention budget، تشبیه «قفسه‌ی کتاب در برابر کتاب‌هایی که هم‌زمان می‌توان خواند»

context window شامل همه‌ی چیزی است که Claude می‌تواند در یک تعامل ببیند: system prompt، پیام‌های کاربر، نوبت‌های پیشین assistant، اسناد پیوست‌شده، و پاسخی که در حال تولید است. همه‌ی این مجموعه باید درون محدودیت توکن مدل جا بگیرد (در حال حاضر ۱M توکن برای مدل‌های فعلی مانند Claude Fable 5، Opus 4.8 و Sonnet 5، و ۲۰۰k برای Haiku 4.5). مستندات Anthropic این را صراحتاً working memory مدل می‌نامند.

از نظر پداگوژیک دو ویژگی اهمیت دارد. اول، context موقتی است. فقط در طول گفت‌وگو وجود دارد. Claude به‌طور پیش‌فرض اطلاعات را به چت بعدی منتقل نمی‌کند — حافظه‌ی episodic ندارد. اگر تداوم می‌خواهید، باید متن مرتبط را دوباره وارد کنید.

دوم، پنجره‌ی بزرگ‌تر، یادآوری یکنواخت بهتر را تضمین نمی‌کند. پدیده‌ای رایج که گزارش شده context rot نام دارد: هرچه تعداد توکن‌ها بیشتر می‌شود، دقت و recall افت می‌کند. تشبیه مفیدی که در دوره می‌آید: «context window همان قفسه‌ی کتاب است؛ working memory همان تعداد کتاب‌هایی است که می‌توانید هم‌زمان بخوانید.» حتی با قفسه‌ی یک‌میلیون‌توکنی، توانایی مدل برای ادغام چندین متغیر هم‌زمان محدود است و استدلال خیلی پیش از سقف سخت، شروع به فروپاشی می‌کند.

نتیجه‌ی عملی این است که چه چیزی را در context بگذارید و کجای آن، اهمیت دارد. مهم‌ترین دستورها و مهم‌ترین متون منبع را نزدیک ابتدا یا نزدیک پرسش بگذارید. transcript نامرتبط را حذف کنید. برای اسناد بسیار طولانی، خلاصه‌سازی یا chunking کنید.

این همچنین توضیح می‌دهد چرا Claude ممکن است در میانه‌ی گفت‌وگو «فراموشکار» به‌نظر برسد: دستوری که ۳۰ هزار توکن قبل داده‌اید ممکن است هنوز از نظر فنی حاضر باشد، اما تاثیر آن روی توکن کنونی کاهش یافته است.

مثال عملی

یک سند ۵۰ صفحه‌ای را در context قرار دهید و پرسشی بپرسید که پاسخش در صفحه‌ی ۳ است. سپس همان سند را قرار دهید و پرسشی بپرسید که پاسخش در صفحه‌ی ۴۷ است. کیفیت را مقایسه کنید. سپس پرسشی بپرسید که پاسخ آن نیازمند ترکیب صفحه‌ی ۳ و صفحه‌ی ۴۷ است. الگوی افت کیفیت را مشاهده کنید.

اشتباهات رایج

• «Claude گفت‌وگوی قبلی ما را به یاد دارد.» نه — مگر اینکه سامانه‌ای بیرونی ذخیره و بازتزریق کند.
• «context window یک‌میلیونی یعنی هر چیزی را می‌توان رها کرد در آن.» می‌توان، اما recall و کیفیت استدلال در سراسر آن یکنواخت نخواهد بود.
• «working memory و knowledge یکی‌اند.» نه — knowledge در وزن‌هاست؛ working memory در prompt است.