پشت پرده هوش مصنوعی | قسمت 9: پنجره Context Window چیست و چه محدودیتی دارد؟

وقتی با ChatGPT گفتگو می‌کنید، معمولاً انتظار دارید مدل تمام صحبت‌های قبلی را به خاطر داشته باشد و پاسخ‌هایش بر اساس همان روند ادامه پیدا کند. اما اگر مکالمه خیلی طولانی شود، ممکن است متوجه شوید که ChatGPT بعضی از جزئیات ابتدایی گفتگو را فراموش می‌کند یا دیگر به آن‌ها اشاره‌ای ندارد.

دلیل این اتفاق به مفهومی به نام Context Window یا پنجره زمینه مربوط می‌شود.

در قسمت قبل از مجموعه «پشت پرده هوش مصنوعی» یاد گرفتیم که ChatGPT حافظه‌ای شبیه انسان ندارد و برای پاسخ دادن، از متن موجود در Context استفاده می‌کند. حالا این سؤال مطرح می‌شود که پنجره Context Window چیست و چه محدودیتی دارد؟

Context Window چیست؟

اگر بخواهیم Context Window را به ساده‌ترین شکل توضیح دهیم، می‌توان آن را مانند یک میز کار تصور کرد.

هر اطلاعاتی که روی این میز قرار دارد، در اختیار ChatGPT است و مدل هنگام تولید پاسخ می‌تواند آن‌ها را ببیند و از آن‌ها استفاده کند.

هر بار که شما پیامی ارسال می‌کنید یا ChatGPT پاسخی می‌دهد، این متن وارد همین فضای موقت می‌شود. سپس مدل قبل از تولید پاسخ جدید، تمام اطلاعات موجود روی این «میز کار» را دوباره پردازش می‌کند.

به همین دلیل، پاسخ‌های ChatGPT معمولاً با موضوع گفتگو هماهنگ هستند و ارتباط منطقی بین پیام‌ها حفظ می‌شود.

آیا Context Window نامحدود است؟

خیر.

یکی از مهم‌ترین محدودیت‌های مدل‌های هوش مصنوعی این است که پنجره زمینه ظرفیت مشخصی دارد.

این ظرفیت معمولاً با تعداد توکن‌ها (Token) اندازه‌گیری می‌شود، نه تعداد کلمات یا تعداد پیام‌ها.

هرچه تعداد توکن‌های موجود در مکالمه بیشتر شود، فضای بیشتری از Context اشغال خواهد شد.

به همین دلیل، اگر متن‌های بسیار طولانی وارد کنید یا گفتگوی شما ادامه پیدا کند، به‌مرور فضای Context پر می‌شود.

وقتی Context پر شود چه اتفاقی می‌افتد؟

زمانی که ظرفیت Context Window تکمیل شود، مدل نمی‌تواند تمام پیام‌های قبلی را هم‌زمان نگه دارد.

در این شرایط، قدیمی‌ترین بخش‌های گفتگو به‌تدریج از پنجره زمینه خارج می‌شوند.

در نتیجه، ChatGPT دیگر به آن اطلاعات دسترسی ندارد و ممکن است:

• بخشی از صحبت‌های ابتدایی را فراموش کند.
• برخی جزئیات را دوباره از شما بپرسد.
• پاسخ‌هایی ارائه دهد که با ابتدای گفتگو هماهنگ نباشند.

این رفتار طبیعی است و به محدودیت Context مربوط می‌شود، نه به ضعف یا خطای مدل.

آیا Context Window بزرگ‌تر یعنی هوش بیشتر؟

پاسخ این سؤال خیر است.

گاهی تصور می‌شود اگر یک مدل Context Window بزرگ‌تری داشته باشد، پس از مدل‌های دیگر باهوش‌تر است.

اما این برداشت درست نیست.

Context Window فقط مشخص می‌کند مدل چه مقدار اطلاعات را می‌تواند به‌طور هم‌زمان پردازش کند.

در مقابل، میزان هوشمندی یک مدل به عوامل مختلفی مانند کیفیت داده‌های آموزشی، معماری مدل، روش آموزش و نحوه طراحی آن بستگی دارد.

بنابراین، داشتن Context بزرگ‌تر به معنای دانش بیشتر یا توانایی استدلال بهتر نیست؛ بلکه فقط باعث می‌شود مدل بتواند مکالمه‌های طولانی‌تر یا اسناد بزرگ‌تر را بدون از دست دادن اطلاعات مدیریت کند.

چرا شناخت Context Window مهم است؟

اگر بدانید پنجره زمینه چگونه کار می‌کند، بهتر می‌توانید با ChatGPT تعامل داشته باشید.

برای مثال، اگر روی یک پروژه طولانی کار می‌کنید، بهتر است اطلاعات مهم را در طول گفتگو دوباره یادآوری کنید یا خلاصه‌ای از نکات اصلی را ارائه دهید. این کار کمک می‌کند حتی اگر بخشی از پیام‌های اولیه از Context خارج شوند، مدل همچنان اطلاعات لازم را در اختیار داشته باشد.

شناخت این محدودیت باعث می‌شود انتظار واقع‌بینانه‌تری از مدل‌های هوش مصنوعی داشته باشید و پاسخ‌های دقیق‌تری دریافت کنید.

جمع‌بندی

پاسخ سؤال «پنجره Context Window چیست؟» این است که Context Window یک فضای موقت است که پیام‌های گفتگو در آن قرار می‌گیرند و ChatGPT قبل از تولید هر پاسخ، اطلاعات موجود در این فضا را دوباره پردازش می‌کند.

از آنجا که این پنجره ظرفیت محدودی دارد، در مکالمه‌های طولانی یا هنگام پردازش متن‌های بزرگ، قدیمی‌ترین اطلاعات به‌تدریج از Context خارج می‌شوند و مدل دیگر به آن‌ها دسترسی نخواهد داشت.

بزرگ‌تر بودن Context Window فقط به مدل اجازه می‌دهد اطلاعات بیشتری را به‌طور هم‌زمان پردازش کند و لزوماً به معنی باهوش‌تر بودن یا دانش بیشتر آن نیست.

نظر شما چیست؟
آیا تا به حال هنگام کار با ChatGPT متوجه شده‌اید که در گفتگوی طولانی بخشی از اطلاعات قبلی را فراموش کرده باشد؟ تجربه خود را در بخش دیدگاه‌ها با ما به اشتراک بگذارید.

درباره فیلاگر | جامعه هوش مصنوعی ایران

فیلاگر، جامعه هوش مصنوعی ایران، مرجعی برای آموزش، تحلیل و بررسی فناوری‌های نوین هوش مصنوعی است. در مجموعه «پشت پرده هوش مصنوعی» تلاش می‌کنیم مفاهیم پیچیده AI را با زبانی ساده برای علاقه‌مندان فارسی‌زبان توضیح دهیم.

پشت پرده هوش مصنوعی | قسمت ۱
پشت پرده هوش مصنوعی | قسمت ۲
پشت پرده هوش مصنوعی | قسمت ۳
پشت پرده هوش مصنوعی | قسمت ۴
پشت پرده هوش مصنوعی | قسمت ۵
پشت پرده هوش مصنوعی | قسمت ۶
پشت پرده هوش مصنوعی | قسمت ۷
پشت پرده هوش مصنوعی | قسمت ۸