اطلاعات ChatGPT کجا ذخیره می‌شود؟ راز پارامترهای هوش مصنوعی

وقتی با ChatGPT صحبت می‌کنیم و پاسخ‌هایی درباره موضوعات مختلف دریافت می‌کنیم، یک سؤال مهم به وجود می‌آید: اطلاعات ChatGPT کجا ذخیره می‌شود؟

بسیاری از کاربران تصور می‌کنند که ChatGPT مانند یک کتابخانه بزرگ عمل می‌کند؛ یعنی مجموعه‌ای از کتاب‌ها، مقاله‌ها و متن‌ها را در اختیار دارد و هنگام پاسخ دادن، در میان آن‌ها جستجو می‌کند.

اما واقعیت متفاوت است.

آیا ChatGPT یک پایگاه داده از کتاب‌ها دارد؟

پاسخ کوتاه: خیر.

ChatGPT یک پوشه بزرگ شامل متن کتاب‌ها، مقاله‌ها یا صفحات اینترنتی ندارد که هنگام پاسخ دادن وارد آن شود و جمله موردنظر را پیدا کند.

اگر چنین بود، عملکرد آن شبیه یک موتور جستجو یا آرشیو اطلاعاتی می‌شد.

اما مدل‌های زبانی بزرگ مانند ChatGPT به روش دیگری کار می‌کنند.

این مدل‌ها در زمان آموزش، حجم بسیار زیادی از داده‌های متنی را بررسی می‌کنند و از طریق این فرآیند، الگوهای موجود در زبان را یاد می‌گیرند.

دانش ChatGPT چگونه ذخیره می‌شود؟

دانشی که ChatGPT در زمان آموزش به دست می‌آورد، به شکل متن‌های آماده ذخیره نمی‌شود.

در واقع، این دانش در ساختار داخلی مدل و به صورت اعداد و وزن‌های مربوط به میلیاردها پارامتر ذخیره می‌شود.

به زبان ساده، مدل به جای اینکه جمله‌های کتاب‌ها را حفظ کند، ارتباط بین مفاهیم، الگوهای زبانی و روابط میان اطلاعات مختلف را یاد می‌گیرد.

به همین دلیل، وقتی یک سؤال از ChatGPT می‌پرسید، مدل یک صفحه مشخص از یک کتاب را باز نمی‌کند؛ بلکه بر اساس الگوهایی که در ساختار خود یاد گرفته، پاسخ جدیدی تولید می‌کند.

آیا ChatGPT متن کتاب‌ها را حفظ کرده است؟

یکی از تصورات اشتباه درباره هوش مصنوعی این است که فکر کنیم ChatGPT تمام متن‌هایی را که در آموزش دیده، در حافظه خود ذخیره کرده است.

اما این اتفاق نمی‌افتد.

ChatGPT:

یک نسخه از کتاب‌ها و مقاله‌های آموزشی خود نگه نمی‌دارد.
نمی‌تواند صفحه مشخصی از یک کتاب را پیدا کند.
مانند یک موتور جستجو داخل داده‌های آموزشی حرکت نمی‌کند.

در عوض، اطلاعات به شکل الگوهایی در مدل شکل گرفته‌اند و هنگام تولید پاسخ استفاده می‌شوند.

دانش پارامتریک (Parametric Knowledge) چیست؟

به دانشی که درون پارامترهای یک مدل هوش مصنوعی ذخیره می‌شود، دانش پارامتریک (Parametric Knowledge) گفته می‌شود.

این نوع دانش با روش ذخیره اطلاعات در پایگاه داده‌های معمولی تفاوت دارد.

در یک پایگاه داده، معمولاً اطلاعات به صورت مستقیم ذخیره و قابل بازیابی هستند؛ اما در یک مدل هوش مصنوعی، دانش به شکل الگوهای عددی در ساختار مدل قرار می‌گیرد.

به همین دلیل، پاسخ‌های ChatGPT نتیجه بازیابی یک متن ذخیره‌شده نیستند؛ بلکه نتیجه پردازش و تولید بر اساس دانشی هستند که مدل در طول آموزش به دست آورده است.

آیا دانش ChatGPT همیشه ثابت می‌ماند؟

خیر.

هر زمان که یک نسخه جدید از یک مدل هوش مصنوعی آموزش داده می‌شود، پارامترهای آن تغییر می‌کنند و دانش جدیدی در ساختار مدل شکل می‌گیرد.

به همین دلیل، نسخه‌های مختلف یک مدل ممکن است توانایی‌ها و اطلاعات متفاوتی داشته باشند.

جمع‌بندی

پس پاسخ سؤال «اطلاعات ChatGPT کجا ذخیره می‌شود؟» این است:

اطلاعات ChatGPT در یک پایگاه داده معمولی یا مجموعه‌ای از کتاب‌ها ذخیره نشده‌اند. دانش این مدل در قالب وزن‌ها و پارامترهای داخلی ذخیره می‌شود؛ جایی که الگوهای زبان و ارتباط میان مفاهیم شکل گرفته‌اند.

ChatGPT متن‌ها را حفظ نمی‌کند، بلکه ساختار و الگوهایی را یاد می‌گیرد که به کمک آن‌ها می‌تواند پاسخ تولید کند.

در قسمت بعدی مجموعه پشت پرده هوش مصنوعی بررسی می‌کنیم که پارامترهای هوش مصنوعی دقیقاً چه هستند و چرا تعداد آن‌ها اهمیت دارد.

نظر شما چیست؟
قبل از خواندن این مطلب، تصور می‌کردید ChatGPT یک آرشیو بزرگ از کتاب‌ها و متن‌ها درون خودش دارد؟

درباره فیلاگر | جامعه هوش مصنوعی ایران

فیلاگر، جامعه هوش مصنوعی ایران، مرجعی برای آموزش، تحلیل و بررسی فناوری‌های نوین هوش مصنوعی است. در مجموعه «پشت پرده هوش مصنوعی» تلاش می‌کنیم مفاهیم پیچیده AI را با زبانی ساده برای علاقه‌مندان فارسی‌زبان توضیح دهیم.

پشت پرده هوش مصنوعی | قسمت ۱
پشت پرده هوش مصنوعی | قسمت ۲
پشت پرده هوش مصنوعی | قسمت ۳
پشت پرده هوش مصنوعی | قسمت ۴