پشت پرده هوش مصنوعی | قسمت 7: مدل‌های هوش مصنوعی چگونه آموزش می‌بینند؟

وقتی درباره ChatGPT صحبت می‌کنیم، معمولاً گفته می‌شود که این مدل روی حجم عظیمی از داده‌ها آموزش دیده است. اما این جمله یک سؤال مهم ایجاد می‌کند:

مدل‌های هوش مصنوعی چگونه آموزش می‌بینند؟

در قسمت قبل گفتیم که دانش ChatGPT در قالب پارامترها ذخیره می‌شود؛ پارامترهایی که فقط مجموعه‌ای از اعداد هستند. حالا شاید این سؤال برایتان پیش آمده باشد که این اعداد از کجا می‌آیند و چگونه باعث می‌شوند یک مدل بتواند مقاله بنویسد، سؤال‌ها را پاسخ دهد یا کد تولید کند.

مدل‌های هوش مصنوعی چگونه آموزش می‌بینند؟

آموزش یک مدل هوش مصنوعی از جایی شروع می‌شود که هنوز مدل چیزی بلد نیست.

در ابتدای فرآیند آموزش، پارامترهای مدل تقریباً به صورت تصادفی مقداردهی می‌شوند. در این مرحله، اگر از مدل بخواهید جمله‌ای را کامل کند، پاسخ‌های آن تقریباً بی‌معنا خواهند بود.

اما این فقط نقطه شروع است.

پس از آن، مدل میلیون‌ها یا حتی میلیاردها جمله را مشاهده می‌کند و در هر مرحله تلاش می‌کند توکن بعدی را پیش‌بینی کند.

اگر پیش‌بینی اشتباه باشد چه اتفاقی می‌افتد؟

فرض کنید مدل باید ادامه یک جمله را حدس بزند.

اگر پیش‌بینی آن با پاسخ درست تفاوت داشته باشد، سیستم آموزش متوجه این اختلاف می‌شود و پارامترهای مدل را کمی تغییر می‌دهد.

این تغییر بسیار کوچک است، اما همین اصلاح‌های کوچک بارها و بارها تکرار می‌شوند.

در نتیجه، مدل به مرور زمان یاد می‌گیرد که در موقعیت‌های مشابه، پیش‌بینی دقیق‌تری انجام دهد.

به بیان ساده، مدل با هر اشتباه، کمی بهتر از قبل می‌شود.

چرا آموزش مدل این‌قدر زمان‌بر است؟

مدل‌های زبانی بزرگ مانند ChatGPT فقط چند هزار جمله نمی‌بینند.

آن‌ها روی حجم بسیار بزرگی از داده‌های متنی آموزش می‌بینند و فرآیند پیش‌بینی و اصلاح پارامترها میلیون‌ها یا حتی میلیاردها بار تکرار می‌شود.

به همین دلیل، آموزش یک مدل پیشرفته می‌تواند هفته‌ها یا حتی ماه‌ها طول بکشد و به هزاران پردازنده قدرتمند نیاز داشته باشد.

همین فرآیند طولانی است که باعث می‌شود مدل بتواند الگوهای پیچیده زبان انسان را یاد بگیرد.

آیا ChatGPT هنگام گفتگو هم یاد می‌گیرد؟

یکی از رایج‌ترین تصورهای اشتباه این است که ChatGPT در هر مکالمه، چیز جدیدی یاد می‌گیرد.

در واقع، این‌طور نیست.

بعد از اینکه فرآیند آموزش مدل به پایان می‌رسد، پارامترهای آن ثابت می‌مانند.

یعنی وقتی شما سؤالی از ChatGPT می‌پرسید، مدل در همان لحظه در حال آموزش دیدن نیست و پاسخ شما باعث تغییر پارامترهای آن نمی‌شود.

به همین دلیل، گفت‌وگوهای روزمره کاربران باعث باهوش‌تر شدن مدل نمی‌شوند.

تفاوت آموزش مدل با استفاده روزانه

می‌توان فرآیند آموزش را مانند دوران مدرسه تصور کرد.

در مدرسه، دانش‌آموز درس می‌خواند، اشتباه می‌کند، تمرین می‌کند و به مرور یاد می‌گیرد.

اما بعد از پایان امتحان، دیگر پاسخ دادن به سؤال‌ها باعث تغییر دانشی که همان لحظه دارد نمی‌شود.

مدل‌های هوش مصنوعی نیز به شکل مشابه عمل می‌کنند. آن‌ها ابتدا آموزش می‌بینند و پس از پایان آموزش، از همان دانشی که آموخته‌اند برای پاسخ دادن به کاربران استفاده می‌کنند.

جمع‌بندی

پس پاسخ سؤال «مدل‌های هوش مصنوعی چگونه آموزش می‌بینند؟» این است:

آموزش مدل با پارامترهای تصادفی آغاز می‌شود. سپس مدل بارها تلاش می‌کند توکن بعدی را پیش‌بینی کند و هر بار که اشتباه می‌کند، پارامترهای آن کمی اصلاح می‌شوند. این فرآیند میلیون‌ها بار تکرار می‌شود تا مدل بتواند الگوهای زبان را یاد بگیرد و پاسخ‌های طبیعی تولید کند.

نکته مهم این است که پس از پایان آموزش، پارامترهای مدل در زمان گفت‌وگو با کاربران تغییر نمی‌کنند.

در قسمت بعدی مجموعه پشت پرده هوش مصنوعی بررسی می‌کنیم که اگر پارامترهای مدل هنگام مکالمه ثابت هستند، ChatGPT چگونه مکالمه را به خاطر می‌سپارد؟

نظر شما چیست؟
پیش از خواندن این مقاله، تصور می‌کردید ChatGPT در هر گفت‌وگو چیز جدیدی یاد می‌گیرد؟

درباره فیلاگر | جامعه هوش مصنوعی ایران

فیلاگر، جامعه هوش مصنوعی ایران، مرجعی برای آموزش، تحلیل و بررسی فناوری‌های نوین هوش مصنوعی است. در مجموعه «پشت پرده هوش مصنوعی» تلاش می‌کنیم مفاهیم پیچیده AI را با زبانی ساده برای علاقه‌مندان فارسی‌زبان توضیح دهیم.

پشت پرده هوش مصنوعی | قسمت ۱
پشت پرده هوش مصنوعی | قسمت ۲
پشت پرده هوش مصنوعی | قسمت ۳
پشت پرده هوش مصنوعی | قسمت ۴
پشت پرده هوش مصنوعی | قسمت ۵
پشت پرده هوش مصنوعی | قسمت ۶