هوش مصنوعی گاهی با اعتمادبهنفس کامل، اطلاعات نادرست یا گمراهکننده تولید میکند که به آن "هذیانگویی" (Hallucination) میگویند. تکنیک Grounding یا "مستندسازی پاسخ" راهکاری است که مدلهای زبانی بزرگ را مجبور میکند فقط بر اساس اطلاعات مرجع مشخص پاسخ دهند، نه حافظه آموزشی خود. این روش با محدود کردن مدل به اسناد و منابع معتبر، دقت پاسخها را تا 68 درصد افزایش میدهد و برای کارهای حساس مانند قراردادها، گزارشهای مالی و مقالات علمی ضروری است.
چگونه هوش مصنوعی را از دادن پاسخ غلط باز داریم؟ تکنیک Grounding در هوش مصنوعی
۱۴ آذر ۱۴۰۴