هوش نیوز
#یک_دقیقه_یاد_بگیریم این توکن‌ها چطور به چیزی تبدیل می‌شن که مدل بتونه «معنی» اون‌ها رو درک کنه؟ بعد از اینکه متن به Token تبدیل شد، هر توکن به یک مجموعه عدد تبدیل می‌شه که بهش می‌گن Embedding. این عددها کمک می‌کنن مدل ارتباط بین کلمات و مفهوم‌های مختلف رو یاد بگیره. مثلاً مدل یاد می‌گیره که «گربه» و «سگ» از نظر معنایی به هم نزدیک‌ترن، اما «گربه» و «ماشین» ارتباط خیلی کمتری دارن. یعنی عدد Embedding معادل گربه و سگ بهم نزدیک ترند نسبت به گربه و ماشین. حالا می‌خوایم بریم سراغ چیزی که تقریباً همه ما موقع استفاده از AI باهاش روبه‌رو شدیم: جواب‌های اشتباه و عجیب هوش مصنوعی! گاهی AI یک جواب کاملاً اشتباه می‌ده، اما با اعتمادبه‌نفس طوری بیانش می‌کنه که انگار صددرصد مطمئنه. به این پدیده می‌گیم Hallucination یا «توهم هوش مصنوعی». سؤال بعدی: چرا هوش مصنوعی گاهی با اعتمادبه‌نفس کامل، جواب اشتباه می‌ده؟ برای دنبال کردن آخرین اخبار و یادگیری مفاهیم هوش مصنوعی، هوش نیوز را دنبال کنید. https://ble.ir/hoshnews
#یک_دقیقه_یاد_بگیریم این توکن‌ها چطور به چیزی تبدیل می‌شن که مدل بتونه «معنی» اون‌ها رو درک کنه؟ بعد از اینکه متن به Token تبدیل شد، هر توکن به یک مجموعه عدد تبدیل می‌شه که بهش می‌گن Embedding. این عددها کمک می‌کنن مدل ارتباط بین کلمات و مفهوم‌های مختلف رو یاد بگیره. مثلاً مدل یاد می‌گیره که «گربه» و «سگ» از نظر معنایی به هم نزدیک‌ترن، اما «گربه» و «ماشین» ارتباط خیلی کمتری دارن. یعنی عدد Embedding معادل گربه و سگ بهم نزدیک ترند نسبت به گربه و ماشین. حالا می‌خوایم بریم سراغ چیزی که تقریباً همه ما موقع استفاده از AI باهاش روبه‌رو شدیم: جواب‌های اشتباه و عجیب هوش مصنوعی! گاهی AI یک جواب کاملاً اشتباه می‌ده، اما با اعتمادبه‌نفس طوری بیانش می‌کنه که انگار صددرصد مطمئنه. به این پدیده می‌گیم Hallucination یا «توهم هوش مصنوعی». سؤال بعدی: چرا هوش مصنوعی گاهی با اعتمادبه‌نفس کامل، جواب اشتباه می‌ده؟ برای دنبال کردن آخرین اخبار و یادگیری مفاهیم هوش مصنوعی، هوش نیوز را دنبال کنید. https://ble.ir/hoshnews #یک_دقیقه_یاد_بگیریم چرا هوش مصنوعی گاهی با اعتمادبه‌نفس کامل، جواب اشتباه می‌ده؟ هوش مصنوعی همیشه «واقعیت» رو از یک منبع مشخص پیدا نمی‌کنه؛ مدل زبانی معمولاً بر اساس چیزهایی که یاد گرفته، محتمل‌ترین ادامه برای سؤال شما رو تولید می‌کنه. مثلاً اگر بپرسید: «نویسنده کتابی به اسم X کیه؟» ممکنه کتاب اصلاً وجود نداشته باشه، اما مدل برای اینکه یک پاسخ بسازه، اسم یک نویسنده رو هم حدس بزنه و حتی یک داستان کامل درباره کتاب بسازه! به این تولید اطلاعات نادرست یا ساختگی، Hallucination یا «توهم هوش مصنوعی» می‌گیم. نکته مهم اینه که AI ممکنه این جواب رو با لحن کاملاً مطمئن ارائه بده، پس اعتمادبه‌نفس پاسخ به معنی درست بودنش نیست. سؤال بعدی: چرا وقتی یک سؤال رو دوبار از AI می‌پرسیم، ممکنه دو جواب متفاوت بگیریم؟ برای دنبال کردن آخرین اخبار و یادگیری مفاهیم هوش مصنوعی، هوش نیوز را دنبال کنید. https://ble.ir/hoshnews۶۱