بله | کانال پروا

۱۶ مرداد

پرونده شماره ۱۱۲: غوغای دروننشست، چند دقیقه در سکوت نگاهم کرد. بعد آرام گفت:آقای یزدانی... فکر می‌کنم دیگر خودم را گم کرده‌ام.
مبینا حضرتی را میگم، کارشناس آزمایشگاه، مهمان چای، با موهای کوتاه دورنگ با لباسی ساده و اسپورت.
پرسیدم: یعنی چه؟
لبخند محوی زد:
بعضی روزها احساس می‌کنم می‌توانم دنیا را تغییر بدهم. چند ساعت بعد، حتی بلند شدن از روی تخت برایم سخت است. یک روز عاشق زندگی‌ام، روز دیگر از همه چیز فرار می‌کنم. نمی‌دونم درونم چه خبره...
از ته دل نفسی کشید و با دو دستش فنجان چای را مثل کسی که مدتها منتظر یک بغل گرم بوده، گرفت و ادامه داد:
گاهی با تمام وجود به آدم‌ها نزدیک می‌شوم، اما ناگهان از همه فاصله می‌گیرم. گاهی خودم را تحسین می‌کنم، گاهی از خودم بدم می‌آید. انگار چند نفر هم‌زمان درون من زندگی می‌کنند و هر کدام، فرمان را برای چند ساعت به دست می‌گیرند.
به چشماش نگاه کردم و پرسیدم: وقتی این اتفاق می‌افتد، فکر می‌کنی کدام آن‌ها خود واقعی توست؟
مدت زیادی چیزی نگفت.
بعد آهسته زمزمه کرد:
شاید هیچ‌کدام... یا شاید همه‌شان.اما یک سوال همیشه تو ذهنمه:اگه یه معادله ده ها جواب داشته باشد، جواب اصلی کدومه؟اصلا این من چیست؟
خواستم بهش بگم بزرگ‌ترین رنج تو جنگیدن با این تصور است که انسان باید همیشه یک نفر باشد، همیشه یک احساس داشته باشد، همیشه خودش را با یک ویژگی بشناسد.
اما او فقط آمده بود شنیده شود تا بشنود و من فقط شنیدمش...
پروای مهربانم:ما معمولاً هویت را چیزی ثابت تصور می‌کنیم، گویی باید همیشه همان آدم دیروز باشیم. اما انسان چنین ساخته نشده است. انسان در یک روند است...
احساسات، خاطرات، هورمون‌ها، خواب، استرس، روابط و حتی قند خون، شبکه‌های عصبی را لحظه‌به‌لحظه تغییر می‌دهند. به همین دلیل، تجربه‌ی گاهی اینم، گاهی آنم بیشتر از آنکه نشانه‌ی ضعف باشد، بخشی از واقعیت انسان است. خود انسان است.
رنج، از تغییر احساسات آغاز نمی‌شود، از مقاومت در برابر آن‌ها آغاز می‌شود.
وقتی می‌خواهیم همیشه شاد، همیشه قوی یا همیشه مطمئن باشیم، با واقعیت مغزمان وارد جنگ می‌شویم.
پروا یه چی بهت بگم؟آن شب فهمیدم شاید بلوغ یعنی پذیرفتن اینکه انسان، یک مجسمه‌ی سنگی نیست، رودخانه‌ای است که هر لحظه شکل دیگری دارد.
قرار نیست همیشه خودمان را پیدا کنیم.
گاهی کافی است خودمان را، در همان لحظه‌ای که هستیم، بشناسیم بدون اینکه قضاوت کنیم.
بخاطر همین، علوم شناختی، مفاهیم زیر را باور دارد:
خود روایتی (Narrative Self): آنچه من می‌نامیم، داستانی است که مغز به‌طور پیوسته از تجربه‌های متغیر ما می‌سازد، نه یک هویت کاملاً ثابت. من، همیشه از بدو تولد تا نقطه مرگ در حال ساخته شدن است، تکمیل شدن و ... یک من ثابت وجود ندارد...
تنوع طبیعی حالت‌های ذهنی (Mental State Variability): نوسان احساسات و افکار، ویژگی طبیعی عملکرد مغز است و الزاماً نشانه‌ی اختلال نیست.
انعطاف‌پذیری شناختی (Cognitive Flexibility): سلامت روان، حذف تضادهای درونی نیست، توانایی پذیرش و سازگاری با آن‌هاست.
توهم ثبات هویت (Identity Stability Illusion): انسان‌ها معمولاً انتظار دارند شخصیت و احساساتشان همیشه ثابت بماند، درحالی‌که علوم شناختی نشان می‌دهد هویت، فرآیندی پویا و دائماً در حال بازسازی است.

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۵۴

۲۰:۲۳

۲۲ مرداد

پرونده شماره ۱۱۴: ادیسه، وقتی تکنولوژی آیمکس نولان، هومر را می بلعد
پروا جان:مسئله‌ی اصلی فیلم ادیسه نولان تعارض میان عظمت سینمایی و فقر معنایی است. این نقد را می‌شود بر چند شاهد مشخص بنا کرد: حذف ساختار الهیاتی هومر، تغییر ماهیت اودیسئوس، بازنویسی رابطه‌ی انسان و سرنوشت و تبدیل اسطوره به درام جنگی نولانی.
ضعف ادیسه نولان در این نیست که هومر را تغییر داده، هیچ اقتباس بزرگی الزاماً نباید وفادار بماند. ضعف در این است که چیزهایی را که حذف می‌کند، از نظر فکری جایگزین نمی‌کند.
در ادیسه ی هومر، جهان صرفاً صحنه‌ی ماجراجویی انسان نیست، میدان کشمکش میان انسان، خدایان، سرنوشت، میل، غرور و محدودیت شناخت است. شعر با شورای خدایان آغاز می‌شود، اما نولان تقریباً تمام این معماری الهی را کنار می‌گذارد و از جهان هومری، جهانی اساساً انسانی و واقع‌گرایانه‌تر می‌سازد.
این تغییر اگر به یک ایده‌ی تازه منتهی می‌شد، می‌توانست نبوغ‌آمیز باشد، اما در عوض، خدایان عمدتاً به ابهام، اشاره و استعاره تبدیل شده‌اند.
نتیجه paradoxical است: فیلم می‌خواهد اسطوره را انسانی کند، اما در این فرآیند یکی از مهم‌ترین پرسش‌های اسطوره را از بین می‌برد: اگر سرنوشت انسان حاصل برخورد اراده‌ی خودش با نیروهایی بزرگ‌تر از او باشد، مسئولیت اخلاقی او دقیقاً کجاست؟
اودیسئوس نیز در این فرآیند آسیب می‌بیند. اودیسئوس هومر قهرمان قدرتمند صرف نیست، polymetis است: مرد بسیاراندیش، اهل حیله، تغییر هویت، دروغ و محاسبه. اما نسخه‌ی نولان، اودیسئوس را بیشتر به یک تاکتیک‌دان خشن و عمل‌گرا تبدیل کرده تا آن شخصیت زیرک، بازیگر و از نظر اخلاقی مسئله‌دار هومر.
و این فقط یک اختلاف شخصیت‌پردازی نیست، تغییر فلسفه‌ی قهرمان است.
در هومر، مسئله این نیست که آیا اودیسئوس می‌تواند زنده بماند، مسئله این است که در طول زنده‌ماندن، چه کسی می‌شود. نولان اما بیشتر بر رنج، جنگ، بازگشت و بقا تأکید می‌کند.
سفر از یک آزمایش پیچیده‌ی هویت به نوعی بازگشت سرباز آسیب‌دیده به خانه تبدیل می‌شود. این خوانش معاصر و قابل‌فهم است، اما بخشی از غرابت و چندمعنایی اسطوره را می‌کشد.
از نظر ساختاری نیز فیلم با حذف یا تغییر اپیزودهایی چون نائوسیکا، فاسیایی‌ها، بخش‌هایی از جهان زیرین و بسیاری از مناسبات پیچیده‌ی سیرسه و کالیپسو، مسیر سفر را فشرده کرده است. حتی آزمون مشهور بستر زناشویی پنلوپه نیز تغییر کرده و پایان فیلم نیز با متن هومر تفاوت جدی دارد.
این تغییرات به خودی خود ایراد نیستند، اما پرسش فنی اینجاست: هر حذف باید بار دراماتیک تازه‌ای تولید کند. اگر حذف صرفاً برای افزایش سرعت روایت باشد، اقتباس از یک اثر پیچیده به ساده‌سازی تبدیل می‌شود.
فیلم در عوض چیزی را بسیار زیاد تولید می‌کند: شکوه.
آیمکس، دکورهای عظیم، جلوه‌های عملی، نبردها و طراحی صوتی، تجربه‌ای فیزیکی و باشکوه می‌سازد، اما شکوه بصری نمی‌تواند خلأ روان‌شناختی را جبران کند.

۱۵۳

۲۲:۴۲

ضعف شخصیت‌پردازی و ناتوانی در ایجاد درگیری عاطفی عمیق نیز قابل انتقاد است.
اینجا شاید مهم‌ترین تناقض فیلم آشکار شود:
نولان می‌خواهد درباره‌ی حماسه حرف بزند، اما زبان سینمایی خودش آن‌قدر قدرتمند است که موضوع را می‌بلعد.
مابه جای اینکه اودیسئوس راببینیم، مَت دیمون در فیلم نولان را می‌بینیم،
به جای اینکه جهان اسطوره‌ای را تجربه کنیم،امضای نولان راتجربه می‌کنیم.
این همان خطری است که اقتباس‌های مؤلفانه همیشه باآن روبه‌رو هستند:اثر اقتباس‌شده به ماده‌ی خامی برای بیان جهان‌بینی کارگردان تبدیل میشود.
حتی استفاده از عناصر خارج از متن هومری، مانند گسترش ماجرای اسب تروا و برخی مؤلفه‌های برگرفته از انه‌اید و سنت‌های بعدی، نشان می‌دهد نولان در حال ساختن هومر روی پرده نیست، او در حال ساختن اسطوره‌ای درباره‌ی هومر است.
و شاید مشکل تاریخی دقیقاً همین‌جاست.
ادیسه متعلق به جهانی است که در آن انسان هنوز موجودی کاملاً خودبنیاد نیست. خدایان، آیین مهمان‌نوازی، بردگی، خانواده، جنگ، افتخار و سرنوشت در یک نظام اخلاقی مشترک تنیده‌اند. وقتی این جهان را با حذف بخش مهمی از نیروهای الهی و اخلاقیات پیچیده‌اش به زبان انسان معاصر ترجمه کنیم، دیگر صرفاً ترجمه نکرده‌ایم، جهان‌بینی اثر را عوض کرده‌ایم.
همچنین فیلم فاقد عمق روان‌شناختی، عاطفی، سیاسی و اخلاقی کافی است.
در نهایت، ادیسه شاید یکی از باشکوه‌ترین فیلم‌های حماسی معاصر باشد،اما مسئله این است که آیا باشکوه بودن برای بازآفرینی یکی از بنیادی‌ترین آثار تخیل انسانی کافی است؟شایدنه.
هومر درباره‌ی مردی نوشت که سال‌ها در جهان گم شد تا بفهمد خانه کجاست، نولان فیلمی ساخته درباره‌ی مردی که باید از جهان عبور کند تا به خانه برگردد.
تفاوت ظریف است، اما سرنوشت‌ساز:
در هومر، سفر وسیله‌ای برای کشف انسان است، در نولان، انسان گاهی بهانه‌ای برای ساختن سفر می‌شود.
و این شاید بزرگ‌ترین شکست فیلم باشد:او اقیانوس هومر را با عظمت تصویر کرده، اما آن تاریکی درونی را که اودیسئوس را به اودیسئوس تبدیل می‌کرد، تا حد زیادی آرام کرده است.
پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۱۷۷

۲۲:۴۲

۲۴ مرداد

پرونده شماره ۱۱۵: دایره‌ای که مربع دیده می‌شود
بعضی آدم‌ها را از همان لحظه‌ای که می‌بینی، نمی‌شود صرفاً دید، باید کمی صبر کنی تا حضورشان برایت معنا پیدا کند.
خانم دکتر مریم ثابتی از همان آدم‌ها بود.
زنی خوش‌چهره و آراسته، با پوششی ساده اما دقیق، نه از آن آراستگی‌هایی که می‌خواهند توجه جلب کنند، بلکه از آن جنس که نشان می‌دهند صاحبش به جزئیات اهمیت می‌دهد. آرام صحبت می‌کرد، کم حرکت می‌کرد و وقتی گوش می‌داد، نگاهش طوری بود که احساس می‌کردی قبل از پاسخ دادن، واقعاً دارد مسئله را می‌بیند.
متخصص علوم شناختی بود، اما چیزی که بیشتر از عنوان علمی‌اش توجهم را جلب کرد، نوع فکر کردنش بود.
فنجان چای را سرکشید و گفت:
صادق، یک سؤال ساده دارم. اگر چهار شکل ناقص جلوی چشمت بگذارم و مغزت از میان آنها یک مربع بسازد، آیا آن مربع واقعاً آنجاست؟
گفتم: نه.
لبخند زد: پس چرا می‌بینیش؟
مریم توضیح داد که در خطای دید کانیزا، چند شکل ناقص طوری کنار هم قرار می‌گیرند که ما در مرکز، شکلی کامل—مثلاً یک مربع یا مثلث—می‌بینیم، در حالی که آن شکل واقعاً کشیده نشده است.
مغز اطلاعات را سازمان می‌دهد، رابطه برقرار می‌کند، جاهای خالی را پر می‌کند و از قطعات پراکنده، یک کل معنادار می‌سازد.
گفتم: یعنی مغز چیزی را می‌سازد که در تصویر نیست؟
گفت: دقیق‌ترش این است که مغز از اطلاعات موجود، چیزی را استنباط می‌کند که مستقیماً در اطلاعات حسی وجود ندارد.
بعد مکث کرد و ادامه داد: و این یکی از مهم‌ترین ویژگی‌های شناخت انسان است. ما تقریباً هیچ‌وقت با واقعیتِ کامل روبه‌رو نیستیم. با داده‌های ناقص روبه‌رو می‌شویم و مغزمان مجبور است از آنها یک مدل بسازد.
ما با واقعیت کامل زندگی نمی‌کنیم؛ با مدلی که ذهنمان از واقعیت ساخته زندگی می‌کنیم.
پرسیدم: پس این فقط درباره دیدن است؟
گفت: کانیزا یک پدیده در ادراک بصری است. اما اصل شناختی پشت آن، یعنی تکمیل اطلاعات ناقص و ساختن یک الگوی منسجم، در بسیاری از جنبه‌های شناخت انسان اهمیت دارد.
مریم ادامه داد:
فرض کن کسی را دوست داری. صبح به او پیام می‌دهی و جواب نمی‌دهد.
این واقعیت است.
ظهر هم جواب نمی‌دهد.
این هم واقعیت است.
شب فقط می‌نویسد: "خسته‌ام."
این هم واقعیته.
اما بعد ذهن تو شروع می‌کند به ساختن یک مدل: از من ناراحت است.دیگر دوستم ندارد.شاید شخص دیگری وارد زندگی‌اش شده.شاید اتفاقی افتاده و نمی‌خواهد بگوید.
در اینجا ممکن است فقط سه یا چهار قطعه اطلاعات واقعی داشته باشی، اما یک داستان کامل در ذهنت می سازی.
گفتم: و ممکن است آن داستان کاملاً اشتباه باشد.
گفت: دقیقاً. اما مشکل اینجاست که وقتی داستان کامل شد، دیگر احساس نمی‌کنی یک فرضیه ساخته‌ای، احساس می‌کنی واقعیت را فهمیده‌ای.
مریم گفت این اتفاق فقط در روابط عاطفی نمی‌افتد.
یک نفر را می‌بینیم که کم حرف می‌زند.
یک بار جوابمان را کوتاه می‌دهد.
لباس خاصی می‌پوشد.
در محیط اجتماعی کمی فاصله می‌گیرد.
و ذهن، بین این قطعات ارتباط برقرار می‌کند:او مغرور است.
اما شاید واقعیت فقط این باشد که آن روز خسته بوده، درون‌گراست، مسئله شخصی داشته یا اصلاً متوجه برداشت ما نشده است.
در علوم شناختی، بخشی از قضاوت اجتماعی دقیقاً به این مربوط می‌شود که انسان چگونه از اطلاعات محدود درباره دیگران، برداشت‌های گسترده‌تر می‌سازد.
او اضافه کرد:
این فرایند لزوماً خطا نیست. اگر قرار بود برای هر قضاوتی تمام اطلاعات ممکن را جمع کنیم، عملاً نمی‌توانستیم زندگی کنیم. ذهن باید سریع و با اطلاعات ناقص تصمیم بگیرد.
مسئله از جایی شروع می‌شود که استنباط را با مشاهده اشتباه می‌کنیم.
پرسیدم: اقتصاد هم همین‌طور است؟
گفت: خیلی بیشتر از چیزی که فکر می‌کنی.وقتی اطلاعات کامل نداریم، از نشانه‌ها استفاده می‌کنیم.
قیمت بالاتر می‌بینیم و ممکن است نتیجه بگیریم کیفیت بالاتر است.
برند معروف می‌بینیم و اعتماد بیشتری می‌کنیم.
یک خبر مثبت درباره بازار می‌خوانیم و درباره آینده خوش‌بین می‌شویم.
یک اتفاق بد می‌بینیم و احتمال وقوع دوباره‌اش را بیش از حد تصور می‌کنیم.
اقتصاد رفتاری دقیقاً به بخشی از همین فاصله میان انسان واقعی و انسان کاملاً عقلانی می‌پردازد. انسان با اطلاعات محدود، توجه محدود و زمان محدود تصمیم می‌گیرد و برای تصمیم‌گیری از میان‌بُرهای شناختی استفاده می‌کند.
گفتم: پس انسان همیشه دنبال حقیقت نیست، دنبال یک توضیح قابل استفاده است؟
گفت: گاهی بله و این دو یکی نیستند.
بعد بحث را به جامعه کشاند.

۱۶۱

۸:۵۹

گفت: یک جامعه هم می‌تواند همین کار را انجام دهد.
چند خبر، چند تصویر، چند حادثه، چند تجربه شخصی و چند روایت رسانه‌ای کنار هم قرار می‌گیرند.
بعد ذهن جمعی می‌گوید: پس ماجرا این است.
در حالی که شاید آنچه ساخته شده، یک تفسیر منسجم از واقعیت باشد، نه خود واقعیت.
اینجا مفاهیمی مثل قالب‌بندی، کلیشه‌سازی، سوگیری تأییدی، اسناددهی و ادراک اجتماعی اهمیت پیدا می‌کنند. انسان فقط اطلاعات را دریافت نمی‌کند؛ آنها را در چارچوبی که از قبل دارد تفسیر می‌کند.
پرسیدم: یعنی چیزی را می‌بینیم که انتظار داریم ببینیم؟
گفت: گاهی. اما بهتر است دقیق‌تر بگوییم: آنچه انتظار داریم، تجربه و تفسیر ما از اطلاعات را تحت تأثیر قرار می‌دهد.
بعد ناگهان به خودمان برگشت.
گفت: حتی هویت شخصی ما هم تا حدی چنین ساخته می‌شود.
پرسیدم: چطور؟
گفت: از زندگی خودمان چند خاطره انتخاب می‌کنیم.
یک شکست.
یک موفقیت.
یک خیانت.
یک رابطه.
یک تحقیر.
یک تشویق.
چند لحظه مهم را کنار هم می‌گذاریم و بعد درباره خودمان یک داستان می‌سازیم:
من آدم شکست‌خورده‌ای هستم.
من آدم موفقی هستم.
من آدم بدشانسی هستم.
من همیشه آدم‌ها را از دست می‌دهم.
من به کسی اعتماد نمی‌کنم.
و بعد اتفاق جالبی می‌افتد،
از این به بعد، تجربه‌های تازه را هم با همان داستان تفسیر می‌کنیم.
یعنی گاهی انسان نه فقط دیگران، بلکه خودش را هم از روی قطعات ناقص می‌سازد.
پروا جان
آن شب برای اولین بار فهمیدم چرا بعضی سوءتفاهم‌ها این‌قدر واقعی به نظر می‌رسند.
چون ما معمولاً دروغ را باور نمی‌کنیم،
ما جاهای خالی را خودمان پر می‌کنیم.
و چون آن قسمت‌ها را خودمان ساخته‌ایم، اغلب فراموش می‌کنیم که ساخته شده‌اند.
شاید خطرناک‌ترین بخش ماجرا همین باشد.
اگر کسی به ما دروغ بگوید، می‌توانیم دروغش را پیدا کنیم.
اما اگر خودمان، بدون اینکه بفهمیم، قسمت‌های نادیدهٔ داستان را بسازیم چه؟
اگر از سکوت یک نفر، نیتش را بسازیم؟
از یک شکست، هویت خودمان را؟
از چند خبر، تصویر یک جامعه را؟
از یک رفتار، شخصیت یک انسان را؟
از چند نشانه، آینده یک سرمایه‌گذاری را؟
آن وقت دیگر با یک دروغ بیرونی روبه‌رو نیستیم.
با چیزی بسیار پیچیده‌تر روبه‌رو هستیم:
واقعیتی که ذهن ما برایمان ساخته است.
مریم موقع رفتن گفت: صادق، هر وقت درباره چیزی مطمئن شدی، یک سؤال از خودت بپرس:
کدام قسمت را واقعاً دیده‌ام و کدام قسمت را خودم کامل کرده‌ام؟
در را که بست و رفت، مدتی به فنجان خالی روی میز نگاه کردم.
و به مربع کانیزا فکر کردم.
مربعی که نبود، اما می‌دیدمش.
بعد به آدم‌هایی فکر کردم که سال‌ها درباره‌شان قضاوت کرده بودم.
و به خودم.
شاید بعضی از آدم‌هایی که در ذهنم ساخته بودم، هرگز آن آدمی نبودند که من می‌شناختم.
شاید فقط چند تکه از آنها را دیده بودم و بقیه را خودم کامل کرده بودم.
و شاید شناخت، از جایی آغاز می‌شود که جرئت کنیم برای لحظه‌ای شکل کاملی را که ذهنمان ساخته، کنار بزنیم و به قطعات واقعی نگاه کنیم.
و گاهی...
مربع، فقط یک دایره است که ذهن ما نتوانسته ناتمام رهایش کند.

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۰۶

۸:۵۹

۲۶ مرداد

سوگیری ها و گرایشات سیستماتیک در مدل های زبانی و هوش مصنوعی.pdf

۶۸۳.۴۳ کیلوبایت

پرونده شماره 116: وقتی هوش مصنوعی به سؤال ما پاسخ می‌دهد، نه به مسئله ما
گاهی فکر می‌کنیم مشکل هوش مصنوعی این است که جواب اشتباه می‌دهد.
اما شاید خطای خطرناک‌تر این باشد:جواب درست بدهد، به سؤالی که ما هرگز نپرسیده‌ایم.
هفته پیش فرامرز بدیعی، متخصص هوش مصنوعی ، از نروژ مهمان آنلاین چای صادق بود.- چرا بعضی وقت‌ها از ChatGPT جواب خیلی خوبی می‌گیریم، اما بعد می‌فهمیم اصلاً چیزی که می‌خواستیم نبوده؟
کمی مکث کرد و گفت:- چون مدل فقط به سؤال شما پاسخ نمی‌دهد، اول باید تصمیم بگیرد که سؤال شما را چگونه بفهمد.
همین جمله برایم جالب بود.
ما تصور می‌کنیم سؤال، همان چیزی است که تایپ کرده‌ایم، اما بین سؤال ما و پاسخ مدل، اتفاق مهمی رخ می‌دهد: مدل سؤال را تفسیر، صورت‌بندی و قابل‌پردازش می‌کند.
ممکن است شما یک مسئله پیچیده، مبهم یا چندلایه را مطرح کنید و مدل، بی‌آنکه متوجه شوید، آن را به نسخه‌ای ساده‌تر و قابل‌پردازش‌تر تبدیل کند.
بعد پاسخی بدهد که بسیار منظم، منطقی و حتی متقاعدکننده باشد.
اما نه برای مسئله‌ای که شما واقعاً داشتید، بلکه به مسئله‌ای که مدل از سؤال شما ساخته است.
اینجاست که خطر آغاز می‌شود.چون پاسخ غلط را راحت‌تر می‌توان تشخیص داد،اما پاسخ دقیق به مسئله اشتباه، می‌تواند بسیار فریبنده‌تر باشد.فرامرز میگفت:- البته بهتر است یک نکته علمی را روشن کنیم. ما نباید هر رفتار نامطلوب یک LLM را دقیقاً سوگیری شناختی بنامیم. این مدل‌ها ذهن، تجربه زیسته، ادراک حسی و شناخت انسانی ندارند.
آنچه می‌بینیم می‌تواند حاصل ترکیبی از سوگیری‌های داده‌ای، محدودیت‌های معماری، آموزش مدل، الگوهای آماری زبان، زمینه مکالمه و خطاهای استدلالی باشد.
اما از منظر کاربر، یک شباهت مهم وجود دارد:

۱۶۸

۸:۲۸

این عوامل می‌توانند مسیر توجه، تفسیر، استدلال و پاسخ را به شکلی نظام‌مند تغییر دهند.به همین دلیل شناخت آنها اهمیت دارد.نه برای اینکه انتظار داشته باشیم هوش مصنوعی کاملاً بدون خطا و سوگیری شود، چنین چیزی واقع‌بینانه نیست.بلکه برای اینکه یاد بگیریم هنگام استفاده از آن، کجا باید مکث کنیم، چه پیش‌فرض‌هایی را آشکار کنیم و کدام بخش از پاسخ را به چالش بکشیم.
او می گفت:- شاید مهم‌ترین مهارت در کار با هوش مصنوعی این نباشد که چگونه بهترین سؤال را بپرسیم.بلکه این باشد که بعد از دریافت پاسخ بپرسیم:تو دقیقاً چه مسئله‌ای را از سؤال من فهمیدی؟چون گاهی فاصله میان سؤال انسان و مسئله‌ای که ماشین از آن می‌سازد، همان جایی است که خطا متولد می‌شود.
پروا جان، شاید ما بیش از آنکه از هوش مصنوعی بترسیم که اشتباه کند، باید مراقب باشیم که چقدر راحت به پاسخی اعتماد می‌کنیم که خوب به نظر می‌رسد.هوش مصنوعی می‌تواند در فکر کردن به ما کمک کند،اما هنوز این وظیفه ماست که مطمئن شویم:مسئله‌ای که حل شده، همان مسئله‌ای بوده که واقعاً داشتیم.
این پرونده، بخشی از مجموعه‌ای درباره سوگیری‌ها و گرایش‌های سیستماتیک در مدل‌های زبانی و هوش مصنوعی است، مجموعه‌ای با یک هدف ساده:قبل از اینکه بهتر از AI سؤال بپرسیم، مطمئن شویم AI سؤال درست ما را درست می‌فهمد.*******مدرک پیوست بخشی از مقاله ارائه شده در کنفرانس بین المللی کاربرد هوش مصنوعی در پروژه های نفت، گاز و پتروشیمی ، در سال 2025 در ابوظبی است.
امیدوارم این مدرک برای مخاطبان محترم مفید و موثر باشد.

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۱۵

۸:۲۹

۲۸ مرداد

The Sword of Freedom-EconomistFarsi-com.pdf

۱.۷۹ مگابایت

پرونده شماره 117: شمشیر آزادی
... آن صبح آنچنان آشفته و درهم بود که جزئیات دقیق اندکی از آن در خاطرم مانده است. تنها چیزیکه میدانم این است که پیوسته در حال تماس گرفتن یا دریافت تماس و پیام از سوی خانواده، دوستانیا همکاران پیشینم در نهادهای امنیتی بودم. انگار درون یک اتاق پژواک قرار داشتم.این گزارش رو دیدی؟این رو شنیدی؟داره چه اتفاقی میافته؟چند تروریست داخل خاک ما هستند؟چی میخوان؟
اینها بخشی از ترجمه کتاب شمشیر آزادی نوشته یوسی کوهن، رییس پیشین موساد است.فایل پیوست ترجمه کامل کتاب مذکور است.
کتاب اصلی (بزبان انگلیسی) را من از آقای دکتر دلشاد - با 26 سال سابقه در حوزه های مختلف تحقیقات استراتژیک - هدیه دریافت کردم. ایشان مهمان نشست چای صادق بود.

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۳۰۷

۸:۰۵

۴ شهریور

پرونده شماره ۱۱۷: قدرت هوش مصنوعی در دست چه کسی؟این در مورد هوش مصنوعی نیست
اگر از انسان می‌ترسیم و به همین دلیل تصمیم‌های مهم را به ماشین بسپاریم، آیا واقعاً از خطر عبور کرده‌ایم، یا فقط قدرت را از انسان‌های بسیار، به یک سیستم بسیار قدرتمند منتقل کرده‌ایم؟
دکتر بابک میرزایی، مهمان آنلاین چای صادق از سوئد، به یک مسئله بنیادی اشاره می‌کند: چون ممکن است به انسان‌ها اعتماد نداشته باشیم، نباید در نهایت کنترل تصمیم‌های مهم جهان را به یک مدل هوش مصنوعی بسپاریم.
زیرا در این حالت، قدرت ممکن است نه‌تنها در یک مدل، بلکه در یک شرکت، یک نهاد، یا حتی یک نفر متمرکز شود.
و این یعنی مسئله فقط خطر هوش مصنوعی نیست، مسئله، خطر تمرکز قدرت است.
وی می گوید:حتی اگر این تمرکز با نیت ایمنی و جلوگیری از سوءاستفاده انجام شود، ممکن است نتیجه‌ای مشابه ایجاد کند: گروهی کوچک، به جای انسان‌های بسیار، درباره آینده انسان‌های بسیار تصمیم بگیرند.
از نگاه میرزایی، راه‌حل، حذف قدرت AI نیست، بلکه توزیع قدرت آن میان مردم است.
این دیدگاه یک پرسش فلسفی عمیق‌تر ایجاد می‌کند:
اگر برای محافظت از انسان، اختیار انسان را محدود کنیم، آیا هنوز در حال محافظت از آزادی هستیم؟
در نظریه تصمیم و علوم شناختی، واگذاری تصمیم می‌تواند خطا را کاهش دهد، اما هم‌زمان، وابستگی و سوگیری اتوماسیون را افزایش می‌دهد. وقتی مرجع تصمیم بیش از حد قدرتمند شود، انسان به‌تدریج از تصمیم‌گیرنده به تأییدکننده تبدیل می‌شود.
بنابراین مسئله AI فقط این نیست که چه چیزی را می‌داند، مسئله این است که چه کسی حق دارد بر اساس آن دانستن، تصمیم بگیرد.
قدرت متمرکز، حتی اگر امروز خیرخواهانه باشد، فردا می‌تواند تغییر صاحب پیدا کند. به همین دلیل، ایمنی پایدار فقط از اعتماد به صاحب قدرت نمی‌آید، از توزیع قدرت، امکان اعتراض و قابلیت بازپس‌گیری اختیار می‌آید.
پروای عزیزمهیچ‌گاه به یک سیستم، یک شرکت یا یک انسان آن‌قدر قدرت نده که برای ایمن ماندن، مجبور باشی به خیرخواهی دائمی او اعتماد کنی.
قدرت اگر توزیع شود، خطا قابل مهار است، اما اگر متمرکز شود، یک خطا می‌تواند سرنوشت جمعی بسازد.
این بحث به مفاهیم اعتماد شناختی، Automation Bias، تفویض تصمیم، Distributed Cognition و Human-in-the-Loop مربوط است.
از منظر علوم شناختی، آینده مطلوب نه حذف انسان از حلقه تصمیم است و نه وابستگی کامل به ماشین، بلکه ساختن سامانه‌ای است که هوش انسان و هوش مصنوعی یکدیگر را تقویت کنند، بدون آنکه هیچ‌کدام به صاحب مطلق تصمیم تبدیل شوند.

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۳۶۹

۳:۲۸

۵ شهریور

RESSENTIMENT.mp4

۲۸.۲۸ مگابایت

پرونده شماره 117: فراتر از رنجش: حاکمیت بر خویشتنصبا بهزادی پس از نوشیدن #چای_صادق، چند لحظه در سکوت ماند. انگشتان خوش فرمش بی‌اختیار میان تارهای موهایش می‌لغزید، گاهی رشته‌ای را دور انگشت اشاره اش می‌پیچید و دوباره رهایش می‌کرد، انگار اضطرابی پنهان راهی جز این حرکت برای بیرون آمدن نداشت.
نگاهش لحظه‌ای روی فنجان ثابت می‌ماند و بعد، با لبخندی کم‌رنگ که بیشتر شبیه پوشاندن یک درد قدیمی بود، بالا می‌آمد.
زیر لب طوریکه انگار با خودش حرف میزد، زمزمه کرد: آخ... که چقدر دلم می‌خواد یک نفر، همین‌طور آرام و باحوصله، میان موهایم دست بکشد تا خستگی از سرم بیرون بپرد...
همانطور که سعی میکرد از راه دوختن چشمانش به چشمهای ذوق زده من به عمق درونم پی ببرد، آرام شروع کرد از رنجش‌هایی گفتن که سال‌ها در سکوت، از محیط و آدم‌های اطرافش جمع کرده بود، رنجش‌هایی که دیگر فقط خاطره نبودند، بلکه انگار بخشی از نگاهش به جهان شده بودند. سپس مکثی کرد، موهایش را از روی صورت کنار زد و گفت:یک واژه هست که شاید تمام این حس را توضیح بدهد:Ressentiment
او ادامه داد:این یک واژهٔ فرانسوی است که در فلسفه، روان‌شناسی و ادبیات معنای خاصی دارد.به فارسی نزدیک‌ترین معادل‌ها:کینهٔ انباشته، رنجش عمیق و مزمن، حسادت آمیخته با ناتوانی، یا کینه‌ای که به تدریج به جهان‌بینی تبدیل می‌شود.
اما فقط کینه نیست.مثلاً تصور کن کسی احساس می‌کند:حقش خورده شده،تحقیر شده،دیگری چیزی دارد که خودش ندارد،اما توان یا امکان مقابله مستقیم با او را ندارد.
این رنجش را درون خودش نگه می‌دارد و به مرور، به جای اینکه صرفاً بگوید من از او ناراحتم، شروع می‌کند به اینکه ارزش‌های خودش و دیگران را بر اساس همان رنجش بازتعریف کردن.
این دقیقاً جایی است که مفهوم Ressentiment مهم می‌شود.
مثال سادهفرض کنین شخصی نمی‌تواند به موفقیت فرد دیگری برسد. اگر بگوید:موفقیت او را می‌بینم و حسادت می‌کنم.این صرفاً حسادت است.
اما اگر به مرور به این نتیجه برسد:اصلاً موفقیت چیز ارزشمندی نیست. آدم‌های موفق سطحی، فاسد و بی‌ارزش‌اند.در حالی که این قضاوت اساساً از ناتوانی و رنجش خودش سرچشمه گرفته، وارد قلمرو Ressentiment شده‌ایم.
صبا که به نظر می رسید به زبانهای فرانسوی و آلمانی و انگلیسی مسلط است، ادامه داد:این مفهوم به‌ویژه با Friedrich Nietzsche گره خورده است. نیچه آن را نوعی رنجش انباشته‌شدهٔ فرد ناتوان در برابر فرد یا نیروی قدرتمندتر می‌دانست که می‌تواند در نهایت به وارونه‌سازی ارزش‌ها منجر شود.
پروای عزیزم:یک تعبیر خیلی ساده بگم بهت:Ressentiment یعنی زخمی که به جای اینکه التیام پیدا کند، تبدیل به فلسفهٔ زندگی می‌شود.دقت کن:تفاوت بین Ressentiment، Resentment، Envy، Jealousy و Bitterness بسیار ظریف ودر عین حال بسیار جالبه...
#پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم، ریشه‌یابی می‌کنیم. صادق یزدانیمحقق پرونده‌های هبوط https://ble.ir/parva9

۱۲۶

۸:۲۸

۱۶ مرداد

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۵۴

۲۰:۲۳

۲۲ مرداد

۱۵۳

۲۲:۴۲

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۱۷۷

۲۲:۴۲

۲۴ مرداد

۱۶۱

۸:۵۹

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۰۶

۸:۵۹

۲۶ مرداد

سوگیری ها و گرایشات سیستماتیک در مدل های زبانی و هوش مصنوعی.pdf

۶۸۳.۴۳ کیلوبایت

۱۶۸

۸:۲۸

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۲۱۵

۸:۲۹

۲۸ مرداد

The Sword of Freedom-EconomistFarsi-com.pdf

۱.۷۹ مگابایت

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۳۰۷

۸:۰۵

۴ شهریور

پرواکالبدشکافی تجارب و داستان‌های واقعی،اینجا غصه نمی‌خوریم؛ ریشه‌یابی می‌کنیم.

صادق یزدانیمحقق پرونده‌های هبوط: https://ble.ir/parva9

۳۶۹

۳:۲۸

۵ شهریور

RESSENTIMENT.mp4

۲۸.۲۸ مگابایت

۱۲۶

۸:۲۸