یه نفر یک ابزار متنباز ساخته به اسم AirLLM که باهاش میتونی یه مدل 2.8 تریلیون پارامتری رو با یه GPU فقط 4GB VRAMروی لپ تاپت اجرا کنی! از روشی به اسم Layer-wise Inference استفاده میکنه؛ یعنی بهجای اینکه کل مدل رو یکجا داخل VRAM بریزه، فقط همون لایهای که همون لحظه لازمه رو بارگذاری میکنه.
نه Quantization نه Distillation نه Pruningنمونهها:مدل DeepSeek-V3 (671B) روی 12GBمدل Llama 3.1 405B روی 8GBمدل Kimi K3 (2.8T) با کمتر از 4GBو با تقریباً همه مدلهای متنباز هم کار میکنه.
جالبتر اینکه بزرگترین مدل، کمترین VRAM رو لازم داره. دلیلش اینه که Kimi K3 یه مدل Sparse MoE هست و برای هر توکن فقط Expertهای موردنیازش رو اجرا میکنه، نه کل لایه. یعنی یه مدل 2.8 تریلیون پارامتری میتونه با VRAM کمتر از بعضی مدلهای 70B اجرا بشه. البته این به معنی سریعتر بودن نیست؛ فقط یعنی محدودیت حافظه دیگه اون مانع نیست.
github.com/lyogavin/airllm
🟢 @radman_it
t.me/radmanch
نه Quantization نه Distillation نه Pruningنمونهها:مدل DeepSeek-V3 (671B) روی 12GBمدل Llama 3.1 405B روی 8GBمدل Kimi K3 (2.8T) با کمتر از 4GBو با تقریباً همه مدلهای متنباز هم کار میکنه.
جالبتر اینکه بزرگترین مدل، کمترین VRAM رو لازم داره. دلیلش اینه که Kimi K3 یه مدل Sparse MoE هست و برای هر توکن فقط Expertهای موردنیازش رو اجرا میکنه، نه کل لایه. یعنی یه مدل 2.8 تریلیون پارامتری میتونه با VRAM کمتر از بعضی مدلهای 70B اجرا بشه. البته این به معنی سریعتر بودن نیست؛ فقط یعنی محدودیت حافظه دیگه اون مانع نیست.
github.com/lyogavin/airllm
🟢 @radman_it
t.me/radmanch۱۲راهنمایی جامع برای ورود به دنیای برنامهنویسی کامپیوترهای کوانتومی:
- آشنایی با مفاهیم پایه محاسبات کوانتومی و کیوبیتها- آموزش طراحی و پیادهسازی الگوریتمهای کوانتومی- کار با فریمورکهای برنامهنویسی کوانتومی و مثالهای عملی- مناسب برای برنامهنویسهایی که میخوان وارد دنیای Quantum Computing بشن.
به خاطر حجم زیاد فایل PDF رو در کانال تلگرام گذاشتم، از اینجا دانلود کنید:t.me/radmanch
🟢 @radman_it t.me/radmanch
- آشنایی با مفاهیم پایه محاسبات کوانتومی و کیوبیتها- آموزش طراحی و پیادهسازی الگوریتمهای کوانتومی- کار با فریمورکهای برنامهنویسی کوانتومی و مثالهای عملی- مناسب برای برنامهنویسهایی که میخوان وارد دنیای Quantum Computing بشن.
به خاطر حجم زیاد فایل PDF رو در کانال تلگرام گذاشتم، از اینجا دانلود کنید:t.me/radmanch
🟢 @radman_it
t.me/radmanch
آسترا، هوش مصنوعی جدید OpenAI، تونسته 10 مسئلهی قدیمی و حلنشدهی ریاضی رو حل کنه؛ از جمله اولین ساختار صریح یک گروه غیرصوفی. جالبتر اینکه کل این کار با هزینهای حدود 2000 دلار انجام شده.
راهحلهایی که ارائه داده، فقط ایدههای خام نیستن؛ همگی تأیید شدن و روی گیتهاب منتشر شدن. این دستاوردها حوزههای مختلفی مثل علوم کامپیوتر نظری و پیچیدگی مدارهای حسابی رو پوشش میدن.
بین این نتایج، رد حدس صلبیت کانز (Connes's rigidity conjecture) و حل مسئلهی 183 پاول اردوش (Paul Erdős) هم دیده میشه؛ مسائلی که سالها جزو چالشهای جدی ریاضی بودن.
این اتفاق میتونه یه نقطهی عطف برای استدلال علمی با هوش مصنوعی باشه؛ چون نشون میده AI داره از حل مسئلههای معمولی عبور میکنه و وارد مرحلهی کشفهای واقعی علمی میشه.
🟢 @radman_it t.me/radmanch
راهحلهایی که ارائه داده، فقط ایدههای خام نیستن؛ همگی تأیید شدن و روی گیتهاب منتشر شدن. این دستاوردها حوزههای مختلفی مثل علوم کامپیوتر نظری و پیچیدگی مدارهای حسابی رو پوشش میدن.
بین این نتایج، رد حدس صلبیت کانز (Connes's rigidity conjecture) و حل مسئلهی 183 پاول اردوش (Paul Erdős) هم دیده میشه؛ مسائلی که سالها جزو چالشهای جدی ریاضی بودن.
این اتفاق میتونه یه نقطهی عطف برای استدلال علمی با هوش مصنوعی باشه؛ چون نشون میده AI داره از حل مسئلههای معمولی عبور میکنه و وارد مرحلهی کشفهای واقعی علمی میشه.
🟢 @radman_it
t.me/radmanch۱۱شرکته آگهی استخدام زده با حقوق پایه وزارت کار (یعنی ۱۷ میلیون) برای استخدام Backend Developer ، حالا شما برید متن آگهی و نیازمندی هاشون رو بخونید و نظرتون رو بگید.
واقعا نمیدونم برای یه سری از شرکت ها باید تاسف خورد که دانش کافی ندارن یا مشکل دیگه ایی دارن که نمی خوام اینجا بگم...
لینک آگهی
واقعا نمیدونم برای یه سری از شرکت ها باید تاسف خورد که دانش کافی ندارن یا مشکل دیگه ایی دارن که نمی خوام اینجا بگم...
لینک آگهی
۵۱
گوگل یه آپدیت جالب داده میتونید اینستاگرام تیکتاک و توییتر و یوتیوتون رو به سرچ کنسول وصل کنید و مستقیم بیاریدش توی سرچ گوگل
search.google.com/search-console/welcome
🟢 @radman_it t.me/radmanch
search.google.com/search-console/welcome
🟢 @radman_it
t.me/radmanch۱
ساخت و آموزش یک مدل ۳۵۰ میلیون پارامتری از صفر با پایتورچ چقدر هزینه دارد و چه چالشهایی دارد؟
http://john463212.substack.com/p/building-a-350m-transformer-from
🟢 @radman_it t.me/radmanch
http://john463212.substack.com/p/building-a-350m-transformer-from
🟢 @radman_it
t.me/radmanch۳
دوازده دقیقه وقت بزارید و این ویدیو رو ببینید اگر عاشق ریاضی و AI هستید.
برای اولین بار ی تیم از 60 تا عامل و یا همون Agent موازی کار کردند تا مسئله ای رو ک 167 سال حل نشده بود رو حل کنند اما وسط راه چیزی جدیدی کشف میکنند. ادامه در ویدیوی ساخته شده با NotebookLM
@radman_it
برای اولین بار ی تیم از 60 تا عامل و یا همون Agent موازی کار کردند تا مسئله ای رو ک 167 سال حل نشده بود رو حل کنند اما وسط راه چیزی جدیدی کشف میکنند. ادامه در ویدیوی ساخته شده با NotebookLM
@radman_it
میدونستین همکاری و کمک کردن توی پروژههای اوپنسورس میتونه خودش یه جور تراپی باشه؟ البته این موضوع لزوماً ربطی به اوپنسورس نداره؛ هر نوع کمک کردن به دیگران میتونه بهخودیخود حال آدم رو بهتر کنه. ولی همکاری توی پروژههای اوپنسورس یه ویژگی جالب داره: شما همزمان دارین به بقیه کمک میکنین، یه فعالیت اجتماعی انجام میدین، با آدمهای دیگه در ارتباطین و در کنارش دارین یه کار فنی و خلاقانه هم انجام میدین.
شاید به همین دلیل اوپنسورس برای بعضیها بتونه یه راه فرار از حس بیمعنایی و پوچی ذهن باشه؛ چون بدون اینکه با هدف تراپی واردش بشین، چندتا از نیازهایی که خیلی وقتها کمبودشون آدمها رو به سمت تراپی میبره، همزمان برطرف میکنه: حس مفید بودن، داشتن هدف، ارتباط با آدمها، یاد گرفتن، خلق کردن و احساس تعلق به یه جامعه.
@radman_it <linuxor>
شاید به همین دلیل اوپنسورس برای بعضیها بتونه یه راه فرار از حس بیمعنایی و پوچی ذهن باشه؛ چون بدون اینکه با هدف تراپی واردش بشین، چندتا از نیازهایی که خیلی وقتها کمبودشون آدمها رو به سمت تراپی میبره، همزمان برطرف میکنه: حس مفید بودن، داشتن هدف، ارتباط با آدمها، یاد گرفتن، خلق کردن و احساس تعلق به یه جامعه.
@radman_it <linuxor>
۱