بدون دسترسی به داده مدل AI بساز!برای مدیر صنعتی، وعده جذابی است: مدل ساخته شود، بیآنکه دادهٔ محرمانه در اختیار تیم توسعه قرار گیرد. اما دانشمند داده حق دارد با تعجب بپرسد: بدون دیدن نمونههای واقعی، چگونه خطا را پیدا کنم، ویژگی بسازم و کیفیت مدل را بسنجم؟
پاسخ، صرفاً بستن دسترسی نیست. اگر ابزار لازم برای شناخت داده، آزمودن تبدیلها و عیبیابی ساخته نشود، نخستین خطای واقعی دوباره همان درخواست آشنای «دسترسی اضطراری» را برمیگرداند.
در یادداشت تازهام، یک چرخهٔ عملی برای مهندسی داده و مدل بدون مشاهدهٔ رکوردهای محرمانه پیشنهاد کردهام:
قرارداد داده بهجای مشاهدهٔ مصداقها توسعه با دادهٔ آزمایشی و آزمونهای ساختاری تولید شواهد و پروفایلهای کنترلشده در مرز امن استقلال برچسبگذاری و ارزیابی از تیم توسعه عیبیابی بدون خروج رکورد خام مشاهدهٔ انسانی فقط بهعنوان استثنایی محدود و قابل ممیزیاین چرخه را با یک سناریوی کامل پیشبینی خرابی تجهیزات صنعتی، از تعریف مسئله و ساخت برچسب تا آموزش، آزمون، تحویل و نگهداری توضیح دادهام.
️معیار موفقیت، صرفاً حذف مجوز دسترسی نیست؛ حذف نیاز به دسترسی است. متن کامل یادداشت:https://ziabary.ir/?t=azdmewra
@HoomasGov۳۲بازارسال شده از پیوست | Peivast
اتاق تهران خواستار توقف مصوبه صدور پروانه خدمات هوش مصنوعی شداتاق بازرگانی تهران در نامهای به محمدرضا عارف، معاون اول رئیسجمهوری، خواستار توقف اجرای مصوبه «اصول حاکم بر صدور پروانه ارائهدهنده خدمات هوش مصنوعی (AISP)» تا زمان بررسی مجدد آن شد.اتاق تهران معتقد است: الزاماتی مانند حداقل توان پردازشی ۲۰۰ پتافلاپس، حق امتیاز اولیه ۵۰۰ میلیارد ریالی و ضمانتنامه هزار میلیارد ریالی، دریافت مستقیم این پروانه را برای بسیاری از شرکتهای کوچک، دانشبنیانها و استارتآپهای هوش مصنوعی دشوار یا عملاً غیرممکن میکند.در این نامه همچنین نسبت به تمرکز بازار در دست تعداد محدودی از اپراتورها و شرکتهای بزرگ و نامشخص بودن وضعیت شرکتهای فاقد پروانه هشدار داده شده است. اتاق تهران همچنین تسری الزامات یکسان به اپراتورهای زیرساختی و شرکتهای فعال در حوزه مدل، نرمافزار، SaaS و کاربردهای هوش مصنوعی را مورد انتقاد قرار داده است.@Peivastمتن کامل این گزارش را در سایت پیوست بخوانید:peivast.com/p/266803
هوش مصنوعی پاسخ بدهد، اما راز سازمان را نبیند!«از داده شما برای آموزش استفاده نمیکنیم.»
جمله اطمینانبخشی است؛ اما آیا یعنی ارائهدهنده امکان دیدن داده را هم ندارد؟ استفادهنکردن، نگهنداشتن و نتوانستنِ مشاهده، سه ادعای متفاوتاند.
برای تحلیل یک قرارداد یا گزارش مالی، مدل به جزئیات نیاز دارد؛ همان جزئیاتی که شاید سازمان اجازه خروجشان را نداشته باشد. حذف نام مشتری هم همیشه مسئله را حل نمیکند؛ گاهی مبلغ قرارداد، شرح اتفاقها یا حتی خود پرسش، راز سازمان را آشکار میکند!
پس چگونه میتوان از توان مدلهای عمومی استفاده کرد و محرمانگی را هم حفظ کرد؟
در یادداشت تازهام، روشهای موجود را از حذف هویت و تبدیل معنایی تا محاسبات محرمانه و پردازش روی داده رمزشده مرور کردهام و در یک جدول مقایسه، به این پرسشها پرداختهام:
هر روش دقیقا چه چیزی را پنهان میکند؟ کدام روش با APIهای معمولی قابل استفاده است؟ هزینه حفاظت، از نظر دقت و سرعت چیست و چه خطرهایی باقی میماند؟پیش از فرستادن نخستین سند محرمانه، باید بدانیم دقیقا چه چیزی را، از چه کسی و چگونه پنهان میکنیم.
متن کامل یادداشت:https://ziabary.ir/?t=adcpa
@HoomasGov.
🧭 اطلس جامع انتخاب مدلهای زبانی
این روزها از سازمانهای بزرگ تا بقالی سر کوچه، همه میخواهند مدل زبانی خودشان را داشته باشند! اما کدام مدل، برای چه کاری، با چه زیرساختی و چه هزینهای؟
«اطلس جامع مدلهای زبانی» پاسخی است به همین سوالات؛ راهنمایی برای مدیران و تیمهایی که میخواهند با شناخت گزینهها و محدودیتها تصمیم بگیرند.
مدلها، قابلیتها، محدودیتها و نیازهای سختافزاری آنها را با ارجاع به منابع مقایسه کنید. با پاسخ به چند پرسش درباره کاربرد، حجم کار، تعداد کاربران، همزمانی، زیرساخت و بودجه، به گزینههای اولیه متناسب با نیاز خود برسید. مسیر اجرا، منابع آموزشی و راهنمای قابل تحویل به تیم فنی یا پیمانکار را در اختیار داشته باشید.
نه بیش از نیاز هزینه کنید، نه راهکاری انتخاب کنید که پاسخگوی کار سازمان نباشد.
مشاهده اطلس جامع مدلهای زبانی: https://ziabary.ir/guides/llm/
@HoomasGov.
این روزها از سازمانهای بزرگ تا بقالی سر کوچه، همه میخواهند مدل زبانی خودشان را داشته باشند! اما کدام مدل، برای چه کاری، با چه زیرساختی و چه هزینهای؟
«اطلس جامع مدلهای زبانی» پاسخی است به همین سوالات؛ راهنمایی برای مدیران و تیمهایی که میخواهند با شناخت گزینهها و محدودیتها تصمیم بگیرند.
مدلها، قابلیتها، محدودیتها و نیازهای سختافزاری آنها را با ارجاع به منابع مقایسه کنید. با پاسخ به چند پرسش درباره کاربرد، حجم کار، تعداد کاربران، همزمانی، زیرساخت و بودجه، به گزینههای اولیه متناسب با نیاز خود برسید. مسیر اجرا، منابع آموزشی و راهنمای قابل تحویل به تیم فنی یا پیمانکار را در اختیار داشته باشید.نه بیش از نیاز هزینه کنید، نه راهکاری انتخاب کنید که پاسخگوی کار سازمان نباشد.
مشاهده اطلس جامع مدلهای زبانی: https://ziabary.ir/guides/llm/ @HoomasGov.۹۶۵
RTX 4090 مگه برای بازی نیست؟پس ۴۸ گیگش به چه درد میخوره؟بله، 4090 اصولاً کارت گیمینگ است؛ اما تقریبا از همون روزی که اومد گیمرها اون روبا پژوهشگران و مدلهای زبانی شریک شدند!
نسخهٔ استاندارد RTX 4090 فقط ۲۴ گیگابایت حافظه دارد. کارتهایی که با عنوان «4090 48GB» فروخته میشوند، نسخههای اصلاحشده برادران چینی هستند که حافظهٔ بیشتری روی آنها نصب شده است.
اما ۴۸ گیگابایت بهمعنای دو برابر شدن سرعت نیست. حافظهٔ بیشتر کمک میکند:
مدلهای بزرگتری روی یک کارت جا شوند زمینههای طولانیتر پردازش شوند درخواستهای بیشتری همزمان در حافظه بمانند فضای بیشتری برای KV Cache و سربار موتور اجرا وجود داشته باشداز آن طرف، اگر مدل روی ۲۴ گیگابایت بهراحتی جا میشود، ممکن است خرید دو کارت ۲۴ گیگابایتی و اجرای دو نمونهٔ مستقل، برای سرویسدهی انتخاب بهتری از یک کارت ۴۸ گیگابایتی باشد.
پس سؤال درست این نیست که «۴۸ از ۲۴ بزرگتر است یا نه؟»؛ سؤال این است:
قرار است چه مدلی، با چه طول متنی و برای چند کاربر اجرا شود؟
در این یادداشت بررسی شده که روی RTX 4090 چه مدلهایی اجرا میشوند، تفاوت واقعی نسخههای ۲۴ و ۴۸ گیگابایتی چیست و چه زمانی باید به سراغ کارتهایی مثل H100، H200 یا RTX 6000 رفت؟
مطالعه یادداشت کامل:https://ziabary.ir/?t=alor42v4آگاهانه تصمیم بگیریم.
@HoomasGov.۳بازارسال شده از پیوست | Peivast
پروانه اپراتوری هوش مصنوعی؛ دو پاسخ و چندین پرسش بیپاسخ مهران ضیابری، مدیرعامل شرکت پردازش هوشمند ترگمان و رئیس کمیسیون هوش مصنوعی سازمان نظام صنفی رایانهای، در یادداشتی که در سایت پیوست منتشر شده، به اظهارات احسان چیتساز، معاون سیاستگذاری و برنامهریزی توسعه فاوا و اقتصاد دیجیتال وزارت ارتباطات، درباره پروانه اپراتوری هوش مصنوعی پاسخ داده است. ضیابری در این یادداشت نوشته است: ایشان گفتهاند پروانه اپراتوری «شرط عمومی فعالیت در حوزه هوش مصنوعی» نیست و شرکتهای کوچک و متوسط، توسعهدهندگان مدل، شرکتهای نرمافزاری و ارائهدهندگان راهکارهای تخصصی صرفاً به دلیل استفاده از هوش مصنوعی ملزم به دریافت آن نیستند. ضیابری تاکید کرده است: این توضیحات قابل توجهاند و دستکم نشان میدهند وزارت ارتباطات قصد ندارد تمام فعالان هوش مصنوعی را مستقیماً به دریافت پروانهای با الزامات مالی و پردازشی سنگین ملزم کند. بااینحال، از یک طرف متن پروانه این نگاه را بازتاب نمیدهد. @peivastمتن کامل یادداشت را در سایت پیوست بخوانید:peivast.com/p/266998
جدول مدلها هنوز از تنور در نیامده آپدیت شد!سرعت تحولات در دنیای هوش مصنوعی چنان بالاست که در کمتر از ۳ روز، دو مهمان جدید و یک بهروزرسانی مهم، جدول راهنمای انتخاب مدلها را دستخوش تغییر کردند؛ هنوز چای معرفی قبلی سرد نشده!
️ شیائومی فقط گوشی نمیسازد!با MiMo‑V2.6‑Pro و انتشار وزنهای نسخهٔ Pro‑RL، یک مهمان تازه به جمع مدلهای پیشرفته اضافه شده؛ مدلی با توانایی پردازش متن، تصویر، ویدئو و صوت و تمرکز بر کدنویسی و انجام کارهای چندمرحلهای. علیبابا هم با قلممو آمد!مدل Qwen‑Image‑2.1 برای تولید و ویرایش تصویر معرفی شده؛ با ۷ میلیارد پارامتر در بخش تولید تصویر و قابلیت ساخت تصاویر با پسزمینهٔ شفاف. چون قرار نیست هوش مصنوعی فقط جواب بدهد؛ گاهی باید نقاشی هم بکشد! SGLang هم گفت شرایط عوض شده!در نسخهٔ 0.5.20، انتشار بستهها و ایمیجهای CUDA 12 متوقف شده است. یعنی در کنار انتخاب مدل، باید حواستان به سازگاری محیط اجرای آن هم باشد! دو مهمان تازه به جداول اضافه شدهاند و اطلاعات موتور اجرا هم بهروز شده است. همین حالا میتوانید مشخصات و شرایط استفادهٔ آنها را با سایر گزینهها مقایسه کنید: راهنمای انتخاب مدلهای زبانی بزرگآگاه و بهروز باشیم
@HoomasGov۲
آیندهٔ هوش مصنوعی ایران، به حمایت از همکاری و دانش مشترک نیاز داردمتنباز فرصتی است تا شرکتهای کوچک، پژوهشگران و توسعهدهندگان بر دستاوردهای یکدیگر بنا کنند؛ دانش را گسترش دهند و برای نیازهای کشور راهحل بسازند. بهثمررسیدن این فرصت، به پشتوانهٔ حقوقی و اقتصادی نیاز دارد.
توسعهدهندهای که حاصل کارش را آزاد منتشر میکند، باید بتواند رعایت حقوق و شروط انتشارش را مطالبه کند. شرکتی که بر آن سرمایهگذاری میکند، به حق استفادهٔ پایدار نیاز دارد. جامعهای هم که هزینهٔ پژوهش را تأمین کرده، باید از نتایج قابل استفادهٔ آن بهرهمند شود.
اشاره به حمایت از طرحهای متنباز در قانون ملی توسعهٔ هوش مصنوعی، گامی امیدبخش است؛ گامی که برای تحقق آن، باید مسیر اجرا را روشن کرد:
اعتبار روشن مجوزهای آزاد و حمایت از حقوق پدیدآورندگان و استفادهکنندگان امکان استفادهٔ دوباره از دستاوردهای پروژههای دارای تأمین مالی عمومی تأمین هزینهٔ نگهداری و توسعهٔ منابع مشترک حمایت از تولید دادهها و ابزارهای ارزیابی فارسی با حقوق استفادهٔ مشخصدر این یادداشت، با تکیه بر تجربهٔ همکاری شرکتها و پروژههای ملی، توضیح دادهام چرا حمایت از متنباز میتواند به رشد کسبوکارها، کاهش انحصار و تقویت توان مستقل کشور در هوش مصنوعی کمک کند.
فرصت آن است که آزادی استفاده از دانش، به اطمینان برای ساختن و انگیزه برای مشارکت تبدیل شود.
مطالعه یادداشت هوش مصنوعی بر دوش متنباز؛ چرا به قانون حمایت از متنباز نیاز داریم؟ @HoomasGov