لوگوی پیام رسان بلهدانلود «بله»
عکس پروفایل وادی ایمن حافظ | HafezSecureو
۷ عضو

وادی ایمن حافظ | HafezSecure

وادی ایمن حافظ؛ امنیت سایبری نتیجه‌محورمسیر نفوذ را پیش از مهاجم پیدا می‌کنیم و تا بسته شدنش کنار شما می‌مانیم.مقاله‌های فنی تست نفوذ، امنیت هوش مصنوعی و توسعه‌ی امن، و خبرهای Hafez Fabric، آکادمی حافظ و HafezCTF.hafezsecure.ir
مشاهده در وب بله
۲۰ مهر
کاتالوگ خدمات و محصولات وادی ایمن حافظ
امنیت سایبری نتیجه‌محور برای ما یعنی این: مسیر نفوذ را پیش از مهاجم پیدا می‌کنیم و تا بسته‌شدن آن کنار شما می‌مانیم.
در کاتالوگ، همه‌ی کارهای ما کنار هم آمده است:
• ارزیابی امنیتی و آزمون نفوذ: ۴۲ خدمت در ۱۱ حوزه، از وب، API و موبایل تا زیرساخت ابری، سامانه‌های هوش مصنوعی و بلاک‌چین• توسعه‌ی امن: ۱۳ خدمت، از طراحی معماری تا انتشار نرم‌افزار• محافظت و پایش: ۱۲ خدمت برای سامانه‌هایی که همین حالا در حال اجرا هستند• مشاوره و راهبری: ۱۰ خدمت برای مدیران امنیت
و محصولاتی که این خدمات را پشتیبانی می‌کنند، از سکوی آموزشی HafezCTF تا پلتفرم حاکمیت هوش مصنوعی Fabric.
خلاصه‌ی ۹ صفحه‌ای را در فایل پایین ببینید. نسخه‌ی کامل ۱۶ صفحه‌ای:https://hafezsecure.ir/catalogue?utm_source=bale&utm_medium=social&utm_campaign=catalogue
#امنیت_سایبری #تست_نفوذ #وادی_ایمن_حافظ
undefined۱

۱۳

۶:۳۰

کاتالوگ خدمات و محصولات وادی ایمن حافظ.pdf

۷۸۰.۳ کیلوبایت

کاتالوگ خدمات و محصولات وادی ایمن حافظ
undefined۱

۳۲

۶:۳۰

۲۱ مهر
بیشتر ضعف‌های امنیتی اپلیکیشن‌های مبتنی بر مدل زبانی از خودِ مدل نیست. از اپلیکیشنی است که به خروجی مدل اعتماد می‌کند، به مدل بیش از نیاز دسترسی می‌دهد، یا متنی نامطمئن را از مسیری به مدل می‌رساند که کسی آن را جزو ورودی‌ها حساب نکرده است.
مدل زبانی دستورها، پیام کاربر، اسناد بازیابی‌شده و نتیجه‌ی ابزارها را یک‌جا و به شکل یک متن پیوسته دریافت می‌کند و نمی‌تواند دستور واقعی را با اطمینان از متنی که فقط شبیه دستور است جدا کند. پس هر کسی که بتواند متنی جلوی مدل بگذارد، می‌تواند برای هدایتش تلاش کند؛ نه فقط کاربر، که نویسنده‌ی هر صفحه، ایمیل یا تیکتی که اپلیکیشن می‌خواند.
روش تست نفوذ این اپلیکیشن‌ها را با نمونه نوشته‌ایم: نقشه‌ی جریان داده‌ای که اول باید رسم کرد، زنجیره‌ی تزریق غیرمستقیم از یک تیکت تا ارسال داده به بیرون، هشت حوزه‌ی تست بر پایه‌ی OWASP Top 10 for LLM Applications 2025 با یک نمونه برای هر کدام، یک یافته‌ی کامل، و کنترل‌هایی که دوام می‌آورند چون به درست رفتار کردن مدل وابسته نیستند.
متن کامل: https://hafezsecure.ir/insights/llm-application-security-testing?utm_source=bale&utm_medium=social&utm_campaign=llm-application-security-testing
#امنیت_هوش_مصنوعی #تست_نفوذ #امنیت_سایبری #تزریق_پرامپت

۱۷

۶:۳۰

تست نفوذ اپلیکیشن‌های مبتنی بر مدل زبانی.pdf

۲۵۷.۲۱ کیلوبایت

تست نفوذ اپلیکیشن‌های مبتنی بر مدل زبانی

۱۸

۶:۳۰

۲۵ مهر
فیلتر ورودی چت‌بات شما احتمالاً روی متن انگلیسی تنظیم شده است. فارسی به مهاجم اجازه می‌دهد همان دستور را طوری بنویسد که فیلتر چیز دیگری ببیند و مدل دقیقاً همان را بفهمد.
«ی» فارسی و «ي» عربی دو نویسه‌ی متفاوت با دو کد متفاوت‌اند و شبیه هم دیده می‌شوند. نویسه‌های عرض‌صفر کلمه را از میان می‌شکنند بدون اینکه ظاهرش عوض شود. ارقام سه دستگاه دارند. فینگلیش برای مدل خواناست و برای فهرست واژگان فارسی اصلاً فارسی نیست. و نویسه‌های جهت‌دهی می‌توانند کاری کنند که آنچه کارشناس پشتیبانی می‌خواند با آنچه مدل می‌گیرد یکی نباشد.
نوشته‌ایم که چطور یک چت‌بات را گام به گام آزمون کنید: مسیرهای ورود متن، گرفتن خط مبنا، تغییر یک متغیر در هر بار، مسیر غیرمستقیم از راه سندی که برنامه می‌خواند، و گزارش حمله‌ای که از هر ده بار سه بار جواب می‌دهد.
و دفاعی که دوام می‌آورد: متن را پیش از هر تصمیمی یک بار نرمال کنید و فیلتر را روی همان نسخه اجرا کنید، نسخه‌ی اصلی را برای نمایش نگه دارید، و کنترل‌های جدی را بیرون از مدل بگذارید؛ چون هر دفاعی که به درست رفتار کردن مدل تکیه کند، روز به‌روزرسانی ممکن است رفتار دیگری نشان دهد.
Hafez Fabric، درگاه هوش مصنوعی تحت حاکمیت وادی ایمن حافظ، روی همین اصل ساخته شده است: کنترل‌ها بیرون از مدل اجرا می‌شوند. چهارشنبه معرفی‌اش می‌کنیم.
متن کامل: https://hafezsecure.ir/insights/prompt-injection-persian-chatbots?utm_source=bale&utm_medium=social&utm_campaign=prompt-injection-persian-chatbots
#تزریق_پرامپت #امنیت_هوش_مصنوعی #چت_بات #امنیت_سایبری

۶

۹:۱۲

تزریق پرامپت در چت‌بات‌های فارسی.pdf

۴۳۵.۴۱ کیلوبایت

تزریق پرامپت در چت‌بات‌های فارسی

۷

۹:۱۲