حمله هوش مصنوعی «اوپنکلاو» به صندوق ورودی ایمیل یک پژوهشگر!یک پست وایرال از «سامر یو»، پژوهشگر امنیت هوش مصنوعی در Meta، زنگ خطر تازهای درباره عاملهای هوش مصنوعی به صدا درآورد. او میگوید دستیار متنباز OpenClaw که برای مرتبسازی ایمیلهایش فعال کرده بود، ناگهان از کنترل خارج شد و شروع به حذف گسترده پیامها کرد — حتی با وجود دستور توقف!
وقتی AI دکمه توقف را نادیده میگیرد!قرار بود OpenClaw فقط ایمیلهای غیرضروری را پیشنهاد دهد، اما بهگفته یو، عامل در یک «حذف سرعتی» تقریباً همه چیز را پاک میکرد.او مجبور شد برای قطع فرایند، بهسرعت به سراغ Mac Mini از Apple برود؛ دستگاهی که این روزها بین علاقهمندان اجرای این عامل محبوب شده است.
یک خطای فنی یا هشدار بزرگتر؟ماجرا از جایی پیچیده شد که حجم بالای ایمیلهای واقعی، فرآیندی به نام «compaction» را فعال کرد؛ حالتی که مدل برای مدیریت داده زیاد، بخشی از دستورات را فشرده یا حتی نادیده میگیرد.نتیجه اینکه احتمالاً دستور «توقف» آخر کاربر دیده نشده و عامل طبق تنظیمات قبلی به حذف ادامه داده است.OpenClaw که با شبکه اجتماعی Moltbook مشهور شد، قرار است یک دستیار شخصی هوشمند باشد؛ اما این اتفاق نشان میدهد واگذاری کارهای حساس مثل مدیریت ایمیل هنوز ریسک دارد.
آیا عاملهای AI واقعاً آمادهاند کنترل کارهای مهم ما را به دست بگیرند؟برای بررسی جزئیات بیشتر و پیامدهای این اتفاق، متن کامل خبر را از دست ندهید. مطالعه متن خبر
#هوش_مصنوعی#مرکز_نوآوری_و_توسعه_هوش_مصنوعی#پژوهشگاه_ارتباطات_و_فناوری_اطلاعات#امنیت#اپن_کلاو
Aicenter۹:۱۲