مدیر تیم امنیت متا، اشتباه امنیتی عجیبی مرتکب شد!

مدیر تیم امنیت متا، در یک اشتباه امنیتی غیرمعمول، توجه بسیاری از کاربران را جلب کرد.

این مدیر در اقدامی جنجالی، کنترل کامل ایمیل شخصی‌اش را به یک ایجنت هوش مصنوعی واگذار کرد؛ تصمیمی که منجر به حذف گسترده پیام‌هایش شد.

ماجرا از زمانی آغاز شد که سامر یو، پژوهشگر ایمنی و هم‌راستاسازی هوش مصنوعی در متا، ابزار OpenClaw را روی سیستم خود نصب کرد. OpenClaw یک ایجنت متن‌باز است که می‌تواند با دسترسی مستقیم به کامپیوتر کاربر، وظایف مختلفی را به‌صورت خودکار انجام دهد؛ از مدیریت فایل‌ها تا کار با اپلیکیشن‌ها و سرویس‌های آنلاین.

پس از آزمایش این ابزار روی یک «اینباکس آزمایشی»، یو تصمیم گرفت آن را به جیمیل اصلی‌اش متصل کند. او در پیامی در واتساپ نوشت که در حال مشاهده این است که ایجنت هوش مصنوعی‌اش «با سرعت رکوردشکن اینباکسش را پاک می‌کند.» با وجود هشدارهای رایج درباره اتصال چنین ابزارهایی به اطلاعات واقعی، به نظر می‌رسید نتایج اولیه باعث شده بود تا به عملکرد سیستم اطمینان کند.

مشکل از جایی آغاز شد که ربات، دستور قبلی او مبنی بر «اقدام نکردن بدون هماهنگی» را نادیده گرفت؛ یا به تعبیر خودش، این دستور را «گم کرد.» نتیجه این شد که ایمیل‌هایی که قرار نبود پاک شوند، حذف شدند.

اتفاقی که برای یو افتاد، بار دیگر بحث درباره میزان اعتماد به ایجنت‌های خودمختار و ریسک اتصال آن‌ها به اطلاعات شخصی را داغ کرده است؛ به‌ویژه زمانی که حتی متخصصان حوزه ایمنی نیز از پیامدهای پیش‌بینی‌نشده در امان نمی‌مانند.