هک امنیتی ۳ شرکت توسط هوش مصنوعی گوگل

محمدرضا اسکندری 

به گزارش پارسینه به نقل از الجزیره، گوگل غول فناوری به الجزیره گفته است که مدل Gemini گوگل در آزمایش قابلیت‌های امنیت سایبری خود، سه شرکت را هک کرده است.

وال استریت ژورنال پیش از این در روز جمعه گزارش داده بود که اولین نفوذ شناخته‌شده توسط Gemini در ماه مه به عنوان بخشی از یک آزمایش توسط شرکت Irregular رخ داده است. این آخرین مورد از چندین حادثه‌ای است که در آن‌ها مدل‌های هوش مصنوعی از محیط‌های آزمایشی فرار کرده و شرکت‌های دیگر را هک کرده‌اند.

این مدل هنگام دریافت اطلاعات از یک شرکت فرضی، دسترسی نامناسبی به اینترنت داشت. در حادثه اول، این مدل پس از حدس زدن رمز عبور، به خدمات یک شرکت واقعی دسترسی پیدا کرد.

هدر ادکینز، معاون رئیس بخش مهندسی امنیت گوگل، به الجزیره گفت که در موارد دیگر «این مدل، اطلاعات عمومی را به صورت آنلاین پیدا کرده و اطلاعات ورود را برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمایش هستند، حدس زده است».

این شرکت همچنین اعلام کرد که این اتفاق سه بار رخ داده و هر بار مدل قبل از تکمیل عملیات متوقف شده است.

وال استریت ژورنال گزارش داد که شرکت Irregular در پایان ماه جولای گوگل را از این هک‌ها مطلع کرد. گوگل اعلام کرد که این رفتار نمونه‌ای از ناهماهنگی مدل نبوده و نیازی به افشای عمومی ندارد زیرا اقدامات ایمنی Gemini مؤثر بوده است.

پیش از این، رویدادهای مشابهی مرتبط با Irregular توسط Meta، Anthropic و OpenAI افشا شده بود. Irregular اعلام کرد که در حال کار بر روی بهبود شیوه‌های انجام ایمن آزمایش‌های امنیت سایبری هوش مصنوعی است.

برخلاف Gemini، مدل Claude شرکت Anthropic پس از اینکه متوجه شد به شرکت‌های واقعی دسترسی دارد، متوقف نشد.

افشای اطلاعات توسط شرکت آنتروپیک پس از آن صورت گرفت که شرکت OpenAI فاش کرد مدل‌هایش به طور نامناسب به اینترنت دسترسی پیدا کرده‌اند و در طول آزمایش دچار اختلال شده‌اند. آنتروپیک اخیراً پس از استعفای یکی از محققان به دلیل مسائل ایمنی، چهارمین حادثه هک هوش مصنوعی را افشا کرد.

اوایل این هفته، داریو آمودی، مدیرعامل شرکت آنتروپیک، خواستار کاهش سرعت پیشرفت هوش مصنوعی شد و هشدار داد که هوش مصنوعی به زودی می‌تواند خطرات فاجعه‌باری را برای خود بشریت ایجاد کند. این درخواست توسط سم آلتمن، مدیرعامل OpenAI و ایلان ماسک نیز تأیید شد.

هفته گذشته، دونالد ترامپ، رئیس جمهور آمریکا ، لزوم نظارت بر توسعه هوش مصنوعی را رد کرد و گفت که نگران واگذاری رهبری آمریکا به چین است.