هشدار کارمندان گوگل به مدیرعامل در خصوص استفاده نظامی از جمنای

به گزارش پارسینه و به نقل از فارس، حدود ۶۰۰ نفر از کارکنان گوگل در نامه‌ای به مدیرعامل این شرکت، «ساندار پیچای»، از او خواستند که اجازه ندهد فناوری‌های هوش مصنوعی گوگل وارد پروژه‌های محرمانه نظامی آمریکا شود. امضاکنندگان این نامه عمدتاً از تیم‌های دیپ‌مایند و کلاد گوگل هستند. آن‌ها به گزارشی اشاره کرده‌اند که می‌گوید گوگل و پنتاگون در حال مذاکره برای استفاده از مدل هوش مصنوعی جمنای در محیط‌های محرمانه هستند.

کارکنان در این نامه تأکید کرده‌اند که به‌عنوان افرادی که مستقیماً با هوش مصنوعی کار می‌کنند، می‌دانند این فناوری می‌تواند قدرت را متمرکز کند و در عین حال دچار خطا هم بشود. به همین دلیل خود را مسئول می‌دانند که درباره استفاده‌های خطرناک و غیراخلاقی آن هشدار بدهند. آن‌ها نوشته‌اند تنها راه اطمینان از این‌که گوگل وارد چنین مسیرهایی نمی‌شود، این است که به‌طور کامل از پروژه‌های محرمانه فاصله بگیرد؛ در غیر این صورت ممکن است این فناوری‌ها بدون اطلاع یا امکان کنترل آن‌ها مورد استفاده قرار گیرد.

این نخستین بار نیست که همکاری گوگل با ارتش آمریکا با اعتراض داخلی روبه‌رو می‌شود. در سال ۱۳۹۷، پس از فشار کارکنان، گوگل قرارداد پروژه میون با وزارت دفاع آمریکا را تمدید نکرد؛ پروژه‌ای که هدفش استفاده از هوش مصنوعی در عملیات نظامی بود و بعداً شرکت پالانتیر آن را ادامه داد. همان سال، گوگل مجموعه‌ای از اصول برای استفاده از هوش مصنوعی منتشر کرد که در آن متعهد شده بود از این فناوری برای ساخت سلاح یا نظارت استفاده نکند، اما سال گذشته این اصول به‌روزرسانی شد و برخی از این محدودیت‌ها از متن حذف شدند.

با این حال، همکاری‌های گوگل با پنتاگون ادامه پیدا کرده است. این شرکت در سال گذشته قراردادهای جدیدی برای ارائه خدمات ابری و هوش مصنوعی به ارتش آمریکا امضا کرد. در اسفند ۱۴۰۴ نیز اعلام شد که گوگل ابزارهای هوش مصنوعی خود را در محیط‌های غیرمحرمانه در اختیار پنتاگون قرار می‌دهد. همچنین به کارکنان دیپ‌مایند گفته شده که احتمالاً چنین همکاری‌هایی در آینده بیشتر خواهد شد.

کارکنان در این نامه هشدار داده‌اند که ورود به پروژه‌های محرمانه باعث کاهش نظارت بر نحوه استفاده از این فناوری‌ها می‌شود. آن‌ها تأکید کرده‌اند که می‌خواهند هوش مصنوعی در خدمت انسان‌ها باشد، نه برای ساخت سلاح‌های خودکار مرگبار یا نظارت گسترده. به گفته آن‌ها، یک تصمیم اشتباه در این مقطع می‌تواند آسیب جدی و جبران‌ناپذیری به اعتبار و جایگاه جهانی گوگل وارد کند.

در پایان، کارکنان از مدیرعامل خواسته‌اند در شرایطی که جان انسان‌ها و آزادی‌های مدنی در معرض خطر است، مطابق ارزش‌های اولیه شرکت عمل کند و با ورود به پروژه‌های محرمانه نظامی مخالفت کند.