درخواست ایلان ماسک و دیگر رهبران فناوری برای توقف هوش مصنوعی

به گزارش «پارسینه»، بیش از ۱۱۰۰ نفر از رهبران دانش و فناوری، از جمله ایلان ماسک و استیو وزنیاک، همبنیان گذار اپل، نامه سرگشاده‌ای را امضا کرده‌اند که از همه آزمایشگاه‌های هوش مصنوعی می‌خواهد فوراً و حداقل به مدت ۶ ماه آموزش سیستم‌های هوش مصنوعی قوی‌تر از «جی پی تی ۴» (GPT-۴) را متوقف کنند.
به نوشته «تک کرانچ»، در این نامه آمده است:

اکنون سیستم‌های هوش مصنوعی معاصر در حال تبدیل شدن به رقیب انسان در وظایف عمومی هستند، و ما باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را پر از تبلیغات و [اطلاعات]نادرست کنند؟ آیا باید تمام مشاغل، از جمله شغل‌های راضی کننده را خودکار کنیم؟ آیا باید ذهن‌های غیرانسانی را پرورش دهیم که ممکن است در نهایت از ما بیشتر و باهوشتر شوند و ما ر ا منسوخ کنند و جایمان را بگیرند؟ آیا باید در خطر از دست دادن کنترل تمدن خود باشیم؟ چنین تصمیماتی نباید به رهبران غیرانتخابی فناوری واگذار شود. سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن‌ها مثبت و خطرات آن‌ها قابل مدیریت خواهد بود.

این نامه استدلال می‌کند که «سطحی از برنامه‌ریزی و مدیریت» وجود دارد که «روی نمی‌دهد» و در عوض، در ماه‌های اخیر، « آزمایشگاه‌های هوش مصنوعی » بدون نام «در یک مسابقه خارج از کنترل برای توسعه و استفاده بیشتر از ذهن‌های دیجیتالی قدرتمندتر که هیچ‌کس - حتی سازندگان آن‌ها - نمی‌توانند آن‌ها را بفهمند، پیش‌بینی کنند یا به‌طور قابل اعتماد کنترل کنند»، درگیر شده اند.

امضاکنندگان نامه که برخی از آن‌ها متخصصان هوش مصنوعی هستند، می‌گویند توقفی که درخواست می‌کنند باید «علنی و قابل تأیید باشد و همه بازیگران کلیدی را شامل شود». در این نامه آمده است: اگر این توقف «نمی‌تواند به سرعت اجرا شود، دولت‌ها باید وارد عمل شوند و تعلیق را وضع کنند.»

این نامه قطعا هم به دلیل افرادی که آن را امضا کرده اند، که شامل برخی از مهندسان متا و گوگل و افرادی که در صنعت فناوری نیستند، از جمله یک برقکار و یک متخصص زیبایی می‌شود - و کسانی که امضاء نکرده اند جالب است. برای مثال، هیچ کس از «اوپن‌ای آی»، شرکت توسعه دهنده «جی پی تی-۴»، این نامه را امضا نکرده است. همچنین کسی از آنتروپیک، تیمی که از «اوپن‌ای آی» خارج شده است تا یک ربات چت هوش مصنوعی «ایمن‌تر» بسازد، هم این کار را نکرده است.

روز چهارشنبه، سام آلتمن، مدیر عامل «اوپن‌ای آی» در گفتگو با وال استریت جورنال اظهار داشت که «اوپن‌ای آی» آموزش «جی پی تی ۵» را شروع نکرده است. آلتمن همچنین خاطرنشان کرد که این شرکت مدت‌هاست که اولویت را به ایمنی در توسعه داده است و پیش از راه اندازی «جی پی تی-۴» بیش از شش ماه را برای انجام آزمایش‌های ایمنی روی آن صرف کرده است. او درباه نامه گفت: «این به نوعی کاسه داغتر از آش شدن است. فکر می‌کنم ما در مورد این موضوعات با صدای بلند، با بیشترین شدت و در بیشترین زمان حرف زده ایم.»

آلتمن در ژانویه گفته بود که شروع محصولات هوش مصنوعی الان معنا دارد که ریسک‌ها هنوز نسبتاً کم است، نه چند سال دیگر که کل صنعت درگیر آن خواهد شد بدون آنکه جامعه فرصتی برای به روز رسانی خود داشته باشد.