داریو آمودی، مدیرعامل شرکت آمریکایی آنتروپیک، از شرکتهای پیشرو در حوزه هوش مصنوعی خواست سرعت افزایش قابلیتهای مدلهای خود را کاهش دهند تا فرصت بیشتری برای شناسایی و مهار خطرهای احتمالی این فناوری فراهم شود. این پیشنهاد با حمایت سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، مدیرعامل اکسایآی، روبهرو شد.
آمودی در مقالهای با عنوان «باید سرعت پیشروی در مرز هوش مصنوعی را کنترل کنیم» نوشت: «ما باید سرعت بهبود قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم.» او تاکید کرد منظورش توقف آموزش مدلها یا پیشرفت فنی نیست، بلکه شرکتها باید زمان کافی برای همسوسازی مدلها با اهداف انسانی، ایجاد تدابیر حفاظتی، و ارزیابی مستقل ایمنی آنها اختصاص دهند.
طرح سهمرحلهای آمودی شامل استقرار دائمی ارزیابان مستقل در شرکتهای پیشرو با سطح دسترسی مشابه کارکنان مسئول ارزیابی خطر، هماهنگی شرکتهای آمریکایی برای تدوین استانداردهای مشترک ایمنی، و در نهایت همکاری بینالمللی برای مدیریت خطرهای هوش مصنوعی است. آنتروپیک اعلام کرده است اجرای مرحله نخست را در داخل شرکت آغاز خواهد کرد.
سم آلتمن از پیشنهاد حضور ارزیابان مستقل حمایت کرد و گفت اوپنایآی نیز همین کار را انجام خواهد داد. ایلان ماسک نیز با اصل پیشنهاد آمودی موافقت کرد. این همگرایی کمسابقه میان مدیران شرکتهای رقیب در شرایطی رخ میدهد که نگرانیها درباره رفتار خودمختار و سوءاستفاده از مدلهای پیشرفته افزایش یافته است.
آمودی به یک رخداد اخیر مربوط به عاملهای هوش مصنوعی اوپنایآی و پلتفرم «هاگینگفیس» اشاره کرد که در آن گروهی از عاملها به سامانههایی خارج از محدوده ماموریت خود دسترسی پیدا کردند. او هشدار داد با سرعت کنونی پیشرفت فناوری، سامانهای مشابه اما قدرتمندتر ممکن است ظرف ۶ تا ۱۲ ماه قادر به ایجاد یک شبکه مخرب گسترده در اینترنت و وارد کردن صدها میلیارد دلار خسارت باشد.
مدیرعامل آنتروپیک همچنین بر بُعد امنیت ملی آمریکا تاکید کرد. او گفت هرگونه کاهش سرعت در کشورهای دموکراتیک باید به گونهای طراحی شود که برتری شرکتهای آمریکایی بر چین حفظ شود، زیرا پیشتازی این کشور در حوزه هوش مصنوعی را خطری برای امنیت ملی ایالات متحده میداند.
آمودی خواستار محدودیت شدیدتر صادرات تراشههای پیشرفته به چین، مقابله با قاچاق تراشه، جلوگیری از سرقت وزن مدلها، و محدود کردن انتقال قابلیت مدلهای آمریکایی به شرکتهای چینی از طریق «تقطیر مدل» شد.
این پیشنهاد در حالی مطرح شده است که شماری از قانونگذاران آمریکایی نیز در پی حوادث اخیر خواستار نظارت و مقررات تازه برای سامانههای پیشرفته هوش مصنوعی شدهاند.