هشدار سازمان ملل درباره خطرات گسترش بدون کنترل هوش مصنوعی

یک هیئت مستقل سازمان ملل متحد هشدار داد سرعت پیشرفت هوش مصنوعی از درک علمی و توان دولت‌ها برای تنظیم‌گری مؤثر پیشی گرفته و هنوز تضمینی وجود ندارد که این فناوری، با افزایش قابلیت‌ها، به آسیب‌های گسترده یا حتی فاجعه‌بار منجر نشود.

به گزارش رویترز، این هیئت که متشکل از ۴۰ متخصص بین‌المللی است، در نخستین ارزیابی مستقل جهانی خود از خطرها و فرصت‌های هوش مصنوعی اعلام کرد پیچیدگی وظایفی که این سیستم‌ها قادر به انجام آن هستند، هر چهار تا هفت ماه دو برابر می‌شود.

بر اساس گزارش، هوش مصنوعی اکنون در برخی حوزه‌های ریاضی و علمی توان استدلال در سطح متخصصان را نشان می‌دهد و می‌تواند روندهایی مانند توسعه دارو و واکسن را سرعت دهد.

اما همین پیشرفت، نگرانی‌هایی درباره سیستم‌های «عامل‌محور» ایجاد کرده است؛ سیستم‌هایی که می‌توانند وظایف واقعی را مستقل‌تر انجام دهند. هیئت سازمان ملل از خطر فریبکاری، از دست رفتن کنترل انسانی، تولید اطلاعات نادرست، کلاهبرداری، حملات سایبری و حتی سوءاستفاده‌های بیولوژیک هشدار داده است.

آنتونیو گوترش، دبیرکل سازمان ملل، نیز از دولت‌ها خواست تا سریعاً اقدام کنند. گوترش گفت جهان نمی‌تواند چیزی را که نمی‌فهمد، اداره کند و هزینه انتظار در حال افزایش است.

در آمریکا، دولت ترامپ در هفته‌های اخیر کوشیده است نشان دهد تنظیم‌گری هوش مصنوعی را به‌ویژه از منظر امنیت ملی جدی می‌گیرد.

رویترز گزارش داد وزارت بازرگانی آمریکا محدودیت‌هایی را که بر مدل‌های پیشرفته شرکت آنتروپیک، اعمال شده بود، پس از کمتر از سه هفته برداشت؛ محدودیت‌هایی که به دلیل نگرانی از خطرهای امنیتی و احتمال سوءاستفاده از این مدل‌ها وضع شده بود.

آنتروپیک پیش‌تر دسترسی به پیشرفته‌ترین مدل‌های خود را پس از دستور دولت آمریکا برای همه کاربران متوقف کرده بود.

گزارش‌ها می‌گویند واشنگتن پس از همکاری با شرکت برای ارزیابی و تقویت تدابیر حفاظتی، اجازه بازگشت بخشی از دسترسی‌ها را داد. این نمونه نشان می‌دهد دولت ترامپ تلاش دارد میان حفظ برتری فناوری آمریکا و جلوگیری از تبدیل مدل‌های پیشرفته به ابزار تهدید سایبری یا نظامی توازن ایجاد کند.