با نزدیک شدن به انتخابات ریاست جمهوری آمریکا در سال ۲۰۲۴ میلادی، یکی از فناوری‌های مبتنی بر هوش مصنوعی به چالش مهمی در این عرصه تبدیل شده است.
به گزارش خبرگزاری رویترز، «دیپ‌فیک» یا تولید تصویر و فیلم واقع‌گرایانه، ولی جعلی و ساختگی، از مدتی پیش از سوژه‌های داغ در فضای مجازی محسوب می‌شود.
این نرم‌افزارها یا اپلیکیشن‌ها با استفاده از هوش مصنوعی، به راحتی می‌توانند فیلم‌‌ها و تصاویر جعلی از شخصیت‌ها و چهره‌های مختلف، حتی سیاستمداران ارائه دهند که ساختگی هستند.
اخیراً ویدئویی غافلگیرکننده از هیلاری کلینتون، وزیر امور خارجه اسبق آمریکا، در فضای مجازی منتشر شده است که ضمن تمجید از ران دسانتیس، از متقاضیان نامزدی حزب جمهوری‌خواه برای انتخابات ریاست جمهوری ایالات متحده، او را شخصی توصیف می‌کند که کشور به آن نیاز دارد.
جو بایدن، رئیس جمهوری آمریکا، در ویدئویی شوکه‌کننده دیگری با توهین به یک فرد تراجنسیتی، می‌گوید که او هرگز یک زن واقعی نخواهد بود.
دیپ‌فیک‌های هیلاری کلینتون و جو بایدن، ویدئوهای واقع‌گرایانه و در عین حال، ساختگی که توسط الگوریتم‌های هوش مصنوعی آموزش‌دیده از فیلم‌های موجود در اینترنت ساخته شده‌اند، نمونه‌هایی از هزاران ویدئویی هستند که در شبکه‌های اجتماعی، مرزهای میان واقعیت و داستان را در دنیای قطبی شده سیاست آمریکا محو می‌کنند.
گروهی از کارشناسان متخصص در زمینه هوش مصنوعی، اطلاعات نادرست اینترنتی، و فعالیت‌های سیاسی به رویترز گفته‌اند که چنین فناوری در گذشته نیز وجود داشته ولی به واسطه ابزار جدید «هوش مصنوعی مولد»، ساختن دیپ‌فیک‌های با کیفیت، ساده‌تر و ارزان‌تر آسان‌تر شده است.
او می‌افزاید که ممکن است نمونه‌هایی از این دیپ‌فیک‌ها، درست پیش از انتخابات منتشر شود و فرصتی برای حذف آنها نباشد.
آزا راسکین، یکی از بنیانگذاران مرکز فناوری انسانی، یک سازمان غیرانتفاعی که تأثیر فناوری بر جامعه را مطالعه می‌کند، می‌گوید: «ابزارهایی که می‌توانند دیپ‌فیک تولید کنند، با حفاظ‌های کم یا ناقص برای جلوگیری از اطلاعات غلط و مضر منتشر می‌شوند، زیرا بخش فناوری درگیر مسابقه تسلیحاتی هوش مصنوعی است.»
دونالد ترامپ، رئیس‌جمهوری سابق، که با دسانتیس و دیگران برای نامزدی جمهوری‌خواهان برای رویارویی با بایدن رقابت خواهد کرد، اوایل این ماه، ویدئویی از اندرسون کوپر، مجری شبکه سی‌ان‌ان، را در پلتفرم رسانه اجتماعی‌اش؛ «تروث» به اشتراک گذاشت.
آقای کوپر در این دیپ‌فیک، ضمن ستایش عملکرد دونالد ترامپ در تاون هال ریاست جمهوری سی‌ان‌ان، به شبکه تلویزیونی خود ناسزا می‌گوید. به گفته سی‌ان‌ان، این ویدئو، ساختگی است.
نماینده دونالد ترامپ به درخواست خبرگزاری رویترز برای اظهار نظر در این مورد پاسخ نداده، ولی این کلیپ هنوز در حساب کاربری پسر آقای ترامپ در دسترس است.
در شرایطی که پلت‌فرم‌های رسانه‌های اجتماعی بزرگ مانند فیس‌بوک، توییتر، و یوتیوب تلاش‌هایی را برای ممنوع کردن و حذف دیپ‌فیک‌ها انجام داده‌اند، اثربخشی آنها در نظارت بر چنین محتوایی متفاوت است.
به گفته «دیپ‌مدیا»، شرکتی که روی ابزارهایی برای شناسایی رسانه‌های مصنوعی کار می‌کند، در مقایسه با سال گذشته، امسال دیپ‌فیک‌های ویدیویی از همه نوع، سه برابر، و دیپ‌فیک‌های شنیداری، هشت برابر در فضای مجازی بیشتر شده است.
این شرکت تخمین می‌زند که در مجموع، در سال ۲۰۲۳ میلادی، حدود پانصد هزار دیپ‌فیک ویدیویی و شنیداری در سایت‌های رسانه‌های اجتماعی در سراسر جهان به اشتراک گذاشته خواهد شد.
شبیه سازی صدایی با استفاده از هوش مصنوعی که تا اواخر سال گذشته ۱۰ هزار دلار هزینه داشت، حالا توسط برخی استارتاپ‌ها فقط با چند دلار عرضه می‌شود.
به گفته برخی کارشناسان، هیچ کس مطمئن نیست که جاده مولد هوش مصنوعی به کجا منتهی می‌شود یا چگونه می‌توان به طور موثر با قدرت آن برای انتشار اطلاعات نادرست جمعی مقابله کرد.
شرکت «اپن ای‌آی» که با انتشار «چت جی‌پی‌تی» به نوعی رهبر این صنعت محسوب می‌شود نیز با مشکلات مشابهی مواجه است. سام آلتمن، مدیر عامل این شرکت اخیراً در کنگره آمریکا گفت که یکپارچگی انتخابات «منطقه قابل توجهی از نگرانی» است و خواستار تنظیم سریع قوانینی در این زمینه شد.
بر اساس تحلیل رویترز، از شرایط استفاده از محصولات برخی شرکت‌های پیشرو ارائه دهنده خدمات هوش مصنوعی مولد، بر خلاف برخی استارتاپ‌های کوچک‌تر، شرکت اپن ای‌آی اقداماتی را برای محدود کردن استفاده از محصولات خود در حوزه سیاست انجام داده است.
با این حال، نرده‌های محافظ دارای شکاف هستند.
برای مثال، اپن ای‌آی می‌گوید که تولیدکننده، تصویر «دالی-ایی» خود را از ایجاد شخصیت‌های عمومی منع می‌کند. زمانی که رویترز تلاش کرد تصاویری از ترامپ و بایدن بسازد، این درخواست مسدود، و پیامی ظاهر شد که «ممکن است از خط مش محتوای ما پیروی نکند.»
با این حال، رویترز توانست تصاویری از دست کم ده‌ها سیاستمدار آمریکایی دیگر از جمله مایک پنس، معاون پیشین رئیس جمهور، که او نیز در حال ارزیابی نامزدی کاخ سفید برای سال ۲۰۲۴ است، ایجاد کند.
اپن ای‌آی همچنین هرگونه استفاده «مقیاس» از محصولات خود را برای اهداف سیاسی محدود می‌کند. برای مثال، استفاده از هوش مصنوعی برای ارسال ای‌میل‌های شخصی‌سازی‌شده انبوه به افراد را ممنوع می‌کند.
این شرکت که توسط مایکروسافت حمایت می‌شود، در مصاحبه‌ای با رویترز رویکردهای سیاسی خود را توضیح داد، اما به درخواست‌های بیشتر برای اظهار نظر درباره شکاف‌های اجرایی در سیاست‌هایش، مانند مسدود کردن ایجاد تصویر از سیاستمداران، پاسخی نداد.
در همین حال، چندین استارتاپ کوچک‌تر هیچ محدودیت صریحی برای محتوای سیاسی ندارند.
