به گزارش ایسنا به نقل از اسپکتروم، یکی از مرموزترین و پیچیده‌ترین ابعاد منفی هوش مصنوعی، تولید نرم‌افزارهای تغییر واقعیت یا Deep Fake است.

اصطلاح Deep Fake یا جعل عمیق، یک تکنیک برای ترکیب تصویر انسان مبتنی بر هوش مصنوعی است. در این فناوری با استفاده از تکنیک موسوم به شبکه مولد تخاصمی یا GAN تصاویر و فیلم‌های یک شخص معروف را بر روی تصاویر یا فیلم‌های منبع قرار می‌دهند.

هدف از ساخت ویدئوهای جعل عمیق نشان دادن فرد یا گروهی درحال انجام یک کار یا موقعیتی مشخص است که هرگز در واقعیت اتفاق نیفتاده است.

برای مثال چنین فیلم‌های تقلبی‌ای می‌تواند فرد را در حال انجام اقدامات ناشایستی نشان دهد که هرگز در آن شرکت نکرده است یا می‌تواند برای تغییر کلمات یا حرکات یک سیاستمدار مورد استفاده قرار گیرد تا به نظر برسد آن فرد چیزی را گفته که هرگز انجام نداده است.

به دلیل وجود این پتانسیل‌های مخرب، جعل عمیق می‌تواند برای اخبار جعلی و کلاهبرداری‌های مخرب استفاده شود.

متأسفانه ابعاد هوش مصنوعی تا جایی پیشرفت کرده است که امروزه سیاستمداران آمریکایی نگران این مسئله هستند که چگونه می‌توانند از ابعاد منفی هوش مصنوعی در انتخابات آینده آمریکا جلوگیری کنند.

به گفته کارشناسان، مقایسه اولین ویدئوهای جعل عمیق با جدیدترین آنها که به صورت ناشناس در اینترنت منتشر می‌شود، نشان‌دهنده این واقعیت غیرقابل انکار است که کیفیت ادغام تصاویر روز به روز در حال افزایش است و همین مسئله می‌تواند افراد معروف و سیاستمداران صاحب نام را مانند یک عروسک خیمه شب‌بازی در اختیار افراد و گروه‌های سودجو قرار دهد.

در حال حاضر شرکت Deep Trace با مدیریت جورجیو پاترینی و با هدف تشخیص ویدئوهای جعل عمیق در هلند تأسیس شده است. جورجیو پاترینی قبل از تأسیس شرکت ردیابی عمیق در بخش تحقیقات یادگیری عمیق دانشگاه آمستردام مشغول به فعالیت بوده است.

وی معتقد است که در حال حاضر جعل عمیق به عنوان یک موج ضد امنیت در شبکه جهانی اینترنت شناخته می‌شود، چرا که افراد یا گروه‌های سودجو با ارائه ویدئوهای ساختگی می‌توانند تأثیرات منفی در جامعه هدف ایجاد کنند.

پاترینی در سال ۲۰۱۸ تصمیم گرفت با همکاری گروهی از دوستانش، اولین شرکت تحقیقاتی برای طراحی و تولید نرم‌افزارهای تشخیص ویدئوهای تقلبی را در جهان تأسیس کند.

طبق آمار جمع‌آوری شده توسط این شرکت، در حال حاضر بیش از ۸۰۰۰ ویدئوی جعل عمیق از بازیگران معروف زن در اینترنت منتشر شده است.

آقای پاترینی معتقد است که انتخابات آینده آمریکا احتمالاً هدف موج بعدی حملات جعل عمیق خواهد بود، هرچند که تیم تحقیقاتی شرکت Deep Trace با طراحی نرم‌افزارهای مبتنی بر هوش مصنوعی در تشخیص واقعیت کوتاهی نخواهد کرد.

انتهای پیام