دیپ فیک ها ویدئوها، تصاویر، صدا یا متنی هستند که معتبر به نظر می رسند اما شبیه سازی های کامپیوتری هستند که برای گمراه کردن و تاثیرگذاری بر افکار عمومی طراحی شده اند.
در این مطالعه که اخیراً در ژورنال Vision Research منتشر شده است، بیان شده است که افراد سعی کردند یک جعلی عمیق را تشخیص دهند و با استفاده از اسکن مغزی الکتروانسفالوگرافی (EEG) مورد ارزیابی قرار گرفتند.
به گفته دانشمندان، از جمله دانشمندان دانشگاه سیدنی در استرالیا، مغز این افراد در حدود 54 درصد مواقع به درستی جعلی عمیق را تشخیص داده است.
با این حال، هنگامی که از این گروه خواسته شد که به صورت شفاهی همان جعل عمیق را شناسایی کنند، میزان موفقیت آنها تنها 37 درصد بود.
توماس کارلسون، یکی از نویسندگان این مطالعه از دانشگاه سیدنی، گفت: “اگرچه دقت مغز در این مطالعه پایین است – 54٪ – اما از نظر آماری قابل اعتماد است. این به ما می گوید که مغز می تواند تفاوت بین تصاویر واقعی و جعلی را تشخیص دهد.
آیا می توانید حقیقت را از جعلی عمیق تشخیص دهید؟ محققان Sydney Science دریافته‌اند که مغز قادر به تشخیص چهره‌های ساختگی ایجاد شده توسط هوش مصنوعی است، حتی زمانی که چشم نمی‌تواند.
این به آشکار شدن مواضع جدید در مبارزه با انتشار اطلاعات نادرست کمک می کند.
در حال حاضر تعداد فزاینده ای از ویدئوهای فریب عمیق آنلاین وجود دارد، از محتوای صریح و غیر توافقی گرفته تا رسانه های جعلی که توسط رقبای خارجی در کمپین های اطلاعات نادرست استفاده می شود.
به عنوان مثال، در آغاز تهاجم روسیه به اوکراین، ویدئویی به شدت جعلی از ولودیمیر زلنسکی، رئیس‌جمهور اوکراین که از سربازانش می‌خواست تسلیم نیروهای روسیه شوند، در شبکه‌های اجتماعی دست به دست شد.
در حالی که دانشمندان در سراسر جهان در تلاش برای یافتن راه‌های جدیدی برای تشخیص جعلی‌های عمیق هستند، محققان مطالعه جدید گفتند یافته‌های آنها می‌تواند شروعی برای مبارزه با چنین محتوای جعلی آنلاین باشد.
دکتر کارلسون گفت: «اگر بتوانیم بفهمیم مغز چگونه تقلبی‌های عمیق را تشخیص می‌دهد، از این اطلاعات برای توسعه الگوریتم‌هایی برای شناسایی جعلی‌های عمیق احتمالی که در پلتفرم‌های دیجیتالی مانند فیس‌بوک و توییتر ارسال می‌شوند، استفاده خواهیم کرد.
در این مطالعه جدید، به شرکت‌کنندگان 50 تصویر از چهره‌های واقعی و جعلی تولید شده توسط رایانه نشان داده شد و از آنها خواسته شد تا بگویند که هر کدام کدام نوع هستند.
آنها به گروه دیگری از شرکت کنندگان همان تصاویر را نشان دادند و فعالیت مغزی آنها را با استفاده از الکتروانسفالوگرافی ثبت کردند بدون اینکه به آنها بگویند که نیمی از تصاویر جعلی هستند.
با مقایسه این دو نتیجه، دانشمندان دریافتند که مغز افراد در تشخیص تقلبی های عمیق بهتر از چشمان آنها عمل می کند.
اما دانشمندان هشدار دادند که یافته‌ها “فقط یک نقطه شروع” هستند و گفتند اعتبار بیشتری برای نتایج مورد نیاز است.
دکتر کارلسون گفت: تحقیقات بیشتری باید انجام شود. چیزی که ما را امیدوار می‌کند این است که جعل عمیق تولید برنامه‌های رایانه‌ای است و این برنامه‌ها «اثرانگشت» قابل شناسایی بر جای می‌گذارند.
منبع: ایندیپندنت