یک عکس ویروسی از پاپ فرانسیس که با یک ژاکت پفی شیک Balenciaga و صلیب جواهری تزئین شده است، در رسانه های اجتماعی گردش می کند و میلیون ها بازدید در توییتر، ردیت و موارد دیگر را به خود اختصاص داده است.
فقط یک مشکل وجود دارد – پاپ هرگز برای عکس نگرفت. این تصویر که در نگاه اول یک عکس به نظر می رسد، در واقع توسط یک برنامه هوش مصنوعی به نام Midjourney تولید شده است.
این تصویر ابتدا در ردیت جمعه گذشته در ساب ردیت r/midjourney ارسال شد. یک روز بعد، این تصویر قبلاً در چندین پلتفرم رسانه های اجتماعی بازنشر شده بود و هزاران نفر را در توییتر فریب داد.
کریسی تیگن، مدل و شخصیت تلویزیونی در توییتر گفت: «من فکر میکردم ژاکت پفی پاپ واقعی است و به آن فکر نکردم. “به هیچ وجه نمی توانم در آینده فناوری زنده بمانم.”
چه کسی پاپ بالنسیاگا را دیپ فیک کرد؟
خالق اصلی، یک کاربر Reddit که توسط u/trippy_art_special مراجعه کرده بود، از آن زمان به حالت تعلیق درآمده است. Buzzfeed News خالق را پابلو خاویر ساکن شیکاگو، یک کارگر ساختمانی 31 ساله معرفی کرد. او از به اشتراک گذاشتن نام خانوادگی خود خودداری کرد، زیرا می ترسید به خاطر ایجاد این تصاویر مورد حمله قرار گیرد.
پابلو خاویر پس از پخش شدن این عکس ها به Buzzfeed News گفت: “من به تازگی غافلگیر شدم.” “من نمی خواستم اینطور منفجر شود.”
پابلو خاویر گفت که از این تصویر برای انتقاد از کلیسا به خاطر هزینههای هنگفت استفاده میکند، اگرچه او هیچ اراده بدی نسبت به پاپ نداشت – «فقط فکر میکردم دیدن پاپ با ژاکت خندهدار خندهدار است».
او گفت: «قطعاً ترسناک است. “مردم با آن می دوند و فکر می کردند واقعی است بدون اینکه آن را زیر سوال ببرند.”
عکسهای پاپ تازهترین مورد از یک سری «دیپفیکهای» متقاعدکننده هستند، رسانههای مصنوعی که از هوش مصنوعی و یادگیری عمیق برای تولید تصاویر یا ویدیوهای جعلی از افرادی استفاده میکنند که هرگز وجود نداشتهاند. چند روز قبل، تصویر جنجالی دیگری از هوش مصنوعی در فضای مجازی منتشر شد، این بار از دستگیری دونالد ترامپ، رئیس جمهور سابق آمریکا.
اگرچه این فناوری متقاعد کننده است، اما هنوز کامل نیست. در اینجا چند نکته در مورد نحوه تشخیص تصاویر هوش مصنوعی فعلی از عکس های واقعی وجود دارد.
نحوه تشخیص تصاویر هوش مصنوعی
تصاویر فعلی هوش مصنوعی در حالی که از دور متقاعد کننده هستند، زمانی که به جزئیات توجه می کنید – به خصوص چشم ها، دست ها و لباس ها – از بین می روند. اینها معمولاً منجر به بدشکل شدن ویژگیهای صورت، نگاه کردن چشمها به جهات مختلف، ناهماهنگی یا از دست دادن گوشوارهها و لوازم جانبی میشوند که تمایل دارند با پوست یا لباس ترکیب شوند.
برای مثال این عکس پاپ را در نظر بگیرید. روی چشمها زوم کنید و ممکن است متوجه چیزی در عینک او شوید – سایهی فریم منحرف شده است، و به نظر میرسد که لنز سمت راست هم در گونهاش ادغام میشود و هم از طریق پلک او میکوبد.
حالا به دست راست او نگاه کنید، در حالی که هوای بالای یک فنجان قهوه معلق و معلق را گرفته است. در ماههای گذشته، هوش مصنوعی برای به تصویر کشیدن دستها تلاش میکرد و اغلب آنها را بهصورت آشفتگیهای چند انگشتی ترسیم میکرد. آخرین نسخه Midjourney این مشکل را برطرف کرده است، اما هنوز در نشان دادن نحوه تعامل انگشتان با محیط با مشکل مواجه است.
این تا حدی به این دلیل است که مولد تصویر با له کردن موضوعات بدون اینکه دقیقاً بداند چگونه با هم هستند کار می کند – هیچ مفهومی از فیزیک یا گرانش ندارد و فنجان شناور و شیشه های ناملموس را توضیح می دهد.
بینندگان با چشمان تیزبین ممکن است متوجه شده باشند که صلیب پاپ نیمی از زنجیر خود را از دست داده است، که به نظر می رسد چین های لباس دور یقه او به یکدیگر می پیچند. خود صلیب نامتقارن و کج است.
در حالی که در اینجا قابل اجرا نیست، یکی از بزرگترین هدایا جستجوی متن در تصویر است. همانطور که در حال حاضر است، به نظر می رسد تولید کننده های تصویر هوش مصنوعی نمی توانند نوشتن را تکرار کنند. در عوض هر متنی به صورت خط خطی ناخوانا بیرون می آید.
در نهایت به قسمت عنوان و نظر پست نگاهی بیندازید. مردم در مورد آن چه می گویند؟ همچنین میتوانید با جستجوی عکس معکوس، مکان دیگری را که تصویر استفاده شده است جستجو کنید. این می تواند به شما در مورد هر مقاله یا متخصصی که تصویر را فراخوانی می کند هشدار دهد.
با این حال ممکن است این نکات به زودی منسوخ شوند. فناوری هوش مصنوعی با سرعتی سرسام آور در حال توسعه است و در همه این دام ها بهبود خواهد یافت. محققان در حال کار بر روی سیستمهای تشخیص هستند، اما به نظر میرسد بسیاری از این سیستمهای موجود فقط گاهی دقیق هستند.
همانطور که دیپ فیک ها با گذشت زمان به طور فزاینده ای متقاعد کننده تر می شوند، یک چیز مشخص شده است: دیدن دیگر باور کردن نیست.
به گفتگو بپیوندید