Yapay zeka tarafından oluşturulan kabarık papaz görüntüsü, Papa Francis'in yeni uyarısına ilham verdi

Papa Francis'in kabarık paltolu gerçekçi bir yapay zeka görüntüsü geçen yıl sosyal medyada viral hale geldikten sonra, Papa'nın kendisi de bunu fark etmiş görünüyor. Reuters. A haberler Francis, 58. Dünya Sosyal İletişim Günü için şöyle yazıyor: “Günümüzde 'deepfake' kullanan, yani doğru gibi görünen ancak doğru gibi görünen görüntülerin oluşturulması ve dağıtılmasıyla ortaya çıkan sahte haber biçimindeki uzun süredir devam eden dezenformasyon sorunu üzerinde düşünmeliyiz. akla yatkın ama yanlış (ben de buna maruz kaldım).”

Papa ayrıca sesli mesajlara karşı da uyarıda bulunuyor ve şöyle devam ediyor: “Bir kişinin asla söylemeyeceği şeyleri söylemek için sesini kullanmak.” “Bu projelerin arkasındaki simülasyon teknolojisi belirli alanlarda yararlı olabilir, ancak başkalarıyla ve gerçeklikle ilişkimizi bozduğunda sapkın hale gelir.”

Mart 2023'te Twitter kullanıcısı “skyferrori”, Papa Francis'in uzun beyaz bir şişme palto giydiği ikna edici sahte bir fotoğrafını oluşturmak için Midjourney v5 fotoğraf kolaj hizmetini kullandı. Serviste yayınladım. Hızla viral hale geldi ve bugün 197.000 beğeni ve 28,1 milyon izlenme sayısına ulaştı. Pek çok kişi bunun gerçek bir fotoğraf olduğunu düşünüyordu ve çevrimiçi ortamda geniş kitleleri kandıran, yapay zeka tarafından oluşturulan ilk görüntülerden biri olması açısından dikkate değerdi.

O zamanlar Ars Technica forumlarında “thrilcore” adlı bir yorumcu “Bu tartışmayı bir arkadaşımla yapıyordum ve açıkçası bunun sahte olduğunu düşünmüyorum” diye yazmıştı. “Geçen gün Papa Francis'in tutumlu bir adam olduğunu ve Vatikan'ın zenginliğiyle gösteriş yapmadığını okumuş olsam da bunun gerçek olduğunu düşündüm. Dün komikti, şimdiyse kesinlikle dehşet verici.”

2022'de Stabil Difüzyon'un piyasaya sürülmesinden bu yana, sosyal güveni zedeleyen, çevrimiçi dünyaya gürültü katarak bilgi kalitesini düşüren ve çevrimiçi tacizi körükleyen derin sahtekarlıkları ve endişeleri sıklıkla ele aldık. Tarihi rekor kırılıyor. Filigran teknolojisinin genellikle güvenilmez olduğu düşünüldüğü ve meta veri etiketleme şemaları henüz geniş çapta desteklenmediği için bu çözülmemiş bir sorundur. Temel olarak, çevrimiçi ortamda gördüklerimize güvenme yeteneğimiz, elçiye ne kadar güvendiğimize bağlıdır.

Papa, “Dünya Barış Günü nedeniyle son mesajımı adadığım yapay zeka sistemlerinin gelişimi, bilgi ve iletişim dünyasını ve dolayısıyla toplum yaşamının bazı temellerini ciddi şekilde etkiliyor” diye uyardı. “Bu değişiklikler sadece bu alanlardaki profesyonelleri değil herkesi etkiliyor. İşlevleri ve yetenekleri çoğumuzun anlayışının ve takdirinin ötesinde olan şaşırtıcı yeniliklerin hızla yayılması, hem heyecan verici hem de kafa karıştırıcı oldu.”