Google, AI aracı Gemini'nin tarihsel hatalardan sonra insan görselleri oluşturma yeteneğini askıya aldı

Resim Kredisi: Kenzo Tripoilard / Getty Images

Google, insan tasvirleri içeren yayınların tarihsel doğruluğunu iyileştirmek için teknolojiyi güncellemeye çalışırken, Gemini'nin ana üretken AI model paketinin yeteneğini geçici olarak durdurduğunu söyledi.

A Posta Şirket, sosyal medya platformu X'te, tarihsel yanlışlıklarla ilgili “son sorunları” çözmek için çalıştığını yazarak, insan görselleri oluşturmaya “duraklama” duyurdu.

“Bunu yaparken insanların resim oluşturmasını duraklatacağız ve güncellenmiş sürümü yakında yeniden yayınlayacağız” diye ekledi.

Google bu ayın başlarında Gemini görsel oluşturma aracını başlattı. Ancak tarihi şahsiyetlerin uygunsuz görsellerini yaratma örnekleri de yolunu buluyor Sosyal medyada Son günlerde, Amerika'nın kurucu babalarının (Amerikan Kızılderili, siyahi veya Asyalı olarak tasvir edilenler gibi) görüntüleri eleştirilere ve hatta alay konusu oldu.

yazıya yazıyorum LinkedInParis merkezli risk sermayedarı Michael Jackson bugün bu yığına katıldı ve Google'ın yapay zekasını “aptal bir DEI parodisi” olarak damgaladı. (DEI 'Çeşitlilik, Eşitlik ve Katılım' anlamına gelir.)

A Dün X'te yayınlaGoogle, yapay zekanın “bazı tarihsel görüntü oluşturma işlemlerinde hatalar” yaptığının “farkında” olduğunu doğruladı ve bir açıklamada şunu ekledi: “Bu tür görüntülemeleri derhal iyileştirmek için çalışıyoruz. Gemini'nin Al Image nesli, çeşitlilik yaratıyor Nüfus Dünyanın her yerindeki insanlar bunu genel olarak kullanıyor Bu iyi bir nokta ama burada asıl noktayı kaçırıyor.

Üretken yapay zeka araçları, eğitim verilerine ve model ağırlıkları gibi diğer parametrelere dayalı olarak çıktılar üretir.

Bu tür araçlar, oldukça homojen yollarla taraflı çıktılar ürettiği için sıklıkla eleştirilere maruz kalır. Kadınların açıkça cinselleştirilmiş görüntüleri veya istemlere yanıt vererek Beyaz adam resimlerinin yer aldığı üst düzey iş rolleri.

Google tarafından geliştirilen daha önceki bir AI görüntü sınıflandırma aracı, 2015 yılında siyah erkekleri yanlışlıkla goril olarak sınıflandırdığında öfkeye neden olmuştu. Şirket sorunu çözeceğine söz verdi ancak kablolu Birkaç yıl sonra, bu 'düzeltme' çok güzel bir düzeltmeydi: Google, teknolojinin gorilleri tanımasını engelledi.