Google çalışanları, Bard AI’nın “yararsızdan daha kötü” olduğunu söylüyor, etik kaygılar göz ardı ediliyor – Ars Technica

Dışarıdan Google Bart, ChatGPT ile rekabet etmeye çalışan acele bir ürün gibi görünüyor ve bazı Google çalışanları da bu duyguları paylaşıyor. dan yeni bir rapor Bloomberg 18 mevcut ve eski çalışanla yapılan röportajlar, Google’ın “yetkisizleştirilmiş ve morali bozuk” AI etik ekipleri hakkındaki olumsuz yorumları ve endişeleri gerekçe göstererek Bard’ı ortaya çıkarmasına yol açtı.

Rapora göre, Google çalışanlarından geri bildirimleri için Bard ön sürümünü test etmeleri istendi. Bloomberg tarafından görülen dahili tartışmalar Bard’ı “korkunç” ve “patolojik bir yalancı” olarak nitelendirdi. Bir uçağın nasıl indirileceği sorulduğunda, bir kazaya yol açan yanlış talimatlar verdi. Bir çalışan tüplü dalış talimatları istedi ve bunun “ciddi yaralanma veya ölümle sonuçlanabileceği” söylendi. Bir çalışan, Bard’ın sorunlarını Şubat ayında “Bard işe yaramazdan da kötü: lütfen başlama” başlıklı bir gönderide ele aldı. Bart, Mart ayında piyasaya sürüldü.

Yapay zeka rakibi Google’ın peşinden koştuğu OpenAI’nin ChatGPT’si hakkında söylenebilecek çok şey var. Her ikisi de önyargılı veya yanlış bilgiler verebilir ve yanlış cevaplar varsanı verebilir. Google, ChatGPT’nin çok gerisindedir ve şirket, ChatGPT’nin insanların bir Google aramasına yazabilecekleri soruları yanıtlama yeteneği karşısında paniğe kapılır. ChatGPT’nin yaratıcısı OpenAI, AI güvenliği ve etiği konusunda gevşek bir yaklaşıma sahip olduğu için eleştirildi. Artık Google kendisini zor durumda buluyor. Şirketin tek derdi borsayı yatıştırmak ve ChatGPT’ye yetişmek ise, etik sorunları göz önünde bulundurarak yavaşlarsa bunu yapamaz.

Eski bir Google yöneticisi ve Signal Vakfı başkanı Meredith Whittaker, Bloomberg’e, Google’da “Yapay zeka etiğinin arka planda kaldığını” ve “etiğin kâr ve büyümeden önce gelmemesi durumunda, sonunda işe yaramayacağını” söyledi. Google’ın AI etik liderlerinden birkaçı son yıllarda kovuldu veya şirketten ayrıldı. Bloomberg bugün, Google’daki AI etik incelemelerinin “neredeyse tamamen gönüllü” olduğunu söylüyor.

Etik sorunlar nedeniyle sürümleri yavaşlatmak için Google’da yapabileceğiniz bir şey olsa da, bu sizin hayatınız için iyi olmayacaktır. Raporda, “Eski bir çalışan, makine öğrenimi üzerinde dürüstçe çalışmaları gerektiğini söyledi ve performans değerlendirmelerini etkileyecek kadar rutin olarak cesaretleri kırıldı. Yöneticiler, bunun ‘gerçek işlerine’ müdahale ettiğini protesto etti.”