Bir Zamanlar … Vardı Janina Gavankar’ın canlandırdığı, Microsoft’un ilk arama motoru girişimiyle ilgili sorularınızda size yardımcı olan çekici bir kütüphaneci olan Bayan Dewey adlı bir sanal asistan. Bayan Dewey, 2006 yılında piyasaya sürüldü ve 600’den fazla kayıtlı diyalog satırıyla tamamlandı. Birkaç yönden zamanının ilerisindeydi, ancak özellikle gözden kaçan bir örnek, 2013 yılında bilgi uzmanı Miriam Sweeney tarafından ele geçirildi. doktora teziDewey’in yanıtlarının cinsiyetçi ve ırksallaştırılmış sonuçlarını detaylandırdığı yer. Bu, “Hey, bilgisayarına girebilirsen, bana ne istersen yapabilirsin” gibi satırlar içeriyordu. Ya da “oral seks” araması, oynamak için muz yerken çekilmiş bir klibinin ya da “getto” gibi terimler girmesinin, “Hayır, altındiş, getto-muhteşem mutha-pislik BİP” gibi değerli taşlar içeren sözler içeren bir rap yapmasına neden oldu bu parçanın adımları [ass] BİP.” Sweeney bariz olanı analiz ediyor: Dewey beyaz, heteroseksüel bir erkek kullanıcıya hitap etmek için tasarlandı. O zamanki bloglar, sonuçta Dewey’in çapkınlığını övüyordu..
Bayan Dewey, 2009’da Microsoft tarafından devre dışı bırakıldı, ancak daha sonraki eleştirmenler – ben de dahil – bazı kullanıcıların Siri veya Cortana gibi sanal asistanlarla nasıl etkileşim kurduklarına dair benzer bir önyargı modelini tanımlayacaktı. Microsoft mühendisleri, Cortana’yı cinsel sorguları veya ilerlemeleri kesin bir şekilde reddetmek için programladıklarını açıkladığında, Reddit’te kaynayan bir öfke vardı. Çok beğenilen bir gönderi şöyleydi: “Bu lanet olası insanlar ciddi mi?! ‘Onun’ tüm amacı, insanların ona söylediklerini yapmaktır! Hey kaltak, bunu takvimime ekle … Cortana’nın ‘bağımsız bir kadın’ olduğu gün, yazılımın işe yaramaz hale geldiği gündür. Bu tür davranışlara yönelik eleştiriler, mütevazi muhabiriniz.
Şimdi, geri itmenin ortasında ChatGPT ve benzerlerine karşı sarkaç sert bir şekilde geri döndü ve uyarıldık aykırı bu tür şeylerle empati kurmak. Bu, geçen yılki LaMDA AI fiyaskosunun ardından bir noktaya değinmiştim: Bir botu antropomorfize etmemiz için akıllı olması gerekmiyor ve bu gerçek vurguncular tarafından istismar edilecek. Bu uyarının arkasındayım. Ancak bazıları önermek için daha ileri gitti sanal asistanlarını kötüye kullanan kişilere yönelik daha önceki eleştirilerin, geçmişe bakıldığında naif yetenekler olduğu. Belki de Cortana’ya defalarca “orospu” diyen adamlar bir şeylerin peşindeydi!
Durumun böyle olmadığını öğrenmek sizi şok edebilir. Yapay zekanın kötüye kullanılmasına yönelik geçmiş eleştiriler doğru olmakla kalmadı, aynı zamanda şu anda karşı karşıya olduğumuz daha tehlikeli dijital manzarayı da öngördü. Eleştirinin “insanlar botlara karşı çok acımasız”dan “insanlar onlara karşı çok iyi”ye kaymasının asıl nedeni, yapay zekanın ekonomi politiğinin ve bununla birlikte teknoloji şirketlerinin satış sahalarının aniden ve çarpıcı biçimde değişmesidir. Bir zamanlar robotlar bize mükemmel bir hizmetkar olarak satılırken, şimdi en iyi arkadaşımız olarak bize satılacaklar. Ancak her durumda, her bot nesline verilen patolojik yanıt, dolaylı olarak onları insanlaştırmamızı gerektirdi. Robotun sahipleri her zaman en kötü ve en iyi dürtülerimizi silah haline getirdiler.
Şiddetle ilgili mantığa aykırı bir gerçek, insanlıktan çıkarırken aslında failin seni insan olarak görmek. Bu acı bir gerçek, ancak savaş suçlularından bardaki sürüngenlere kadar herkes, bir dereceye kadar, kurbanlarının acı hissettiği fikrine kapılıyor. İnsanlıktan çıkarma, birini insan olarak görememek değil, onu insandan daha az görme ve ona göre hareket etme arzusudur. Bu nedenle, belirli bir düzeyde, insanların sanal asistanlarını gerçek insanlar zannetme derecesi, onları onları suistimal etmeye teşvik etti. Aksi halde eğlenceli olmazdı. Bu da bizi şimdiki ana götürür.
Önceki nesil Yapay zeka bize mükemmel hizmetkarlar olarak satıldı – sofistike bir PA veya belki de Majel Barrett’ın Starship Enterprise bilgisayarı. Boyun eğen, her şeyi bilen, her zaman hizmet etmeye hazır. Yeni chatbot arama motorları da aynı çağrışımlardan bazılarını taşıyor, ancak bunlar geliştikçe bize yeni sırdaşlarımız, hatta yeni sırdaşlarımız olarak satılacaklar. terapistler.
Kaynak : https://www.wired.com/story/chatgpt-bots-empathy-psychology/