Amazon Alexa, ölüler de dahil olmak üzere sesleri taklit edebilen yeni teknolojiyi tanıttı

Alexa yapay zeka kıdemli başkan yardımcısı ve baş bilim adamı Rohit Prasad, Çarşamba günü Las Vegas’taki bir açılış konuşmasında heyecanla “Kitabı okurken Alexa’nın sesi yerine, çocuğun büyükannesinin sesi” dedi. (Amazon’un kurucusu Jeff Bezos, The Washington Post’un sahibidir.)

demo Alexa’nın en yeni özelliğinin ilk bakışıydı ve hala geliştirme aşamasındaydı ve sesli asistanın insanların seslerini kısa ses kliplerinden kopyalamasına izin verecekti. Prasad’ın dediğine göre amaç, yapay zekayı “insanın empati ve duygulanım özellikleri” ile aşılayarak kullanıcılar arasında daha fazla güven oluşturmak.

Yeni özellik “yapabilir” [loved ones’] anılar kalıcıdır,” dedi Prasad. Ancak uzmanlar, ölü bir akrabanın sesini duyma ihtimalinin yürekleri sızlatsa da, sayısız güvenlik ve etik kaygıyı da beraberinde getirdiğini söyledi.

San Francisco merkezli SocialProof Security’nin CEO’su Rachel Tobac, Washington Post’a “Dünyamızın kullanıcı dostu ses klonlama teknolojisine hazır olduğunu hissetmiyorum” dedi. Böyle bir teknolojinin, sahte ses veya video klipler aracılığıyla halkı manipüle etmek için kullanılabileceğini de sözlerine ekledi.

Siber güvenlik uzmanı Tobac, “Bir siber suçlu, küçük bir ses örneğiyle başka bir kişinin sesini kolayca ve güvenilir bir şekilde kopyalayabiliyorsa, bu ses örneğini diğer kişilerin kimliğine bürünmek için kullanabilir” diye ekledi. “Bu kötü oyuncu daha sonra başkalarını taklit ettikleri kişi olduklarına inandırabilir ve bu da dolandırıcılığa, veri kaybına, hesabın ele geçirilmesine ve daha fazlasına yol açabilir.”

Avustralya’daki Curtin Üniversitesi’nde internet çalışmaları profesörü Tama Leaver, o zaman insani olanla mekanik olan arasındaki çizgiyi bulanıklaştırma riski olduğunu söylüyor.

“Amazon’un derinlikleriyle konuştuğunuzu hatırlamayacaksınız… ve veri toplama hizmetleri büyükannenle, büyükbabanın sesiyle ya da sevilen birinin sesiyle konuşuyorsa.”

Leaver, teknoloji temalı bir gelecek öngören bilim kurgu dizisine atıfta bulunarak, “Bazı yönlerden ‘Black Mirror’ bir bölümü gibi” dedi.

Şirketin yapay zekasının hayat bulduğunu düşünen Google mühendisi

Yeni Alexa özelliği ayrıca rıza hakkında soruları da gündeme getiriyor, dedi Leaver – özellikle seslerinin öldükten sonra robotik bir kişisel asistan tarafından duyulacağını asla hayal etmemiş insanlar için.

Leaver, “Ölen kişilerin verilerini hem bir yandan ürkütücü, diğer yandan son derece etik olmayan bir şekilde kullanma konusunda gerçek bir kaygan eğim var, çünkü bu izlerin bu şekilde kullanıldığını asla düşünmediler” dedi.

Yakın zamanda büyükbabasını kaybetmiş olan Leaver, sevilen birinin sesini duymak istemenin “cazibesi” ile empati kurduğunu söyledi. Ancak olasılık, toplumun üstlenmeye hazır olmayabileceği bir dizi imalar açar, dedi – örneğin, insanların World Wide Web’in eterlerine bıraktığı küçük parçacıkların hakları kimde?

“Dedem bana 100 mesaj göndermiş olsaydı, bunu sisteme aktarma hakkım var mıydı? Ve eğer yaparsam, sahibi kim? O zaman Amazon bu kaydın sahibi mi?” O sordu. “Dedemin sesinin haklarından vazgeçtim mi?”

Prasad, Çarşamba günkü konuşmasında bu tür ayrıntılara değinmedi. Bununla birlikte, sesleri taklit etme yeteneğinin “hayallerimizin ve bilim kurgunun gerçeğe dönüştüğü yapay zekanın altın çağında tartışmasız yaşamanın” bir ürünü olduğunu öne sürdü.

Bu AI modeli, Ruth Bader Ginsburg’un zihnini yeniden yaratmaya çalışıyor

Amazon’un demosu gerçek bir özellik haline gelirse, Leaver, insanların öldüklerinde seslerinin ve benzerliklerinin nasıl kullanılabileceğini düşünmeye başlamaları gerekebileceğini söyledi.

“Sosyal medyadaki sesim ve resimli geçmişim çocuklarımın malıdır ve benimle sohbette bunu yeniden canlandırmak isteyip istemeyeceklerine karar verebilirler mi demem gerektiğini vasiyetimde mi düşünmem gerekiyor? ‘ ” Ayrılan merak etti.

“Bunun şimdi söylenmesi tuhaf bir şey. Ama muhtemelen yarın Alexa benim gibi konuşmaya başlamadan önce yanıtlamamız gereken bir soru bu,” diye ekledi.