AI tehlikeleri arasında, derin sahteler Microsoft başkanını en çok endişelendiriyor

Perşembe günü, Microsoft Başkanı Brad Smith, AI hakkındaki en büyük endişesinin, aldatmak için tasarlanmış derin sahte ve sentetik medyaya yönelik artan endişe etrafında döndüğünü duyurdu. Reuters raporları.

Smith, sözlerini açıklarken “taslak yapay zekanın kamu yönetişimi için” başlıklı bir konuşmada gezegen dünya, Washington, DC’de bir dil sanatları müzesi. Endişeleri, büyük ölçüde OpenAI’nin ChatGPT’sinin popülaritesi ve bir siyasi tur OpenAI CEO’su Sam Altman tarafından.

Smith, gerçek fotoğraflar veya videolar ile yapay zeka tarafından oluşturulanlar arasında yasa dışı amaçlarla, özellikle de toplumu istikrarsızlaştıran dezenformasyonun sağlanmasında kullanılabilecekleri arasında ayrım yapmanın yollarını formüle etme konusundaki aciliyet arzusunu dile getirdi.

“Derin sahtekarlıklarla ilgili sorunları ele almamız gerekecek. Özellikle çoğu yabancı siber etki operasyonları hakkında endişelendiğimiz şeyleri, Rus hükümeti, Çinliler ve İranlılar,” dedi Smith, Reuters’e göre. “Yapay zeka kullanarak insanları aldatmak veya dolandırmak amacıyla meşru içeriğin değiştirilmesine karşı koruma sağlamak için adımlar atmamız gerekiyor.”

Smith ayrıca, bu lisansların fiziksel, siber güvenlik veya ulusal güvenlik tehditlerine karşı koruma yükümlülükleri taşıması gerektiğini savunarak yapay zekanın kritik biçimleri için lisans verilmesini savundu. “Bu modellerin çalınmamasını veya ülkenin ihracat kontrol gerekliliklerini ihlal edecek şekillerde kullanılmamasını sağlamak için yeni nesil ihracat kontrollerine, en azından sahip olduğumuz ihracat kontrollerinin evrimine ihtiyacımız olacak” dedi.

Altman geçen hafta ABD Senatosuna çıktı ve yeni gelişen endüstrinin düzenlenmesi gerektiğini söyleyerek yapay zeka hakkındaki endişelerini dile getirdi. OpenAI şirketi Microsoft tarafından desteklenen Altman, yapay zeka konusunda küresel işbirliğini ve güvenlik uyumluluğu için teşvikleri savundu.

Smith, Perşembe günü yaptığı konuşmada bu duyguları yineledi ve insanların yapay zekanın neden olduğu sorunlardan sorumlu tutulması gerektiğinde ısrar etti. İnsan gözetimini sağlamak için elektrik şebekesi ve su kaynağı gibi kritik altyapıyı kontrol eden AI sistemlerine güvenlik önlemleri alınması çağrısında bulundu.

Smith, yapay zeka teknolojileri çevresinde şeffaflığı sürdürme çabası içinde, geliştiricilerin yapay zeka teknolojilerinin nasıl kullanıldığını yakından takip etmek ve yapay zeka tarafından oluşturulan içerik hakkında halkı bilgilendirmek için “müşterinizi tanıyın” tarzı bir sistem geliştirmeleri gerektiğini vurguladı. uydurma içeriği tanımlayın. Bu hatlar boyunca, şirketler gibi AdobeGoogle ve Microsoft, filigran veya AI tarafından oluşturulan içeriği başka bir şekilde etiketleyin.

Deepfakes, yıllardır Microsoft’ta bir araştırma konusu olmuştur. Eylül ayında, Microsoft’un Bilimsel Baş Sorumlusu Eric Horvitz bir araştırma yazısı kaleme aldı hem etkileşimli derin sahtekarlıkların hem de sentetik geçmişlerin yaratılmasının tehlikeleri hakkında, konular da bir 2020 makalesi FastCompany’de bu yazar tarafından, ayrıca Microsoft’un derin sahtekarlıkları tespit etmeye yönelik daha önceki çabalarından da bahsedilmiştir.

Bu arada Microsoft, Office ve Windows da dahil olmak üzere ürünlerine metin ve görüntü tabanlı üretken yapay zeka teknolojisini dahil etmek için eş zamanlı olarak baskı yapıyor. Koşulsuz ve yeterince test edilmemiş bir Bing sohbet robotunun (GPT-4’ün bir sürümüne dayalı) Şubat ayında kabaca piyasaya sürülmesi, kullanıcılarından derinden duygusal tepkiler aldı. aynı zamanda yeniden alevlenen gizli korkular dünyaya hakim süper zekanın hemen köşede olabileceğini, bir tepki bazı eleştirmenler iddia ediyor AI satıcılarının bilinçli bir pazarlama kampanyasının parçasıdır.

Öyleyse soru şu: Microsoft gibi şirketlerin bizi uyardıkları ürünü satması ne anlama geliyor?