Yapay Zeka Şirketleri Beyaz Saray’da ‘Gönüllü’ Güvenlik Taahhütlerinde Bulunuyor

Hızla genişleyen yapay zeka (AI) alanındaki potansiyel risklere ve şeffaflığın eksikliğine ilişkin endişeler, Biden yönetimini harekete geçmeye sevk etti. Bu sorunları çözmek için, Beyaz Saray, ortak güvenlik ve açıklık hedeflerini tartışmak için en önde gelen yedi yapay zeka geliştiricisini bir araya getirdi.. Bu işletmeler tarafından verilen gönüllü taahhütler yine de yapay zeka endüstrisi için düzenlemelerin ve yönergelerin oluşturulmasına yönelik olumlu bir gelişme olarak görülüyor.

Beyaz Saray toplantısında aşağıdaki yapay zeka şirketlerinin temsilcileri hazır bulundu:

1. Microsoft Başkanı Brad Smith;
2. Google Başkanı Kent Walker;
3. Anthropic CEO’su Dario Amodei;
4. Inflection AI CEO’su Mustafa Süleyman;
5. Nick Clegg, Başkan, Meta;
6. OpenAI Başkanı Greg Brockman;
7. Amazon Web Hizmetleri CEO’su Adam Selipsky;

AI şirketlerinin taahhütleri yasal olarak bağlayıcı olmasa da, AI ile ilgili gündeme getirilen sorunları ele alma arzusunu gösteriyorlar. İşletmeler tarafından verilen başlıca vaatler şöyle:

1. Yapay zeka sistemlerini halka sunmadan önce şirketler, dahili ve harici güvenlik testleri gerçekleştirme taahhüdü. Şirket dışından uzmanlar, güvenlik açıklarını ve tehditleri araştırmak için düşman bir “kırmızı ekip” gibi hareket edebilir.
2. AI kullanan şirketler, politika yapıcıları, akademisyenleri ve sivil toplum üyelerini AI’nın yarattığı tehlikeler ve bunlara karşı koymak için geliştirilen yöntemler hakkında bilgilendirme sözü verdiler. Yetkisiz erişimin önlenmesi veya AI sistemlerine “jailbreak” yapılması gibi endişeler, işbirliğini ve şeffaflığı teşvik ederek ele almayı umdukları konular arasındadır.
3. Şirketler siber güvenlik önlemlerine yatırım yapacakmüşteri modeli verilerinin ve fikri mülkiyetin gizliliğini sağlamak için içeriden gelen tehditlere karşı korumalar dahil. Bu, bilgisayar korsanlarının güvenlik açıklarından yararlanma ve özel verileri çalma girişimlerini engellemek için çok önemlidir.
4. Hata ödül programları ve/veya etki alanı uzmanı analizi yoluyla şirketler, üçüncü tarafları güvenlik açıklarının keşfedilmesini ve rapor edilmesini teşvik edecek. Bu, AI sistemlerindeki güvenlik açıklarını keşfetmek için yararlı olan dış denetimi teşvik eder.
5. Şirketler, yapay zeka tarafından oluşturulan içeriği işaretlemek için güvenilir filigran veya diğer yöntemler geliştirmek için çalışıyor hesap verebilirliği ve izlenebilirliği sağlamak. Bu, yapay zeka tarafından üretilen içeriğin orijinal yaratıcısının ve özgünlüğünün belirlenmesine izin vereceğinden, dezenformasyon ve derin sahtekarlıklara karşı mücadelede çok önemlidir.
6. Şirketler, AI sistemlerinin güçlü ve zayıf yönlerinin yanı sıra kullanılmaları ve kullanılmamaları gereken bağlamları açıklama sözü verdiler. Bu açıklık, yapay zekanın kötüye kullanılmasını önlemek ve sorumlu dağıtımını sağlamak için çok önemlidir.
7. Şirketler, AI’nın sosyal risklerini incelemeye prim verecekAyrımcılık ve mahremiyetin ihlali gibi. Bu tehditleri tanımlayıp hafifleterek, eşitlikçi, apolitik ve bireysel mahremiyeti koruyan yapay zeka sistemleri yaratmayı umuyorlar.
8. Şirketler ayrıca toplumun en büyük sorunlarından bazılarının üstesinden gelmek için yapay zeka oluşturmaya ve uygulamaya koymaya çalışacak., kanseri durdurmak ve iklimi düzeltmek gibi. Bununla birlikte, AI modellerinin karbon ayak izinin izlenmemesi, AI araştırma ve geliştirmede daha çevre dostu hususlara olan ihtiyaca dikkat çekiyor.

AI şirketlerinin taahhütleri tamamen isteğe bağlıdırancak Biden yönetimi üzerinde çalışıyor AI ile ilgili İcra Emri. Mevcut haliyle, bu sipariş uyumluluğu teşvik etme ve endüstri standartlarını belirleme potansiyeline sahiptir. Yürütme Emri, Federal Ticaret Komisyonu (FTC) gibi devlet kurumlarına, örneğin şirketlerin piyasaya sürülmeden önce AI modellerinin harici güvenlik testine izin vermemesi durumunda, güçlü güvenlik iddiasında bulunan AI ürünlerini araştırma talimatı verebilir.

İdarenin yapay zeka konusundaki ileri görüşlü duruşu, gelecekte teknolojik tuzaklardan kaçınma taahhüdünü yansıtıyor. Hükümet, sosyal medyanın yıkıcı potansiyelinden öğrendiği dersler nedeniyle, yapay zeka için kapsamlı bir plan başlatma konusunda istekli. Başkan Yardımcısı Harris ve Başkan Biden, iş dünyasının patronları ve diğer etkili isimlerle çoktan istişarelerde bulundular. Yapay zeka araştırma kurumlarına ve girişimlerine de önemli bir yatırım yapılmıştır.

Bununla birlikte, ulusal bilim ve araştırma altyapısı bu açıdan hükümetin ilerisinde olmuştur. Enerji Bakanlığı (DOE) ve Ulusal Laboratuarlar tarafından derlenen, bilim için yapay zekanın zorluklarını ve potansiyel faydalarını özetleyen kapsamlı bir rapor zaten var.

Son olarak, büyük yapay zeka şirketlerinin Beyaz Saray’da verdiği gönüllü taahhütler, yapay zeka endüstrisinde güvenlik ve şeffaflığın sağlanması açısından büyük önem taşıyor. Taahhütler yasal olarak bağlayıcı olmasa da birlikte çalışmaya, verileri paylaşmaya ve etik AI araştırma ve geliştirmesine vurgu yapmaya yönelik bir taahhüt gösteriyor. Yenilikçi olmakla yapay zekanın sorumlu ve etik bir şekilde kullanıldığından emin olmak arasında bir orta yol olması gerekir.

İlk bildirilen iPhoneHaberleri.com

Sıkça sorulan soru

S. Beyaz Saray’ın AI geliştiricileriyle yaptığı toplantının amacı neydi?

Toplantı, AI endüstrisindeki potansiyel riskler ve şeffaflık eksikliği hakkındaki endişeleri ele almayı amaçlıyordu. Biden yönetimi, AI geliştirmede ortak güvenlik ve açıklık hedeflerini tartışmak için önde gelen yedi AI geliştiricisini bir araya getirdi.

S. Beyaz Saray toplantısında hangi şirketler temsil edildi?

Toplantıda temsil edilen AI şirketleri Microsoft, Google, Anthropic, Inflection AI, Meta, OpenAI ve Amazon Web Services idi.

S. Etkinlikte temsilde çeşitlilik var mıydı?

Hayır, AI şirketi temsilcileri arasında kadın bulunmadığından etkinlikte temsilde bir çeşitlilik yoktu.

S. AI şirketlerinin taahhütleri yasal olarak bağlayıcı mı?

Hayır, AI şirketleri tarafından verilen taahhütler isteğe bağlıdır ve yasal olarak bağlayıcı değildir. Ancak, yapay zeka ile ilgili ortaya çıkan sorunları ele alma ve sorumlu yapay zeka geliştirmeyi teşvik etme taahhüdünü gösterirler.

S. AI şirketleri tarafından verilen önemli vaatlerden bazıları nelerdir?

Şirketler, diğer taahhütlerin yanı sıra, AI sistemlerini piyasaya sürmeden önce güvenlik testleri yapma, politika yapıcıları AI tehlikeleri hakkında bilgilendirme, siber güvenlik önlemlerine yatırım yapma, üçüncü tarafların güvenlik açıklarını keşfetmesini teşvik etme, AI sistemlerinin güçlü ve zayıf yönlerini ifşa etme ve AI’nın sosyal risklerini ele alma konusunda çalışma sözü verdi.

S. Biden yönetimi uyumluluğu nasıl teşvik edecek ve endüstri standartlarını nasıl belirleyecek?

Biden yönetimi, şirketler piyasaya sürülmeden önce AI modellerinin harici güvenlik testine izin vermezse, Federal Ticaret Komisyonu gibi devlet kurumlarına güçlü güvenlik iddiasında bulunan AI ürünlerini araştırma talimatı verebilecek AI ile ilgili bir İcra Emri üzerinde çalışıyor.

S. İdarenin yapay zeka konusundaki duruşu, tuzaklardan kaçınma taahhüdünü nasıl yansıtıyor?

İdarenin yapay zeka konusundaki ileri görüşlü duruşu, geçmişteki teknolojik aksaklıklardan ders çıkarmaya ve proaktif olarak kapsamlı bir yapay zeka planı başlatmaya olan bağlılığını gösteriyor. İş liderlerine danışmayı ve AI araştırma kurumlarına ve girişimlerine yatırım yapmayı içerir.

S. Yapay zekanın potansiyel faydaları ve zorlukları hakkında mevcut araştırmalar var mı?

Evet, Enerji Bakanlığı ve Ulusal Laboratuvarlar tarafından yapay zekanın bilim için zorluklarını ve potansiyel faydalarını özetleyen kapsamlı bir rapor zaten var.

S. Yapay zeka şirketleri etik yapay zeka araştırma ve geliştirmeye bağlı mı?

Evet, şirketlerin Beyaz Saray’daki gönüllü taahhütleri, yapay zeka endüstrisinde güvenlik ve şeffaflığı sağlamak için birlikte çalışmaya, verileri paylaşmaya ve etik yapay zeka araştırma ve geliştirmeyi vurgulamaya olan bağlılıklarını gösteriyor.

Öne Çıkan Resim Kredisi: Unsplash