Google, Microsoft, Amazon, Yapay Zekayı Daha Güvenli ve Daha Güvenli Hale Getirme Taahhüdü

Beyaz Saray, teknoloji şirketlerinden “gönüllü taahhütler” aldı. yapay zekanın içerdiği riskleri azaltmaya yardımcı olur.

ABD Başkanı Joe Biden Cuma günü Beyaz Saray’da Amazon, Microsoft, Meta, Google, OpenAI, Anthropic ve Inflection ile bir araya geldi ve burada AI teknolojilerini geliştirirken “emniyet, emniyet ve güven” vurgusu yapma konusunda anlaştılar. İşte bu kategorilerin her birinde bazı ayrıntılar.

• Güvenlik: Şirketler, “AI sistemlerinin güvenliğini ve yeteneklerini test etmeyi, bunları harici testlere tabi tutmayı, potansiyel biyolojik, siber güvenlik ve toplumsal riskleri değerlendirmeyi ve bu değerlendirmelerin sonuçlarını kamuoyuna açıklamayı” kabul etti.
• Güvenlik: Şirketler ayrıca AI ürünlerini “siber ve içeriden gelen tehditlere karşı” koruyacaklarını ve “kötüye kullanımı önlemek, topluma yönelik riskleri azaltmak ve ulusal güvenliği korumak için en iyi uygulamaları ve standartları” paylaşacaklarını söylediler.
• Güven: Bu şirketler için sağlanan en büyük anlaşmalardan biri, insanların görüntülerin orijinal mi, değiştirilmiş mi yoksa yapay zeka tarafından mı üretildiğini anlamasını kolaylaştırmasıydı. Ayrıca yapay zekanın ayrımcılığa veya önyargıya teşvik etmemesini sağlayacak, çocukları zarar görmekten koruyacak ve yapay zekayı iklim değişikliği ve kanser gibi sorunları çözmek için kullanacak.

OpenAI’nin ChatGPT’sinin 2022’nin sonlarında gelişi, üretken yapay zeka araçlarını kitlelere sunan büyük teknoloji şirketlerinin izdihamının başlangıcıydı. OpenAI’nin GPT-4’ü Mart ortasında piyasaya sürüldü. Diğer özelliklerinin yanı sıra baro sınavını geçmek için yeterince gelişmiş olan ChatGPT yapay zeka sohbet robotuna güç veren büyük dil modelinin en son sürümüdür. Bununla birlikte, sohbet botları tükürmeye eğilimlidir. yanlış cevaplar ve bazen var olmayan kaynaklar. Bu araçların benimsenmesinde patlama yaşanırken, yanlış bilgi yaymak ve önyargı ve eşitsizliği derinleştirmek de dahil olmak üzere potansiyel sorunları yeniden dikkatleri üzerine çekti.

AI şirketlerinin söyledikleri ve yaptıkları

Meta, Beyaz Saray anlaşmasını memnuniyetle karşıladığını söyledi. Bu haftanın başlarında şirket, yapay zeka büyük dil modelinin ikinci nesli olan Llama 2’yi ücretsiz ve açık kaynak haline getirerek piyasaya sürdü.

Meta’nın küresel ilişkiler başkanı Nick Clegg, “Yeni AI modelleri geliştirirken, teknoloji şirketleri sistemlerinin nasıl çalıştığı konusunda şeffaf olmalı ve endüstri, hükümet, akademi ve sivil toplum arasında yakın işbirliği yapmalıdır” dedi.

Beyaz Saray anlaşması, “AI vaadinin risklerinin önünde kalmasını sağlamaya yardımcı olacak bir temel oluşturacak”. Microsoft başkan yardımcısı ve başkanı Brad Smith, şunları söyledi: bir blog yazısında.

Microsoft, Meta’nın Llama 2’sinin ortağıdır. Ayrıca, bu yılın başlarında ChatGPT’den yararlanan ve Microsoft 365’e ve Edge tarayıcısına giderek daha fazla yapay zeka aracı getiren yapay zeka destekli Bing aramayı başlattı.

bu Beyaz Saray ile yapılan anlaşma, OpenAI’nin bir parçası OpenAI küresel ilişkilerden sorumlu başkan yardımcısı Anna Makanju, “AI yönetişimini ilerletmek için dünyanın dört bir yanındaki hükümetler, sivil toplum kuruluşları ve diğerleriyle devam eden işbirliği” dedi. “Dünyanın dört bir yanındaki politika yapıcılar, son derece yetenekli AI sistemleri için yeni yasalar düşünüyor. Bugünün taahhütleri, devam eden bu tartışmaya belirli ve somut uygulamalara katkıda bulunuyor.”

Amazon destek veriyor Amazon sözcüsü Tim Doyle, CNET’e e-postayla gönderilen bir açıklamada, “yapay zeka araçları ve hizmetlerinin dünyanın önde gelen geliştiricilerinden ve dağıtımcılarından biri olarak” gönüllü taahhütlerden bahsetti. “Tüketicileri ve müşterileri korumak için gerekli önlemleri alıp uygularken aynı zamanda müşterilerimiz adına inovasyonu yönlendirmeye kendimizi adadık.”

Amazon, podcast’leri, müziği ve Amazon Web Hizmetleri için yapay zekaya yöneldi.

Anthropic, e-postayla gönderilen bir açıklamada, tüm AI şirketlerinin “AI güvenliği için bir yarışa katılması gerektiğini” söyledi. Şirket, önümüzdeki haftalarda “siber güvenlik, kırmızı ekip oluşturma ve sorumlu ölçeklendirme” konusundaki planlarını açıklayacağını söyledi.

Inflection AI’nin kurucu ortağı ve CEO’su Mustafa Süleyman, “Önümüzde çok büyük miktarda güvenlik çalışması var. Şimdiye kadar AI güvenliği fikirler ve toplantılar alanında sıkışıp kaldı.” Blog yazısı Cuma. “Abartma ve paniğe karşı somut ilerleme miktarı yetersizdi. Inflection’da bunu hem endişe verici hem de sinir bozucu buluyoruz. Bu nedenle güvenlik, görevimizin merkezinde yer alıyor.”

Başka ne?

Google, bir yorum talebine hemen yanıt vermedi, ancak bu yılın başlarında AI içeriğine filigran ekleyeceğini söyledi. Şirketin AI modeli Gemini, AI tarafından oluşturulan metin, resim ve görüntüleri tanımlayacak. Neyin değiştirilmediğini ve yapay zeka tarafından neyin yaratıldığını size bildirmek için içeriğe entegre edilmiş meta verileri kontrol edecektir.

Görüntü yazılım şirketi Adobe, benzer şekilde, Firefly AI araçlarından AI tarafından oluşturulan görüntüleri, bir AI sistemi tarafından oluşturulduklarını gösteren meta verilerle etiketlediğinden emin oluyor.

okuyabilirsiniz şirketler ve Beyaz Saray arasındaki tüm gönüllü anlaşma burada.

Biden-Harris yönetimi ayrıca bir yürütme emri geliştiriyor ve “Amerikalıları yapay zekadan korumak için” iki partili yasa arıyor. ABD Yönetim ve Bütçe Ofisi ayrıca yapay zeka sistemlerini tedarik eden veya kullanan tüm federal kurumlar için yönergeler yayınlayacak.

Ayrıca bakınız: ChatGPT, Bing ve Google Bard: Hangi Yapay Zeka En Yararlı?

Editörlerin notu: CNET, bazı hikayeler oluşturmaya yardımcı olmak için bir AI motoru kullanıyor. Daha fazlası için bkz. bu gönderi.