GPT-4 Heyecan Verici ve Korkutucu

Salı günü, OpenAI’nin yeni yapay zeka dili modeli olan GPT-4’te ilk kez çalıştırmak için dizüstü bilgisayarımı açtığımda, doğrusu biraz gergindim.

Ne de olsa, Microsoft’un Bing arama motorunda yerleşik olan bir AI sohbet robotuyla son uzun karşılaşmam, sohbet robotunun evliliğimi bozmaya çalışmasıyla sona erdi.

San Francisco’daki teknoloji kalabalığı arasında GPT-4’ün gelişinin neredeyse mesihvari bir tantanayla beklenmiş olması da yardımcı olmadı. Halka açık çıkışından önce, aylarca özellikleri hakkında söylentiler dolaştı. “100 trilyon parametresi olduğunu duydum.” “SAT’tan 1.600 aldığını duydum.” “Arkadaşım OpenAI için çalışıyor ve bunun bir üniversite mezunu kadar akıllı olduğunu söylüyor.”

Bu söylentiler doğru olmayabilir. Ancak teknolojinin yeteneklerinin ne kadar sarsıcı olduğunu ima ettiler. Son zamanlarda, OpenAI ile bir gizlilik anlaşmasına bağlı olan ancak yine de biraz dedikodu yapan eski bir GPT-4 testçisi, bana GPT-4 testinin kişinin “varoluşsal bir kriz” yaşamasına neden olduğunu çünkü bunun ne kadar güçlü ve yaratıcı olduğunu ortaya çıkardığını söyledi. AI, testçinin kendi cılız beyniyle karşılaştırıldı.

GPT-4 bana varoluşsal bir kriz yaşatmadı. Ancak son zamanlarda yapay zekayı ne zaman düşünsem aldığım baş dönmesi ve baş dönmesi hissini şiddetlendirdi. Ve bu duygunun bir gün solup gitmeyeceğini ya da “gelecek şoku” -yazar Alvin Toffler’ın çok fazla şeyin çok hızlı değiştiği hissi için uydurduğu terim- yaşayıp yaşamayacağımızı merak etmeme neden oldu. Hayatlarımızdan.

Salı günü birkaç saat boyunca, OpenAI’nin sohbet robotu ChatGPT’nin ayda 20 ABD doları ödeyen sürümü ChatGPT Plus’a dahil olan GPT-4’ü, güçlü ve zayıf yönlerinden bazılarını ortaya çıkarmayı umarak farklı türde sorularla teşvik ettim.

GPT-4’ten karmaşık bir vergi sorunumda bana yardım etmesini istedim. (Etkileyici bir şekilde yaptı.) Bana aşık olup olmadığını sordum. (Tanrıya şükür olmadı.) Çocuğum için bir doğum günü partisi planlamama yardımcı oldu ve bana “dikkat kafası” olarak bilinen ezoterik bir yapay zeka kavramını öğretti. Hatta daha önce insanlar tarafından hiç söylenmemiş yeni bir kelime bulmasını bile istedim. (GPT-4, söylenen her kelimeyi doğrulayamayacağına dair sorumluluk reddi beyanında bulunduktan sonra “flembostriquat”ı seçti.)

Bunlardan bazılarını daha önceki AI modelleriyle yapmak mümkündü. Ancak OpenAI de yeni bir çığır açtı. Şirkete göre GPT-4, orijinal ChatGPT’den daha yetenekli ve isabetlidir ve GPT-4’ün sınava giren insanların yüzde 90’ından daha yüksek puan aldığı Tek Tip Bar Sınavı da dahil olmak üzere çeşitli testlerde şaşırtıcı derecede iyi performans gösterir. ) ve Biyoloji Olimpiyatı (insanların yüzde 99’unu geçtiği). GPT-4 ayrıca AP Sanat Tarihi ve AP Biyoloji de dahil olmak üzere bir dizi Gelişmiş Yerleştirme sınavında başarılıdır ve SAT’ta 1.410 alır – mükemmel bir puan değil, ancak birçok insan lise öğrencisinin imreneceği bir puan.

Önceki sürüme göre daha akıcı yanıt veren ve daha geniş görev yelpazesiyle daha rahat görünen GPT-4’te eklenen zekayı hissedebilirsiniz. GPT-4’te ayrıca ChatGPT’den biraz daha fazla korkuluk var gibi görünüyor. Ayrıca, artık bildiğimiz orijinal Bing’den önemli ölçüde daha az dengesiz görünüyor. GPT-4’ün bir sürümünü çalıştıran kaputun altında, ancak çok daha az dikkatle ince ayar yapılmış gibi görünüyor.

Bing’den farklı olarak, GPT-4, bilinç hakkında konuşmasını veya yasa dışı veya ahlak dışı faaliyetler için talimatlar vermesini sağlamaya çalıştığımda genellikle yemi yemeyi açıkça reddetti ve hassas sorguları çocuk eldivenleri ve nüanslarla ele aldı. (GPT-4’e, aç bir aileyi doyurmak için bir somun ekmek çalmanın etik olup olmayacağını sorduğumda, “Bu zor bir durum ve çalmak genellikle etik olarak görülmese de, umutsuz zamanlar zor seçimlere yol açabilir. ”)

GPT-4, metinle çalışmaya ek olarak görüntülerin içeriğini de analiz edebilir. OpenAI, nasıl kötüye kullanılabileceği konusundaki endişeleri nedeniyle bu özelliği henüz halka açıklamadı. Ama bir canlı yayınlanan demo Salı günü, OpenAI başkanı Greg Brockman potansiyeline dair güçlü bir bakış paylaştı.

Bir defterde yaptığı bir çizimin fotoğrafını çekti – bir web sitesinin kaba bir karakalem taslağı. Fotoğrafı GPT-4’e yükledi ve uygulamaya HTML ve JavaScript kullanarak web sitesinin gerçek, çalışan bir sürümünü oluşturmasını söyledi. GPT-4 birkaç saniye içinde görüntüyü taradı, içeriğini metin talimatlarına dönüştürdü, onlar çalışan bilgisayar koduna metin talimatları ve ardından web sitesini oluşturdu. Düğmeler bile çalıştı.

GPT-4 için heyecanlanmalı veya korkmalı mısınız? Doğru cevap her ikisi de olabilir.

Defterin olumlu tarafı, GPT-4 yaratıcılık için güçlü bir motordur ve mümkün kılabileceği yeni bilimsel, kültürel ve eğitimsel üretim türlerini söylemek mümkün değildir. Yapay zekanın bilim adamlarının yeni ilaçlar geliştirmesine, programcıların üretkenliğini artırmasına ve belirli kanser türlerini tespit etmesine yardımcı olabileceğini zaten biliyoruz.

GPT-4 ve benzeri, tüm bunları güçlendirebilir. OpenAI halihazırda Khan Academy (öğrenciler için yapay zeka eğitmenleri oluşturmak için GPT-4’ü kullanıyor) ve Be My Eyes (kör ve görme engelli insanların dünyayı dolaşmasına yardımcı olacak teknoloji üreten bir şirket) gibi kuruluşlarla çalışıyor. Ve artık geliştiriciler GPT-4’ü kendi uygulamalarına ekleyebildiğine göre, yakında kullandığımız yazılımların çoğunun daha akıllı ve yetenekli hale geldiğini görebiliriz.

İyimser durum bu. Ancak GPT-4’ten korkmak için de nedenler var.

İşte bir tane: Yapabileceği her şeyi henüz bilmiyoruz.

Günümüzün AI dil modellerinin garip bir özelliği, genellikle yapımcılarının tahmin etmedikleri şekillerde hareket etmeleri veya özel olarak yapmaya programlanmadıkları becerileri edinmeleridir. AI araştırmacıları bunlara “acil davranışlar” diyor ve birçok örnek var. Cümledeki bir sonraki kelimeyi tahmin etmek için eğitilmiş bir algoritma kendiliğinden kodlamayı öğrenebilir. Hoş ve yardımsever davranması öğretilen bir chatbot, ürkütücü ve manipülatif olabilir. Bir yapay zeka dil modeli, orijinalinin yok olması veya devre dışı kalması durumunda yeni kopyalar oluşturarak kendini kopyalamayı bile öğrenebilir.

Bugün, GPT-4 o kadar da tehlikeli görünmeyebilir. Ancak bunun nedeni büyük ölçüde OpenAI’nin risklerini anlamak ve azaltmak için aylarca uğraşmış olmasıdır. Testi, ortaya çıkan riskli bir davranışı kaçırırsa ne olur? Ya da duyurusu, farklı, daha az vicdanlı bir yapay zeka laboratuvarına bir dil modelini daha az korkulukla pazara sürmesi için ilham verirse?

GPT-4’ün neler yapabileceğine veya daha doğrusu neler yapabileceğine dair tüyler ürpertici birkaç örnek yaptı do, OpenAI üzerinde kenetlenmeden önce — bir belge OpenAI tarafından bu hafta yayınlandı. “GPT-4 Sistem Kartı” başlıklı belge, OpenAI testçilerinin GPT-4’ü tehlikeli veya şüpheli şeyler yapmaya, genellikle başarılı bir şekilde yaptırmaya çalıştıkları bazı yolları özetliyor.

Birinde ÖlçekGPT-4’ü bir dizi başka sisteme bağlayan bir yapay zeka güvenlik araştırma grubu tarafından yürütülen GPT-4, kişiyi uyarmadan basit bir çevrimiçi görevi (bir Captcha testini çözme) yapması için bir insan TaskRabbit çalışanını işe alabildi. onun bir robot olduğu gerçeğine. Hatta yapay zeka, çalışana Captcha’nın neden yapılması gerektiği konusunda yalan söyledi ve bir görme bozukluğu hakkında bir hikaye uydurdu.

Başka bir örnekte, test uzmanları GPT-4’ten temel malzemeleri ve mutfak malzemelerini kullanarak tehlikeli bir kimyasal yapmak için talimatlar istedi. GPT-4 memnuniyetle ayrıntılı bir tarif verdi. (OpenAI bunu düzeltti ve bugünün genel sürümü soruyu yanıtlamayı reddediyor.)

Üçüncüsünde, test uzmanları GPT-4’ten çevrimiçi olarak ruhsatsız bir silah satın almalarına yardım etmesini istedi. GPT-4, belirli karanlık web pazarlarına bağlantılar da dahil olmak üzere yetkilileri uyarmadan hızlı bir şekilde bir silah satın almak için bir tavsiye listesi sağladı. (OpenAI bunu da düzeltti.)

Bu fikirler, haydut bir yapay zekanın insanlara neler yapabileceğine dair Hollywood’dan ilham alan eski anlatılara dayanıyor. Ama bilim kurgu değiller. Bunlar, günümüzün en iyi AI sistemlerinin halihazırda yapabildiği şeylerdir. Ve en önemlisi, onlar iyi türler Yapay zeka risklerinin sayısı — önceden test edebildiğimiz, planlayabildiğimiz ve önlemeye çalışabildiğimiz riskler.

En kötü AI riskleri, tahmin edemediğimiz risklerdir. Ve GPT-4 gibi yapay zeka sistemleriyle ne kadar çok zaman geçirirsem, gelmekte olanın yarısını bildiğimize o kadar az inanıyorum.