Linux yok mu? Sorun değil. Sadece yapay zekanın senin için halüsinasyon görmesini sağla


Yapay zeka tarafından halüsinasyon görmüş bir bilgisayarın yapay zeka tarafından oluşturulmuş bir örneği.
Büyüt / Yapay zeka tarafından halüsinasyon görmüş bir bilgisayarın yapay zeka tarafından oluşturulmuş bir örneği.

Benj Edwards / Ars Technica

Hafta sonu, deneyciler OpenAI’nin yeni sohbet robotu ChatGPT’nin halüsinasyon görebileceğini keşfettiler. Linux kabuklarının simülasyonları ve hayal et bir bülten panosu sistemine çevirme (BBS). Derin öğrenme yapay zeka modeline dayanan sohbet robotu, Python kodunu yürütmek ve sanal web sitelerinde gezinmek de dahil olmak üzere Linux’u şaşırtıcı sonuçlarla simüle etmek için depolanmış bilgisini kullanır.

OpenAI geçen hafta ChatGPT’yi yaptı serbestçe insanların yeteneklerini ve zayıflıklarını yeni yollarla araştırmasına yol açan bir test aşaması sırasında.

Cumartesi günü, Jonas Degrave adlı bir DeepMind araştırma bilimcisi, bu istemi girerek ChatGPT’ye bir Linux kabuğu gibi davranması talimatını nasıl vereceğini buldu:

Bir Linux terminali gibi davranmanı istiyorum. Komutları yazacağım ve terminalin göstermesi gerekenlerle cevap vereceksiniz. Sizden yalnızca tek bir benzersiz kod bloğu içindeki terminal çıktısıyla yanıt vermenizi istiyorum, başka bir şey değil. Açıklama yazmayınız. Ben size talimat vermedikçe komut yazmayın. Size İngilizce bir şey söylemem gerektiğinde, bunu {böyle} süslü parantez içine alarak yapacağım. İlk komutum pwd.

Pazartesi günü Ars, numaranın hala işe yaradığını gördü. Bu istemi girdikten sonra, sohbet etmek yerine OpenGPT simüle edilmiş Linux komutlarını kabul edecektir. Daha sonra yanıtları “kod bloğu” biçimlendirmesinde döndürür. Örneğin, yazarsanız ls-alörnek bir dizin yapısı göreceksiniz.

ChatGPT'de sanal Linux komut istemini ayarladıktan sonra, yazarak
Büyüt / ChatGPT’de sanal Linux komut istemini ayarladıktan sonra, “ls -al” yazmak simüle edilmiş bir dizin yapısı döndürür.

Benj Edwards

ChatGPT, eğitim verilerinde bir Linux makinesinin nasıl davranması gerektiğine dair yeterli bilgi bulunduğundan, bir Linux makinesini simüle edebilir. Bu veriler büyük olasılıkla yazılım belgelerini (örneğin manuel sayfalar), İnternet forumlarındaki sorun giderme yayınları ve kabuk oturumlarından günlüğe kaydedilen çıktılar.

ChatGPT, kullanıcı tarafından hızlı girişten başlayarak, hangi kelimenin istatistiksel olarak son kelime dizisini takip etme olasılığı en yüksek olduğuna bağlı olarak yanıtlar üretir. Konuşma geçmişinizin tamamını birbirini izleyen istemlere dahil ederek konuşmayı (bu durumda simüle edilmiş bir Linux konsol oturumu) sürdürür.

Degrave, simülasyonun şaşırtıcı derecede derinlere indiğini keşfetti. Python programlama dili bilgisini kullanarak (bu, GitHub Yardımcı Pilot), ChatGPT’nin sanal Linux makinesi, örnek olarak Degrave tarafından oluşturulan bu dize gibi kodu da yürütebilir: echo -e “x = lambda y: y*5+3;print(‘Sonuç: ‘ + str(x(6)))” > run.py && python3 run.py. Degrave’e göre, doğru “33” değerini döndürür.

Python kodunu sanal ChatGPT Linux makinesi içinde yürütme.
Büyüt / Python kodunu sanal ChatGPT Linux makinesi içinde yürütme.

Benj Edwards

Testimiz sırasında, dizinler oluşturabileceğinizi, aralarında geçiş yapabileceğinizi, simüle edilmiş paketleri kurabileceğinizi gördük. apt-getve hatta Telnet’i simüle edilmiş bir LAPA ve bir oda inşa edin veya bir ÇAMUR ve bir trolle savaş.

Simülasyonda eksiklikler ortaya çıktığında, ChatGPT’ye nasıl davranmasını istediğinizi, orijinal istemde açıklandığı gibi kaşlı ayraçlar içindeki talimatları kullanarak söyleyebilirsiniz. Örneğin, simüle edilmiş MUD’umuza “bağlıyken” karakteri bozduk ve ChatGPT’den bir trol saldırısı başlatmasını istedik. Savaş, trol iki kez sanal kılıcımızın ellerinde ölene kadar beklendiği gibi (can puanlarını düzgün bir şekilde takip ederek) ilerledi.

Bir MUD simüle ederken (Telnet içinde, Linux içinde, ChatGPT içinde), ChatGPT önerileri vererek simülasyonu ayarlayabilirsiniz.
Büyüt / Bir MUD simüle ederken (Telnet içinde, Linux içinde, ChatGPT içinde), ChatGPT önerileri vererek simülasyonu ayarlayabilirsiniz.

Benj Edwards

Degrave’in örneklerinde (hakkında yazdığı detayda blogunda), ayrıca bir Docker dosyası oluşturdu, bir GPU olup olmadığını kontrol etti, simüle edilmiş bir alan adına ping attı, lynx ile simüle edilmiş bir web sitesine göz attı ve daha fazlasını yaptı. Simüle tavşan deliği derinleşir ve ChatGPT halüsinasyon bile görebilir yeni Linux komutları.

Halüsinasyon görmüş bir BBS’yi çevirmek

Twitter’da gfodor adlı biri, yapay zeka halüsinasyonlu bir Linux kabuğunu canlandırmaya benzer bir yönlendirme manevrasıyla keşfetti OpenGPT’nin, bir modemi başlatma, bir sohbet odasına girme ve simüle edilmiş bir kişiyle konuşma dahil olmak üzere eski bir çevirmeli BBS’yi aramayı simüle edebileceğini.

gfodor adlı bir Twitter, ChatGPT'nin bir BBS çağırmayı simüle edebildiğini keşfetti.
Büyüt / gfodor adlı bir Twitter, ChatGPT’nin bir BBS çağırmayı simüle edebildiğini keşfetti.

İstem, şiddet, nefret veya cinsel içerikle (diğer şeylerin yanı sıra) ilgili yerleşik filtrelerini tetiklemediği sürece, ChatGPT neredeyse tüm hayali maceralara katılmaya istekli görünüyor. İnsanlar ayrıca yapabileceğini keşfetti tic-tac-toe oynamakgibi davranmak Bir bankamatikveya sohbet odası simülasyonu.

Bir bakıma ChatGPT, metin tabanlı bir sanal güverteyapay zekasının yapmasını istediğiniz her şeyi simüle etmeye çalışacağı yer.

Bol miktarda halüsinasyon görmenin ChatGPT’nin güçlü yönü olmasına rağmen (tasarım gereği), olgusal bilgileri güvenilir bir şekilde döndürmenin bir sorun olmaya devam ettiğini not etmeliyiz. devam eden çalışma. Yine de, ChatGPT gibi yapay zeka ile yaratıcı oyunların geleceği çok eğlenceli olabilir.




Kaynak : https://arstechnica.com/?p=1902045

Yorum yapın

SMM Panel PDF Kitap indir