Liderlerin başarı için AI yatırımlarını nasıl entegre ettiğini ve optimize ettiğini duymak için 11-12 Temmuz’da San Francisco’da üst düzey yöneticilere katılın. Daha fazla bilgi edin
IBM’in Kırmızı şapka iş birimi, yeni Red Hat OpenShift AI teknolojisi ile AI yeteneklerini genişletiyor.
OpenShift AI platformu bugün Red Hat Summit’te duyuruldu. Son on yıldır OpenShift, Red Hat’in açık kaynaklı Kubernetes konteyner düzenleme platformuna dayalı amiral gemisi uygulama konteyneri teklifi oldu. OpenShift AI, platformun (adından da anlaşılacağı gibi) AI ve makine öğrenimi (ML) dağıtımlarını etkinleştirmeye yardımcı olmak için optimize edilmiş bir sürümüdür.
Yeni platform, Red Hat OpenShift veri bilimi platformunun yapay zeka modellerinin üretim dağıtımını sağlamaya yardımcı olmaya odaklanan bir evrimidir.
Red Hat CTO’su “Geçtiğimiz 10 veya 20 yılda zamanımızın ve enerjimizin çoğunu uygulama platformları oluşturmaya odakladık ve bugün veri iş yüklerini, uygulamaları üretmek ve uygulamaları çalıştırmak için kullandığımız aynı platformla bir araya getirmekle ilgili.” Chris Wright, basın ve analistlerle yaptığı brifingde söyledi. “İşletmelerin AI/ML’yi benimsemesindeki zorluklar çok büyük.”
IBM zaten OpenShift yapay zekasını kullanıyor
Wright, birçok işletme için gerçeğin, veri bilimi deneylerinin genellikle başarısız olduğunu ve yarısından azının üretime ulaştığını belirtti.
Red Hat’in OpenShift AI ile hedefi, AI için gerekli olan tüm eğitim, hizmet ve izleme işlemlerini yapma becerisini sağlayan ve daha fazla modelin üretime ulaşmasına yardımcı olacak bir araç koleksiyonuna sahip olmaktır. Bu, Red Hat’in ana şirketi IBM aracılığıyla zaten kanıtlamış olduğu bir yaklaşım ve teknolojidir.
Wright, büyük dil modellerini (LLM’ler) eğitmenin maliyetinin ve karmaşıklığının özellikle büyük olduğu yorumunu yaptı. IBM, bu ayın başlarında kamuya duyurulan yeni watsonx temel modellerini oluşturmaya başladığında, Red Hat OpenShift’e yöneldi.
“Platformumuz, IBM’in temel modellerini oluşturmak, eğitmek ve yönetmek için kullandığı ve yalnızca size OpenShift AI’da oluşturduğumuz ölçek ve üretim yeteneklerini göstermek için kullandığı platformdur” dedi.
AI/ML dağıtımlarının zorlukları ve Red Hat’in çözümü
Red Hat, OpenShift AI’da bir dizi gelişmiş yetenek geliştiriyor. Bunların arasında model performans yetenekleri var. Wright, OpenShift AI’nin veri bilimcilerin üretime dağıtılan bir modelin izlenmesini ve performansını yönetme becerisini geliştirmeye devam edeceğini söyledi. Model performansının bir kısmı, potansiyel model kaymasını izlemek ve bir modelin doğru kalmasını sağlamakla da ilgilidir.
AI/ML iş yükleri için dağıtım ardışık düzenleri de kritik öneme sahiptir. Bu amaçla, Red Hat OpenShift AI, kuruluşların model oluşturma ve devreye alma için tekrarlanabilir yaklaşımlar oluşturmasını sağlıyor. AI/ML modelleri oluşturmak için özel çalışma zamanlarını entegre etme çabası da var.
Wright, “Keşfettiğimiz şeylerden biri, veri bilimi ekiplerinin zamanlarının orantısız bir miktarını yalnızca araçlarını bir araya getirmeye harcadıklarıdır” dedi. “Tabii ki bir dizi araç üretebiliriz, ancak bunlar bir işletmenin tam olarak aradığı araçlar olmayabilir, bu nedenle çalışma zamanı ortamını özelleştirmeleri gerekebilir.”
AI/ML iş yüklerinin üretime ulaşmasına yardımcı olmak için gereken şey, AI kalite metriklerini entegre etme yeteneğidir. Wright, birçok veri bilimi deneyinin iş sonuçlarıyla uyumlu olmadığı için başarısız olduğunu belirtti.
Wright, bu olduğunda, “başarınızı ölçmek zordur” dedi. “Dolayısıyla, tüm boru hattına ölçümler ekleyebileceğimizden emin olmak bence gerçekten kritik.”
VentureBeat’in misyonu teknik karar vericilerin dönüştürücü kurumsal teknoloji ve işlemler hakkında bilgi edinmeleri için dijital bir şehir meydanı olmaktır. Brifinglerimizi keşfedin.
Kaynak : https://venturebeat.com/ai/red-hat-extends-openshift-for-the-generative-ai-era/