İşletmelerin makine öğrenimi modellerini dağıtması neden bir ay veya daha uzun sürüyor ve neler yapabilirsiniz?


Transform 2022’yi 19 Temmuz’da ve neredeyse 20 – 28 Temmuz’da geri getirmekten heyecan duyuyoruz. Bilgili görüşmeler ve heyecan verici ağ oluşturma fırsatları için yapay zeka ve veri liderlerine katılın. Bugün kayıt Ol!


Makine öğrenimi (ML), her alanda modern işletmeler için paha biçilmez bir varlıktır. Bununla birlikte, makine öğrenimi modelleri söz konusu olduğunda, hem B2C hem de B2B şirketleri piyasaya sürme süresinin gecikmesi sorunuyla karşı karşıyadır. Göre algoritmaşirketlerin büyük çoğunluğunun makine öğrenimi modellerini önce geliştirmesi ve ardından devreye alması en az bir ay veya daha uzun sürer.

Bunun nedeni, karmaşık ve genellikle çok maliyetli iki aşamalı bir süreçtir. Bir makine öğrenimi modeli geliştirmek, kendi başına uzun ve potansiyel olarak pahalı bir süreç olabilir. Ancak pek çok şirketin genellikle erken fark etmediği şey, ilk aşamayı daha sonra tartışmaya açık bir şekilde daha zorlu olan başka bir aşamanın, yani devreye almanın takip etmesi gerektiğidir. Bu ikinci aşama, hazır modelin üretime taşınmasını, test edilmesini ve ince ayar yapılmasını ve ardından buna göre ölçeklendirmeyi içerir.

Tüm işletmelerin yalnızca yaklaşık %10’unun, tamamlanmasından sonraki bir hafta içinde yeni bir ML modelini üretime yerleştirmek için yeterli deneyime, finansal kaynağa ve teknik uzmanlığa sahip olduğu tahmin edilmektedir. Birçoğu bir yıla kadar mücadele ediyor ve tüm şirketlerin en az %30’unun dağıtımdan sonra en az üç ay geçmesi gerekiyor. Tam olarak ne kadar süreceği, şirketin üç popüler model türünden hangisini seçtiğine bağlıdır.

Hazır, özel ve özel uyarlanabilir modeller

Şu anda piyasada bulunan ML modellerinden şunlar vardır: genel modeller, özel modeller ve özel uyarlanabilir modeller.

Genel ve özel modeller temelde zıt kutuplardır. Aradaki fark, genel modellerin hem maliyet hem de doğruluk açısından düşük, özel modeller hem maliyet hem de doğruluk açısından yüksektir. Bunun nedeni, genel modellerin o sektördeki hemen hemen her işletmeye uyacak şekilde tasarlanmış olmasıdır. Bunlar normalde ResNet, BERT/GPT ve benzer hazır teknolojilere dayanır. Sonuç olarak, bu modeller uygun fiyatlı ve güvenilirdir, ancak aynı zamanda mükemmel bir uyum olmaktan da uzaktırlar.

Buna karşılık, özel modeller her zaman eldeki göreve göre uyarlanır ve bu nedenle çok daha doğrudur. Bununla birlikte, yüksek geliştirme ve bakım maliyetleri nedeniyle çok daha yüksek bir fiyat etiketi ile gelirler. Genel bir çözümle başlayıp daha sonra ML modellerini geliştirmeye çalışanlar, genellikle modelin temel mimarisinin ötesine geçerler. Sonunda elde ettikleri şey özel bir modeldir. Hemen daha geniş iş gereksinimlerine uyarlanabilen ve dağıtım sonrası uzun ince ayarların çoğundan vazgeçebilen özel bir model, özel uyarlanabilir bir modeldir.

Bu nedenle uyarlanabilir bir model, genel modellerin sunduğu bazı avantajlara sahip bir özel model türüdür. Diğer tüm özel modeller gibi, uyarlanabilir modeller de belirli iş ihtiyaçları göz önünde bulundurularak tasarlanmıştır. Bu sebeple çok isabetlidirler. Aynı zamanda, şirketin çözmesini gerektirmezler. MLop’lar ilk geliştirme aşamasından sonra. Sonuç olarak, nispeten düşük bakım maliyetleri ve iyileştirilmiş pazara sunma süresi ile dağıtım ve dağıtım sonrası aşamalarda bazı yönlerden genel modeller gibi çalışırlar.

Bir ML modeli seçme

İşletmenizin hangi modeli gerektirdiği – yani, fazladan ödemeye değip değmeyeceği – özel durumunuza bağlıdır. İşletmeniz, bulundukları yere bağlı olarak farklı depolara çevrimiçi siparişler göndermek gibi oldukça basit bir şeye ihtiyaç duyabilir. Bu durumda, özellikle küçük bir işletmeyseniz, genel bir ML modeli işinizi görebilir.

Öte yandan, içerik denetimi gibi belirli bir şeyse çevrimiçi bir doktor topluluğu tıbbi ekipmanı tartışırken, özel bir model daha iyi çalışacaktır. Genel bir ML modelinin uygunsuz dil olarak görebileceği şey – örneğin, cinsel organlardan bahsetme – tıbbi tartışma bağlamında sadece uygun değil, aynı zamanda gereklidir. Bu durumda eğitim modelinin şirketin farklı ihtiyaçlarına göre uyarlanması gerekir. Ve bu kişiye özel model uyarlanabilir olabilir veya olmayabilir.

Her modelin artılarını ve eksilerini ele alalım:

İşletmelerin makine öğrenimi modellerini dağıtması neden bir ay veya daha uzun sürüyor ve neler yapabilirsiniz?
ML model türlerinin karşılaştırılması. Yazarın resmi

Özel uyarlanabilir modeller

Özel makine öğrenimi modelleri, genellikle öngörülemeyen dağıtım öncesi ve sonrası maliyetler nedeniyle pahalıdır. Bu genellikle yüksek başlangıç ​​maliyetleri nedeniyle, bazı şirketler daha az doğru ama aynı zamanda daha az maliyetli genel yolu tercih etmek yerine kişiye özel seçenekten kaçınma eğilimindedir. Bir eğitim modelinin gerçekte ne kadar pahalı olacağı, modelin esnekliğine veya eksikliğine yansıyan, seçilen veri etiketleme metodolojisi de dahil olmak üzere bir dizi faktöre bağlıdır.

Aşağıdaki örnek, eylem halindeki kitle kaynaklı özel uyarlanabilir bir modeli, yani döngüdeki insan etiketlemesine dayanan uyarlanabilir bir modeli göstermektedir:

Teknik bir düzenleme ortamı sunan tanınmış bir şirket, yazılımının doğruluğunu artırmak ve modelin eğitim maliyetlerini azaltmak istedi. Mühendislik ekibinin İngilizce cümleleri düzeltmek için daha etkili bir çözüm bulması gerekiyordu. Herhangi bir çözümün, halihazırda yürürlükte olan tamamen manuel etiketleme hattına uygun olması gerekiyordu.

Nihai çözüm, müşterinin ihtiyaçlarına göre uyarlanmış dilsel işleme için önceden var olan özel bir modelin kullanılmasını gerektirdi. Hedef cümlelerde metin sınıflandırması için üçüncü taraf AutoML kullanıldı. Ardından, ifade doğrulama doğruluğu %6 artarak %76’dan %82’ye yükseldi. Bu da modelin eğitim maliyetlerini %3 oranında azalttı. Ayrıca, müşterinin çoğu özel modelde olduğu gibi, modelin altyapısına finansal veya başka türlü ek yatırımlar yapmasına gerek yoktu.

Akılda tutulması gereken önemli noktalar

İşletmeniz için doğru ML modelini seçmek göz korkutucu bir görev olabilir. Bilgilendirilmiş bir karar vermek için dikkate almanız gerekenlerin bir özeti:

  • İhtiyaçlarınızın ne kadar spesifik olduğunu düşünün: ihtiyaç ne kadar spesifik olursa, genel bir kural olarak genel modelden o kadar uzaklaşmalısınız.
  • Her zaman ölçeklenebilirliği göz önünde bulundurun – ihtiyacınız olacağını bildiğiniz bir şeyse, sadece size özel bir şey için fazladan ödeme yapmayı düşünün.
  • Yüksek doğruluk gerektirmiyor ancak hızlı dağıtıma ihtiyacınız varsa, genel rotayı seçmeyi düşünün.
  • Doğruluk sizin için önemliyse, pazarlamak için ne kadar zaman ayırabileceğinizi düşünün.
  • Zamanınız kısıtlıysa ve yüksek doğruluk istiyorsanız, özel uyarlamalı rotayı kullanmayı düşünün; aksi takdirde, herhangi bir özel çözüm potansiyel olarak ihtiyaçlarınızı da karşılayabilir.
  • Genel maliyet açısından, genel yol hepsinden en ucuzudur – bunu, çoğu MLops masrafını atlayan özel uyarlamalı yol ve son olarak, maliyetleri dağıtım sonrasında önemli ölçüde artabilecek diğer tüm özel çözümler tarafından takip edilir (kesin rakamlar, duruma göre).
  • Elinizin altında kurum içi veri bilimcileriniz ve MLE’leriniz olup olmadığını değerlendirin – evet ise, dahili olarak geliştirilen geleneksel özel seçeneğe gitmek mümkün olabilir; değilse – diğer ikisini (genel veya özel uyarlamalı) düşünün.
  • Özel ve özel uyarlanabilir seçenekler arasında seçim yaparken, makine öğrenimi modelinin nihayetinde ne kadar doğru ve müşterinizin ihtiyaçlarına özel olması gerektiğini düşünün. Doğruluk ve uyarlanabilirlik ne kadar yüksek olursa, modelin hazırlanması ve bakımı için maliyet ve bekleme süresi o kadar uzun olur.

Fedor Zhdanov, şu anda ML ürünleri başkanıdır: Toloka yapay zekası.

DataDecisionMakers

VentureBeat topluluğuna hoş geldiniz!

DataDecisionMakers, veri işi yapan teknik kişiler de dahil olmak üzere uzmanların verilerle ilgili içgörüleri ve yenilikleri paylaşabileceği yerdir.

En yeni fikirleri ve güncel bilgileri, en iyi uygulamaları ve veri ve veri teknolojisinin geleceğini okumak istiyorsanız DataDecisionMakers’da bize katılın.

Kendi makalenize katkıda bulunmayı bile düşünebilirsiniz!

DataDecisionMakers’tan Daha Fazlasını Okuyun


Kaynak : https://venturebeat.com/2022/06/19/why-businesses-take-a-month-or-more-to-deploy-ml-models-and-what-you-can-do/

Yorum yapın

SMM Panel