- Dr. Serdar Özcan
- 0 Yorumlar
- 121 Görüntüleme
Mistral’ın yeni tahmin modeli sıradan bir sunucu işlemcisinde çalışıyor. Peki bir işletme bununla ne yapabilir?
Mistral, 15 Ekim’de ilk zaman serisi tahmini model ailesi olan Timestral’ı yayımladı. Bu modeller, bir makinenin sıcaklığı, bir mağazanın günlük satışı ya da bir binanın elektrik tüketimi gibi zaman içinde kaydedilen verilerin bundan sonra nasıl seyredeceğini tahmin ediyor. En küçük model, ekran kartı (GPU) olmadan, bir sunucu işlemcisinde bir gün sonrasını yaklaşık 10 milisaniyede tahmin edebiliyor. Şirketler model ağırlıklarını indirip kendi ağları içinde çalıştırabilirler. Bu ürünün yakından incelenmeye değer olduğunu düşünüyoruz; büyük şirketlerin ise önce lisansı okuması gerekiyor, çünkü lisansta bir gelir sınırı var.
|
10 ms
Bir günlük tahmin, 5M model, 8 iş parçacıklı işlemci
|
140 ms
Aynı iş, en büyük 209M modelİ
|
32.768
Okuyabildiği geçmiş zaman adımı
|
$20M
AĞIRLIK LİSANSI KAPSAMINDA AYLIK GELİR ÜST SINIRI
|
Öncelikle zaman serisi tahmini nedir?
Zaman serisi, düzenli aralıklarla kaydedilen herhangi bir sayıdır. Bir motorun titreşimini her saniye ölçen bir sensör de, bir fabrikanın elektrik tüketimini 15 dakikada bir kaydeden bir sayaç da zaman serisi üretir. Birçok şirket, genellikle bu terimi kullanmadan, halihazırda bu tür verilerden birçoğunu toplamaktadır.
Zaman serisi tahmini, bu geçmiş verileri kullanarak gelecekteki değerleri tahmin eder: gelecek haftanın satışları, yarının beklenen en yüksek talebi ya da bir pompanın arızaya doğru ilerleyip ilerlemediği gibi. Bu tahminler planlamayı kolaylaştırır. Gerçek durum tahminlerden keskin bir şekilde saptığında, bu fark aynı zamanda olağandışı bir durumun yaşandığının bir işaretidir; bu da anomali tespitinde yaygın olarak kullanılan bir temeldir.
Mistral’ın hız testinde, model her 15 dakikada bir alınan üç haftalık verilerden yola çıkarak bir gün sonrasını tahmin eder. Bu, sonraki 96 değeri tahmin etmek için kullanılan yaklaşık 2.000 geçmiş değer anlamına gelir.
Mistral ne yayımladı?
Timestral dört boyutta geliyor: 5M, 28M, 123M ve 209M parametreli. GitHub sayfasına göre diskte 21 MB ile 837 MB arasında yer kaplıyorlar. Bugünkü sohbet uygulamalarının arkasındaki büyük dil modelleri genellikle milyarlarca parametreyle ölçülüyor; Timestral modelleri ise tek bir iş için tasarlanmış küçük modellerdir.
8 iş parçacığına sahip standart bir sunucu işlemcisinde Mistral, söz konusu bir günlük tahmin için en küçük modelde 10 ms, en büyük modelde ise 140 ms süre bildiriyor. 28M modeli, 209M modelinden yaklaşık beş kat daha hızlı. 123M modeli ise 209M modelinin sonucuna %0,2’lik bir farkla yaklaşıyor ve gecikme süresini yaklaşık dörtte üçüne indiriyor. Mistral, çıkarım işlemi için GPU’ya gerek olmadığını belirtiyor.
Her tahmin, temkinli bir alt değerden temkinli bir üst değere uzanan 21 yüzdelik dilimle (quantile) geliyor; yani cevap, “410 ile 470 arasında, büyük olasılıkla 440” biçiminde oluyor. Bu biçimdeki bir cevapla plan yapmak tek bir sayıyla plan yapmaktan daha kolaydır. Model, aynı makinedeki birkaç sensör gibi birbiriyle ilişkili serileri birlikte tahmin edebiliyor ve bunların birlikte nasıl hareket ettiğini hesaba katabiliyor. Üretim planı, planlı bir duruş ya da hava tahmini gibi geleceğe ait bilinen bilgileri ve makinenin çalışma durumu gibi kategorileri de girdi olarak kabul ediyor. 32.768 geçmiş zaman adımına kadar okuyup tek seferde en fazla 1.024 adım ilerisini tahmin edebiliyor. Eksik ölçümler eksik olarak işaretlenebiliyor.
Burada “Zero-shot” ne anlama geliyor?
Mistral, Timestral’ı sıfır örnekli öğrenme (zero-shot) doğruluğuna sahip bir temel model (foundation model) olarak tanımlıyor. Model, daha önce hiç görmediği bir seri için, o seri üzerinde önceden eğitilmeden tahmin üretebiliyor.
Klasik tahmin yöntemleri genellikle her veri setine ayrı ayrı uyarlanır ve ancak bundan sonra tahmin yapabilir; bu da veri hazırlığı ve uzman zamanı gerektirir. Sıfır örnekli öğrenme yapabilen bir modelle ilk gün bir tahmin alıp bunun yeterli olup olmadığına karar verebilirsiniz. Sonuç yakın ama yetersizse Mistral, Forge platformu üzerinden şirketin kendi verisiyle ince ayar (fine-tuning) imkânı sunuyor.
Mistral, eğitim verilerinin çoğunun sentetik olduğunu belirtiyor. Bu veriler basit süreçlerden üretilmiş ve aralarında doğrusal olmayan bağlantılar bulunan çok değişkenli seriler halinde birleştirilmiştir. Bunun, birçok örüntüyü kapsamanın mantıklı bir yolu olduğunu düşünüyoruz. Modelin kendi verilerinizde nasıl performans göstereceği ise ayrı olarak test edilmelidir.
Mistral’ın rakipleriyle kıyası
Mistral, 209M modelinin, bu alandaki üç ana açık kaynaklı karşılaştırma seti olan GIFT-Eval, TIME ve fev-bench’te önceden eğitilmiş sıfır örnekli öğrenme modelleri arasında birinci sırada yer aldığını belirtiyor. Bu sonuç, birkaç modeli birleştirmeden tek bir kontrol noktası üzerinden elde edilmiştir. Ayrıca, 28M modelinin GIFT-Eval ve TIME’da, kendisinden yaklaşık dört kat daha büyük olan Chronos-2’yi geride bıraktığı da belirtilmiştir.
Hata değeri ne kadar düşükse o kadar iyi olan GIFT-Eval’da, model kartında Timestral-209M 0,658 puan almış. Tabloda yer alan diğer modeller arasında t0-gamma 0,661, TimesFM-3 0,667 ve Chronos-2 0,698 puanla yer alıyor. En yakın rakibe olan fark küçük; bu da bir alıcının elinde birkaç güçlü seçenek olduğu ve tercihini hız, lisans ve uygunluk üzerinden yapabileceği anlamına geliyor.
Mistral’ın seçtiği örnek: bir fabrika
Mistral’ın duyurusu, tesis izleme sürecini adım adım anlatıyor. Ekipmanlardan gelen sensör verileri, makinenin durumu bir kategori olarak ve üretim programı ise bilinen gelecek bilgileri olarak kullanılarak bir arada tahmin ediliyor. Okumalar tahmin aralığından saptığında, Timestral bir anomali işaretliyor.
Bundan sonrasını bir YZ ajanı üstleniyor. Ajan geçmişteki benzer arızaları arıyor ve olası kök nedeni bulmak için bakım kayıtlarını, sistem kayıtlarını (log), kılavuzları ve ilgili sensör verilerini inceleyen alt ajanları başlatıyor. Ardından aynı ajan, kanıtlarıyla birlikte önerilen bir teşhis ve sonraki adımları içeren bir taslak hazırlıyor.
Planlamadan önce kontrol edilmesi gerekenler
İlk sırada lisans var. Kod Apache 2.0 lisanslı; model ağırlıkları ise değiştirilmiş bir MIT lisansı kullanıyor. Bu lisans, küresel konsolide aylık geliri 20 milyon doları, yani yılda yaklaşık 240 milyon doları aşan hiçbir şirkete kullanım hakkı tanımıyor. Kısıtlama, modelden türetilen ve değiştirilen sürümleri de kapsamaktadır; bizim yorumumuza göre bu, ince ayar yapılmış sürümleri de içermektedir. Bu eşiğin üzerindeki şirketler Mistral’dan ticari lisans talep edebilir (Mistral bu lisansı kendi takdirine göre veriyor) ya da modeli Mistral’ın barındırdığı hizmetler üzerinden kullanabilirler. Finans ekibiniz, grubunuzun bu sınırın hangi tarafında olduğunu size hızlı bir şekilde söyleyebilir. Herhangi bir şey geliştirmeden önce mutlaka danışın.
Karşılaştırma sonuçları Mistral’ın kendi beyanı. Tüm sonuçları içeren teknik rapor henüz yayımlanmadı; duyuruda raporun daha sonra geleceği belirtiliyor. Bu yazının yazıldığı tarihte, bu sonuçlara ilişkin bağımsız bir değerlendirme bulamadık. Mistral, sonuçları GIFT-Eval ve TIME sıralama listelerine gönderdiğini belirtmektedir.
Timestral ayrıca henüz ön izleme aşamasındadır. Mistral’ın model dokümantasyonu Timestral 1.0’ı “Public Preview” (genel ön izleme) olarak etiketliyor ve GitHub deposu dışarıdan kod katkısı kabul etmiyor. Bildirilen sorunlara ise “elden geldiğince” yanıt verildiği belirtiliyor.
Son olarak, karar sizin verilerinize bağlıdır. Karşılaştırma testleri pek çok alanı bir araya getirse de sizin satış ya da sensör verileriniz farklı davranabilir. En basit sınama yöntemi geriye dönük testtir (backtest): Zaten tahmin ettiğiniz bir serinin son birkaç ayını gizleyin, Timestral’ın bu dönemi tahmin etmesini isteyin ve hatasını mevcut yönteminizle karşılaştırın. Mevcut bir yönteminiz yoksa “geçen hafta ile aynı” gibi basit bir tahminle karşılaştırın.
Modelin yapamadıkları
Bir tahmin modeli, temiz bir sayı tablosunu alır ve bir tahmin döndürür. Bizim görüşümüze göre gerçek bir projedeki işin büyük kısmı bu adımın öncesinde ve sonrasında yapılır. Birinin makinelerden, ERP ve CRM sistemlerinden verileri alması, bunları temizlemesi ve eksiklikleri gidermesi gerekir. Hangi serilerin önemli olduğuna, neyin anomali sayılacağına ve kimin uyarılacağına da birinin karar vermesi gerekir. Ardından sonuç bir panele ya da başka bir sisteme ulaşmalı ve koşullar değiştikçe doğruluğun sapıp sapmadığı izlenmelidir.
Küçük, hızlı ve indirilebilir bir model, tahmin aşamasını daha ucuz hale getirir ve verilerin şirket içinde kalmasını sağlar. KVKK’yı dikkate alan Türk şirketleri için bu gerçek bir avantajdır. Veri erişimi, uyarı kuralları ve izleme süreçleri yine de oluşturulmalıdır ve bizce sonuçların büyük kısmını bunlar belirler.
TAO AI LAB’in bakış açısı
Timestral, büyük veriye dayalı tahmin modelleri üzerine yürüttüğümüz çalışmaların tam da kapsamına giriyor. Bu kapsam talep, satış, enerji yükü ve trafiği için zaman serisi tahminini, üretim hataları ve sensör arızaları için anomali tespitini ve erken uyarı sistemleriyle risk puanlamasını kapsıyor. Timestral’ın da ait olduğu Transformer tabanlı zaman serisi modelleri, çalıştığımız yöntemler arasında yer alıyor.
Modelle ilgili çalışmalar, odaklandığımız kısımdır: IoT cihazlarından, ERP, CRM ve günlük (log) sistemlerinden verileri toplamak, bunları hazırlamak ve tahminleri diğer sistemlerin kullanabileceği gösterge panelleri ve API’lere dönüştürmek; ayrıca modellerde sapma (drift) olup olmadığını izlemek ve gerektiğinde yeniden eğitmek. Tao AI Lab olarak çevrimdışı (offline) modellerle de çalışmaya başladık; bu tür bir sürüm, veriyi şirket içinde tutmayı daha uygulanabilir kılıyor. Bu konuda çok heyecanlıyız ve en çok Timestral gibi modelleri gerçek Türk operasyonel verileri üzerinde test etmeyi sabırsızlıkla bekliyoruz.
Sıkça sorulan sorular
Timestral nedir?
Mistral tarafından geliştirilen ve 15 Ekim 2026 tarihinde piyasaya sürülen, 5 milyon ila 209 milyon parametre aralığında dört zaman serisi tahmin modelinden oluşan bir ailedir. Zaman içinde kaydedilen verilerin gelecekteki değerlerini tahmin eder ve olası sonuçlar için bir aralık verir.
Timestral için GPU gerekir mi?
Hayır. Mistral, 8 iş parçacıklı bir sunucu işlemcisi kullanıldığında bir günlük tahmin için en küçük modelde yaklaşık 10 ms, en büyük modelde 140 ms bildiriyor.
Büyük bir şirket Timestral’ı ücretsiz kullanabilir mi?
Küresel konsolide aylık geliri 20 milyon doları aşıyorsa kullanamaz. Bu eşiğin üzerinde ağırlık lisansı hiçbir hak tanımaz. Şirketin Mistral’dan ticari lisans talep etmesi ya da modeli Mistral’ın barındırdığı hizmetler üzerinden kullanması gerekir.
Zaman serisi tahmini ne için kullanılır?
Planlama ve erken uyarı için: talep ve satış tahmini, enerji yükü planlaması ve sensör ölçümleri beklenenden saptığında ekipman sorunlarını erken fark etmek gibi.
İşletmenizde bir rakamı bir gün önceden güvenilir biçimde tahmin edebilseydiniz, hangisini seçerdiniz? Yorumlarda bizimle paylaşın.