“Yerel çalışıyor” ifadesi, bir programın her işlevinin internet olmadan da çalıştığı anlamına gelmez. Model dosyasını bulmak, ilk kez indirmek, onu çalıştıran ek bileşeni kurmak, son güncellemeyi kontrol etmek ve önceden indirilmiş modeli kullanmak farklı adımlardır. Bu rehber, model ve çalışma ortamı hazırlandıktan sonra yeni bir örnek görevle çevrimdışı işlevi sınamak isteyen kişiye yönelik bir kontrol planı sunar. Örnekler sentetik tutulmalı, kişisel ya da kurumsal veri kullanılmamalıdır.

LM Studio’nun resmî “Offline Operation” belgesi, model dosyaları cihaza alındıktan sonra modelle sohbet, belgeyle sohbet ve yerel sunucu gibi çekirdek işlevlerin internet olmadan kullanılabileceğini söylüyor. Aynı belge model arama ve indirme, çalışma zamanı indirme ve uygulama güncelleme kontrolü gibi işlemler için bağlantı gerektiğini de listeliyor. Bu, yalnız LM Studio’nun kendi dokümantasyonunda belirtilen işlev kapsamıdır; her yapay zekâ programının aynı biçimde çalıştığı anlamına gelmez. Testten önce ilgili aracın üretici dokümanını ve sürümünü ayrıca doğrulayın.

Çevrimdışı başarıyı önceden tanımlayın

İnterneti kapatmadan önce hangi görevin çevrimdışı tamamlanmış sayılacağını yazın. Örneğin amaç, bilgisayarda önceden açılmış bir modelle kısa bir kurgusal metni özetlemek olabilir. Bu test, model arama ekranının, çevrimiçi kaynak eklentisinin veya yeni dosya indirme işlevinin de çalışmasını beklemez. Her görev için giriş, beklenen türde çıktı ve başarı ölçütünü önceden belirleyin. “Program açıldı” tek başına yeterli değildir; kullanılacak model gerçekten yüklendi mi ve yeni bir isteme cevap verdi mi, ayrı gözlenmelidir.

Üretici dokümanında hangi adımların ağ istediğini not edin. Arama veya güncelleme bildirimi internet kesildiğinde hata verebilir; bu, çevrimdışı çalışması beklenen yerel çıkarım testinin otomatik olarak başarısız olduğu anlamına gelmez. Buna karşılık ilk model veya çalışma zamanı hiç indirilmemişse, uygulamanın yeni dosyayı ağsız bulamaması test önkoşulunun tamamlanmadığını gösterebilir. “Hazır değil” sonucunu “yerel çalışma imkânsız” diye genellemeyin; önce eksik önkoşulu belirleyin.

Başlangıç paketini ve sürümü kaydedin

Deneme öncesi uygulamanın adı ve sürümü, işletim sistemi, modelin adı/sürümü ve kurulumun tamamlandığı tarih gibi test için gereken bilgileri not edin. Hangi model dosyasının hangi klasörde bulunduğunu veya uygulamada yüklü göründüğünü kaydedin. Özel bir çalışma zamanı, hızlandırıcı veya eklenti kurulumu gerekiyorsa bunların hazır olduğunu internet açıkken doğrulayın. Bu not, bağlantı kesilince hatanın indirme, model yükleme veya görev aşamasında mı oluştuğunu ayırmaya yardım eder.

Testi bir defa çevrimiçi yapıp çıktıyı kaydetmek, çevrimdışı kapasiteyi sınamaz. Asıl çevrimdışı denemede yeni ve daha önce kullanılmamış sentetik bir girdi verin. Böylece daha önce alınmış cevabın geçmiş sohbetten gösterilmesiyle yeni üretimi karıştırma olasılığı azalır. İstem basit ve güvenli olmalı; örneğin uydurma üç maddelik bir nottan iki cümlelik özet istemek yeterlidir. Yerel işlevi temsil etmeyen karmaşık görevlerle test yapmayın.

Bağlantıyı kontrollü biçimde kesin

Önce modelin çevrimiçi durumdayken normal biçimde yüklendiğini ve sentetik isteme yanıt verdiğini doğrulayın. Ardından ağ bağlantısını işletim sistemi üzerinden kesin; kablolu bağlantı, kablosuz ağ veya uygulamanın kullandığı diğer erişimler de hesaba katılmalıdır. Tek bir web sayfasının açılmaması, ağın tüm süreçlerde kesildiğini kanıtlamaz. Test ortamında bağlantı kesildiğini sistem göstergesinden kaydedin ve araç içindeki model durumu ile ağ isteyen menüleri birbirinden ayrı izleyin.

Yeni bir sohbet açın ve daha önce kullanılmamış sentetik bir görev verin. Model seçicinin hazır model gösterip göstermediğini, istemin kabul edilip edilmediğini ve yeni bir yanıtın üretilip üretilmediğini not edin. Beklerken model arama, indirme, çevrimiçi doküman arama veya uzaktaki bir bağlayıcıyı kullanmayın; bunlar yerel üretimden farklı işlevlerdir. Uygulama bir ağ hatası gösterirse hata metnini ve hangi adımda çıktığını kaydedin; ekranda görülen eski yanıtı yeni üretim diye değerlendirmeyin.

Uygulamayı kapatıp yeniden açın

İlk yanıt geldikten sonra uygulamayı tamamen kapatın; yalnız pencereyi küçültmek veya sohbet sekmesini değiştirmek yeterli değildir. Ağ bağlantısı hâlâ kesikken uygulamayı tekrar açın, önceden kurulmuş modeli seçin ve farklı bir sentetik örnekle ikinci bir yeni görev çalıştırın. Böylece sadece bellekte açık kalan bir model oturumu ile programın kapatılıp açıldıktan sonra da yerel kaynaklardan yeniden yüklenebilmesi ayrılır. Yeniden açılışta uygulama güncelleme sunucusuna ulaşamadığı için bildirim verebilir; bu uyarıyı asıl üretim sonucuyla karıştırmayın.

Model uygulama yeniden başladığında listede görünmüyor veya dosya yolu bulunamıyorsa, uygulamayı çevrimiçiyken açıp indirme ya da model kataloğu aramasına yönlendirmek yerine testin önkoşulunu araştırın. Üretici dokümanında modelin nerede saklandığı ve uygulamanın indirilmiş model dosyasını nasıl tanıdığı yazıyorsa o adımları izleyin. Dışarıdan kopyalanan dosyanın desteklenen biçimde ve doğru klasörde olması gerekebilir. Her hata, tüm yerel modeller için genellenemez; kullanılan ürün, sürüm ve model özelinde raporlayın.

Çevrimdışı ve çevrimiçi özellikleri ayırın

Test notunu en az üç sınıfa ayırın: yerel model üretimi, ilk kurulum/indirme işlemleri ve internet isteyen ek işlevler. Örneğin LM Studio’nun belgesinde model arama, model indirme, runtime indirme ve uygulama güncellemesi ağ gerektiren işlemler olarak belirtiliyor; indirilmiş modelle sohbet ise çevrimdışı çekirdek işlevler arasında sayılıyor. Bu ayrımı diğer ürünlere taşımayın. Başka bir programda çevrimiçi arama, ekip eşitleme, dosya aktarımı veya hesap doğrulama ayrı servisler olabilir; üretici dokümanı bunları doğrulamadan aynı listeyi kopyalamayın.

Bir görev yerel modelle tamamlanıp internet isteyen ek işlev başarısız oluyorsa, iki sonucu ayrı raporlayın. “Model yerel olarak yanıt verdi; çevrimiçi arama devre dışıydı” gibi açık ifade, programın tümüyle çevrimdışı çalıştığı izlenimini önler. Tersi durumda, yerel üretim başlamadı ama model arama ekranı açıldıysa bu da yerel çıkarımın çalıştığını göstermez. Bir deneme ortamında hangi alt işlevin test edildiğini belirtmek, başkalarının aynı koşulu tekrarlamasına yardımcı olur.

Sonucu ve sınırlarını kaydedin

Her denemede tarih, ürün ve sürüm, model tanımlayıcısı, bağlantı durumu, uygulamanın yeniden başlatılıp başlatılmadığı, kullanılan sentetik istemin sürümü, ortaya çıkan çıktı ve hata mesajını not edin. İstemleri eşit tutmak, önceki çevrimiçi ve sonraki çevrimdışı çıktıları karşılaştırmayı kolaylaştırabilir; yine de aynı yanıtı garanti etmez. Model veya ayar değişirse yeni bir test koşusu açın. Yalnız başarı ekranını değil, başarısız veya eksik adımları da kayda alın; bunlar kurulum eksiğini ve ağ bağımlılığını ayırır.

Bu sınama güvenlik, gizlilik, telemetri veya hız hakkında sonuç vermez. Ağ bağlantısını kesmek tek başına yazılımın başka kanalları kullanmadığını, cihazdaki dosyaların güvenli olduğunu veya verinin daha önce gönderilmediğini kanıtlamaz. Bu konular için üreticinin veri işleme açıklamaları, kuruluş politikası, ağ gözlemi ve gerekiyorsa güvenlik incelemesi ayrı değerlendirilmelidir. Bu yazı, bir programı “en iyi” ilan etmez; belirli bir cihaz ve sürümde, önceden hazırlanmış bir yerel modelin dar bir görevi bağlantı yokken tamamlayıp tamamlamadığını anlamaya yardım eder.

Tekrarlanabilir kısa test akışı

Üretici belgesinden hangi adımların internet istediğini ve önkoşulları belirleyin.
Uygulamayı, model dosyasını ve gerekiyorsa çalışma zamanını bağlantı açıkken hazır edin; ürün, model ve sürüm bilgilerini kaydedin.
İnternet açıkken yeni sentetik görevle modelin başlangıç yanıtını doğrulayın.
Bağlantıyı kesin, yeni sohbet ve farklı bir sentetik girdiyle yerel üretimi sınayın.
Uygulamayı tamamen kapatıp ağ kesikken tekrar başlatın ve modeli yeniden yükleyerek ikinci bir yeni görev verin.
Model üretimini; arama, indirme, güncelleme ve diğer ağ hizmetlerinden ayrı sınıflandırın.
Başarı, hata ve eksik önkoşulları ürün/sürüm/model bağlamıyla raporlayın; sonucu genellemeyin.

Sık Sorulan Sorular

Bir programın yerel model çalıştırdığını nasıl anlarım?

Önceden indirilmiş modeli seçin, interneti kesin ve daha önce kullanılmamış sentetik bir görevle yeni yanıt üretildiğini gözleyin. Eski sohbet yanıtını yeniden görüntülemek yeterli değildir. Uygulamayı tamamen kapatıp bağlantı kesikken tekrar açarak farklı bir girdiyle ikinci üretim yapmak da açık kalan bellek oturumunu modelin yeniden yüklenmesinden ayırır. Sonucu yalnız denediğiniz ürün, sürüm ve model için kaydedin.

İlk model indirmesi çevrimdışı yapılabilir mi?

Bu ürünün indirme yöntemine bağlıdır. LM Studio’nun resmî “Offline Operation” belgesi, model indirmeyi bağlantı gerektiren işlemler arasında sayıyor; arama ekranının da ağ çağrısı yaptığını belirtiyor. Bu nedenle çevrimdışı sınamadan önce model dosyasının ve gerekiyorsa çalışma zamanının hazır olduğundan emin olun. Başka programların indirme ve dışarıdan model ekleme davranışını aynı kabul etmeyin; ilgili üretici belgelerini kontrol edin.

Uygulama açılırken güncelleme uyarısı verirse test başarısız mı sayılır?

Uyarının hangi işleve ait olduğunu ayırın. LM Studio belgesi, macOS ve Windows uygulamasının güncelleme kontrolü için internet isteği yaptığını belirtiyor; bu, yerel modelle yeni yanıt üretiminin de başarısız olduğu anlamına gelmeyebilir. Güncelleme kontrolü ile önceden yüklenmiş modelin çalışmasını ayrı adımlar olarak raporlayın. Ama model yüklenemiyor ve yeni sentetik istem yanıt almıyorsa, test edilen yerel görev tamamlanmamıştır.

Model internet kesilince yanıt veriyor, fakat model araması açılmıyor. Ne anlama gelir?

Bu iki işlev farklı olabilir. LM Studio, indirilen modelle sohbeti çevrimdışı işlev olarak; Discover ekranındaki model aramasını ise ağ isteği yapan işlev olarak tanımlar. Dolayısıyla aramanın çalışmaması, önceden kurulmuş modelin çevrimdışı üretim denemesini tek başına geçersiz kılmaz. Diğer bir program için aynı sonuca varmayın; o ürünün güncel resmî dokümanında yerel ve ağ gerektiren işlevleri ayrı doğrulayın.

İnterneti kapatınca model çalışıyorsa gizlilik de kanıtlanmış olur mu?

Hayır. Dar bir üretim testi, çevrimdışı yeni görev yanıtının çalıştığını gösterebilir; daha önceki veri gönderimini, başka ağ kanallarını, telemetriyi, cihazdaki dosyaların güvenliğini veya saklama politikasını kanıtlamaz. Gizlilik iddiası için ilgili hizmetin veri işleme belgelerini ve kurum kurallarını inceleyin; gerekiyorsa teknik ağ gözlemi veya güvenlik denetimi yürütün. Bu testten güvenlik sertifikası veya gizlilik garantisi çıkarmayın.

Uygulamayı kapatıp yeniden açmak neden gerekli?

Uygulama açık kaldığında model bellekte duruyor olabilir. Ağ bağlantısı hâlâ kesikken uygulamayı tamamen kapatıp açmak, önceden edinilmiş dosyanın yeniden bulunup yüklenebildiğini sınar. Bu test açılış sırasında ağ gerektiren bir güncelleme kontrolü varsa onun başarısız olabileceğini de ayırır. Uygulama uyarı verse bile model seçimi ve yeni sentetik görev ayrı denenmeli; ekranı küçültmek tam kapanış testi sayılmaz.

Bir modelin kendi başına internete erişip erişmediği bu yöntemle doğrulanır mı?

Bu rehber, ağ bağlantısı kesilmiş bir ortamda belirli yerel görevin üretimini sınar; yazılımın tüm ağ davranışları veya daha önceki iletişimleri hakkında kapsamlı inceleme yapmaz. İşletim sistemi göstergesi de bütün ağ trafiğini tek başına açıklamayabilir. Güvenlik ya da uyumluluk sorusu varsa yetkin teknik ekip, uygun ağ gözlem yöntemleri ve kuruluş politikasıyla ayrı inceleme yapmalıdır. Sonucu yalnız yapılan testin kapsamıyla sınırlayın.

Çevrimdışı çalışmayan her program elenir mi?

Bu, ihtiyacınıza ve görev tanımınıza bağlıdır; test tek başına program seçimi veya sıralaması vermez. Çevrimdışı çalışma zorunlu değilse belirli ağ işlevlerine ihtiyaç duyabilirsiniz. Zorunluysa önce tam hangi görevlerin bağlantısız yapılması gerektiğini tanımlayın: modelle sohbet, arama, dosya işleme, güncelleme veya ekip eşitleme aynı şey değildir. Üretici dokümanı ve kendi cihazınızdaki tekrarlı deneme birlikte değerlendirilmelidir.

Model sürüm değişikliklerini karşılaştırmak için sabit örneklerle sürüm sınama rehberine, toplam maliyeti değerlendirirken kabul edilen teslim başına maliyet yazısına ve hata anında insanın devralacağı noktalar için insan kontrolüne dönüş planına bakabilirsiniz. Hizmet kapsamı için dijital pazarlama hizmet sayfasını inceleyin.