Ollama'lı Yerel Modeller

Açık kaynak modellerini sıfır jeton ücretiyle çalıştırmak için Ollama örneklerini bağlayın.

9xchat, makinenizde veya ağınızdaki uzak bir sunucuda çalışan Ollama çalışma zamanlarına bağlanır. Makinenizde çalışan bir Ollama modelini sorgularken, istemler harici bulut API'lerine gitmez ve hiçbir zaman 9xchat kredisi tüketmez veya jeton başına ücret ödemezsiniz.

Ollama modeli bağlantıları masaüstünde mevcuttur (Windows, macOS ve Linux). Kendi Ollama modellerinizi kullanmak abonelik veya 9xchat kredisi gerektirmez.

Kurulum kılavuzu

1. Ollama'yı yükleyin

Masaüstü işletim sisteminiz için Ollama'yı ollama.com adresinden indirip yükleyin.

2. Bir model çekin

Terminalinizi veya komut isteminizi açın ve istediğiniz modeli çekin:

# General chat models
ollama run llama3.2

# Coding & reasoning models
ollama run deepseek-r1:8b
ollama run qwen2.5-coder:7b

Ollama, varsayılan olarak API'sini http://localhost:11434 adresinde yerel olarak sunar.

3. Ollama'yı 9xchat'ye bağlayın

9xchat'de Kütüphane → Modeller'i açın.
Sağlayıcı kenar çubuğunda Ollama'yı seçin.
9xchat, http://localhost:11434'yi otomatik olarak kontrol eder ve kurulu olanlarınızı listeler modeller.
Ollama örneğiniz uzak bir makinede veya özel bağlantı noktasında çalışıyorsa URL'yi girin Ana Bilgisayar URL'si alanına.
Sohbet oluşturucuda bulunmasını istediğiniz modelleri etkinleştirin.

Mevcut yetenekler ve sınırlamalar

Sohbet konuşmaları: Bulut modelleri ve Ollama modelleri arasında geçiş yapabilirsiniz standart sohbet dizilerindeki mesaj başına.
Araçlar ve MCP: Ollama modelleri şu anda 9xchat aracı araçlarını desteklememektedir veya MCP sunucusu işlevi çağrısı.
Kod Çalışma Alanı: Tam aracılı çok dosyalı Kod iş akışı, bulut gerektirir yapılandırılmış araç yürütme kapasitesine sahip modeller; temel kod sohbeti ve açıklamalar Ollama modellerinde çalışmaya devam edebilir.
Yerel Bilgi dizini oluşturma: Ayarlar → Varsayılan Modeller'de şunları seçebilirsiniz: Ollama, belge koleksiyonlarını yerel olarak indekslemek için yerleştirme sağlayıcınız olarak.

Gizlilik hususları

localhost veya 127.0.0.1'ye işaret edildiğinde oluşturma istekleri tamamen kalır Bilgisayarınızda.
Uzak ana bilgisayar URL'sini (ör. http://192.168.1.50:11434) yapılandırırsanız, istekler ağınız üzerinden o hedef ana bilgisayara seyahat edin.
Bulut özellikleri (web araması, YouTube transkriptleri ve bulut sesi gibi) seçtiğiniz sohbet modeli yerel olsa bile harici hizmetlerle iletişime geçin.

Sorun giderme

Örnek algılanmadı: Ollama'nın çalıştığını ve şu adresten erişilebilir olduğunu doğrulayın: http://localhost:11434.
Uzaktan veya Docker bağlantıları: Ollama'yı OLLAMA_ORIGIN="*" ile başlatın. 9xchat'den gelen çapraz kaynak isteklerine izin verin.
Performans: Üretim yavaşsa daha küçük parametreli bir model seçin (llama3.2:3b veya 8b gibi) sisteminizin RAM/VRAM'ına rahatça sığar.