اولامہ کے ساتھ مقامی ماڈلز

9xchat آپ کی مشین پر یا آپ کے نیٹ ورک پر ریموٹ سرور پر چلنے والے Ollama رن ٹائمز سے جڑتا ہے۔ آپ کی مشین پر چلنے والے اولاما ماڈل سے استفسار کرتے وقت، اشارے بیرونی کلاؤڈ APIs تک نہیں جاتے ہیں، اور آپ کبھی بھی 9xchat کریڈٹ استعمال نہیں کرتے ہیں یا فی ٹوکن فیس ادا نہیں کرتے ہیں۔

سیٹ اپ گائیڈ

1. اولامہ انسٹال کریں۔

اپنے ڈیسک ٹاپ آپریٹنگ سسٹم کے لیے ollama.com سے Ollama ڈاؤن لوڈ اور انسٹال کریں۔

2. ایک ماڈل کھینچیں۔

اپنا ٹرمینل یا کمانڈ پرامپٹ کھولیں اور اپنے مطلوبہ ماڈل کو کھینچیں:

# General chat models
ollama run llama3.2

# Coding & reasoning models
ollama run deepseek-r1:8b
ollama run qwen2.5-coder:7b

پہلے سے طے شدہ طور پر، Ollama اپنے API کو مقامی طور پر http://localhost:11434 پر پیش کرتا ہے۔

3. اولاما کو 9xchat میں جوڑیں۔

1. 9xchat میں، لائبریری → ماڈل کھولیں۔
2. فراہم کنندہ سائڈبار میں Ollama کو منتخب کریں۔
3. 9xchat خود بخود http://localhost:11434 چیک کرتا ہے اور آپ کے انسٹال کردہ فہرست ماڈلز
4. اگر آپ کا اولاما مثال ریموٹ مشین یا کسٹم پورٹ پر چلتا ہے تو URL درج کریں۔ میزبان URL فیلڈ میں۔
5. ان ماڈلز کو فعال کریں جو آپ چیٹ کمپوزر میں دستیاب چاہتے ہیں۔

موجودہ صلاحیتیں اور حدود

• چیٹ کی گفتگو: آپ کلاؤڈ ماڈل اور اولاما ماڈلز کے درمیان سوئچ کر سکتے ہیں۔ معیاری چیٹ تھریڈز میں فی پیغام۔

• ٹولز اور MCP: اولاما ماڈلز فی الحال 9xchat ایجنٹی ٹولز کو سپورٹ نہیں کرتے ہیں یا MCP سرور فنکشن کالنگ۔

• کوڈ ورک اسپیس: مکمل ایجنٹی ملٹی فائل کوڈ ورک فلو کے لیے کلاؤڈ کی ضرورت ہوتی ہے۔ ساختی ٹول پر عمل درآمد کے قابل ماڈل؛ بنیادی کوڈ چیٹ اور وضاحتیں اب بھی اولاما ماڈلز پر چل سکتی ہیں۔

• مقامی نالج انڈیکسنگ: ترتیبات → ڈیفالٹ ماڈل میں، آپ منتخب کر سکتے ہیں Ollama مقامی طور پر دستاویزات کے مجموعوں کو انڈیکس کرنے کے لیے آپ کے ایمبیڈنگ فراہم کنندہ کے طور پر۔

رازداری کے تحفظات

• localhost یا 127.0.0.1 کی طرف اشارہ کرتے وقت، نسل کی درخواستیں مکمل طور پر رہتی ہیں آپ کے کمپیوٹر پر
• اگر آپ ریموٹ ہوسٹ یو آر ایل (مثلاً http://192.168.1.50:11434) ترتیب دیتے ہیں، تو درخواستیں اپنے نیٹ ورک پر اس منزل کے میزبان تک سفر کریں۔
• کلاؤڈ کی خصوصیات (جیسے ویب تلاش، YouTube ٹرانسکرپٹس، اور کلاؤڈ آڈیو) بیرونی خدمات سے رابطہ کریں چاہے آپ کا منتخب کردہ چیٹ ماڈل مقامی ہو۔

خرابی کا سراغ لگانا

• مثال کا پتہ نہیں چلا: تصدیق کریں کہ اولاما چل رہا ہے اور اس پر قابل رسائی ہے۔ http://localhost:11434
• ریموٹ یا ڈوکر کنکشنز: اولاما کو OLLAMA_ORIGIN="*" سے شروع کریں 9xchat سے کراس اوریجن درخواستوں کی اجازت دیں۔
• کارکردگی: اگر جنریشن سست ہے تو ایک چھوٹا پیرامیٹر ماڈل منتخب کریں۔ (جیسے llama3.2:3b یا 8b) جو آپ کے سسٹم کی RAM/VRAM میں آرام سے فٹ بیٹھتا ہے۔