تعد Nvidia أول شركة في مجال الذكاء الاصطناعي تقوم بإصدار برنامج دردشة مجاني مخصص للاستخدام المحلي دون اتصال بالإنترنت، حيث يتيح تطبيق Chat with RTX الجديد للمستخدمين استخدام نماذج اللغة المفتوحة محلياً دون الاتصال بالسحابة. إلا أن العيب الفعلي الوحيد في “Chat with RTX” هو متطلبات النظام العالية وحجم التنزيل الضخم، خاصة عند مقارنتها بالحلول السحابية، فأنت ستحتاج إلى وحدة معالجة رسومات RTX 30-series أو إصدار أحدث مزود بذاكرة VRAM سعة 8 جيجابايت على الأقل ونظام التشغيل Windows 10 أو 11 لتشغيله.
أما عن نقطة البيع الأقوى التي تعمل عليها RTX فهي تتمثل في وضع عدم الاتصال وإمكانية التخصيص للمستخدم. هذا ويتيح لك برنامج المحادثة من Nvidia تحديد ملفاتك الخاصة حتى يتمكن من إنتاج إجابات مخصصة وفقاً لاحتياجاتك، كما يمكنك استيراد تنسيقات ملفات مختلفة، بما في ذلك مستندات .txt وPDF وWord وXML، إضافةً إلى إمكانية تنزيل مقاطع فيديو YouTube وتحليلها بواسطة برنامج الدردشة الآلي.
وعلى أي حال، إنه تطبيق رائع جداً ويمنحك قدراً أكبر من التحكم فيما لو قارناه بالحلول المتصلة بالإنترنت مثل Copilot وGemini، ولكن لا ننسى بأن هذا التصميم لن يتيح له البحث في الإنترنت عن إجابات، الأمر الذي قد يكون سلبياً بالنسبة للبعض.
وتستخدم الدردشة مع RTX نماذج اللغة Mistral أو LIama 2 مفتوحة المصدر إلى جانب Retrieval-Augmented Generation والذي هو عبارة عن وضع لضبط الاستجابات باستخدام بياناتك الخاصة. كما تستخدم Nvidia برنامج TensorRT-LLM الخاص بها للسماح للتطبيق بالاستفادة بشكل أفضل من نوى وحدات معالجة الرسومات من سلسلة RTX 30 أو RTX 40.
ويبدأ التطبيق الفعلي بتنزيل 35 جيجابايت، حيث يتعين عليك إكمال عملية التثبيت، والتي تؤدي إلى تنزيل بعض البيانات الإضافية، كما أنه يمر بعملية تجميع لاستهداف وحدة معالجة الرسومات الخاصة بك، والتي يمكن أن تستغرق 15 دقيقة أكثر. وسيستغرق تحليل ملفاتك المحلية وقتاً إضافياً، الأمر الذي يختلف حسب عدد الملفات الموجودة.
إن التطبيق في مرحلته التجريبية الآن، لذا من غير المتوقع أن يقدم إجابات مثالية، كما أن أصحاب سلسلة RTX 20 لن يكون لهم الحظ في الحصول عليه. ومن غير المعروف ما هو السبب وراء عدم دعم وحدات معالجة الرسومات الأصلية الخاصة ببنية Turing، إلا أن Nvidia ادعت بأن ضيق الوقت كان أحد العوامل التي تسببت بذلك، مقترحةً بأن التطبيق قد تصل إلى البطاقات ذات سلسلة 20 في المستقبل.
