DeepSeek AI : यदि आपको DeepSeek R1 जैसे अत्याधुनिक बड़े भाषा मॉडल (LLM) का उपयोग करते समय अपने निजी डेटा के चीन भेजे जाने को लेकर चिंता है?
अब आपके पास इसे अपने कंप्यूटर पर लोकली चलाने का एक बेहतरीन विकल्प है. इसके लिए LM Studio नामक एक मुफ्त टूल का उपयोग किया जा सकता है, जो PC, Mac और Linux सभी पर समर्थ है.
LM Studio के साथ DeepSeek AI चलाने के स्टेप्स:
- डाउनलोड और इंस्टॉलेशन: lmstudio.ai से LM Studio डाउनलोड करें और अपने PC पर इंस्टॉल करें. इंस्टॉलेशन के बाद, यह टूल आपको DeepSeek R1 के 7 बिलियन पैरामीटर वाले डिस्टिल्ड मॉडल को डाउनलोड और इंस्टॉल करने के लिए कहेगा.
- मॉडल लोडिंग: पहली बार मॉडल का उपयोग करते समय, आपको इसे मैन्युअली लोड करना पड़ सकता है. मॉडल के आकार के अनुसार, इसे पूरी तरह से लोड होने में कुछ सेकंड से लेकर कुछ मिनट तक का समय लग सकता है.
- हार्डवेयर आवश्यकताएँ: बेहतर प्रदर्शन के लिए एक शक्तिशाली CPU, GPU और कम से कम 16 GB RAM वाला कंप्यूटर आदर्श है. छोटे मॉडल (10 बिलियन पैरामीटर से कम) को चलाना अपेक्षाकृत सरल होता है, क्योंकि ये डिस्टिल्ड मॉडल अपने बड़े संस्करणों की तुलना में तेज़ और कुशल होते हैं.
- सिस्टम संसाधन पर नजर रखें: LM Studio के नीचे कोने में सिस्टम के संसाधन (RAM और CPU) का उपयोग देखा जा सकता है. यदि मॉडल बहुत अधिक संसाधन ले रहा है, तो ऑनलाइन विकल्प पर स्विच करना उचित हो सकता है.
कस्टमाइजेशन मोड
- यूजर मोड: न्यूनतम कस्टमाइजेशन सुविधा के साथ.
- पावर यूजर मोड: कुछ अतिरिक्त कस्टमाइजेशन विकल्प प्रदान करता है.
- डेवलपर मोड: विस्तृत कस्टमाइजेशन की अनुमति देता है.
यदि आपके पास NVIDIA GPU लैपटॉप है, तो बेहतर प्रदर्शन की उम्मीद की जा सकती है.
लोकल रनिंग का परीक्षण
यह जानने के लिए कि मॉडल वास्तव में लोकली चल रहा है या नहीं, अपने PC से Wi-Fi और Ethernet डिस्कनेक्ट कर दें. यदि मॉडल ऑफलाइन भी आपके प्रश्नों का उत्तर देता है, तो यह सुनिश्चित हो जाता है कि AI लोकली ही रन हो रहा है.