NPU क्या है और कैसे काम करता है?

आप ये जरुर जानना चाहेंगे के NPU क्या है (What is NPU in Hindi) ये कैसे काम करता हैं और इसे कहाँ इस्तमाल में लाया गया है के बारे में आप में बहुतों को शायद कुछ पता भी न हो. इसमें दुःख करने वाली कोई बात नहीं है क्यूंकि यह microprocessor अपने श्रिंखला में बहुत ही नया है. केवल कुछ ही companies ने इसे इस्तमाल में लाया हुआ है. जैसे जैसे हमारा संसार technology के field में तरक्की कर रहा है वैसे वैसे नए और अद्भुत technologies का आविस्कर हो रहा है. वो कहते हैं न की “Necessity is the mother of Invention”. इसका अर्थ है की जरूरतें ही हम इंसानों को नयी नयी चीज़ों की खोज करने के लिए बाध्य करती है. वैसे ही Data Processing की दुनिया में भी लगातार speed बढ़ाने की कोशिश के कारण नए Processing Units को बनाया जाता है. ये इस काम को आसानी से और सठीक ढंग से पूरा कर सके.

चूँकि अभी के technology की बात करें तब अभी Fully Automation के ऊपर ज्यादा research चल रहा है. कई Industries और Companies ने अपने कामों को लोगों के बदले मशीनों से करवाना ठीक समझ रहे हैं. इससे उनका काम बहुत ही जल्द हो जाता है, कम पैसों में हो जाता है और इसके साथ साथ इसमें गलतियों का होना न के बराबर होता है. इसी काम को करने के लिए जिस technology का इस्तमाल होता है उसे Artificial Intellegence कहा जाता है. जहाँ की मशीनों को कृत्रिम बुद्धि प्रदान की जाती है जो की खुद ही अपने intellegence की मदद से बहुत से tasks को पूरा कर देते हैं.

अक्सर ये देखा गया है की इस प्रकार के technologies के लिए complex machine learning algorithms की जरुरत होती है उसे ठीक ढंग से operate करने के लिए. ये algorithms को जल्द से जल्द run करने के लिए अच्छी Microprocessor की जरुरत होती है उनकी processing power को बढ़ाने के लिए. और इसे करने के लिए Neural Processing Units का इस्तमाल किया जाता है. अब तो आपको कुछ न कुछ जरुर समझ में आ ही गया होगा की आज हम किस विषय में बात करने वाले हैं. तो फिर बिना देरी किये चलिए शरू करते हैं और जानते हैं की आखिर ये NPU क्या होता है और इसे कहाँ इस्तमाल में लाया जाता है.

NPU क्या है (What is NPU in Hindi)

NPU का Full Form होता है Neural Processing Unit. इसे neural processor भी कहा जाता है. यह एक ख़ास तरीके का microprocessor होता है जिसे की कुछ ऐसा design किया गया है की जिससे ये machine learning algorithms को accelerate कराने में मदद करता है. इस काम के लिए ये predictive models जैसे की artificial neural networks (ANNs) or random forests (RFs) पर operate करता है.

कई बार NPUs को लोग बहुत से नाम जैसे की tensor processing unit (TPU), neural network processor (NNP), intelligence processing unit (IPU), vision processing unit (VPU) और Graphics processing unit (GPU) के नाम से भी जानते हैं.

Neural Network क्या है?

यह एक ऐसा device या software program होता है जिसमें की बहुत से interconnected elements information को process करते रहते हैं simultaneously और इसके साथ वो past patterns के हिसाब से उससे adapting और learn भी करते रहते हैं.

Machine learning processors की listDesignerNPUAlibabaAli-NPUBaiduKunlunBitmainSophonCambriconMLUGoogleTPUGraphcoreIPUIntelNNP Myriad EyeQNvidiaVolta

ये Neural Network Processing क्या है?

यदि हम किसी भी consumer electronics की बात करें तब सभी में आपको AI की गूंज महसूस होगी. जहाँ इस term का ज्यादा इस्तमाल Marketing team ही किया करते हैं वहीँ जब हम AI (Artificial Intelligence) की जिक्र करते हैं तब वहीँ हम specifically Machine Learning की ही बात कर रहे होते हैं. ज्यादातर technologies जैसे की Silicon IPs में जो specialized hardware block का इस्तमाल किया गया है उन्हें ख़ास तोर से optimize किया गया है ताकि उसमें convolutional neural networks (CNNs) आसानी से run हो सके. एक बात तो इससे साफ़ हो ही चुकी है की Neural Networks का इस्तमाल मुख्य रूप से speed और accuracy को बढ़ाने के लिए किया जाता है.

Neural Networks को चलाने का मुख्य रूप से दो ही Aspects हैं :

पहला की आपके पास एक trained model होना चाहिए जो की actual information रखता हो और जो उस data को describe करता हो जो की वह model में बाद में run होता हो. इन models की training processor intensive होती है – न केवल इसे करने में बहुत सारा काम करना होगा इसे start करने के लिए, बल्कि इसे करने के लिए greater levels of precision की जरुरत है, उन models के execution की तुलना में. इससे हमें ये समझ आता है की एक efficient neural network training के लिए ज्यादा powerful और complex hardware की जरुरत होती है, neural networks को execute करने की तुलना में. और ख़ास इसी करनवास इन models की bulk को high performance hardware, जैसे की server-class GPUs के द्वारा train किया जाता है और specialized hardware जैसे की Google की TPUs का इस्तमाल servers पर किया जाता है cloud में.

वहीँ दूसरा aspect Neural Network (NN) यह है की इन models की execution. यदि हम इन completed models की बात करूँ तब उसमें उन्हें new data से feed करना, और ऐसे results generate करना जो की वो model perceives करते हैं सम्मिलित हैं. ऐसा process जिसमें की neural network model की execution करना उन्हें input data प्रदान कर जिससे की आपको एक output result प्राप्त हो, ऐसे process को inferencing कहते हैं. Training और interfacing में केवल conceptual differences ही नहीं है बल्कि इसमें compute requirements भी अलग अलग हैं. भले ही इसका नाम highly parallel compute हो, लेकिन फिर भी इसे lower precision computations से किया जा सकता है और timely execution के लिए जो overall amount की performance चाहिए वो कम होने से भी ज्यादा फर्क नहीं पड़ता है. इसका मतलब है की हम inference को करने के लिए cheaper hardware का इस्तमाल कर सकते हैं और इसके साथ इसे बहुत से locations में और scenarios में किया जा सकता है.

NPU को क्यूँ लाया गया?

हमारा तो पहले से ही ये goal था की कैसे हम neural network को locally inferencing करके run कर सकें locally किसी एक edge device पर, जिसके लिए हमारे पास इस implementation को run करने के लिए बहुत से अलग अलग processing blocks devices पर जैसे की एक smartphone. CPU, GPU और यहाँ तक की DSPs सभी सक्षम हैं inferencing tasks को run करने के लिए, लेकिन इनमें बहुत ज्यादा efficiency differences है. जहाँ General purpose CPUs को बहुत ही कम इस्तमाल में लाया जाता है ऐसे कामों के लिए क्यूंकि उन्हें massive parallelised execution in mind को चिंता करके designed नहीं किया गया है. वहीँ GPUs और DSPs ज्यादा बेहतर विकल्प है लेकिन फिर भी इनमें अभी और भी काम करना बाकि है. खास इसीलिए इन processor के वाबजूद भी एक नयी class की processing accelerator जिसे की NPU कहा जाता है उसे इस्तमाल में लाया गया.

चूँकि ये नए IP blocks अभी तक भी नए हैं industry में इसलिए अभी तक भी एक common nomenclature इसे प्रदान नहीं किया गया है. HiSilicon/Huawei ने इसे NPU/neural processing unit का नाम दिया है वहीँ Apple ने publicly इसे NE/neural engine कहा है.

इन NPU का इस्तमाल कहाँ किया गया है ?

जैसे की हम जानते ही हैं की अब तो Artificial intelligence हमारे phone में भी उपलब्ध होने लगा है. यदि हम इनकी practical use की बात करें तब नए iPhone X में Neural Engine इसकी A11 Bionic chip का हिस्सा रही है; वहीँ Huawei Kiri 970 chip में भी एक Neural Processing Unit or NPU मेह्जुद होता है; और इसके साथ Pixel 2 में भी एक secret AI-powered imaging chip को activate कर दिया गया है.

इन Next-gen chips को क्यूँ Design किया गया है ?

अब सवाल आता है की आखिर इन नये next gen chips का असल में क्या मकसद है. जैसे की mobile chipsets धीरे धीरे छोटे होते जा रहे हैं और इसके साथ ज्यादा sophisticated भी, और इसके साथ वो ज्यादा काम भी कर रहे हैं, ठीक से कहें तो बहुत से अलग अलग प्रकार के jobs. नज़र में आया है की अब integrated graphics—GPUs अब CPU के साथ ही set हो रहे हैं किसी high-end smartphones के heart में. इससे ये सभी heavy lifting कर रहे हैं visuals के जिससे main processor को थोडा कम काम करना पड़ता है और वो दुसरे काम में ज्यादा समय लगाते हैं.

ये नए प्रजाति के AI chips और भी ज्यादा smart बन जा रहे हैं और बड़े ही smoothly कई प्रकार के complex tasks को भी आसानी से handle कर पा रहे हैं.

क्या सच में NPU compete कर रहा है GPU के साथ?

भले ही यह term बहुत बार marketers और media में इस्तमाल होता रहा है, लेकिन neural processing unit (NPU) की definition अभी तक भी imprecise और immature रही है. David Schatsky, जो की managing director हैं Deloitte LLP के, उनके अनुसार अभी तक NPU की कोई single definition मेह्जुद नहीं है. वहीँ उनके अनुसार ” ये एक ऐसा processor architecture है जिसे की कुछ ऐसा design किया गया है जो की machine learning को ज्यादा efficient बनाता हो – ज्यादा faster करता हो और इसके साथ कम power consumption करता हो”.

साथ ही नए processor architectures जो की neural processing unit जैसे terms के साथ attach हों, वो ज्यादा useful साबित हुए हैं जब AI algorithms के साथ deal किया जता है क्यूंकि training और running neural networks दोनों computationally बहुत ही demanding होते हैं. CPUs, जो की mathematical calculations sequentially perform करते हैं, वो सारे ill-equipped होते हैं ऐसे demands को efficiently handle करने के लिए.

इससे graphics processing units (GPUs) के लिए एक बहुत बड़ा अवसर है, chips जो की parallel processing का इस्तमाल करते हैं quickly mathematical calculations perform करने के लिए. चूँकि GPU इस field में अकेले हैं और केवल दो companies Nvidia और AMD ही है जो की पुरे market को dominate कर रहे हैं. यहाँ सभी semiconductor vendors ऐसे ही oppourtunity के तलाश में हैं जिससे कोई NPUs को launch कर सकें जो की इन GPUs को compete कर सकें.

तो क्या हैं ये Neural Processing Unit?

यहाँ पर Nvidia और AMD के बिच differentiate करने के लिए, बहुत से companies कुछ ऐसे combination का इस्तमाल करते हैं “any combination of ‘N,’ ‘P’ और ‘U’ जिससे वो qualify हो सकें की ये chips targeted हैं AI algorithms को execute करने के लिए और GPU के against compete करने के लिए जिन्हें की पहले ही market के इस sector में इस्तमाल किया जा रहा है.

इस competition में बहुत से बड़े companies जैसे की wireless technology vendors Qualcomm, Huawei Technologies और Apple मुख्य हैं. और ये सभी NPU या उसके कुछ variation का इस्तमाल करते हैं अपने latest tech को describe करने के लिए. जहाँ Huawei’s Kirin 970 chip का इस्तमाल करती है एक neural processing unit के तोर पर वहीँ Qualcomm’s Snapdragon 845 mobile platform भी एक neural processing engine का इस्तमाल करता है. और दूसरी और Apple A11 Bionic processor, जो की एक neural engine है जो की machine learning algorithms को चलाता है.

इसके अलावा एक और confusion भी कईओं के मन में बैठा हुआ है. जो की है एक GPU या CPU के compare में एक neural processing unit या neural engine किसी standardized hardware या किसी specific AI functionality को refer नहीं करता है. बल्कि analysts के अनुसार ये उनकी ability है जो की data को process करती है parallel में और कुछ commonalities होते हैं जो की इन terms को एक साथ जोड़ते हैं.

क्यूँ हमें इन AI CHIPS की जरुरत होती है?

जो मुख्य कारण है इन AI chips को इस्तमाल करने के लिए वो ये की अभी के regular cpu जो की आप phones, laptops, और desktops में देख सकते हैं वो सारे अभी के machine learning demands को fulfil नहीं कर सकते हैं, और इनके इस्तमाल से अभी के problems जैसे की slow service और fast-draining battery को जड़ से हटाया जा सकता है. इसके अलावा parallel processing के होने से हम अपने device में multi-tasking कर सकते हैं. इसके साथ बड़े बड़े games या video software का भी इस्तमाल कर सकते हैं जिन्हें एक साथ काम करना पहले बड़ा मुस्किल काम हुआ करता था. Device की calculation speed, processing speed कई हद तक बढ़ जाती है.

तो क्या आपको भी अपने Phone में यह AI CHIP रखना जरुरी है ?

नहीं, यह जरुरी नहीं है. क्यूंकि ऐसे बहुत से tasks को हमारे devides खुद करने के लिए सक्षम हैं. पर अगर आप एक power user हैं तब तो जरुर अन्यथा इसके बारे में आपको ज्यादा सोचने की जरुरत नहीं है.

दोनों Huawei और Apple के cases में, इस नए hardware का इस्तमाल करने का मुख्य इस्तमाल इन phones को बेहतर बनाने का है. जहाँ Huawei में इसका इस्तमाल सिर्फ इसलिए हुआ था क्यूंकि ये Mate 10 के performance को परखना चाहते थे, इसके काम करने के तरीके को record करना चाहते थे. वहीँ Apple में चूँकि दो नए features जो की हैं Face ID और animoji को power up करने के लिए इस्तमाल किया गया था.

इसके अलावा अगर आपके phones में ऐसे नए features हैं जिन्हें की operate होने के लिए बहुत सारा computational power की जरुरत है, processing speed की जरुरत हैं और इसके साथ बेहतर battery की भी जरुरत है तब आपको इन AI chips की जरुरत होती है.

मुझे पूर्ण आशा है की मैंने आप लोगों को NPU क्या होता है और ये कैसे काम करता है? के बारे में पूरी जानकारी दी और में आशा करता हूँ आप लोगों को NPU क्या है (What is NPU in Hindi) के बारे में समझ आ गया होगा. मेरा आप सभी पाठकों से गुजारिस है की आप लोग भी इस जानकारी को अपने आस-पड़ोस, रिश्तेदारों, अपने मित्रों में Share करें, जिससे की हमारे बिच जागरूकता होगी और इससे सबको बहुत लाभ होगा. मुझे आप लोगों की सहयोग की आवश्यकता है जिससे मैं और भी नयी जानकारी आप लोगों तक पहुंचा सकूँ.

मेरा हमेशा से यही कोशिश रहा है की मैं हमेशा अपने readers या पाठकों का हर तरफ से हेल्प करूँ, यदि आप लोगों को किसी भी तरह की कोई भी doubt है तो आप मुझे बेझिजक पूछ सकते हैं. मैं जरुर उन Doubts का हल निकलने की कोशिश करूँगा. आपको यह लेख NPU क्या है? और ये कैसे काम करता है? कैसा लगा हमें comment लिखकर जरूर बताएं ताकि हमें भी आपके विचारों से कुछ सीखने और कुछ सुधारने का मोका मिले. मेरे पोस्ट के प्रति अपनी प्रसन्नता और उत्त्सुकता को दर्शाने के लिए कृपया इस पोस्ट को Social Networks जैसे कि Facebook, Google+ और Twitter इत्यादि पर share कीजिये.