Theory
વિચાર ક્યાં થાય છે?
AIoT system માં એક નિર્ણાયક રચનાત્મક પસંદગી હોય છે: AI ખરેખર ક્યાં ચાલે છે? ઉપકરણ પર જ, sensors ની પાસે, કે દૂર શક્તિશાળી cloud servers પર? આ edge સામે cloud નો નિર્ણય છે, અને એમાં ઝડપ તથા તાકાત વચ્ચે ખરો સોદો છે.
આ પાઠ edge computing (ઉદ્ગમની નજીક પ્રક્રિયા) અને cloud AI (દૂરનાં servers પર પ્રક્રિયા) ને મહત્ત્વની ધરી પર સરખાવે છે: latency, ગણતરીની તાકાત, જોડાણ અને privacy. Real-time પ્રક્રિયા પછી આ સ્વાભાવિક રીતે આવે છે: નિર્ણય રાહ જોઈ શકે એમ ન હોય, તો cloud સુધી પહોંચવાનો સમય જ ન હોય. ગણતરી ક્યાં કરવી એ પસંદગી આખી system ને ઘડે છે.
At a glance
| પાસું | Edge (ઉપકરણ પર કે એની નજીક) | Cloud (દૂરનાં servers) |
|---|---|---|
| Latency | ઓછી: ઝડપી, network પર આંટો મારવો પડતો નથી | વધુ: network પર આધાર રાખે છે |
| ગણતરીની તાકાત | મર્યાદિત (નાનાં ઉપકરણો) | પ્રચંડ (ભારે models ચલાવી શકે) |
| જોડાણ | Offline કે તૂટક જોડાણે પણ ચાલે | ભરોસાપાત્ર જોડાણ જોઈએ |
| Privacy અને bandwidth | Data સ્થાનિક રહે; ઓછો data મોકલાય | Data ઉપકરણ છોડે; વધુ bandwidth વપરાય |
Theory
Edge: ઝડપી અને સ્થાનિક; cloud: શક્તિશાળી અને કેન્દ્રીય
Edge computing data ને ઉપકરણ પર કે એની નજીક (અથવા gateway પર) સંભાળે છે, એટલે કે network ના છેડે, જ્યાં data જન્મે છે એની પાસે જ. એની તાકાત: ઓછી latency (જવાબ ઝડપી આવે, દૂરના server સુધી આંટો મારવો પડતો નથી), એ ઓછું bandwidth વાપરે છે (બધું upload થતું નથી), જોડાણ નબળું હોય ત્યારે પણ એ offline ચાલી શકે છે, અને એ data ને સ્થાનિક રાખે છે (વધુ સારી privacy). એની મર્યાદા: નાનાં edge ઉપકરણો પાસે ગણતરી અને સંગ્રહ મર્યાદિત હોય છે.
Cloud AI data ને દૂરનાં, શક્તિશાળી servers પર સંભાળે છે. એની તાકાત: પ્રચંડ ગણતરી અને સંગ્રહ, એટલે એ ભારે, મોટાં models ચલાવી શકે છે, અને એનું સંચાલન કેન્દ્રીય રહે છે. એની કિંમત: latency (network પર આંટો), ભરોસાપાત્ર જોડાણ ની જરૂર, bandwidth, અને data નું ઉપકરણ છોડવું (privacy નો પ્રશ્ન). એટલે edge ઝડપી, સ્થાનિક અને હલકું છે; cloud શક્તિશાળી છે પણ ધીમું અને જોડાણ પર આધારિત.
Formula
જવાબ ઘણી વાર 'બંને' હોય છે
ખરી AIoT systems ઘણી વાર hybrid રચનામાં બંને વાપરે છે, અને દરેકને એ જેમાં શ્રેષ્ઠ છે એ કામ સોંપે છે. Edge એવા તાત્કાલિક, હલકા નિર્ણયો સંભાળે છે જે તરત જ થવા જોઈએ (અને જોડાણ તૂટે તો પણ એ ચાલતું રહે છે); cloud ભારે વિશ્લેષણ, સંગ્રહ અને એવાં મોટાં models ની તાલીમ સંભાળે છે જે કોઈ નાનું ઉપકરણ ચલાવી જ ન શકે.
Smart farm પર: edge ઉપકરણ હિમથી બચવાનો તાત્કાલિક નિર્ણય ત્યાં જ, તરત લે છે, જ્યારે cloud આખી ઋતુનો data ચાવીને ઉપજની લઢણો તપાસે છે અને models સુધારે છે. ઝડપી પ્રતિભાવ edge પર, ઊંડો વિચાર cloud માં. તાત્કાલિકતા, ગણતરીની જરૂરિયાત, જોડાણ અને privacy ના આધારે શું ક્યાં ચલાવવું એ નક્કી કરવું, એ AIoT ની રચનાની મુખ્ય આવડત છે.
Quiz
કોઈ AIoT ઉપકરણે તાત્કાલિક નિર્ણય તરત જ લેવાનો છે અને એનું internet જોડાણ તૂટે તો પણ ચાલતું રહેવાનું છે. આ પ્રક્રિયા ક્યાં થવી જોઈએ?
- Cloud માં, કારણ કે એ વધુ શક્તિશાળી છે
- Edge પર (ઉપકરણ પર કે એની નજીક), જે ઓછી latency આપે છે અને offline પણ ચાલે છે, એટલે તાત્કાલિક સ્થાનિક નિર્ણયો માટે આદર્શ છે
- ક્યાંય નહીં; તાત્કાલિક નિર્ણયો આપોઆપ લઈ શકાય જ નહીં
- બધો data upload કરીને batch વિશ્લેષણ પછી જ
Show the answer
Edge પર (ઉપકરણ પર કે એની નજીક), જે ઓછી latency આપે છે અને offline પણ ચાલે છે, એટલે તાત્કાલિક સ્થાનિક નિર્ણયો માટે આદર્શ છે
તરત લેવાના અને જોડાણ વગર પણ ચાલતા રહેવા જોઈએ એવા તાત્કાલિક નિર્ણયો edge પર (ઉપકરણ પર કે એની નજીક) લેવા શ્રેષ્ઠ છે: edge computing ઓછી latency આપે છે (network પર આંટો મારવો પડતો નથી) અને offline પણ ચાલી શકે છે, જે સમયની ખેંચવાળા તથા જોડાણથી સ્વતંત્ર નિર્ણય માટે બરાબર જોઈએ છે એ જ છે. વિકલ્પ A, એટલે કે cloud, વધુ શક્તિશાળી છે પણ network ની latency ઉમેરે છે અને ભરોસાપાત્ર જોડાણ પર આધાર રાખે છે, એટલે જોડાણ તૂટે તો પણ ટકવો જોઈએ એવા તાત્કાલિક નિર્ણય માટે એ ખરાબ પસંદગી છે. વિકલ્પ C ખોટો છે: edge AI બરાબર આવા જ નિર્ણયો આપોઆપ લે છે. વિકલ્પ D batch વિશ્લેષણ વર્ણવે છે, જે તાત્કાલિક પ્રતિભાવ માટે ઘણું જ ધીમું છે. જરૂરિયાત પ્રમાણે જગ્યા જોડો: તાત્કાલિક, સ્થાનિક અને offline ચાલે એવું એટલે edge; ભારે વિશ્લેષણ એટલે cloud.
Think first
ઘણી systems એકને પસંદ કરવાને બદલે કામ edge અને cloud વચ્ચે કેમ વહેંચે છે?
સીધું edge કે cloud પસંદ કરવાને બદલે edge વત્તા cloud વાળી hybrid રચના આટલી સામાન્ય કેમ છે? વિચારીને પછી tap કરો.
Show the answer
કારણ કે edge અને cloud ની તાકાત તથા નબળાઈઓ એકબીજાની પૂરક છે, એટલે દરેકને એને ફાવે એવાં કામ સોંપવાથી એવી system મળે છે જે ઝડપી પ્રતિભાવ આપતી અને શક્તિશાળી, બંને હોય; આ બેમાંથી એકલું કોઈ પૂરેપૂરું આપી શકતું નથી.
દરેક શેમાં શ્રેષ્ઠ છે એ જુઓ. Edge ઝડપ, offline ચાલવું, ઓછું bandwidth અને privacy માં ઉત્તમ છે: data જ્યાં હોય ત્યાં જ એ મિલિસેકંડોમાં તાત્કાલિક નિર્ણય લઈ શકે છે, network ડગમગે ત્યારે પણ ચાલતું રહે છે, કાચા data નો ધોધ upload કરવાનું ટાળે છે અને સંવેદનશીલ માહિતી સ્થાનિક રાખે છે. પણ એ નાનાં, ઘણી વાર battery પર ચાલતાં ઉપકરણોની મર્યાદિત ગણતરી તથા સંગ્રહથી બંધાયેલું છે, એટલે એ પ્રચંડ models ચલાવી શકતું નથી કે લાંબો ઇતિહાસ સાચવી શકતું નથી.
Cloud સાવ ઊંધું છે: એ પ્રચંડ ગણતરી અને સંગ્રહ આપે છે, ભારે models ચલાવી શકે છે, વિરાટ datasets પર તાલીમ આપી શકે છે અને લાંબા ગાળાની લઢણો તપાસી શકે છે; પણ એ network ની latency ઉમેરે છે, ભરોસાપાત્ર જોડાણ પર આધાર રાખે છે, bandwidth વાપરે છે અને એનો અર્થ એ કે data ઉપકરણ છોડે છે.
Hybrid રચના બંનેની તાકાત વાપરે છે: સમયની ખેંચવાળા, હલકા અને offline ચાલવા જ જોઈએ એવા નિર્ણયો edge પર મૂકો (હિમનો તાત્કાલિક પ્રતિભાવ, તરત ખામી પકડવી), અને ભારે, બિનતાત્કાલિક કામ cloud ને મોકલો (ઋતુભરના data નું વિશ્લેષણ, AI models ની તાલીમ તથા સુધારો, લાંબા ગાળાનો સંગ્રહ, અનેક જગ્યાઓ સાથે સરખાવીને મળતી સમજ).
Cloud સમયાંતરે સુધારેલાં models edge ઉપકરણો સુધી પાછાં ધકેલી પણ શકે છે, જેથી દરેક નિર્ણય માટે cloud ની તાકાત જોઈએ નહીં અને છતાં edge વધુ ને વધુ ચતુર થતું જાય. આ વહેંચણીથી system જ્યાં જરૂરી હોય ત્યાં તરત જવાબ આપે છે, છતાં જ્યાં ઊંડાણ જોઈએ ત્યાં cloud ની તાકાતનો લાભ પણ લે છે, અને જોડાણ અધૂરું હોય ત્યારે પણ ચાલુ રહે છે.
ફક્ત edge પસંદ કરો તો ભારે વિશ્લેષણ અને શીખવાનું પાંગળું થઈ જાય; ફક્ત cloud પસંદ કરો તો તાત્કાલિક, real-time જરૂરિયાતો માટે system ધીમી અને નાજુક બની જાય. એટલે hybrid એ સમાધાન નથી પણ બંનેનું શ્રેષ્ઠ છે, જેમાં દરેક કામ એને સૌથી સારી રીતે પાર પાડતી જગ્યાએ મુકાય છે; અને એટલે જ ખરી AIoT systems આટલી વાર edge તથા cloud ને ભેગાં વાપરે છે. ઝડપી સ્થાનિક પ્રતિભાવ વત્તા શક્તિશાળી કેન્દ્રીય વિશ્લેષણ, બંને સાથે મળીને, એકલા કોઈ પણ કરતાં ચડિયાતાં નીવડે છે.
Summary
Key takeaways
- AIoT ની મુખ્ય રચનાત્મક પસંદગી એ છે કે AI ક્યાં ચાલે: edge પર (ઉપકરણની નજીક) કે cloud માં (દૂરનાં servers).
- Edge computing data ને ઉપકરણ પર કે એની નજીક સંભાળે છે: ઓછી latency, ઓછું bandwidth, offline ચાલે, data સ્થાનિક રહે, પણ ગણતરી મર્યાદિત.
- Cloud AI શક્તિશાળી દૂરનાં servers પર પ્રક્રિયા કરે છે: ભારે models માટે પ્રચંડ ગણતરી અને સંગ્રહ, પણ વધુ latency, જોડાણની જરૂર, અને data ઉપકરણ છોડે.
- સોદો: edge ઝડપી, સ્થાનિક અને હલકું છે પણ મર્યાદિત; cloud શક્તિશાળી છે પણ ધીમું અને જોડાણ પર આધારિત.
- ઘણી systems બંને વાપરે છે (hybrid): તાત્કાલિક હલકા નિર્ણયો edge પર, ભારે વિશ્લેષણ તથા model ની તાલીમ cloud માં.
- Smart farm: હિમનો તાત્કાલિક પ્રતિભાવ edge પર, ઋતુભરની ઉપજનું વિશ્લેષણ cloud માં.
- યાદ રાખવાની કડી: ઝડપી, સ્થાનિક અને offline નિર્ણયો માટે edge, ભારે કેન્દ્રીય તાકાત માટે cloud; અને બંનેનું શ્રેષ્ઠ મેળવવા એમને ભેગાં વાપરો.