Basic Terminologies: Dataset, Features, Labels; Training, Test and Validation Data; Overfitting, Underfitting

📖 Theory

જે શબ્દો જોઈશે

Machine learning ની શબ્દાવલિ નાની છે, અને એને ચોકસાઈથી વાપરવાથી બધું વધુ સ્પષ્ટ બને છે. Placement ના dataset માં, આગાહી કરવા માટે તમે જે columns વાપરો છો (marks, attendance, projects) એનું એક નામ છે, જે વસ્તુની આગાહી કરો છો (placement થયું કે નહીં) એનું બીજું નામ છે, અને data ને વહેંચવાની રીતનાં પણ પોતાનાં નામ છે.

આ પાઠ એ શબ્દો પાકા કરે છે, એટલે કે features, labels, training/test/validation data, અને પછી એ બે નિષ્ફળતાઓ સમજાવે છે જેનાથી દરેક model એ બચવાનું હોય છે: overfitting અને underfitting. આ શબ્દાવલિ બરાબર બેસી જાય પછી બાકીનું ML ઘણું સહેલાઈથી વંચાય છે.

📊 At a glance

📖 Theory

Data ને વહેંચવું કેમ પડે

Model જે data માંથી શીખ્યું હોય એ જ data પર એની પરીક્ષા ક્યારેય ન લેવાય; એ તો વિદ્યાર્થીઓને પરીક્ષાના પ્રશ્નો અગાઉથી આપી દેવા જેવું થાય. એટલે dataset ને વહેંચવામાં આવે છે.

Model training data માંથી શીખે છે. Test data તમે અલગ રાખો છો, જે તાલીમ દરમિયાન એ ક્યારેય જોતું નથી, અને એના પરથી માપો છો કે નવા કિસ્સાઓમાં model કેટલું સારું કામ કરે છે; ખરેખર ભાત શીખાઈ છે કે નહીં એની એ જ એકમાત્ર પ્રામાણિક કસોટી છે. Validation data એ વધારાનો ટુકડો છે જે વિકાસ દરમિયાન model ને સુધારવા અને settings પસંદ કરવા વપરાય છે, જેથી test સેટ છેક છેલ્લે સુધી અડ્યા વગરનો રહે. એક ભાગ પર તાલીમ, બીજા ભાગ પર પરીક્ષા: આ અલગાવ પાયાનો છે.

📖 Theory

Overfitting અને underfitting

દરેક model સામે બે સામસામી નિષ્ફળતાઓ ઊભી હોય છે.

Overfitting: model training data ને વધુ પડતું શીખી જાય છે, અને સામાન્ય ભાતને બદલે એનો ઘોંઘાટ તથા લઢણો પણ ગોખી લે છે. એ training data પર ઝળહળતા ગુણ મેળવે છે પણ નવા data પર નબળું પડે છે, એટલે કે એ સામાન્યીકરણ કરી શક્યું નહીં. જાણે એવો વિદ્યાર્થી જેણે જૂનાં પેપર શબ્દેશબ્દ ગોખી લીધાં હોય અને પ્રશ્નો બદલાતાં જ ગૂંચવાઈ જાય.

Underfitting: model ખરી ભાત પકડવા માટે વધુ પડતું સરળ હોય છે, એટલે એ training data પર પણ નબળું રહે છે, નવા data ની તો વાત જ જવા દો. જાણે એવો વિદ્યાર્થી જેણે એટલું ઓછું વાંચ્યું કે વિષય જ સમજાયો નહીં.

ધ્યેય આ બંનેની વચ્ચે છે: એવું model જે સાચી ભાત પકડે અને તેથી નહીં જોયેલા data પર પણ સારું સામાન્યીકરણ કરે.

✏️ Formula

Overfit ગોખે છે; underfit વધુ પડતું સરળ કરે છે

યાદ રાખવાની ચોખ્ખી રીત: overfit થયેલા model એ વધુ પડતી વિગત શીખી લીધી છે (ઘોંઘાટ સહિત), એટલે એ training data પર છવાઈ જાય છે પણ નવા data પર પડી ભાંગે છે; એણે સમજ્યું નહીં, ગોખ્યું. Underfit થયેલા model એ બહુ ઓછું શીખ્યું છે, એટલે એ બધે નિષ્ફળ જાય છે, training data પર પણ.

Overfitting ની ઓળખ મોટું અંતર છે: training data પર ઉત્તમ, test data પર નબળું. Underfitting બંને પર નબળા દેખાવ તરીકે બહાર આવે છે. એટલે જ તમે test સેટ અલગ રાખો છો; એના વગર તો overfitting પકડાય પણ નહીં.

🧩 Quiz

એક model training data પર 99 ટકા ગુણ મેળવે છે પણ નહીં જોયેલા test data પર ફક્ત 60 ટકા. મોટે ભાગે શું બન્યું હશે?

1. Underfitting, કારણ કે 60 ટકા ઓછા કહેવાય
2. Overfitting: એ training data ને વધુ પડતું શીખી ગયું (ઘોંઘાટ સહિત) અને નવા data પર સામાન્યીકરણ કરી શકતું નથી
3. Model સંપૂર્ણ છે, કારણ કે training ની ચોકસાઈ ઊંચી છે
4. કશું ખોટું નથી; ફક્ત training ની ચોકસાઈ જ મહત્ત્વની છે

💭 Think first

Test સેટ સાવ અલગ જ કેમ રાખવો પડે?

તાલીમ દરમિયાન model એ test data ક્યારેય ન જુએ એ આટલું અગત્યનું કેમ છે? વિચારીને પછી tap કરો.

✅ Summary

Key takeaways

• Dataset એટલે દાખલાઓનો સંગ્રહ; features એટલે input ચલ અને labels એટલે પહેલેથી ખબર હોય એવા સાચા જવાબ.
• Placement ના data માં features એટલે marks, attendance અને projects, અને label એટલે placement થયું કે નહીં.
• Data વહેંચાય છે: training data (જેમાંથી model શીખે), validation data (વિકાસ દરમિયાન સુધારવા), test data (નહીં જોયેલા દેખાવ માપવા અલગ રાખેલો).
• જે data પર તાલીમ લીધી હોય એના પર ક્યારેય પરીક્ષા ન લેવાય; એક ભાગ પર તાલીમ, બીજા પર કસોટી.
• Overfitting: model training data ને વધુ પડતું શીખી જાય (ઘોંઘાટ સહિત) અને નવા data પર નિષ્ફળ જાય (train પર ઉત્તમ, test પર નબળું).
• Underfitting: model વધુ પડતું સરળ હોય અને training data પર પણ નબળું રહે (બંને પર નબળું).
• યાદ રાખવાની કડી: features અંદર, labels બહાર; overfit ગોખે છે, underfit વધુ પડતું સરળ કરે છે, અને ધ્યેય છે સામાન્યીકરણ.