Few-Shot Learning

Čo je Few-Shot Learning?

Few-Shot Learning je prístup strojového učenia, ktorý umožňuje modelom robiť presné predikcie iba na základe malého počtu označených príkladov. Na rozdiel od tradičných metód učenia s dohľadom, ktoré vyžadujú veľké množstvo označených dát na trénovanie, Few-Shot Learning sa zameriava na trénovanie modelov tak, aby dokázali generalizovať z obmedzeného datasetu. Cieľom je vyvinúť algoritmy učenia, ktoré sa dokážu efektívne naučiť nové koncepty alebo úlohy už z niekoľkých príkladov, podobne ako to dokážu ľudia.

V kontexte strojového učenia označuje pojem „few-shot“ počet trénovacích príkladov na triedu. Napríklad:

• One-Shot Learning: Model sa učí iba z jedného príkladu na triedu.
• Few-Shot Learning: Model sa učí z malého počtu (typicky 2 až 5) príkladov na triedu.

Few-Shot Learning patrí do širšej kategórie n-shot learning, kde n predstavuje počet trénovacích príkladov na triedu. Úzko súvisí s meta-učením, tiež známym ako „učenie sa učiť“, kde je model trénovaný na rôznych úlohách a učí sa rýchlo prispôsobiť novým úlohám s obmedzenými dátami.

Ako sa používa Few-Shot Learning?

Few-Shot Learning sa využíva najmä v situáciách, keď je získanie veľkého označeného datasetu nepraktické alebo nemožné. Môže k tomu dôjsť z dôvodov ako:

• Nedostatok dát: Zriedkavé udalosti, nové produktové obrázky, jedinečné zámery používateľov alebo nezvyčajné zdravotné stavy.
• Vysoké náklady na anotáciu: Označovanie dát si vyžaduje odborné znalosti alebo značnú časovú investíciu.
• Obavy o súkromie: Zdieľanie alebo zber dát je obmedzené kvôli reguláciám ochrany súkromia.

Na riešenie týchto výziev Few-Shot Learning využíva predchádzajúce znalosti a stratégie učenia, ktoré umožňujú modelom robiť spoľahlivé predikcie z minimálneho množstva dát.

Hlavné prístupy vo Few-Shot Learning

Na efektívnu implementáciu Few-Shot Learning bolo vyvinutých niekoľko metodológií:

1. Meta-učenie (učenie sa učiť)
2. Transferové učenie
3. Augmentácia dát
4. Metric Learning

1. Meta-učenie (učenie sa učiť)

Meta-učenie zahŕňa trénovanie modelov na rôznych úlohách tak, aby sa dokázali rýchlo naučiť nové úlohy z malého množstva dát. Model získava meta-úroveň porozumenia tomu, ako sa má učiť, čo mu umožňuje rýchlo sa prispôsobiť s obmedzeným počtom príkladov.

Kľúčové pojmy:

• Epizódy: Tréning je štruktúrovaný do epizód, z ktorých každá napodobňuje úlohu Few-Shot Learning.
• Support set: Malý označený dataset, ktorý model používa na učenie.
• Query set: Dataset, na ktorom model predikuje po naučení sa zo support setu.

Populárne algoritmy meta-učenia:

• Model-Agnostic Meta-Learning (MAML): Trénuje parametre modelu tak, aby už malý počet aktualizácií gradientu viedol k dobrej generalizácii na nové úlohy.
• Prototypové siete: Naučí sa metrický priestor, kde sa klasifikácia vykonáva počítaním vzdialeností k prototypom jednotlivých tried.
• Matching Networks: Využíva mechanizmy pozornosti nad naučenými embeddingmi support setu na predikciu.

Príklad použitia:

V spracovaní prirodzeného jazyka (NLP) môže chatbot potrebovať rozpoznať nové zámery používateľov, ktoré sa pri počiatočnom trénovaní nevyskytli. Vďaka meta-učeniu sa chatbot dokáže rýchlo adaptovať na rozpoznávanie a odpovedanie na tieto nové zámery už po zadaní niekoľkých príkladov.

2. Transferové učenie

Transferové učenie využíva znalosti získané na jednej úlohe na zlepšenie učenia v inej, príbuznej úlohe. Model sa najprv predtrénuje na veľkom datasete a následne sa doladí na cieľovú few-shot úlohu.

Proces:

• Predtrénovanie: Model sa trénuje na veľkom, rôznorodom datasete, aby sa naučil všeobecné črty.
• Doladenie: Predtrénovaný model sa prispôsobí novej úlohe pomocou obmedzeného množstva dostupných dát.

Výhody:

• Znižuje potrebu veľkého množstva označených dát pre cieľovú úlohu.
• Model ťaží z bohatých reprezentácií čŕt naučených počas predtrénovania.

Príklad použitia:

V počítačovom videní možno model predtrénovaný na ImageNet-e doladiť na klasifikáciu medicínskych snímok zriedkavej choroby iba s niekoľkými dostupnými označenými príkladmi.

3. Augmentácia dát

Augmentácia dát zahŕňa generovanie ďalších trénovacích dát z existujúceho obmedzeného datasetu. To môže pomôcť predchádzať preučeniu a zlepšiť schopnosť modelu generalizovať.

Techniky:

• Transformácie obrázkov: Rotácia, škálovanie, prevracanie a orezávanie obrázkov.
• Generovanie syntetických dát: Využitie generatívnych modelov ako Generative Adversarial Networks (GANs) na tvorbu nových dátových vzoriek.
• Mixup a CutMix: Kombinovanie dvojíc príkladov na vytvorenie nových trénovacích vzoriek.

Príklad použitia:

Pri rozpoznávaní reči môže rozšírenie niekoľkých zvukových vzoriek pridaním šumu, zmenou výšky tónu alebo rýchlosti vytvoriť robustnejšiu trénovaciu množinu.

4. Metric Learning

Metric Learning sa zameriava na učenie funkcie vzdialenosti, ktorá meria, ako sú si dve dátové vzorky podobné alebo odlišné. Model sa naučí mapovať dáta do embedding priestoru, kde sú podobné položky blízko pri sebe.

Prístup:

• Siamese siete: Používajú dvojité siete so zdieľanými váhami na výpočet embeddingov dvojíc vstupov a merajú vzdialenosť medzi nimi.
• Triplet Loss: Zabezpečuje, aby bol anchor bližšie k pozitívnemu príkladu než k negatívnemu príkladu o určitú mieru.
• Kontrastívne učenie: Učí embeddingy kontrastovaním podobných a odlišných dvojíc.

Príklad použitia:

Pri rozpoznávaní tváre umožňuje metric learning modelu overiť, či sú dve fotografie tej istej osoby na základe naučených embeddingov.

Výskum v oblasti Few-Shot Learning

Few-shot learning je rýchlo sa rozvíjajúca oblasť strojového učenia, ktorá rieši výzvu trénovania modelov s obmedzeným množstvom označených dát. Táto sekcia predstavuje niekoľko kľúčových vedeckých prác, ktoré prispievajú k pochopeniu a rozvoju metodológií few-shot learningu.

Kľúčové vedecké práce

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Autori: Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Zhrnutie: Táto práca predstavuje inovatívny algoritmus na obnovu obrázkov, ktorý využíva princípy few-shot learningu. Algoritmus pomocou malej množiny obrázkov zlepšuje percepčnú kvalitu alebo strednú kvadratickú chybu (MSE) predtrénovaných modelov bez ďalšieho trénovania. Metóda je založená na teórii optimálneho transportu, ktorá zosúlaďuje výstupnú distribúciu so zdrojovými dátami lineárnou transformáciou v latentnom priestore variačného autoenkódera. Výskum preukazuje zlepšenie percepčnej kvality a navrhuje interpoláciu na vyváženie percepčnej kvality a MSE v obnovených obrázkoch.
   • Čítať viac

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Autori: Michail Schlesinger, Evgeniy Vodolazskiy
   • Zhrnutie: Táto štúdia sa zaoberá výzvami malých vzoriek pri strojovom učení. Kritizuje obmedzenia stratégií maximálnej vierohodnosti a minimax učenia a zavádza koncept minimax deviation learning. Tento nový prístup má prekonať nedostatky existujúcich metód a poskytuje robustnú alternatívu pre scenáre few-shot learningu.
   • Čítať viac

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Autor: Changjian Li
   • Zhrnutie: Hoci sa práca primárne zameriava na systémy celoživotného učenia, poskytuje poznatky aplikovateľné aj na few-shot learning tým, že poukazuje na nedostatky tradičných paradigmat posilňovacieho učenia. Navrhuje, že systémy s kontinuálnym učením, ktoré sa učia nepretržitou interakciou, môžu ponúknuť cenné perspektívy pre rozvoj modelov few-shot learningu.
   • Čítať viac

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Autori: Nick Erickson, Qi Zhao
   • Zhrnutie: Dex toolkit je predstavený na trénovanie a hodnotenie metód kontinuálneho učenia s dôrazom na inkrementálne učenie. Tento prístup možno vnímať ako formu few-shot learningu, kde sa optimálne počiatočné váhy získavajú riešením jednoduchších prostredí. Práca ukazuje, ako inkrementálne učenie môže v zložitých úlohách posilňovacieho učenia výrazne prekonať tradičné metódy.
   • Čítať viac

5. Augmented Q Imitation Learning (AQIL)

   • Autori: Xiao Lei Zhang, Anish Agarwal
   • Zhrnutie: Táto práca skúma prepojenie imitačného učenia a posilňovacieho učenia, dvoch oblastí úzko súvisiacich s few-shot learningom. AQIL kombinuje tieto paradigmy učenia na vytvorenie robustného rámca pre nepozorované učenie a ponúka pohľad na to, ako možno few-shot learning vylepšiť prostredníctvom imitácie a spätnoväzbových mechanizmov.
   • Čítať viac