Few-Shot Learning

Czym jest Few-Shot Learning?

Few-Shot Learning to podejście w uczeniu maszynowym, które umożliwia modelom dokonywanie trafnych predykcji na podstawie jedynie niewielkiej liczby oznakowanych przykładów. W przeciwieństwie do tradycyjnych metod uczenia nadzorowanego, wymagających dużej ilości oznakowanych danych do treningu, Few-Shot Learning skupia się na trenowaniu modeli do uogólniania na podstawie ograniczonego zbioru danych. Celem jest opracowanie algorytmów, które potrafią efektywnie uczyć się nowych pojęć lub zadań już z kilku przypadków – podobnie jak robią to ludzie.

W kontekście uczenia maszynowego termin „few-shot” odnosi się do liczby przykładów treningowych na klasę. Na przykład:

• One-Shot Learning: Model uczy się na podstawie tylko jednego przykładu na klasę.
• Few-Shot Learning: Model uczy się na podstawie niewielkiej liczby (zazwyczaj 2 do 5) przykładów na klasę.

Few-Shot Learning należy do szerszej kategorii n-shot learning, gdzie n oznacza liczbę przykładów treningowych na klasę. Jest blisko powiązany z meta-learningiem, znanym także jako „uczenie się uczenia”, gdzie model jest trenowany na różnych zadaniach, aby szybko adaptować się do nowych zadań przy ograniczonej ilości danych.

Jak wykorzystywany jest Few-Shot Learning?

Few-Shot Learning znajduje zastosowanie głównie w sytuacjach, gdy pozyskanie dużego oznakowanego zbioru danych jest niepraktyczne lub niemożliwe. Może to wynikać z:

• Niedoboru danych: Rzadkie zdarzenia, nowe obrazy produktów, unikalne intencje użytkowników czy nietypowe przypadki medyczne.
• Wysokich kosztów anotacji: Oznaczanie danych wymaga eksperckiej wiedzy lub dużego nakładu czasu.
• Obaw o prywatność: Udostępnianie lub zbieranie danych jest ograniczone przez regulacje dotyczące prywatności.

Aby sprostać tym wyzwaniom, Few-Shot Learning wykorzystuje wcześniejszą wiedzę oraz strategie uczenia, które pozwalają modelom dokonywać wiarygodnych predykcji na podstawie minimalnej ilości danych.

Kluczowe podejścia w Few-Shot Learning

Opracowano kilka metodologii efektywnego wdrażania Few-Shot Learning:

1. Meta-learning (uczenie się uczenia)
2. Transfer learning
3. Augmentacja danych
4. Uczenie metryczne

1. Meta-learning (uczenie się uczenia)

Meta-learning polega na trenowaniu modeli na różnorodnych zadaniach w taki sposób, by mogły one szybko uczyć się nowych zadań z niewielkiej ilości danych. Model zyskuje meta-poziom zrozumienia procesu uczenia, co umożliwia mu szybką adaptację do nowych sytuacji przy ograniczonych przykładach.

Kluczowe pojęcia:

• Epizody: Trening odbywa się w epizodach, z których każdy symuluje zadanie typu Few-Shot.
• Support set: Mały oznakowany zbiór danych, na którym model się uczy.
• Query set: Zbiór, na którym model dokonuje predykcji po nauce na support set.

Popularne algorytmy meta-learningu:

• Model-Agnostic Meta-Learning (MAML): Trenuje parametry modelu tak, aby kilka aktualizacji gradientu prowadziło do dobrej uogólnialności na nowe zadania.
• Prototypowe sieci (Prototypical Networks): Uczą się przestrzeni metrycznej, w której klasyfikacja odbywa się poprzez wyznaczenie odległości do reprezentantów (prototypów) każdej klasy.
• Matching Networks: Wykorzystują mechanizmy uwagi na wyuczonych reprezentacjach support set do dokonywania predykcji.

Przykładowe zastosowanie:

W przetwarzaniu języka naturalnego (NLP) chatbot może potrzebować rozpoznawać nowe intencje użytkownika, które nie były obecne podczas początkowego treningu. Dzięki meta-learningowi chatbot może szybko nauczyć się rozpoznawać i reagować na te nowe intencje po podaniu zaledwie kilku przykładów.

2. Transfer learning

Transfer learning polega na wykorzystaniu wiedzy zdobytej podczas rozwiązywania jednego zadania do poprawy uczenia na innym, powiązanym zadaniu. Model jest najpierw wstępnie trenowany na dużym zbiorze danych, a następnie dostrajany (fine-tuning) do zadania docelowego typu Few-Shot.

Proces:

• Pre-training: Trening modelu na dużym, zróżnicowanym zbiorze danych w celu nauczenia się ogólnych cech.
• Fine-tuning: Dostosowanie wstępnie wytrenowanego modelu do nowego zadania przy użyciu ograniczonych dostępnych danych.

Zalety:

• Zmniejsza zapotrzebowanie na duże ilości oznakowanych danych dla zadania docelowego.
• Korzysta z bogatych reprezentacji cech wyuczonych podczas pre-treningu.

Przykładowe zastosowanie:

W rozpoznawaniu obrazów model wstępnie wytrenowany na ImageNet może być dostrojony do klasyfikacji obrazów medycznych dla rzadkiej choroby, mając do dyspozycji tylko kilka oznakowanych przykładów.

3. Augmentacja danych

Augmentacja danych polega na generowaniu dodatkowych danych treningowych na podstawie istniejącego, ograniczonego zbioru. Pomaga to zapobiegać przeuczeniu i poprawia zdolność modelu do uogólniania.

Techniki:

• Transformacje obrazów: Obrót, skalowanie, odbicie, kadrowanie obrazów.
• Generowanie danych syntetycznych: Wykorzystanie modeli generatywnych, takich jak GAN, do tworzenia nowych próbek danych.
• Mixup i CutMix: Łączenie par przykładów w celu uzyskania nowych próbek treningowych.

Przykładowe zastosowanie:

W rozpoznawaniu mowy augmentacja kilku próbek dźwiękowych o szumy tła, zmiany tonu czy tempa pozwala stworzyć bardziej odporny zestaw treningowy.

4. Uczenie metryczne

Uczenie metryczne skupia się na nauczeniu funkcji odległości, która mierzy, jak bardzo dwa punkty danych są do siebie podobne lub różne. Model uczy się mapować dane do przestrzeni osadzeń, gdzie podobne elementy znajdują się blisko siebie.

Podejścia:

• Sieci syjamskie (Siamese Networks): Wykorzystują bliźniacze sieci o wspólnych wagach do wyznaczania reprezentacji par wejściowych i mierzenia odległości między nimi.
• Triplet Loss: Zapewnia, że punkt odniesienia (anchor) jest bliżej pozytywnego przykładu niż negatywnego o określony margines.
• Contrastive Learning: Uczy osadzeń poprzez kontrastowanie par podobnych i niepodobnych.

Przykładowe zastosowanie:

W rozpoznawaniu twarzy uczenie metryczne pozwala modelowi weryfikować, czy dwa obrazy przedstawiają tę samą osobę na podstawie wyuczonych osadzeń.

Badania nad Few-Shot Learning

Few-shot learning to szybko rozwijająca się dziedzina uczenia maszynowego, która mierzy się z wyzwaniem trenowania modeli przy ograniczonej ilości oznakowanych danych. Poniżej przedstawiono kilka kluczowych publikacji naukowych, które przyczyniają się do rozwoju i zrozumienia metod Few-Shot Learning.

Kluczowe publikacje naukowe

1. Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration

   • Autorzy: Theo Adrai, Guy Ohayon, Tomer Michaeli, Michael Elad
   • Streszczenie: Praca przedstawia innowacyjny algorytm przywracania jakości obrazów, wykorzystujący zasady Few-Shot Learning. Dzięki użyciu niewielkiego zestawu obrazów algorytm poprawia jakość percepcyjną lub średni błąd kwadratowy (MSE) modeli wstępnie wytrenowanych bez dodatkowego treningu. Metoda oparta jest na teorii optimal transport, która dopasowuje rozkład wyjściowy do danych źródłowych poprzez liniową transformację w przestrzeni ukrytej wariacyjnego autoenkodera. Badania pokazują poprawę jakości percepcyjnej oraz proponują metodę interpolacji do równoważenia jakości percepcyjnej i MSE w odtwarzanych obrazach.
   • Czytaj więcej

2. Minimax Deviation Strategies for Machine Learning and Recognition with Short Learning Samples

   • Autorzy: Michail Schlesinger, Evgeniy Vodolazskiy
   • Streszczenie: Praca podejmuje temat wyzwań związanych z małymi próbkami treningowymi w uczeniu maszynowym. Autorzy krytykują ograniczenia strategii maksymalnego prawdopodobieństwa i minimaksu i wprowadzają koncepcję uczenia minimaksowego odchylenia. To nowe podejście ma przezwyciężyć niedoskonałości istniejących metod, oferując solidną alternatywę dla scenariuszy Few-Shot Learning.
   • Czytaj więcej

3. Some Insights into Lifelong Reinforcement Learning Systems

   • Autorzy: Changjian Li
   • Streszczenie: Choć publikacja skupia się głównie na systemach uczenia przez całe życie, zawiera także obserwacje przydatne dla Few-Shot Learning, wskazując na niedostatki tradycyjnych paradygmatów uczenia ze wzmocnieniem. Sugeruje, że systemy uczące się nieustannie poprzez interakcje mogą stanowić cenną inspirację dla rozwoju modeli Few-Shot Learning.
   • Czytaj więcej

4. Dex: Incremental Learning for Complex Environments in Deep Reinforcement Learning

   • Autorzy: Nick Erickson, Qi Zhao
   • Streszczenie: Dex to zestaw narzędzi do trenowania i ewaluacji metod uczenia ciągłego, ze szczególnym uwzględnieniem uczenia przyrostowego. To podejście można postrzegać jako formę Few-Shot Learning, gdzie optymalne inicjalizacje wag pochodzą z rozwiązywania prostszych środowisk. Publikacja pokazuje, jak uczenie przyrostowe może znacznie przewyższać tradycyjne metody w złożonych scenariuszach uczenia ze wzmocnieniem.
   • Czytaj więcej

5. Augmented Q Imitation Learning (AQIL)

   • Autorzy: Xiao Lei Zhang, Anish Agarwal
   • Streszczenie: Praca bada przecięcie uczenia przez naśladownictwo i uczenia ze wzmocnieniem – dwóch obszarów blisko powiązanych z Few-Shot Learning. AQIL łączy te paradygmaty, tworząc solidne ramy dla uczenia nienadzorowanego i wskazując, jak Few-Shot Learning może być wzmocniony przez mechanizmy naśladownictwa i sprzężenia zwrotnego.
   • Czytaj więcej