Ako AI premýšľa? (Teória za ChatGPT)

Vytváranie aplikácií, generovanie obsahu, riešenie problémov – úlohy, ktoré boli kedysi vyhradené len odborníkom, dnes zvládneme pomocou niekoľkých dobre sformulovaných otázok. Táto zmena je významná a pochopenie, ako sme sa sem dostali, znamená preskúmať vývoj umelej inteligencie.

Tento článok sleduje vývoj AI cez kľúčové etapy:

• Čo je AI a odkiaľ pochádza?
  Prehľad jej počiatkov a raného vývoja.

• Vzostup Deep Learningu
  Ako zvýšený výpočtový výkon a dáta zmenili strojové učenie.

• Zrod jazykových modelov
  Objavenie systémov schopných spracovávať a generovať ľudský jazyk.

• Čo je to vlastne LLM?
  Rozbor veľkých jazykových modelov a ich fungovania.

• Čo je Generatívna AI?
  Skúmanie schopnosti AI vytvárať nový obsah v texte, obrázkoch a ďalších formách.

• Digitálni sprievodcovia: Ako nás chatboty sprevádzajú svetom AI
  Úloha konverzačných rozhraní pri sprístupňovaní AI.

Každá sekcia prispieva k jasnejšiemu obrazu systémov, ktoré formujú dnešnú technologickú krajinu.

Čo je AI a odkiaľ pochádza?

Ľudia sa odjakživa zamýšľali, či je možné postaviť mysliace stroje. Keď boli vytvorené prvé počítače, tento proces sa zrýchlil a už v roku 1950 Alan Turing položil tú istú otázku a nasledoval ju slávnym Turingovým testom, myšlienkovým experimentom, kde sa stroj snaží oklamať človeka, aby si myslel, že komunikuje s iným človekom. To bol impulz, ktorý zapálil iskru AI. Definovali ju ako vykonávanie úloh, ktoré zvyčajne vyžadujú ľudskú inteligenciu, teda rozumieť jazyku, rozpoznávať obrázky, riešiť problémy a robiť vlastné rozhodnutia, a teda sa stať virtuálnou osobnosťou, ktorá vie odpovedať na všetky vaše otázky a vyriešiť všetky vaše problémy. Preto bol Turingov test dôležitý – ide o to, postaviť umelú inteligenciu priamo pred človeka, ktorý musí určiť, či komunikuje s človekom alebo strojom. AI v podstate napodobňuje ľudské myslenie. Aj preto jej John McCarthy dal názov Umelá inteligencia. Mysleli si, že do úrovne, kedy prejde týmito testami a bude fungovať dokonale sama, sa dostanú za jedno leto, no v skutočnosti je vývoj AI stále v procese.

Čo je AI a odkiaľ pochádza?

Raný vývoj AI v 60. a 70. rokoch bol pravidlový. Ak ste chceli, aby počítač „premýšľal“, museli ste mu presne povedať, ako má premýšľať. Išlo o expertné systémy, kde každé pravidlo musel naprogramovať človek. To fungovalo len určitý čas – nie je možné naučiť AI každé jedno rozhodnutie pre každú možnú situáciu, je to nemožné, alebo aspoň neefektívne, bolo potrebné vymyslieť, ako by počítače mohli robiť nové rozhodnutia samy, rozhodnutia, s ktorými sa dovtedy nestretli.

Prichádza Machine Learning. V 80. a 90. rokoch sa výskumníci posunuli k novej myšlienke: čo keby sme naučili počítače učiť sa z dát, namiesto toho, aby sme im len zadávali pravidlá? To je strojové učenie – trénovanie algoritmu na množstve príkladov, aby vedel rozpoznať vzorce a robiť predikcie. Čo to znamená? Predstavte si, že kedysi by ste AI učili gramatiku tým, že by ste napísali každé jedno gramatické pravidlo, pričom strojové učenie znamenalo, že AI ste dali tisíce článkov, kníh a dokumentov na čítanie a nechali ju, aby sama pochopila, ako angličtina funguje, teda samoštúdium.

Vzostup Deep Learningu

Strojové učenie bolo skvelé, ale obmedzené. Často potrebovalo človeka, aby mu povedal, na aké vlastnosti sa má zamerať. Potom prišiel Deep Learning, poháňaný neurónovými sieťami, štruktúrou voľne inšpirovanou ľudským mozgom, ktorá dokáže pracovať s obrovským množstvom dát, ale postupne, čo jej pomáha objavovať stále viac vzorcov.

Skutočný prelom nastal okolo roku 2012, keď AlexNet, hlboká neurónová sieť, rozdrvila konkurenciu v hlavnej súťaži rozpoznávania obrázkov. Zrazu deep learning dokázal prekonať ľudí v rozpoznávaní mačiek na internete. A to nebolo len lepšie, bolo to strašidelne dobré. Deep learning znamenal, že ste mohli modelu podávať surové dáta (text, obrázky, zvuky) a model si sám našiel dôležité vzorce. Žiadne vodítka. Len viac dát, viac vrstiev, viac výpočtového výkonu. AI sa začala učiť exponenciálne.

Zrod jazykových modelov

Keď deep learning zvládol obrázky, výskumníci sa pýtali: zvládne aj jazyk? Odpoveď: áno, ale nie jednoducho. Jazyk je plný nuáns. Ale s dostatkom dát a dostatočne šikovnou architektúrou pomohli modely ako Recurrent Neural Networks (RNN), ktoré chápali dáta v sekvencii, teda nepozerali len na jedno slovo, ale ako za sebou slová idú a prečo to robia práve tak, a neskôr Transformers, ktoré sa nedívali len na slová jednotlivo v poradí, ale vedeli pozerať na celý text naraz, začali rozumieť a generovať text.

V roku 2017 predstavila Google Transformer architektúru. Tá zmenila pravidlá hry. Transformery dokázali spracovávať jazyk paralelne, rýchlejšie, a venovať pozornosť rôznym častiam vety, napodobňujúc ľudské sústredenie. Táto architektúra poháňa veľké jazykové modely alebo LLM ako GPT, Gemini, Mistral – zrazu každý chcel vytvoriť vlastné LLM, ktoré bude lepšie ako ostatné.

Čo je to vlastne LLM?

Veľký jazykový model (LLM) je druh systému umelej inteligencie navrhnutý na generovanie a porozumenie ľudskému jazyku. Trénuje sa na obrovskom množstve textových dát, ako sú knihy, webstránky, články a kód, a je postavený na deep learningu. Namiesto porozumenia slovám ako človek sa učí vzorce v tom, ako píšeme a rozprávame.

Technológia za tým? Niečo, čo sa volá Transformer architektúra, ktorá umožňuje spracovávať a generovať jazyk vo veľkom. Odtiaľ pochádza „GPT“ v ChatGPT:

• Generative – vytvára nový obsah
• Pre-trained – najprv sa učí z veľkého množstva dát
• Transformer – štruktúra modelu, ktorá robí ťažkú prácu

Podľa verzie LLM sa môže inteligencia, presnosť a konverzačné schopnosti chatbota výrazne líšiť. Novšie verzie lepšie chápu kontext, robia menej chýb a dávajú užitočnejšie odpovede.

Rozdiel spočíva v parametroch – miliardách spojení, ktoré určujú, ako model spracúva informácie. Viac parametrov zvyčajne znamená lepšiu pamäť a hlbšie porozumenie.

Určite ste počuli o GPT-4, Claude, Gemini, LLaMA. Je dôležité pochopiť jednu vec: ani jeden z týchto modelov „nerozumie“ tomu, čo hovorí, len veľmi dobre predpovedajú ďalšie slovo na základe kontextu.

Čo je Generatívna AI?

Generatívna AI je pojem, ktorý budete často počuť v súvislosti s AI. Je to zastrešujúci termín pre akúkoľvek AI, ktorá vytvára nové veci. Ak vie písať, kresliť, hovoriť alebo spievať bez kopírovania existujúceho materiálu, je to generatívna – generuje nové veci. Vie vytvárať nový text (napríklad ChatGPT), obrázky (ako DALL·E alebo Midjourney), videá (napríklad Sora) či kód (ako GitHub Copilot). Existuje množstvo rôznych typov, ktoré podporuje množstvo rozličných LLM.

Chatboty: Naši digitálni sprievodcovia

Chatboty sú našou priateľskou vstupnou bránou do komplexného poznania celého sveta. Namiesto technických znalostí stačí začať konverzáciu a prirodzene objavovať AI. Prekladajú odstrašujúce technológie do nášho jazyka.

Čo využíva chatbot:

• Deep learning: učí sa jazykové vzorce z obrovského množstva textových dát
• Transformer architektúra: pre škálovateľné a efektívne chápanie kontextu
• Machine learning: neustále sa zlepšuje a prispôsobuje na základe spätnej väzby
• Generatívna AI: aby v reálnom čase vytváral ľudsky znejúce odpovede

Ale nezabúdajme: nechápe tak, ako ľudia. Imituje porozumenie. To zatiaľ stačí. Ešte nie sme na AI singularite, ale už sme určite na diaľnici. A ChatGPT? Je to len najnovší míľnik na omnoho dlhšej ceste.