Modele językowe LLM: czym są, jak działają i co zmienił rok 2024

W grudniu 2024 OpenAI zaprezentowało model o3, który zamykał rok przełomowy dla sztucznej inteligencji. To kolejna generacja systemów, które część środowiska zaczęła nazywać „modelami rozumującymi" – systemami generującymi wewnętrzne rozumowanie krok po kroku, podobnie jak człowiek rozwiązujący zadanie matematyczne. Premiera o3 nastąpiła ledwie trzy miesiące po wprowadzeniu o1, co pokazuje, jak szybko przemieszcza się ta kategoria.

Poprawa wyników jest namacalna. Na zadaniach z eliminacji do Międzynarodowej Olimpiady Matematycznej GPT-4o uzyskał według dostępnych danych 13 procent skuteczności, a o1 aż 83 procent. Takie skoki nie pojawiają się z przypadku – wynikają z treningu, który zmusza model do wytężonej pracy nad trudnymi problemami, zamiast błyskawicznego odpowiadania.

Aby zrozumieć, skąd się to wzięło, warto wrócić do 2017 roku. Wtedy zespół Google opublikował pracę „Attention Is All You Need" i wprowadził architekturę Transformer. Mechanizm uwagi, czyli self-attention, pozwolił tokenom w sekwencji „rozmawiać" ze sobą nawzajem i przetwarzać całe zdanie równolegle. To odróżniało nowe podejście od wcześniejszych sieci rekurencyjnych i otworzyło drogę do modeli z setkami miliardów parametrów. Według zasad scaling laws opisanych przez Kaplana i innych, wydajność tych modeli rośnie przewidywalnie wraz z rozmiarem.

Czym jednak jest sam duży model językowy? Najprościej: system przewidujący następny token na podstawie poprzednich. Token to fragment tekstu – słowo, część słowa, czasem pojedynczy znak. Z pozoru trywialna zasada, ale powtarzana na bilionach przykładów, generuje złożone zachowania: pisanie, tłumaczenie, programowanie, a nawet wieloetapowe planowanie. Llama 2 z 2023 roku była trenowana na dwóch bilionach tokenów, a nowsze modele mogą korzystać z dziesięciu do piętnastu bilionów.

Sam przewidywanie nie wystarcza, by stworzyć pomocnego asystenta. Dlatego modele takie jak ChatGPT przechodzą dodatkowe etapy: uczenie nadzorowane na rozmowach ludzkich, budowa modelu nagród oraz reinforcement learning from human feedback, czyli RLHF. Anthropic poszedł dalej, stosując RLAIF – oceny generuje inny model AI według zestawu etycznych zasad. Wikipedia zwraca uwagę, że modele rozumujące mają większe wymagania obliczeniowe niż tradycyjne LLM, bo generują wiele odpowiedzi pośrednich, ale w zamian oferują lepsze wyniki w matematyce, nauce i programowaniu.

Na rynku konkurencja jest ostra. OpenAI wypuszcza kolejne odsłony GPT i serii o, Anthropic rozwija Claude'a, Google promuje Gemini, Meta otwiera Llama, a DeepSeek oferuje tanie API we własnym modelu V3. Różnią się oknem kontekstowym, multimodalnością, dostępnością kodu źródłowego i ceną. Na przykład GPT-4.1 i Gemini 2.5 Pro oferują okno kontekstowe rzędu miliona tokenów, podczas gdy o3 i Claude Opus 4 pracują na 200 tysiącach. Wszystkie stoją jednak na tych samych fundamentach Transformera oraz przetwarzania coraz większej liczby danych przez coraz większe sieci.

Nie zmienia to fundamentalnego ograniczenia: LLM operują na wzorcach statystycznych, a nie posiadają ludzkiego rozumienia świata. Mogą zachwycić wynikiem na egzaminie prawniczym, ale jednocześnie pomylić się w zadaniu wymagającym prostego zdrowego rozsądku. Dlatego w systemach produkcyjnych stosuje się RAG, automatyczne rozumowanie i różne techniki dostrajania, by zmniejszyć ryzyko halucynacji.

Przyszłość najpewniej należy do agentów AI – autonomicznych modeli wykonujących wieloetapowe zadania, przeglądających internet i obsługujących narzędzia. To kolejny krok po tym, jak LLM przestały być jedynie uzupełniaczami tekstu i stały się prawdziwymi partnerami do rozwiązywania problemów.