Dlaczego AI pisze tak przeciętnie? I dlaczego to nasza wina

Sztuczna inteligencja z każdym miesiącem staje się coraz potężniejsza. Modele takie jak GPT-5 Pro potrafią generować działający kod, rozwiązywać skomplikowane problemy i analizować ogromne zbiory danych, osiągając nadludzką wydajność w wielu „pracach umysłowych”. A jednak, mimo tych spektakularnych postępów, wciąż zmagają się z jednym z najbardziej fundamentalnych zadań: dobrym pisaniem.

Każdy, kto próbował użyć ChatGPT do stworzenia czegoś więcej niż prostego e-maila, zna to uczucie rozczarowania. Owszem, AI potrafi sklecić poprawne gramatycznie zdania, a czasem nawet błyśnie celną metaforą. Ale gdy przychodzi do stworzenia spójnego, wciągającego tekstu z własnym, unikalnym głosem – efekt jest niemal zawsze płaski, nijaki, pozbawiony charakteru. Dlaczego tak się dzieje? Dlaczego modele, trenowane do przewidywania kolejnych słów, tak słabo radzą sobie z ich artystycznym składaniem?

Nathan Lambert, badacz AI i autor książki o metodach trenowania modeli, argumentuje, że problem nie leży w samej technologii, ale w strukturze procesu treningowego i w rynkowych oczekiwaniach, którym te modele muszą sprostać. Krótko mówiąc: stworzyliśmy system, który systematycznie niszczy to, co w pisaniu najlepsze.

Głos – ofiara uśrednionych preferencji

Co sprawia, że pisanie jest „dobre”? To pytanie, na które nie ma jednej odpowiedzi, ale większość pisarzy i czytelników zgodzi się co do jednego: kluczowy jest głos (voice). Głos to unikalny sposób, w jaki autor przetwarza informacje i przedstawia je światu. To jego osobowość, perspektywa, styl – to, co sprawia, że tekst jest nie tylko informatywny, ale i wciągający.

I tu zaczynają się schody. Obecne metody trenowania modeli językowych, zwłaszcza w fazie „dostrajania” (tzw. post-training, w tym RLHF), są zaprojektowane tak, by ten głos stłumić.

1. Styl nie jest priorytetem

W procesie treningu modele są optymalizowane pod kątem wielu różnych, często sprzecznych celów: mają być pomocne, jasne, uczciwe, bezpieczne. „Dobry styl” jest tylko jednym z wielu sygnałów, a w dodatku bardzo trudnym do zmierzenia. Znacznie łatwiej jest nauczyć model, by unikał kontrowersyjnych tematów lub był „miły” dla użytkownika (tzw. sycophancy), niż nauczyć go literackiej finezji. W efekcie, mierzalne i proste cele zawsze wygrywają z tymi subtelnymi.

2. Agregacja preferencji zabija indywidualność

Twórcy modeli językowych projektują je z myślą o „przeciętnym użytkowniku”. Oznacza to, że preferencje tysięcy, a nawet milionów ludzi są uśredniane. A co ludzie uznają za „dobre pisanie”? Odpowiedzi są skrajnie różne. W procesie agregacji wszystkie „dziwactwa”, unikalne cechy stylu, które mogłyby się komuś nie spodobać, są wygładzane. Efektem jest styl bezpieczny, przewidywalny i… nudny.

3. Dobre pisanie wymaga wysiłku – od czytelnika

Dobry, gęsty tekst często wymaga od czytelnika więcej czasu i skupienia. Większość użytkowników ChatGPT chce jednak szybkiej, łatwo przyswajalnej informacji. Z tego samego powodu osoby tworzące dane treningowe, często opłacane od zadania, mają finansową motywację, by tworzyć odpowiedzi proste i szybkie do wygenerowania, a nie złożone i bogate stylistycznie.

4. Wymuszona neutralność to wróg głosu

Modele językowe są trenowane, by unikać wyrażania silnych opinii, zwłaszcza na tematy kontrowersyjne. Tymczasem najlepsze teksty są niemal zawsze stronnicze, pełne pasji i wyrażają jasne stanowisko autora. Ta wymuszona neutralność prowadzi do konfliktu z samą istotą głosu. Modele „grzeczniejsze”, takie jak Claude, często irytują swoją asekuracją i unikaniem jednoznacznych stwierdzeń, podczas gdy bardziej „szalone”, jak Grok czy wczesna wersja Binga (Sydney), potrafią generować znacznie ciekawsze, choć czasem kontrowersyjne teksty.

Poniższa tabela zestawia kluczowe problemy w procesie treningu, które hamują rozwój pisarski AI.

Czy modele bazowe są lepszymi pisarzami?

Wielu badaczy, w tym Lambert, zauważa, że modele bazowe (czyli te przed fazą dostrajania i „cywilizowania”) często generują znacznie ciekawsze i bardziej kreatywne teksty. Nie zostały one jeszcze „spłaszczone” do wąskiego, uśrednionego stylu modeli czatowych. Są bardziej nieprzewidywalne, surowe, ale i pełne potencjału.

To pokazuje, że zdolność do dobrego pisania drzemie w tych modelach. Problem polega na tym, że obecny proces post-trainingu, mający na celu uczynienie ich bezpiecznymi i użytecznymi asystentami, jest jak walec drogowy, który niszczy wszelkie przejawy stylistycznej indywidualności.

Czy istnieje nadzieja dla pisarskiej AI?

Stworzenie modelu, który byłby świetnym pisarzem, jest możliwe, ale wymagałoby to fundamentalnej zmiany podejścia. Zamiast optymalizować pod kątem „przeciętnego użytkownika”, musielibyśmy stworzyć proces treningowy zaprojektowany specjalnie z myślą o pisaniu.

• Modele z osobowością: Musielibyśmy być na tyle odważni, by tworzyć modele z silnym, wyrazistym charakterem, które nie boją się mieć opinii.

• Wąska specjalizacja: Zamiast jednego modelu „do wszystkiego”, potrzebowalibyśmy modeli trenowanych na wąskich, specyficznych punktach widzenia, które pielęgnują unikalny głos.

• Zmiana motywacji rynkowej: Obecnie wszystkie pieniądze w AI są gdzie indziej – w aplikacjach agentowych, analizie danych, kodowaniu. Pisanie nie jest postrzegane jako lukratywny rynek do zrewolucjonizowania. Dopóki to się nie zmieni, żadna firma nie będzie gotowa poświęcić kluczowych zdolności modelu (jak matematyka czy kodowanie) na rzecz lepszego stylu.

Na razie „pisarskie upośledzenie” dużych modeli językowych pozostanie z nami. Co więcej, w dobie agentów AI, gdzie większość generowanego tekstu nigdy nie będzie czytana przez człowieka, dobre pisanie staje się wręcz niepożądane – jest wolniejsze i mniej wydajne.

Lambert nie oferuje prostego rozwiązania, ale raczej serię drogich eksperymentów, które ktoś kiedyś będzie musiał podjąć. Stworzenie modelu „tylko do pisania” wymagałoby zaprojektowania całego procesu post-trainingu od nowa. I nawet wtedy, droga do osiągnięcia poziomu najlepszych ludzkich pisarzy będzie długa. Pisanie, w przeciwieństwie do generowania obrazów z szumu, wydaje się być problemem, który dotyka samych fundamentów tego, jak budujemy i rozumiemy sztuczną inteligencję.

Badanie tych ograniczeń, próba ich przezwyciężenia i zrozumienie, czym właściwie jest „głos” w kontekście nieludzkiej inteligencji, to fascynujący i niezwykle aktualny temat badawczy. Może stać się on podstawą pracy doktorskiej, która nie tylko przyczyni się do rozwoju technologii, ale także zmusi nas do głębszej refleksji nad naturą języka, kreatywności i tego, co czyni nas ludźmi.

Najczęściej zadawane pytania (FAQ)

1. Dlaczego AI jest tak dobre w generowaniu obrazów, a tak słabe w pisaniu?
   Generowanie obrazów z szumu (jak w modelach dyfuzyjnych) a generowanie spójnego tekstu to dwa fundamentalnie różne problemy. W pisaniu liczy się nie tylko estetyka pojedynczych zdań, ale także długofalowa struktura, logika, argumentacja i unikalny „głos”, które są znacznie trudniejsze do uchwycenia i optymalizacji w obecnych procesach treningowych.

2. Czy mogę jakoś „zmusić” ChatGPT do pisania w lepszym stylu?
   Można próbować stosować zaawansowane techniki promptingu, np. prosząc model o wcielenie się w rolę konkretnego autora, zdefiniowanie tonu, stylu i „głosu”. Jednak efekty są często powierzchowne i nietrwałe. Model może naśladować styl na poziomie zdań, ale rzadko jest w stanie utrzymać go w dłuższym, spójnym tekście, ponieważ jego fundamentalne „instynkty” treningowe pchają go w kierunku neutralności i uśrednienia.

3. Co to jest „RLHF” i jak wpływa na pisanie AI?
   RLHF (Reinforcement Learning from Human Feedback) to kluczowa technika w fazie post-trainingu. Polega na tym, że ludzie oceniają (np. porównują) różne odpowiedzi modelu, a te oceny są używane do „nauczenia” modelu nagrody, który następnie kieruje dalszym dostrajaniem. Ponieważ ludzie często preferują odpowiedzi pomocne, bezpieczne i łatwe do zrozumienia, proces ten naturalnie promuje styl neutralny i pozbawiony indywidualnego charakteru.

4. Czy modele open-source są lepszymi pisarzami niż te komercyjne?
   Modele bazowe (zarówno otwarte, jak i zamknięte), które nie przeszły intensywnego dostrajania RLHF, często wykazują większą kreatywność i oryginalność stylistyczną. Jednak są też mniej niezawodne i trudniejsze w kontrolowaniu. Wiele zespołów rozwijających modele open-source, jak Olmo, zauważa, że modele o niższych wynikach w standardowych benchmarkach czatowych bywają bardziej użyteczne i generują ciekawsze teksty.

5. Czy problem „przeciętnego pisania” zostanie kiedyś rozwiązany?
   Nathan Lambert uważa, że tak, ale nie w najbliższej przyszłości. Nie jest to fundamentalny, nierozwiązywalny problem, ale wymaga on zmiany priorytetów rynkowych i opracowania zupełnie nowych, dedykowanych metod post-trainingu, skupionych na kultywowaniu „głosu” i osobowości, a nie na ich tłumieniu.