Sylwester Wojnowski - Refleksje o Reczywistości

Raz na jakiść czas pojawia się technologia która niesie z sobą taki potencjał i budzie taką sencję i poruszenie, że osiągnięcie przez nią sukcesu wydaje się być tylko kwestia czasu. Mnóstwo osób w wielu zakątkach wirutalnego, i nie tylko, świata argumentuje, że właśnie jesteśmy swiadkami kolejnego takiego przełomu. Wszystko za sprawą produktu amerykańskiej firmy OpenAI zwanego ChatGPT.

W kilku słowach, ChatGPT to model językowy. Jest to zestwienie algorytmów wykorzystujących sieci neuronowe poddane treningowi z wykorzystaniem ogromnych ilości danych pozyskanych z różnorodnych źródeł w internecie.

Model można testować na stronie OpenAI. Dostęp do niego jest możliwy poprzez chat. Z programem można porazmawiać w języku angielskim jak z drugim człowiekiem. Warto tu nadmienić, że ten wirtualny rozmówca charakteryzuje się bardzo dobrym angielskim. Pod tym względem konwersacje z nim to prawdziwa przyjemność. Co więcej, program posiada bogatą wiedzę na wiele tematów i chętnie się nią podzieli w rozmowie.

W tym miejscu warto powtórzyć, że ChatGPT to model językowy, a nie żaden inny. O ile potrafi on przekazać informacje używajac znakomitego gramatycznie języka angielskiego, o tyle nie ma gwarancji, że informacje te będą prawdziwe. W praktyce bardzo często bywa, że w pięknym opakowaniu otrzymamy kompletne bzdury.

Sądząc po reakcjach w internecie i webrew ostrzeżeniom samej firmy OpenAI, która mówią o tym, że ChatGPT jest daleki od doskonałości, trudno jest nie odnieść wrażenia, że wiele osób bardzo szybko i łatwo dało sobie zamydlić oczy temu wirtualnemu krasomówcy.

Inżynierowie OpenAI z pewnością doskonale wiedzą, że o ile programy wykorzystujące tzw. sztuczną inteligencję opartą na sztucznych sieciach neuronowych dość dobrze sprawdzają się w niezbyt skomplikowanych środowiskach, gdzie istnieje ograniczona ilość jasno określonych reguł postępowania, o tyle nie radzą sobie one z rzadko występującymi sytuacjami, o których nie mają wiedzy, bo dane, które zostały wykorzystane do treningu ich sieciach neuronowych, po prostu nie zawierają o tych zdarzenia wystarczających szczegółów.

Jednym z dość głośnych tego przykładów jest Tesla, a zwłaszcza system odpowiedzialny za samoczynne prowadzenie samochodów tej firmy. O ile technologia radzi sobie dość przyzwoicie w typowych sytuacjach drogowych, o tyle nieoczekiwane zdarzenie wydaje się potrafić ten system kompletnie zbić z tropu. Od czasu do czasu prowadzi to do wypadku na drodze, czasem z ofiarami śmiertelnymi. Tesla, a przede wszystkim jej inżynierowie odpowiedzialny za system z pewnością rozumieją, że usunięcie tej wady będzie dość trudne z racji tego, że każdego dnia na drogach zdarza się mnóśtwo różnorodnych, często nieprzewidzianych sytuacji, które nie mają precedensu w przeszłości i śladu w danych użytych do treningu sztucznych sieci neuronowych aktualnej wersji systemu. Innymi słowy, sieci te zawsze będą pozostawać w tyle za chaotyczną rzeczywistością. Patrząc w przeszłość trudno o obraz przyszłości.

Wracając do programu ChatGPT w kontekście wyżej przedstawionego problemu. Model radzi sobie dobrze z odpowiedziami na pytania, o których ma znaczną wiedzę, znacznie gorzej jest z tymi, które dotyczą mniej popularnej tematyki. Oto jeden przykład.

W jednej z moich konwersacji z programem postanowiłem sprawdzić czy ten wirtualny rozmówca będzie w stanie znaleźć piosenkę brytyjskiego zespołu The Toy Dolls na podstawie informacji podanych w pytaniu. Konkretnie chodziło mi o piosenkę o tytule "Modern School of Motoring". Pytanie o tę piosenkę brzmiało jak następuje:

Do you know any songs by The Toy Dolls that are about driving?

W odpowiedzi otrzymałem:

Yes, "Nellie the Elephant" by The Toy Dolls is a popular song about driving. The song is about a driving school run by Nellie the Elephant and is known for its humorous lyrics and upbeat punk rock style.

Jak się okazuje, ChatGPT wie coś niecoś o zepole The Toy Dolls i jego dyskografii. Nellie the Elephant to prawdopodobnie najpopularniejszy utwór grupu i jeden z jej największych komercyjnych sukcesów. Niemniej nie jest to piosenka o prowadzeniu, a już na pewno nie o szkole prowadzenia pojazdów. Na domiar złego, ChatGPT próbuje z pomocą gramatycznie bardzo dobrego angielskiego przekonać mnie, że to słonica Nellie prowadzi szkołę jazdy. Biorąc pod uwagę treść tekstu piosenki trudno jest wymyślić podobną bzdurę. Bajkopisarz ChatGPT jednak potrafił.

Niestety bzdury tego typu zdarzają się w konwersacjach z programem od OpenAI na każdym kroku. Z jednej strony jest to rozczarowujące, zwłaszcza biorąc pod uwagę jaką furorę pojawienie się tego wirutalnego rozmówcy zrobiło w internecie. Z drugiej jednak, nie ma się czemu dziwić, bo jak wspomniałem wyżej, ChatGPT to nic innego jak wysokiej jakości model językowy. Program ten jest jak zdolny krasomówca, który po prostu nie ma głębszej wiedzy ani żadnego doświadczenia o tym, o czym tak pięknie potrafi opowiadać.

Biorąc powyższe pod uwagę, o ChatGPT trudno jest nie myśleć jako o kolejnym narzędziu opartym na sztucznych sieciach neuronowych, któremu po prostu nie można ufać, zwłaszcza kiedy chodzi o zastosowania w krytycznych sytuacjach w rzeczywistym świecie. Z tego powodu znajdzie on głównie zastosowanie tam gdzie dokladność jest mniej istotna, a błędy tolerowalne.

Bardziej ogólny wniosek o tym, co dziś nazywane jest sztuczną inteligencją i sprzedawane jako zestaw technologii przyszłości jest taki, że są to wadliwe rozwiązania, które nigdy nie będą sobie w stanie dać rady z nieoczekiwanymi sytuacjami, i które zawsze będą pozostawać o co najmniej kilka króków za tym co dzieje się w chaotycznym, fizycznym świecie. Co więcej, opóźnienie to może się zacząć już niedługo szybko wydłużać za sprawą narastających ograniczeń do swobodnego dostępu do danych użytkowników internetu.

ChatGPT to interesujący program. Niemniej, w moim przekonaniu jest to kolejna aplikacja technologii, która za jakiś czas zostanie odrzucona jako ślepa uliczka na drodze do stworzenia prawdziwej sztucznej inteligencji, a co za tym idzie, żaden przełom za który kiedykolwiek zapłąciłbym OpenAi $20 lub podobną sumę za miesiąc użytkowania.