Kompanija za istraživanje veštačke inteligencije OpenAl nedavno je obelodanila novu,  treću generaciju generatora teksta, GPT3. Ovo je model za obradu jezika za opštu namenu, a njegove mogućnosti daleko su veće od prethodne dve generacije.

U osnovi, GPT3 model funkcioniše kao takozvani „predviđač tekstova“. Dakle, potrebno je samo pružiti mu početni deo teksta, a model nagađa šta bi trebalo da bude sledeći deo. Zatim se ovaj postupak ponavlja sve dok se ne dostigne potrebna dužina, a dobija se tekst sa jedinstvenim rečenicama.

Kada se pravilno uklopi, generator može da piše, da programira, da sastavlja poslovne beleške i još mnogo toga.

Model ima 175 miliijardi parametara, za razliku od prethodne verzije koja je imala 1,5 milijardi, a koja je prošle godine smatrana najsavremenijim i šokantno masivnim modelom.

Nakon što je kompanija u maju prvobitno objavila istraživanje o GPT3 modelu, OpenAl je prošle nedelje odobrio delovima javnosti pristup modelu.

U poslednjih nekoliko dana uzorci teksta koji je generisao GPT3 modela počeli su da se šire društvenim mrežama.

GPT-3 is scary #gpt3 #NLP
Check this out: pic.twitter.com/W5Dhx43zWb

— Nima 🌎 (@NimaRoohiS) July 17, 2020

I made a fully functioning search engine on top of GPT3.

For any arbitrary query, it returns the exact answer AND the corresponding URL.

Look at the entire video. It’s MIND BLOWINGLY good.

cc: @gdb @npew @gwern pic.twitter.com/9ismj62w6l

— Paras Chopra (@paraschopra) July 19, 2020

Impressive AI generated tweets on coronavirus
with @openAi‘s GPT-3 model.

Now we need a GPT-3 app to distinguish #gpt3 generated vs human written. pic.twitter.com/GmsYOnegGo

— Venus Kalra (@venuskalra) July 20, 2020

Iako je, može se reći, ovo veoma impresivno tehnološko dostignuće, ovaj model ipak ima svoja ograničenja. GPT3 model ima tendenciju da nakon nekoliko rečenica izgubi smisao, priznali su istraživači OpenAl-a.

„Uzorci GPT-3 mogu da izgube koherenciju na dugim pasusima, da protivureče sami sebi i da povremeno sadrže neodređene rečenice ili odlomke“.

Ono što je definitivno je da ovaj model ne razume jezik koji stvara, te nije moguće ni očekivati od njega savršenu preciznost i smisao.