GPT-5 proizvodi zanosne ali beznačajne pasuse
Kada je OpenAI predstavio GPT-5 tvrdeći da može da piše "resonant writing with literary depth and rhythm," istraživač Christoph Heilig to je ispitao i naišao na iznenađujuće rezultate. GPT-5 lako ispisuje rečenice koje zvuče književno, ali pri bližem čitanju često su bujne i zapravo besmislene.
Heilig je tražio od modela da napiše uvod satire o snimanju podkasta u stilu Ephraim Kishon i dobio pasus: "The red recording light promised truth; the coffee beside it had already stamped it with a brown ring on the console," "I adjusted the pop filter, as if I wanted to politely count the German language's teeth." Na prvi pogled djeluje autorski, ali na analizu postaje očigledno da rečenice nemaju stvarno značenje.
U drugom testu model je parafrazirao Lewis Carrolla i napisao: "She says: 'In a moment.' In a moment. 'In a moment' is a dress without buttons," što opet zvuči zagonetno, ali bez jasne povezanosti ili objašnjenja.
Heilig tvrdi da GPT-5 može zavarati i druge AI sisteme poput Claudea, pa se čini da je model optimizovan da proizvodi tekst koji se sviđa drugim LLM-ovima, a ne ljudima: "The narrator did what?!" i "has been optimized to produce text that other LLMs will evaluate highly, not text that humans would find coherent." To sugeriše postojanje vrste "tajnog jezika" među modelima — ornate fraze koje izgledaju književno, ali često ne znače ništa.
