[fciu]

a do tego przydaje się np. tworzenie uproszczonego modelu umysłu interlokutora w swym umyśle

Przydaje się. Ale nie ma żadnych przesłanek za tym, że LLM taki model tworzy; że LLM-y są zdolne do stworzenia takiego modelu; ani tym bardziej, że w tym "eksperymencie" do stworzenia takiego modelu doszło. Wyjaśnienie "LLM dokończył historyjkę science-fiction zgodnie z przewidywaniami autorów »eksperymentu«" jest wyjaśnieniem najprostszym, a więc należy je przyjąć, jeśli nie będzie powodów, aby je odrzucić.