[fciu]

Skąd więc wiadomo, że my "naprawdę" rozumiemy działanie abstrakcyjnej bramki XOR? Nie możemy mieć przecież dokładnej realizacji tej bramki w mózgu, bo to jest niemożliwe. Raczej tylko wydaje nam się, że rozumiemy to działanie.

No to jest znany od dawna problem — że nie możemy udowodnić samej logiki, bo aby ją udowodnić musielibyśmy okrężnie odwołać się do logiki (historyjka "Co powiedział żółw do Achillesa" Lewisa Carrola o tym mówi). Tym niemniej jeśli my nie przyjmiemy założenia, że możemy coś rozumieć, to tym bardziej nie możemy wykazać, że cokolwiek rozumie LLM. Więc to nie jest argument na rzecz "prawdziwego rozumienia" przez LLM-y.