[Slup]

No to jest znany od dawna problem — że nie możemy udowodnić samej logiki, bo aby ją udowodnić musielibyśmy okrężnie odwołać się do logiki (historyjka "Co powiedział żółw do Achillesa" Lewisa Carrola o tym mówi).

To jest trochę inny problem. Dotyczy tego, że fizyczna rzeczywistość nie może zrealizować wyidealizowanych form, które (jak nam się wydaje) są dostępne naszemu myśleniu. To jest obserwacja Platona. Problem, który rodzi ta obserwacja, można jednak rozwiązać (wbrew Platonowi) w ten sposób, że istnienie tych wyidealizowanych form w umyśle jest iluzją, którą wytwarza na własny użytek skomplikowany fizyczny system – ludzki mózg.

Tym niemniej jeśli my nie przyjmiemy założenia, że możemy coś rozumieć, to tym bardziej nie możemy wykazać, że cokolwiek rozumie LLM. Więc to nie jest argument na rzecz "prawdziwego rozumienia" przez LLM-y.

To jest argument na rzecz tego, że "prawdziwe rozumienie" może być pewnym mitem, iluzją. Stąd mówienie o "prawdziwym rozumieniu" w kontekście ludzi i odmawianie go innym systemom fizycznym jest po prostu wyrazem dobrego samopoczucia komórek glejowych i nerwowych w danym mózgu.

Istnieje natomiast pojęcie "rozumienia" w słabszym sensie behawioralnym i je można jak najbardziej przypisać Chińskiemu Pokojowi oraz LLM-owi.