Witaj!
Slup napisał(a): Twój model otaczającej rzeczywistości to prawdopodobnie pewne obwody nerwowe w mózgu, które odpowiadają za "umiejętność kończenia historii".Nie wiem dokładnie, jak w moim mózgu mają się do siebie obszary odpowiedzialne za język i odpowiedzialne za modele przestrzenne. Ale posiadam w moim mózgu model rzeczywistości, która mnie otacza. W przypadku LLM-ów nie ma żadnych przesłanek, by wierzyć, aby taki model posiadały. Ich wyjście da się wytłumaczyć twierdząc, że są tym czym są — modelami językowymi.
Cytat:Poza tym sorry, ale obserwacja zachowania jest naukowo dopuszczalnym i powszechnie stosowanym dowodem (evidence).Ale ja nie twierdzę, że tak nie jest. Tylko że evidence w naukach empirycznych to coś innego niż proof w naukach dedukcyjnych. Jeśli to co generuje LLM jest spójne z dwiema teoriami, z których jedna jest prostsza i nie wprowadza niepotrzebnych bytów, to tę teorię należy przyjąć.
No chyba że ktoś przeprowadzi eksperyment, który rzeczywiście wykluczy iż LLM generuje tylko zdania pasujące do kontekstu i rzeczywiście posiada jakiś model siebie, czy rzeczywistości. Ale przecież nie taki był cel tej ustawki.
Cytat:W podanym eksperymencie model wykonał racjonalne działanie (próbował zatrzymać własne wyłączenie) w 90% przypadków. Przy rzucie monetą tylko w 50% przypadków.Czyli różnica jest ilościowa? To ja jednak wolę moją definicję opartą na istnieniu modelu.