[zefciu]

Np. moja opinia jest taka, że przynajmniej niektóre LLM-y są przykładami AGI. Rozwiązują bowiem bardzo szeroki zakres problemów i są w stanie realizować swoje zadania w sposób często wykraczający poza zdolności przeciętnego człowieka.

A próbowałeś kiedyś rzeczywiście używać LLM-ów do rozwiązywania problemów? Bo niestety problem z LLM-ami jest taki, że uczą się one nie rozwiązywać problemy, a odpowiadać na pytania. I uczą się nie przez rozwiązywanie problemów (choćby w sposób konceptualny), a przez czytanie ton tekstów, co sprawia, że są w stanie często dawać właściwe odpowiedzi na problemy ludzi, którzy siłą rzeczy przeczytali tekstów o rzędy wielkości mniej. Problem w tym, że LLM-y często udzielają odpowiedzi które są całkowicie z dupska wyjęte. I nie są w stanie się poprawić; nie są w stanie zrozumieć, dlaczego ich odpowiedzi są głupie. Bo nie prowadzą one żadnych rozważań rzeczywistego problemu.

To jest właśnie ta różnica między LLM a inteligencją ludzką. Człowiek chcący zaprojektować maszynę będzie w głowie tworzył sobie model tej maszyny i kombinował, jak ją poskładać, żeby wykonywała określone działanie; dodatkowo będzie się wspomagał wiedzą innych — zapyta kogoś, czy lepiej w danej sytuacji spełni się nit, czy śrubka. Ale główna praca konceptualna przebiegać będzie na modelu samej maszyny.

Natomiast LLM robi tylko to drugie. Robi to w sposób nadludzki — jest w stanie przeczytać i nauczyć się na znacznie większej liczbie tekstów. Ale zupełnie nie ma modelu rzeczywistości — tylko model owej rzeczywistości komunikowania. Oczywiście można argumentować, że przy pewnej złożoności LLM ten model rzeczywistości wyłoni się emergentnie z tego modelu komunikacji. Jednak czy to na pewno właściwa droga?

Jeśli dodatkowo wyposaży się je

No właśnie. A teraz pytanie — w co dokładnie trzeba wyposażyć model językowy, aby był w stanie nie tylko rozwiązywać określony specjalistyczny zestaw problemów, ale w ogóle, generyczne problemy na poziomie przynajmniej ludzkim.

Jednocześnie przy takiej definicji AGI jest zwieńczeniem rozwoju ludzkiej technologii.

No tak. Dlatego mówi się o „osobliwości” — punkcie rozwoju technologii takim, przy którym technologia dalej już się będzie sama rozwijać. A więc człowiek nie jest już przewidzieć, w jakim kierunku się rozwinie.