Witaj!
Ayla Mustafa napisał(a): Co ciekawe, wzrost jest... ekspotencjalny i przyśpiesza. Przed nadejściem modeli rozumujących dłużej (używających "chain of thoughts") co 7 miesięcy podwajał się czas zadania, które AI potrafi wykonać, a od nadejścia "reasonerów" ten czas zadania, które AI potrafi wykonać, podwaja się co 4 miesięcy. A w dodatku zaczęło się już, na razie w fazie larwalnej, "recursive self-improvement", co widać po AlphaEvolve od Google'a i po Maszynie Gödela-Darwina od SakanaAI, a więc najpewniej rozwój jeszcze szybciej przyśpieszy. A jak nadejdzie Super-AI to nastąpi rewolucja godna oznaczenia nadejściem nowej ery w historii ludzkości. Zapewne ASI nadejdzie za kilka lat. Będzie się działo.
Maszyny Gödela (wprowadzone przez Schmidhubera) połączone do współczesnego LLM-a i systemu opartego na teorii typów (System F lub teoria Martina-Löfa) są moim zdaniem prostą droga do SAI. Myślę, że kilka lat to poprawna estymacja.
Wysuwanie wobec tego jakiś kontrargumentów, że czeka nas kolejne "AI winter" jest w tej chwili niepoważne, bo ChatGPT 3.5 był inteligentniejszy od większości ludzi. AGI zostało osiągnięte, chociaż ludzie wciąż nie chcę przyjąć tego do wiadomości i chwytają się argumentów, że AI nie ma magicznej "świadomości" lub "duszy" (cokolwiek by to miało znaczyć).
Ayla Mustafa napisał(a): [...]
Ale jedna rzecz w sprawie AI mnie jednak wyjątkowo rozwala i krindżuje. Otóż, czołowi badacze AI swój p(doom) liczą na około 50%, a ludzie wokół prawie zawsze wolą się skupiać na głupotach (np. na ksenofobicznych fobiach), zamiast skupiać się na tym, co jest najważniejsze wedle teorii gier na polu moralnym. Ludzie tacy jak Y N. Harari (wielki geniusz), którzy skupiają się na tym, co jest naprawdę ważni, są bardzo nieliczni.
[...]
Co ciekawsze, Harari uznał, że żeby przekonać ludzi, że AI to super-ważna sprawa i wielkie zagrożenie, należy odpowiadać ludziom o tej nowinie w... hmmm... ich języku. Zaczął więc porównywać AI do, cytuję, "cyfrowych imigrantów". Harari wie, że temat imigracji działa na wielu ludzi, którzy mają trybalistyczną mentalność, a więc bardzo sprytnie poszedł w tym kierunku.
Moim zdaniem optymistyczny scenariusz jest taki, że dojdzie do katastrofy na skalę państwa lub kontynentu. Następnie faktycznie dojdzie do Dżihadu Butleriańskiego.
Problemem nie są zwykli zjadacze chleba. Kłopot polega na tym, że na decydenci nie podchodzą do sprawy poważnie.