Witaj!
Odniosłem się do szczegółowej kwestii dotyczącej hipotetycznej nieobliczalności procesów fizycznych. Cała reszta o maszynach Turinga z wyroczniami itd. to czysta matematyka. Nie wiem jak i czy można to podważać. Nie widzę, żeby Twoje argumenty tego dotyczyły.
Mnie też interesuje problem fizycznych (termodynamicznych) ograniczeń obliczalności (granica Landauera, nieodwracalność procesów obliczeniowych, demon Maxwella). Niestety nie mam czasu, żeby do tego poważnie przysiąść.
Church nie sformułował problemu stopu i nie pokazał, że to problem nieobliczalny. Zrobił to Turing w czasie, gdy był na stażu naukowym pod opieką Churcha. Natomiast Church pokazał, że logika pierwszego rzędu jest nierozstrzygalna. Zrobił jeszcze wiele innych fascynujących rzeczy w matematyce. Church był wierzącym prezbiterianinem.
Nierozwiązywalność problemu stopu w klasie zwykłych maszyn Turinga jest ściśle udowodnionym twierdzeniem matematycznym (w gruncie rzeczy dosyć prostym wnioskiem z istnienia uniwersalnych maszyn Turinga – mogę nawet pokazać dowód). Natomiast Twój problem zatrzymania istnienia ludzkości przez AI jest sformułowana w języku naturalnym spekulacją luźno do niego nawiązującą. Trudno się więc odnieść.
Twój tekst spróbuję przejrzeć w wolnym czasie.
Mnie też interesuje problem fizycznych (termodynamicznych) ograniczeń obliczalności (granica Landauera, nieodwracalność procesów obliczeniowych, demon Maxwella). Niestety nie mam czasu, żeby do tego poważnie przysiąść.
Ayla Mustafa napisał(a): Aha.
P.S.
Wspomniałeś też, Slupie, o problemie stopu rozwiązanym przez Turinga i Churcha (ale nie Catholic Churcha, przykro mi). A mi właśnie niedawno do łba wpadło, iż rozwiązanie problemu stopu wskazuje też, że jakieś jedno czysto techniczne rozwiązanie kwestii p(doom) jest niemożliwe.
Otóż, problem stopu mówi, że nie da się zbudować jednego uniwersalnego programu, który dla dowolnego programu i danych wejściowych zawsze poprawnie rozstrzygnie, czy ten program kiedyś się zatrzyma, czy będzie działał w nieskończoność.
No to ja dodam, że nie da się zbudować jednego uniwersalnego programu, który dla dowolnego programu i danych wejściowych zawsze poprawnie rozstrzygnie, czy ten program zatrzyma istnienie ludzkości, czy będzie utrzymywał ludzi w nieskończoność.
Nie wierzę w ogóle w programistyczne sposoby rozwiązania problemu stopu istnienia ludzkości z powodu AI.
Church nie sformułował problemu stopu i nie pokazał, że to problem nieobliczalny. Zrobił to Turing w czasie, gdy był na stażu naukowym pod opieką Churcha. Natomiast Church pokazał, że logika pierwszego rzędu jest nierozstrzygalna. Zrobił jeszcze wiele innych fascynujących rzeczy w matematyce. Church był wierzącym prezbiterianinem.
Nierozwiązywalność problemu stopu w klasie zwykłych maszyn Turinga jest ściśle udowodnionym twierdzeniem matematycznym (w gruncie rzeczy dosyć prostym wnioskiem z istnienia uniwersalnych maszyn Turinga – mogę nawet pokazać dowód). Natomiast Twój problem zatrzymania istnienia ludzkości przez AI jest sformułowana w języku naturalnym spekulacją luźno do niego nawiązującą. Trudno się więc odnieść.
Twój tekst spróbuję przejrzeć w wolnym czasie.