[Slup]

Ale ja nie piszę o rzeczywistych komputerach, a o Maszynie Turinga. A Maszyna Turinga nie ma żadnych kart, ani urządzeń peryferyjnych. Ma taśmę i po tej taśmie sobie jeździ, czytając z niej i zapisując. W ten sposób wykonuje wsadowo dowolne obliczenia.

Tak jest i pisałem to już wcześniej:

Natomiast następujące pytania są bezsensowne:

1. Czy dana maszyna Turinga dla pewnego układu wejściowego symboli przyrządza danie z ustalonej porcji ziemniaków (np. tej, którą mam teraz w kuchni)?
   
2. Czy dana maszyny Turinga niszczy procesor?
   
3. Czy dana maszyna Turinga doprowadza do zagłady ludzkości?
   

Łatwo widać, że nie wiadomo w ogóle, co te pytania mają znaczyć. Maszyna Turinga przesuwa swoją głowicę, przechodzi do następnego stanu, zapisuje coś na taśmie. Jak taka maszyna może ugotować ziemniaki lub spalić procesor lub zgładzić ludzkość? 

Zatem jeśli chcemy użyć twierdzenia Rice'a, to musimy jakoś tę maszynę do fizycznego świata podłączyć i dlatego w następnych postach przyjmowałem, że ta maszyna jakoś do środowiska jest podłączona.

No właśnie o tym piszę. Dlatego jeśli chcemy do naszego modelu dodać takie sprzężenie zwrotne, to musimy naszą maszynę uruchamiać na nowo po każdej operacji I/O. I wtedy nasz model ma sens.

To wyjaśnij dokładnie, jak stosujesz do tej sytuacji twierdzenie Rice'a, bo nie rozumiem.

A to już w ogóle abstrakcja, bo owe środowisko zaczyna obejmować ludzi, pogodę i wiele innych niedecydowalnych elementów.

Undecidable to po polsku nierozstrzygalne. Jest sprawą otwartą i kontrowersyjną, czy środowisko fizyczne wokół Ziemi jest obliczalne. Zgadzam się, że jest to abstrakcja. 

Problemem jest "jak wygląda zestaw pakietów internetowych, który wygeneruje maszyna w odpowiedzi na dzisiejsze wiadomości". To jest nierozstrzygalne, zarówno w teorii, jak i w praktyce.

Nierozstrzygalność w teorii obliczalności stosuje się do podzbiorów [latex]\mathbb{N}[/latex]. W twierdzeniu Rice'a podzbiory, o których mowa, składają się z numerów Gödla maszyn Turinga (lub funkcji częściowo rekurencyjnych). Zamierzeniem Ayli było użyć
[latex]\big\{n\in \mathbb{N}\,\big|\,T_n\mbox{ zniszczy świat}\big\}[/latex] 
lub czegoś podobnego. W każdym razie twierdzenie Rice'a mówi o sytuacji  
[latex]\big\{n\in \mathbb{N}\,\big|\,\mbox{ warunek na }T_n\mbox{ jako na matematyczną funkcję }\big\}[/latex]
Łatwiej myśleć o funkcjach częściowo rekurencyjnych, Wtedy można podzbiory, o których mówi twr. Rice'a sformułować jako 
[latex]\big\{n\in \mathbb{N}\,\big|\,\mbox{ jakiś matematyczny warunek na funkcję }\Phi_n\big\}[/latex]
gdzie [latex]\{\Phi_n\}_{n\in \mathbb{N}}[/latex] jest numeracją Gödla funkcji częściowo rekurencyjnych.

Nie wiem, jak to się ma do Twoich zbiorów pakietów. W każdym razie trzeba to wszystko precyzyjnie sformułować.

I to są bardzo dobre argumenty za tym, że ASI jest zagrożeniem. Nie trzeba żadnego mędrkowania na temat abstrakcyjnych rezultatów z teorii obliczalności.

Czyli w skrócie "zgadzam sie z Aylą co do istoty problemu, ale mam potrzebę jej dowalić".

Co jako osoba mieszkająca w głowie Ayli wiesz na pewno.

Ty natomiast siedzisz w mojej głowie i też wiesz na pewno, że chciałem jej dowalić.

Zgadzam się z Aylą, co do tego, że ASI stanowi zagrożenie i to można znaleźć wyżej w dyskusji. Problematyczne jest moim zdaniem powoływanie się w "problemie zatrzymania ludzkości" na wymienione wyżej twierdzenie matematyczne.