[Ayla Mustafa]

Przepraszam.

Ale po co przepraszać, gdy nie robi się nic złego?

Twierdzisz, że "zagłada ludzkości” jest nieprecyzyjna i zależy od świata, więc jest poza modelem, bo "Rice" działa tylko dla ściśle opisanych własności programów w formalnym modelu. Twierdzisz, że potrzeba precyzyjnej definicji własności i modelu środowiska, bo bez tego powoływanie się na Rice’a wygląda jak nadużycie.
No ale przecież można wydobyć definicję własności i model środowiska. Predykat „doom” to jasno zdefiniowany stan systemu, w którym ludzkość ginie z powodu AI. Ustalam więc... formalnie: program działa w ustalonym obliczalnym środowisku X, a "doom" to jasno określony predykat Y na stanach systemu (wyginięcie ludzi z istotnym wkładem działania badanego programu). W tym modelu nie istnieje uniwersalny tester "czy zajdzie Y" dla dowolnego programu i wejścia (standardowa redukcja ze stopu). Skynet vs bunkier to różne X. Jeśli dopuścimy nieobliczalne wyrocznie, teza nie obejmuje takiego modelu.