Osiris napisał(a): (...) wobec czego warto mieć uniwersalny, zawsze działający wyłącznik robota, w razie gdyby mu coś odwaliło. Chyba, że robot to przewidzi i ten wyłącznik zneutralizuje to wtedy już nie ma ratunkuFajnie brzmi, ale z uwagi ewentualną na rangę zagrożenia, lista warunków w rodzaju: 1) musi zadziałać właściwie i skutecznie, 2) nie może zadziałać bez powodu, 3) ma być odporny na wszelkie spodziewane w praktyce warunki, 4) ma być uniwersalny, 5) zwykle w związku z poprzednimi cechami musi podlegać okresowemu sprawdzaniu, uaktualnieniom itp., to całkiem spore wyzwanie, niezależnie od tego na jakiej zasadzie taki wyłącznik miałby działać...
A o liście warunków przy których ów wyłącznik miałby zostać aktywowany, o tym kto i kiedy ma lub może go aktywować, to lepiej nie wspominać...
Niemniej byłbym skłonny się założyć, że zanim jakakolwiek sztuczna inteligencja wpadnie na pomysł zneutralizowania swojego wyłącznika, to człowiek zrobi to za nią, wyłączając wszelkie zabezpieczenia z własnej woli, lenistwa, głupoty itp.
A może nawet jakiś geniusz wpadnie na pomysł, by nad wyłącznikiem sztucznej inteligencji czuwała inna sztuczna inteligencja ;-)