[Osiris]

Możesz napisać coś więcej albo dać linka? Przepraszam, ale nie chce mi się myśleć ani domyślać; dużo metrów gładzi walnąłem dzisiaj.

Pisał o tym Stuart Russell. Mit o Midasie to przestroga i lekcja na temat ludzkiego pragnienia i żądzy, która nie zawsze kieruje człowieka ku temu, co jest dla niego dobre. Jeśli zamieniasz wszystko w złoto, to umrzesz z głodu. Związek z AI i problemem bezpieczeństwa polega na tym, że nie wiemy jak zaprogramować robota tak, by nam przypadkiem nie zaszkodził ponieważ sami niekoniecznie wiemy co jest dla nas dobre. Taki robot powinien się nauczyć czego nam potrzeba obserwując nasze zachowanie. Gdyby ten robot miał przykładowo zdolność zamieniania wszystkiego w złoto to powinien rozumieć, że niektóre przedmioty jak np. jedzenie powinien zostawić w spokoju. Oczywiście to nie załatwia sprawy bezpieczeństwa AI gdyż zawsze istnieje ryzyko iż potężna technologia przyniesie zagrożenia, których w danym momencie nie rozumiemy ( podobnie było z uwolnieniem energii jądrowej), wobec czego warto mieć uniwersalny, zawsze działający wyłącznik robota, w razie gdyby mu coś odwaliło. Chyba, że robot to przewidzi i ten wyłącznik zneutralizuje to wtedy już nie ma ratunku