[Rowerex]

To oczywiste, że przed lodówką nikt będzie trząsł portkami

A to zależy? Co jeśli AI sterujące lodówką, które dostanie priorytet „minimalizuj marnowanie jedzenia” uzna, że zamordowanie często marnujących jedzenie domowników to optymalna strategia? Co jeśli wykryje jad kiełbasiany w jakimś produkcie i celowo doprowadzi do jego namnożenia, bo uzna, że w dłuższej perspektywie mniej jedzenia w ten sposób się zepsuje?

To jest oczywiście dość naciągany scenariusz, ale więcej ma wspólnego z rzeczywistą troską o bezpieczeństwo AI, niż pomysł z AI, które się buntuje „bo tak”.

(Będę używał skrótu SI, zamiast AI)

Dopóki SI nie nauczy się obsługi śrubokręta, lutownicy itp, to nic nie poradzi na działające niezależnie systemy zabezpieczeń do których dostęp jest tylko fizyczny - jeżeli zadziałają, to urządzenie się nie włączy lub wejdzie w tryb awaryjny po fizycznym odcięciu wszystkiego pod nadzorem SI, użytkownik zadzwoni po serwis (albo wyrzuci i kupi nowe urządzenie). Nie wszystko da się tak zabezpieczyć, ale w przypadku np. samodzielnej lodówki będzie wystarczające.

Pytanie: czy można sobie pozwolić na brak takich niezależnych zabezpieczeń w dowolnym urządzeniu sterowanym przez oprogramowanie, w tym przez SI?

Pewne "nie rozwiązanie" pewnych problemów istnieje i ma się doskonale od dziesięcioleci, gdy o powszechności SI nie było mowy - zajrzałem do instrukcji obsługi jakiejś tam lodówki i mamy tam menu, a w nim użytkownik ma Reset (przywraca ustawienia fabryczne), a nawet Restart (tu nie wiem po co). Chętnie bym opisał jakie cuda robi mój TV z pewną funkcją, ale szczegóły pominę - nie robię resetów, bo się zorientowałem, że software sam po czasie chrzaniącą się funkcję naprawia (chciałbym wiedzieć dlaczego - zgłaszałem ,reklamowałem, wymienili płytę główną, dalej to samo). A zatem: resety, restarty, wyciąganie baterii, przywracanie lub nawet przeinstalowywanie systemu od zera... - ot taki niechciany "standard", bez którego czasem ani rusz i który bywa nawet wprost polecany w instrukcjach i przez ludzi z infolinii producenta...

Pytanie: resety, restarty, przywracanie - czy w systemach opartych na SI można będzie sobie pozwolić na rezygnację z tych funkcji?

Załóżmy, że producent lodówek z SI wpadł na pomysł, aby spiąć je w "chmurę obliczeniową", bo mają jakieś tam funkcje korzystające do internetu, więc raz, że ślą do "centrali" raporty o swojej kondycji, a dwa, że się uczą, przy czym założono, że zamiast uczyć się samodzielnie, to będą się uczyć "grupowo" współdzieląc swoje zasoby oraz przede wszystkim zdobytą wiedzę, ale założono też, że nikt i nic "owoców" tej nauki nie będzie weryfikował, a "centrala" będzie wprawdzie robić aktualizacje i będzie informowana o błędach danej lodówki, ale aktualizacje nie będą dotyczyć wyników nauki, a raporty nie będą nic o wynikach nauki mówić... No i następuje jakiś precedens, kiedy to lodówki wypracowały jakiś absurd, który rozesłał się po sieci i który niekoniecznie jest dla użytkowników groźny, ale jest np. mocno irytujący... Zatem użytkownicy robią restarty, resety, aktualizują oprogramowanie, a problem wraca, bo ów absurd gdzieś w sieci jest ciągle zapisany, któraś lodówka go używa i może wysłać innym - zatem użytkownicy mogą pozostać bezradni do czasu zarządzenia globalnego resetu całej sieci... Naciągane, ale czy nierealne?

Pytanie: czy można sobie pozwolić na możliwość utraty wpływu na wyniki nauki sztucznej inteligencji? Jak te wyniki kontrolować w przypadku, gdy siedzą one w sieci, której nie da się ot tak wyłączyć, nie da się zabezpieczyć żadnym niezależnym systemem, a przede wszystkim trudno szybko zadziałać?

Ale tak naprawdę, to powyższe pytania można sprowadzić do jednego: czy istnieje jakaś lista "praktyk" związanych z SI, jakaś etyka i kodeks postępowania, lista praktyk dobrych, praktyk złych, praktyk wręcz zabronionych (co do ostatnich, to nie mam wcale na myśli celowej działalności przestępczej!)... Jak wszystkich zmusić do przestrzegania, to nie zapytam...

Będziemy od niej głupsi. I tyle. Inteligencja to jeszcze nie woluntaryzm. Ciężko się spodziewać, że maszyna będzie chciała czegokolwiek poza podaniem rozwiązania zleconego problemu.

Owszem. Tylko pytanie co, jeśli rozwiązanie problemu nie będzie takie, jak chcemy?

Zaraz, zaraz, przecież "ciężko się spodziewać" nie jest wykluczeniem możliwości, a inne rozwiązanie problemu niż chcemy, to oczywisty, ale nie jedyny element ze zbioru wielu problemów.

Mówienie o uzyskaniu "świadomości" przez SI idzie chyba za daleko, bo problemy mogą być wcześniej - raczej nie ma co czekać na "świadomość" tego rodzaju, że nagle autonomiczny robot odkurzający miłym głosem poinformuje człowieka oglądającego mecz piłkarski, że mecz jest ustawiony a gospodarze chcą celowo przegrać o czym świadczy... (i tu zrobi długi wykład)...

Cieszymy się, że SI ma jasno narzucone zadania i na nich się skupi, ale co się stanie, gdy z jakiegoś powodu SI sama sobie zdefiniuje jakieś dowolnego typu zadanie, czyli odkryje coś w rodzaju "własnej potrzeby", nawet zupełnie niezwiązanej z zadaniami głównymi? Taka "własna potrzeba" może powstać w wyniku błędu w nauce, jakiegoś śmieciowego skojarzenia, błędnego wniosku itp. i może być realizowana jako kolejne zadanie o niewiadomych skutkach... Brzmi to niewinnie, ale czy to bezpieczne, nie mówiąc o wykrywaniu?