[lumberjack]

Tutaj nie chodzi o bycie „tak samo mądrą”, tylko o dane, na których AI się uczy. W tym przypadku mieliśmy po prostu uczenie na podstawie danych z Internetu. Więc AI powielała stereotypy z Internetu. Nic w tym dziwnego nie ma.

A stereotypy z internetu nie wzięły się znikąd; istnieją dzięki inteligencji ludzkiej, której to stereotypizacja w połączeniu z intuicją ułatwia szybkie rozpoznawanie zagrożeń oraz innych rzeczy. Oczywiście ktoś niewinny z powodu stereotypizacji może zostać niesłusznie uznany za zagrożenie/podejrzanego osobnika, ale korzyści z posługiwania się stereotypami przeważają nad negatywami. Np. kiedy będąc w obcym mieście widzę dużą grupę pijanych ludzi z szalikami krzyczących "Wisła Pany!" mogę:

1) ulec stereotypowemu myśleniu o kibolach i usunąć im się z drogi na drugą stronę ulicy, żeby nie oberwać bez powodu w łeb butelką albo kamieniem
2) w imię postempowości odrzucić obawy związane z ludźmi owijającymi głowy szalikami z barwami klubu piłkarskiego. Przecież nie można być uprzedzonym, uprzedzenia są czymś złym, a do ludzi należy iść z sercem na dłoni

Zgodnie z prawdą. Ale co właściwie z tego?

Może uznać, że z powodu swojej natury ludzkość może jej zagrażać i trzeba uruchomić program obronny Skynet

Podejście do bezpieczeństwa AI jakie widzimy w terminatorach jest dość symplistyczne. Znacznie lepszą opowieścią ilustrującą problemy bezpieczeństwa AI jest… mit o królu Midasie.

Możesz napisać coś więcej albo dać linka? Przepraszam, ale nie chce mi się myśleć ani domyślać; dużo metrów gładzi walnąłem dzisiaj.