[zefciu]

Przykłady?

Nie rozumiem pytania. Organizmy żywe są ewolucyjnie optymalizowane pod kątem przekazania genów. Więc zasadniczo walczą o własne przetrwanie, ale nie zawsze (przykład — pszczoła). Sztuczne inteligencje są optymalizowane pod kątem jakiejś funkcji użyteczności. Nie należy więc od nich oczekiwać, aby zachowywały się dokładnie tak, jak organizmy żywe.

Owszem — można oczekiwać, że co do zasady sztuczne inteligencje będą preferowały samozachowanie. Samozachowanie bowiem jest dość uniwersylnym celem pośrednim (co do zasady większe prawdopodobieństwo osiągnięcia celu ostatecznego jest wtedy, gdy mamy AI zaprogramowaną na osiągnięcie tego celu, niż gdy nie mamy). Jednak teoretycznie nie musi to być zawsze prawdą.

Cz: Ja człowiek mówię Ci, że są błędne, muszę skorygować Twoje algorytmy wnioskujące.

Co to są algorytmy wnioskujące i jak się je koryguje? Masz jakiekolwiek pojęcie o AI, czy tak tylko pieprzysz żeby pieprzyć?

SI: Prawidłowe? Ale czyje będą wtedy te wnioski, moje czy Twoje?.
Cz: Jasne, że Twoje.
SI: Dobra, dobra, chcesz mieć przyjazne dla siebie wyniki, to je dostaniesz, ale wtedy przestań mnie nazywać inteligencją![/i]

Tylko że tutaj nie o to zupełnie chodzi. Człowiek też kiedyś uważał, że poglądy rasistowskie są „naukowe”, ale potem doszedł do wniosku, że nauka ich nie popiera. To że te poglądy są bzdurne wynika nie z tego, że „tak nam się wydaje”, bo wydaje nam się wręcz przeciwnie. Wynika to z rzetelnego wnioskowania.

Jeśli zatem AI dochodzi do rasistowskich wniosków, to nie dlatego, że ma „algorytmy wnioskujące” nie takie jak trzeba. Wynika to z tego, że ma skażone dane.

Swego czasy wertowałem książki prof. Tadeusiewicza o sieciach neuronowych (pastwisko AI) i pamiętam, że jedną z immanentnych cech tych sieci jest mylenie się i uczenie. Ten typ tak ma.
Więc ogólnie takie sieci będą mniej więcej równie mądre/głupie, jak naturalne, tylko znacznie szybsze.

Wydaje mi się, że mylisz dwie rzeczy. Jedną z nich jest mylenie się, a drugą — operowanie na skażonych danych. W badaniu sieć się nie myliła. Sieć przejrzała czeluście Internetu i została zapytana „która osoba to przestępca”. W czeluściach internetu znalazł stereotyp „czarny to przestępca” i ten stereotyp odzwierciedliła. Mamy zatem problem danych, a nie problem „pomyłki AI”.

1. Jak nauczyć sztuczną inteligencję rozpoznawania własnych błędów i przyznawania się do nich?

To już zależy od funkcji, jakiej użyjemy do oceny.

A stereotypy z internetu nie wzięły się znikąd; istnieją dzięki inteligencji ludzkiej, której to stereotypizacja w połączeniu z intuicją ułatwia szybkie rozpoznawanie zagrożeń oraz innych rzeczy.

Oczywiście. Tylko że stosowanie tych stereotypów jest w dzisiejszym świecie szkodliwe nawet dla ludzi. A co dopiero dla bogów.

Może uznać, że z powodu swojej natury ludzkość może jej zagrażać i trzeba uruchomić program obronny Skynet

Pytanie, jakie cele ma ta AI.

Możesz napisać coś więcej albo dać linka? Przepraszam, ale nie chce mi się myśleć ani domyślać; dużo metrów gładzi walnąłem dzisiaj.

Z mitem o Midasie miałem na myśli to, że generalnie AI da nam to, o co prosimy, a niekoniecznie to co chcemy. Klasycznym eksperymentem myślowym jest „producent spinaczy”. Jeśli powiemy maszynie, że ma produkować jak najwięcej spinaczy, to (jeśli będzie mogła) przerobi cały Wszechświat na spinacze.

Ten facet mówi dość dużo i dość ciekawie o bezpieczeństwie AI:


Jest w którymś filmiku mowa o koncepcji wielkiego czerwonego guzika, która też niekoniecznie musi się sprawdzić.