[Sofeicz]

Swego czasy wertowałem książki prof. Tadeusiewicza o sieciach neuronowych (pastwisko AI) i pamiętam, że jedną z immanentnych cech tych sieci jest mylenie się i uczenie. Ten typ tak ma.
Więc ogólnie takie sieci będą mniej więcej równie mądre/głupie, jak naturalne, tylko znacznie szybsze.

Wydaje mi się, że mylisz dwie rzeczy. Jedną z nich jest mylenie się, a drugą — operowanie na skażonych danych. W badaniu sieć się nie myliła. Sieć przejrzała czeluście Internetu i została zapytana „która osoba to przestępca”. W czeluściach internetu znalazł stereotyp „czarny to przestępca” i ten stereotyp odzwierciedliła. Mamy zatem problem danych, a nie problem „pomyłki AI”.

I tu dochodzimy do następnego poziomu komplikacji, jakim jest logika rozmyta.
W takiej logice nie ma binarnych czerni i bieli, a tylko mniejsze lub większe prawdopodobieństwo prawidłowego trafienia bingo.
Faktycznie w tym wypadku zapewne AI wessała dane globalne mówiące o tm, że jest zdecydowana nadreprezentacja czarnych wśród więźniów w USA i na tej podstawie prawidłowo wyciągnęła wnioski mając w d.. resztę kontekstu.
Ale to nie jest tylko problem techniczny.

To jak właściwie zorganizowana jest Jedyna Znana Inteligencja (powiedzmy), jaką mamy między uszami?
Wg modelu Pandemonium Selfridge'a, to jest wielopoziomowa drzewiasta struktura jednostek funkcjonalnych (zwanych przez autora Demonami).
Demony najniższego rzędu reagują na surowe dane sensoryczne - rozpoznają linie proste, okręgi, kąty, kolory, zmiany dźwięku, temperaturę, etc., a demony wyższego rzędu obrabiają te surowe dane porównując z wcześniej zapisanymi wzorcami.
Jest wiele poziomów współpracujących demonów, a na szczycie są demony decyzji, które decydują, co z danym fantem zrobić, czy np. aktualny kontekst pozwala na jakaś reakcję czy nie.
Mogę np. szczerze nie cierpieć Arabów albo wątróbki ale odpowiedni demon kontekstowy wyhamuje moje reakcje i ugryzę się w język (albo nie).

Prawdziwa, mocna AI musi mieć wbudowane analogi takich demonów kontekstowych, co uchroni ją przed bezrefleksyjną szczerością.
Tylko czy na takiej, lekko zakłamanej AI nam zależy?