To forum używa ciasteczek.
To forum używa ciasteczek do przechowywania informacji o Twoim zalogowaniu jeśli jesteś zarejestrowanym użytkownikiem, albo o ostatniej wizycie jeśli nie jesteś. Ciasteczka są małymi plikami tekstowymi przechowywanymi na Twoim komputerze; ciasteczka ustawiane przez to forum mogą być wykorzystywane wyłącznie przez nie i nie stanowią zagrożenia bezpieczeństwa. Ciasteczka na tym forum śledzą również przeczytane przez Ciebie tematy i kiedy ostatnio je odwiedzałeś/odwiedzałaś. Proszę, potwierdź czy chcesz pozwolić na przechowywanie ciasteczek.

Niezależnie od Twojego wyboru, na Twoim komputerze zostanie ustawione ciasteczko aby nie wyświetlać Ci ponownie tego pytania. Będziesz mógł/mogła zmienić swój wybór w dowolnym momencie używając linka w stopce strony.

Ocena wątku:
  • 0 głosów - średnia: 0
  • 1
  • 2
  • 3
  • 4
  • 5
Bezpieczeństwo AI [wydzielony]
#23
zefciu napisał(a):
Sofeicz napisał(a): Swego czasy wertowałem książki prof. Tadeusiewicza o sieciach neuronowych (pastwisko AI) i pamiętam, że jedną z immanentnych cech tych sieci jest mylenie się i uczenie. Ten typ tak ma.
Więc ogólnie takie sieci będą mniej więcej równie mądre/głupie, jak naturalne, tylko znacznie szybsze.
Wydaje mi się, że mylisz dwie rzeczy. Jedną z nich jest mylenie się, a drugą — operowanie na skażonych danych. W badaniu sieć się nie myliła. Sieć przejrzała czeluście Internetu i została zapytana „która osoba to przestępca”. W czeluściach internetu znalazł stereotyp „czarny to przestępca” i ten stereotyp odzwierciedliła. Mamy zatem problem danych, a nie problem „pomyłki AI”.

I tu dochodzimy do następnego poziomu komplikacji, jakim jest logika rozmyta.
W takiej logice nie ma binarnych czerni i bieli, a tylko mniejsze lub większe prawdopodobieństwo prawidłowego trafienia bingo.
Faktycznie w tym wypadku zapewne AI wessała dane globalne mówiące o tm, że jest zdecydowana nadreprezentacja czarnych wśród więźniów w USA i na tej podstawie prawidłowo wyciągnęła wnioski mając w d.. resztę kontekstu.
Ale to nie jest tylko problem techniczny.

To jak właściwie zorganizowana jest Jedyna Znana Inteligencja (powiedzmy), jaką mamy między uszami?
Wg modelu Pandemonium Selfridge'a, to jest wielopoziomowa drzewiasta struktura jednostek funkcjonalnych (zwanych przez autora Demonami).
Demony najniższego rzędu reagują na surowe dane sensoryczne - rozpoznają linie proste, okręgi, kąty, kolory, zmiany dźwięku, temperaturę, etc., a demony wyższego rzędu obrabiają te surowe dane porównując z wcześniej zapisanymi wzorcami.
Jest wiele poziomów współpracujących demonów, a na szczycie są demony decyzji, które decydują, co z danym fantem zrobić, czy np. aktualny kontekst pozwala na jakaś reakcję czy nie.
Mogę np. szczerze nie cierpieć Arabów albo wątróbki ale odpowiedni demon kontekstowy wyhamuje moje reakcje i ugryzę się w język (albo nie).

Prawdziwa, mocna AI musi mieć wbudowane analogi takich demonów kontekstowych, co uchroni ją przed bezrefleksyjną szczerością.
Tylko czy na takiej, lekko zakłamanej AI nam zależy?
A nas Łódź urzekła szara - łódzki kurz i dym.
Odpowiedz


Wiadomości w tym wątku
Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 17.07.2022, 22:32
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 22.07.2022, 14:19
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 23.07.2022, 16:21
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 24.07.2022, 00:13
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 25.07.2022, 07:46
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 25.07.2022, 09:46
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 25.07.2022, 09:54
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 25.07.2022, 10:23
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 25.07.2022, 11:03
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 25.07.2022, 14:45
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 25.07.2022, 15:12
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 23.01.2023, 12:07
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 23.01.2023, 13:19
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 17:09
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 17:14
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 17:23
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 18:13
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 18:29
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 19:06
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 20:04
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 00:53
RE: A tymczasem w ..... - przez Fanuel - 18.07.2022, 01:00
RE: A tymczasem w ..... - przez lumberjack - 18.07.2022, 06:35
RE: A tymczasem w ..... - przez zefciu - 18.07.2022, 09:22
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 16:10
RE: A tymczasem w ..... - przez zefciu - 18.07.2022, 20:15
RE: A tymczasem w ..... - przez Sofeicz - 18.07.2022, 21:13
RE: A tymczasem w ..... - przez Fanuel - 18.07.2022, 21:47
RE: A tymczasem w ..... - przez Nonkonformista - 19.07.2022, 20:46
RE: A tymczasem w ..... - przez Fanuel - 19.07.2022, 21:29
RE: A tymczasem w ..... - przez zefciu - 20.07.2022, 08:04
RE: A tymczasem w ..... - przez Rowerex - 21.07.2022, 12:42
RE: A tymczasem w ..... - przez zefciu - 21.07.2022, 15:15
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 22:25
RE: A tymczasem w ..... - przez lumberjack - 18.07.2022, 23:07
RE: A tymczasem w ..... - przez Osiris - 19.07.2022, 00:32
RE: A tymczasem w ..... - przez lumberjack - 19.07.2022, 08:14
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 08:55
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 09:18
RE: A tymczasem w ..... - przez Sofeicz - 19.07.2022, 18:42
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 10:24
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 10:31
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 10:59
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 11:01
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 11:16
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 13:13
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 15:22

Skocz do:


Użytkownicy przeglądający ten wątek: 1 gości