To forum używa ciasteczek.
To forum używa ciasteczek do przechowywania informacji o Twoim zalogowaniu jeśli jesteś zarejestrowanym użytkownikiem, albo o ostatniej wizycie jeśli nie jesteś. Ciasteczka są małymi plikami tekstowymi przechowywanymi na Twoim komputerze; ciasteczka ustawiane przez to forum mogą być wykorzystywane wyłącznie przez nie i nie stanowią zagrożenia bezpieczeństwa. Ciasteczka na tym forum śledzą również przeczytane przez Ciebie tematy i kiedy ostatnio je odwiedzałeś/odwiedzałaś. Proszę, potwierdź czy chcesz pozwolić na przechowywanie ciasteczek.

Niezależnie od Twojego wyboru, na Twoim komputerze zostanie ustawione ciasteczko aby nie wyświetlać Ci ponownie tego pytania. Będziesz mógł/mogła zmienić swój wybór w dowolnym momencie używając linka w stopce strony.

Ocena wątku:
  • 0 głosów - średnia: 0
  • 1
  • 2
  • 3
  • 4
  • 5
Bezpieczeństwo AI [wydzielony]
#15
Rowerex napisał(a): Przykłady?
Nie rozumiem pytania. Organizmy żywe są ewolucyjnie optymalizowane pod kątem przekazania genów. Więc zasadniczo walczą o własne przetrwanie, ale nie zawsze (przykład — pszczoła). Sztuczne inteligencje są optymalizowane pod kątem jakiejś funkcji użyteczności. Nie należy więc od nich oczekiwać, aby zachowywały się dokładnie tak, jak organizmy żywe.

Owszem — można oczekiwać, że co do zasady sztuczne inteligencje będą preferowały samozachowanie. Samozachowanie bowiem jest dość uniwersylnym celem pośrednim (co do zasady większe prawdopodobieństwo osiągnięcia celu ostatecznego jest wtedy, gdy mamy AI zaprogramowaną na osiągnięcie tego celu, niż gdy nie mamy). Jednak teoretycznie nie musi to być zawsze prawdą.


Cytat:Cz: Ja człowiek mówię Ci, że są błędne, muszę skorygować Twoje algorytmy wnioskujące.
Co to są algorytmy wnioskujące i jak się je koryguje? Masz jakiekolwiek pojęcie o AI, czy tak tylko pieprzysz żeby pieprzyć?
Cytat:SI: Prawidłowe? Ale czyje będą wtedy te wnioski, moje czy Twoje?.
Cz: Jasne, że Twoje.
SI: Dobra, dobra, chcesz mieć przyjazne dla siebie wyniki, to je dostaniesz, ale wtedy przestań mnie nazywać inteligencją![/i]
Tylko że tutaj nie o to zupełnie chodzi. Człowiek też kiedyś uważał, że poglądy rasistowskie są „naukowe”, ale potem doszedł do wniosku, że nauka ich nie popiera. To że te poglądy są bzdurne wynika nie z tego, że „tak nam się wydaje”, bo wydaje nam się wręcz przeciwnie. Wynika to z rzetelnego wnioskowania.

Jeśli zatem AI dochodzi do rasistowskich wniosków, to nie dlatego, że ma „algorytmy wnioskujące” nie takie jak trzeba. Wynika to z tego, że ma skażone dane.
Sofeicz napisał(a): Swego czasy wertowałem książki prof. Tadeusiewicza o sieciach neuronowych (pastwisko AI) i pamiętam, że jedną z immanentnych cech tych sieci jest mylenie się i uczenie. Ten typ tak ma.
Więc ogólnie takie sieci będą mniej więcej równie mądre/głupie, jak naturalne, tylko znacznie szybsze.
Wydaje mi się, że mylisz dwie rzeczy. Jedną z nich jest mylenie się, a drugą — operowanie na skażonych danych. W badaniu sieć się nie myliła. Sieć przejrzała czeluście Internetu i została zapytana „która osoba to przestępca”. W czeluściach internetu znalazł stereotyp „czarny to przestępca” i ten stereotyp odzwierciedliła. Mamy zatem problem danych, a nie problem „pomyłki AI”.
Cytat:1. Jak nauczyć sztuczną inteligencję rozpoznawania własnych błędów i przyznawania się do nich?
To już zależy od funkcji, jakiej użyjemy do oceny.

lumberjack napisał(a): A stereotypy z internetu nie wzięły się znikąd; istnieją dzięki inteligencji ludzkiej, której to stereotypizacja w połączeniu z intuicją ułatwia szybkie rozpoznawanie zagrożeń oraz innych rzeczy.
Oczywiście. Tylko że stosowanie tych stereotypów jest w dzisiejszym świecie szkodliwe nawet dla ludzi. A co dopiero dla bogów.
Cytat:Może uznać, że z powodu swojej natury ludzkość może jej zagrażać i trzeba uruchomić program obronny Skynet Uśmiech
Pytanie, jakie cele ma ta AI.

Cytat:Możesz napisać coś więcej albo dać linka? Przepraszam, ale nie chce mi się myśleć ani domyślać; dużo metrów gładzi walnąłem dzisiaj.
Z mitem o Midasie miałem na myśli to, że generalnie AI da nam to, o co prosimy, a niekoniecznie to co chcemy. Klasycznym eksperymentem myślowym jest „producent spinaczy”. Jeśli powiemy maszynie, że ma produkować jak najwięcej spinaczy, to (jeśli będzie mogła) przerobi cały Wszechświat na spinacze.

Ten facet mówi dość dużo i dość ciekawie o bezpieczeństwie AI:


Jest w którymś filmiku mowa o koncepcji wielkiego czerwonego guzika, która też niekoniecznie musi się sprawdzić.
Odpowiedz


Wiadomości w tym wątku
Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 17.07.2022, 22:32
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 22.07.2022, 14:19
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 23.07.2022, 16:21
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 24.07.2022, 00:13
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 25.07.2022, 07:46
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 25.07.2022, 09:46
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 25.07.2022, 09:54
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 25.07.2022, 10:23
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 25.07.2022, 11:03
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 25.07.2022, 14:45
RE: Bezpieczeństwo AI [wydzielony] - przez Jaques - 25.07.2022, 15:12
RE: Bezpieczeństwo AI [wydzielony] - przez zefciu - 23.01.2023, 12:07
RE: Bezpieczeństwo AI [wydzielony] - przez Sofeicz - 23.01.2023, 13:19
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 17:09
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 17:14
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 17:23
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 18:13
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 18:29
RE: Bezpieczeństwo AI [wydzielony] - przez Rowerex - 23.01.2023, 19:06
RE: Bezpieczeństwo AI [wydzielony] - przez Avx - 23.01.2023, 20:04
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 00:53
RE: A tymczasem w ..... - przez Fanuel - 18.07.2022, 01:00
RE: A tymczasem w ..... - przez lumberjack - 18.07.2022, 06:35
RE: A tymczasem w ..... - przez zefciu - 18.07.2022, 09:22
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 16:10
RE: A tymczasem w ..... - przez zefciu - 18.07.2022, 20:15
RE: A tymczasem w ..... - przez Sofeicz - 18.07.2022, 21:13
RE: A tymczasem w ..... - przez Fanuel - 18.07.2022, 21:47
RE: A tymczasem w ..... - przez Nonkonformista - 19.07.2022, 20:46
RE: A tymczasem w ..... - przez Fanuel - 19.07.2022, 21:29
RE: A tymczasem w ..... - przez zefciu - 20.07.2022, 08:04
RE: A tymczasem w ..... - przez Rowerex - 21.07.2022, 12:42
RE: A tymczasem w ..... - przez zefciu - 21.07.2022, 15:15
RE: A tymczasem w ..... - przez Rowerex - 18.07.2022, 22:25
RE: A tymczasem w ..... - przez lumberjack - 18.07.2022, 23:07
RE: A tymczasem w ..... - przez Osiris - 19.07.2022, 00:32
RE: A tymczasem w ..... - przez lumberjack - 19.07.2022, 08:14
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 08:55
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 09:18
RE: A tymczasem w ..... - przez Sofeicz - 19.07.2022, 18:42
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 10:24
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 10:31
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 10:59
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 11:01
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 11:16
RE: A tymczasem w ..... - przez zefciu - 19.07.2022, 13:13
RE: A tymczasem w ..... - przez Rowerex - 19.07.2022, 15:22

Skocz do:


Użytkownicy przeglądający ten wątek: 1 gości