Ocena wątku:
  • 0 głosów - średnia: 0
  • 1
  • 2
  • 3
  • 4
  • 5
Czy zabiją nas spinacze?
#41
ZaKotem napisał(a): Teraz nie potrafią, ale może zaczną. Wyposażenie maszyn w podstawowy instynkt samozachowawczy, mechanizmy kary i nagrody, wydaje się kolejnym logicznym krokiem po ich bezdusznym początkowo zinteligenceniu. Inteligentna maszyna, np. pojazd XXII wieku, powinien robić to, czego użytkownik chce - człowiek wyznacza tylko cel jaki ma być osiągnięty (np. dojechanie do wybranego punktu jak najszybciej, lub jak najwygodniej, lub jak najtaniej, albo może tak żeby przy tym kogoś nie zabić) a maszyna sama kombinuje, jak to zrobić. Aby jednak mogła się inteligentnie uczyć, człowiek musi ocenić jej postępowanie, mówiąc "dobre autko, rób tak dalej", albo "przestań natychmiast, fe, psik". A reakcja na takie komunikaty to już odpowiednik zwierzęcych mechanizmów przyjemności i przykrości. (..)Wszystko, cokolwiek zrobią maszyny, z pewnością będzie winą człowieka. Jednak w momencie, w którym jakikolwiek robot zacznie mieć fizyczną możliwość wyprodukowania swojej własnej kopii, zacznie podlegać mechanizmom ewolucji niezależnym od woli kogokolwiek (w tym samego robota, jeśli będzie jakąś miał). Jeśli maszyna wyposażona w "instynkt ekspansji" okaże się lepsza w produkowaniu własnych kopii, niż inne, to samo wystarczy, aby takie zaczęły dominować. A jeśli maszyny nielubiące ludzi okażą się skuteczniejsze w produkcji samych siebie, niż maszyny lubiące ludzi, to będzie początek końca ludzkości.

To się raczej nie zacznie. Z dwóch powodów. Przede wszystkim wspomniany problem stopu wynikający z tw. Gödla. To z kolei ma ogromne konsekwencje w informatyce, i wyraża sie choćby w słynnym prawie programistów: "Nie ma programu bez błędu". Podobnież ma sie rzecz w innym stwierdzeniu, że "Pomyślnie skompilowany program nie oznacza jego poprawności w działaniu". No i ostatnia sprawa, że nawet "Poprawnie działający program nie oznacza, iż algorytm wykona się w skończonym czasie". My ludzie wiemy o tych ograniczeniach, maszyny będąc de facto algorytmami, nie. Ogranicza ich tutaj samoodniesienie. Chyba, że maszyny wyjdą poza algorytm.
Druga sprawa. Powstaliśmy w systemie hierarchicznym. Warunki na Ziemi umożliwiły ewolucję chemiczną. Ta z kolei stworzyła ewolucję biologiczną. Człowiek jest produktem czynników ewolucyjnych, zewnętrznych w stosunku do niego. Maszyny są produktem ludzkim, a więc czynników zewnętrznych w stosunku do nich. Człowiek może modyfikować ewolucję czy procesy chemiczne, nie może ich jednak zatrzymać czy odwrócić. Podobnież ma sie ma sie sprawa z nami. Maszyny nas zmieniają, choćby na zasadzie dopasowania naszych zachowań. Nie mogą jednak same z siebie nas wyeliminować, z racji naszej, wyższej hierarchii. Dlatego maszyny nie wyjdą poza zakres "pudelka" przewidzianego przez człowieka. Żeby maszyna stała sie na równi z nami, musiałaby podlegać ewolucji biologicznej/chemicznej. O ewolucji maszyn pisał Lem w "Niezwyciężonym", gdzie informacja była przedmiotem w walce o byt. Ale to jest czysta fantastyka.
Tworzenie własnych kopii jeszcze o niczym nie przesądza. Istniejące wirusy czy boty nie są w stanie zaatakować wszystkich systemów. Bo nie istnieje żaden uniwersalny algorytm pozwalający na realizację wszystkich możliwych celów. I chociaż ich kod źródłowy ulega pseudolosowym "mutacjom", to jednak nie obserwujemy żadnej katastrofy w rodzaju inwazji sztucznej inteligencji. Obserwujemy tutaj trend wręcz przeciwny - ataki są wysoko wyspecjalizowane, intencjonalne. Co dowodzi, że są dziełem wyłącznie ludzi.

ZaKotem napisał(a): No dobra, ale skąd w świecie maszyn stworzonych dla spełniania potrzeb człowieka znajdzie się nisza dla maszyny nielubiącej ludzi? No cóż, oczywiście z winy ludzi nielubiących ludzi. Maszyny należące do mizantropów będą same programować się tak, aby być złośliwymi dla innych, bo to sprawi przyjemność ich panu, a więc i im. A są wszak ludzie na tyle mizantropiczni, że i sami siebie nie znoszą. "Złośliwość rzeczy martwych" może przestać być przesądem.

Żeby maszyna mogła się uporać z emocjami, musiałaby wiedzieć jak sobie poradzić w przypadku braku/niedomiaru informacji w nowej sytuacji. Nam służy do tego instynkt/intuicja. W takich chwilach włącza się nam modus przeżycia/gotowości do szybkiej reakcji. Wedle jakich kryteriów miałaby reagować maszyna, skoro nie jest organizmem żywym?
Polska to tylko przedłużenie Rosji do Odry.
Polexit: Priwislinski Kraj jako zbuntowana prowincja Wielkiego Imperium Rosyjskiego po prostu wróci na kolanach do swej prawdziwej matki - Matki Rosji.
Odpowiedz
#42
Panie i Panowie jedno zasadnicze pytanie do tego tematu - naukowcy na jaki rok przewidzieli wystąpienie osobliwości? To w zasadzie jest baza wyjściowa do rozmów powstanie osobliwości czyli samoświadomej SI a na jaki rok ją wstępnie oszacowano... niektórzy z nas może dożyją. Warto poczytać temat o szacunkowej osobliwości.
Strona ToTemat - artykuły i filmy
Odpowiedz


Skocz do:


Użytkownicy przeglądający ten wątek: 1 gości