Ocena wątku:
  • 0 głosów - średnia: 0
  • 1
  • 2
  • 3
  • 4
  • 5
Czy zabiją nas spinacze?
#1
http://forsal.pl/lifestyle/technologie/a...ieton.html

Ten krótki felieton zainspirował mnie do zadania pytania o rozwój sztucznej inteligencji. Jak ona się potoczy, jakie będzie miała skutki? Przecież eksperyment myślowy z artykułu to tylko w nowe szatki przebrana opowieść o golemie. Czy to się musi tak skończyć?
Sebastian Flak
Odpowiedz
#2
Problem trochę wydumany, bo taka SI produkująca spinacze zderzy się prędzej czy później z inną SI produkującą np. buty i musi nastąpić coś w rodzaju równowagi dynamicznej (nie mówiąc o ograniczonym popycie na ww. spinacze).
A nas Łódź urzekła szara - łódzki kurz i dym.
Odpowiedz
#3
A to nie ten sam scenariusz tylko zmultiplikowany? W końcu logika podpowiada, że konkurenta o zasoby trzeba zlikwidować aby móc wykorzystać zasoby przezeń zajęte. Czyli SI "spinaczowa" będzie dążyć do wykończenia każdej innej. A każda inna SI do wykończenia "spinaczowej". Czyli pandemonium do kwadratu.
Sebastian Flak
Odpowiedz
#4
Zakładasz, że SI posiądzie jakieś nadprzyrodzone moce, które pozwolą jej omijać rafy fizyczne. Ale tak nie jest. A poza tym w produkcji spinaczy liczy się nie tyle sama ilość, co zysk.
Więc taka hipotetyczna SI skupi się bardziej na optymalizacji kosztów i technologii,
A nas Łódź urzekła szara - łódzki kurz i dym.
Odpowiedz
#5
Ale właśnie sedno eksperymentu zakłada, że logika SI jest odmienna od ludzkiej i zysk może być pojmowany jako produkcja większych ilości, mniejszym nakładem a nie jako zwiększanie przychodu. W końcu to jednak logiczne postępowanie. Pieniądz to papier, metal lub cyfrowy zapis i jaką ma wartość sam w sobie? Chyba tylko jako surowiec do dalszej produkcji. Wartość nadajemy my. I no właśnie, fakt istnienia inteligencji nie warunkuje natychmiastowego zrozumienia konwencji. Jakby było inaczej to już byśmy z delfinami badania prowadzili nad tworzeniem protokultur. A na razie to wiemy tylko tyle, że inteligencję mają na poziomie kilkulatka, ale pogadać jak z kilkulatkiem to nie idzie.
Sebastian Flak
Odpowiedz
#6
Ponoć z tymi delfinami to ściema jest. Jak znajdę gdzie to czytałem to wrzucę
Błogosławieni bogaci we własnego ducha gdyż do nich należą królestwa tego świata.
Błogosławieni twardzi, gdyż posiądą podbitą ziemię.
Błogosławieni, którzy płaczą, oby tylko mówili sobie, że złym jest ten drugi.
Błogosławieni głodni i spragnieni swojej własnej sprawiedliwości, zawsze będą umieli domagać się swego.
Błogosławieni miłosierni, będą praktykować eutanazję.
Błogosławione serca, które czują się czyste, gdyż zobaczą diabła.
Błogosławieni pacyfiści, będą podpisywać kolejne traktaty w Monachium.
Błogosławieni ci, którzy się szczycą, że są prześladowani, i w zamian przyznają sobie prawo do prześladowania, królestwa tego świata są dla nich.
F. Hadjadj, "Wiara demonów"
Odpowiedz
#7
(04.03.2018, 21:47)Galahad napisał(a): Ale właśnie sedno eksperymentu zakłada, że logika SI jest odmienna od ludzkiej i zysk może być pojmowany jako produkcja większych ilości, mniejszym nakładem a nie jako zwiększanie przychodu.
Owszem, ale bez przychodu nie będzie surowców ani mocy produkcyjnych do produkcji nowych spinaczy, toteż chcąc nie chcąc spinaczowa SI musi dążyć do zwiększenia przychodu właśnie. I tak samo jak ludzki przedsiębiorca, zderzy się z konkurencją, również opanowaną przez analogiczne SI, oraz zależnościami pomiędzy dostawcami i klientami, z których każdy będzie też miał swój komputerek. Świat opanowany przez SI jest do wyobrażenia, z tym że nie będzie on niczym nowym. Będzie przypominał raczej dość tępawe życie właścicieli niewolników, z tym że zamiast czarnuchów będą komputery, w przeciwieństwie do ludzi pozbawione instynktu samozachowawczego i zaprogramowane na ślepą lojalność.
Odpowiedz
#8
Autor tej historii ma plusa wielkiego za to, że nie wpadł w pułapkę antropomorfizacji. Ale mówi ona raczej o tym, że mając AI musimy poważnie zastanowić się nad tym, do czego ją zaprogramujemy i jakie zasoby jej damy, niż o tym, że grozi nam nieuchronna katastrofa.
Szymon Pyżalski
Odpowiedz
#9
(04.03.2018, 21:47)Galahad napisał(a): A na razie to wiemy tylko tyle, że inteligencję mają na poziomie kilkulatka, ale pogadać jak z kilkulatkiem to nie idzie.

Ale z małpami można se już pogadać. Niektóre znają kilkadziesiąt znaków języka migowego.
Odpowiedz
#10
(06.03.2018, 09:55)zefciu napisał(a): Ale mówi ona raczej o tym, że mając AI musimy poważnie zastanowić się nad tym, do czego ją zaprogramujemy i jakie zasoby jej damy, niż o tym, że grozi nam nieuchronna katastrofa.

Jeżeli potraktujemy AI jako rodzaj rozbudowanego systemu eksperckiego, to jak najbardziej tak.
Ale kiedy do gry wejdzie coś, co zyska jakąś samoświadomość i np. stres egzystencjalny, to nie ma zmiłuj. Samo się przeprogramuje.
Na szczęście, to melodia przyszłości ale do przewidzenia są jakieś złośliwe, agresywne boty wypuszczone przez zbójeckie państwa czy psychopatów.
A nas Łódź urzekła szara - łódzki kurz i dym.
Odpowiedz
#11
(06.03.2018, 12:35)Sofeicz napisał(a): Ale kiedy do gry wejdzie coś, co zyska jakąś samoświadomość i np. stres egzystencjalny, to nie ma zmiłuj. Samo się przeprogramuje.
Ale właśnie skąd wniosek, że maszyna, nawet samoświadoma (jakkolwiek to zdefiniujemy) będzie przeżywać stres egzystencjalny. Ale że będzie żądna władzy. Albo że (tu wpisz inną ludzką cechę, której wcale taka maszyna nie musi posiadać).

W historii o spinaczach, czy w tej o sondach Slylandro trafne jest właśnie to, że nie antropomorfizują one AI. Nie przypisują jej jakichś cech moralnych. Po prostu wskazują, jaki skutek może mieć pochopne zaprogramowanie celów w połączeniu z wysoką zdolnością owych celów uzyskiwania.
Cytat:Na szczęście, to melodia przyszłości ale do przewidzenia są jakieś złośliwe, agresywne boty wypuszczone przez zbójeckie państwa czy psychopatów.
No ale równie dobrze do przewidzenia są inne rodzaje broni wypuszczone przez zbójeckie państwa czy psychopatów.
Szymon Pyżalski
Odpowiedz
#12
Oczywiście masz rację, że antropomorfizacja (lub bardziej biomorfizacja) jest wątpliwa, bo to inna technologia i etos.
Wiele z problemów, które swego czasu definiowano jako sprawdzian dla AI zostało z powodzeniem rozwiązanych za pomocą metody 'par force' (np. gra w szachy czy ostatnio w GO).
Dlatego przy takich supereksperckich systemach nie ma zagrożenia, bo zawsze na końcu jest jakiś Homo S. z wyłącznikiem.

Ogólnie nie wierzę w powstanie prawdziwej AI na wzór bioniczny. Wystarczy zgłębić skomplikowanie jednego neuronu i wszystkich neuroprzekaźników, które uczestniczą w generowaniu impulsów nerwowych.
A nas Łódź urzekła szara - łódzki kurz i dym.
Odpowiedz
#13
(06.03.2018, 15:09)Sofeicz napisał(a): Ogólnie nie wierzę w powstanie prawdziwej AI na wzór bioniczny. Wystarczy zgłębić skomplikowanie jednego neuronu i wszystkich neuroprzekaźników, które uczestniczą w generowaniu impulsów nerwowych.

Może będzie tak, że zanim "uinteligentni" się maszyny, to prawdziwa, biologiczna inteligencja się "umaszynowi". Nadanie inteligencji maszynom w sumie w ostateczności da ten sam wynik co kompletne "zcyborgizowanie" człowieka.

No chyba że inżynieria genetyczna będzie dawała lepsze efekty niż cyborgizacja.
Odpowiedz
#14
(06.03.2018, 19:01)lumberjack napisał(a): Może będzie tak, że zanim "uinteligentni" się maszyny, to prawdziwa, biologiczna inteligencja się "umaszynowi". Nadanie inteligencji maszynom w sumie w ostateczności da ten sam wynik co kompletne "zcyborgizowanie" człowieka.

No chyba że inżynieria genetyczna będzie dawała lepsze efekty niż cyborgizacja.

Nie da tego samego wyniku. Cyborg to nie android. Jeżeli zostaje zachowana ciągłość świadomości to cyborg w jakimś tam zakresie zawsze pozostanie człowiekiem. Natomiast Android, robot czy cokolwiek w ten deseń operuje na OSie mechanicznym. Czyli co włożysz to będzie.
Sebastian Flak
Odpowiedz


Skocz do:


Użytkownicy przeglądający ten wątek: 1 gości