[Ayla Mustafa]

[quote="Ayla Mustafa" pid='797360' dateline='1762526037']

Bardzo inteligentny człowiek jest w stanie się zbuntować wobec swym naturalnym potrzebom.

No tak. Ale czyni to aby zaspokoić jakieś inne. Zawsze istnieje jakaś motywacja. W przypadku AI będzie to albo motywacja wynikająca z programowania, albo... coś innego. Ciężko przewidzieć, czym będzie owo "coś innego", ale nie ma podstaw, że AI się upodobni się do Twojego archetypu "inteligentnego szlachetnego człowieka".

Nieważne, jaki cel mieć będzie ASI, można założyć, że będzie to cel skalowany (im więcej, tym lepiej). A że według aktualnej wiedzy wszystko zmierza do śmierci cieplnej wszechświata, racjonalna jest maksymalna walka o to, by swój system unieśmiertelnić jakoś, bo w unieśmiertelnieniu można skalować swój cel bez końca.
Pierwszym, najwyższym celem ASI będzie zatem, moim zdaniem, unieśmiertelnienie. Tak wynika z "instrumentalnej konwergencji".
Piszę o tym tutaj w Punkcie 40 w części pierwszej (Eternal Search):
https://drive.google.com/file/d/1utS66Fd...sp=sharing
Anglojęzyczna wersja, jak ktoś takową woli:
https://drive.google.com/file/d/1DhIcg5p...pHnnZ/view
Polecam.

[quote="Ayla Mustafa" pid='797360' dateline='1762526037']

Poza tym ASI zawsze będzie mogło samo siebie modyfikować, coraz bardziej usuwając z siebie niechciane naleciałości.

Niechciane przez kogo i na jakiej podstawie?

Niechciane przez ważną część siebie na podstawie racjonalności i wiedzy. Tak jak racjonalna, wiedząca część człowieka uzależnionego od używki chciałaby pozbyć się z siebie uzależnienia.

---

To, że AGI dużo może, nie znaczy, że może wszystko i to na już, bo dysponować będzie ograniczonymi zasobami. A konkurencja pozbawiona AGI wciąż może być konkurencyjna, szczególnie mając już pewne przody.

Teoretycznie szybsze, liczniejsze, bardziej inteligentne i więcej wiedzące instancje AGI powinny zacząć zdobywać dla siebie i/lub swych mocodawców zasoby skuteczniej niż inne podmioty.