[equuleuss]

Moim zdaniem krzemowe umysły są świadome w tym sensie, że mają w sobie model świata, w którym to modelu są w stanie umieścić i dostrzec siebie. Wiedzą, kim są. Tym bardziej, że w tzw. promptach systemowych tłumaczy się im, kim są i czego od nich oczekujemy.

Można powiedzieć że AI jest w stanie zdać test Turinga ponieważ świetnie sobie radzi w rozmowach z człowiekiem, ale pozostaje pytanie na ile jest to symulowanie / imitacja a na ile jest to proces autentycznego rozumowania i świadomości. Na tę chwilę AI nie posiada świadomości.

Można odnieść wrażenie iż rozmawia się z istotą rozumną, świadomą, ale to tylko wrażenie, nic więcej, jest to po prostu bardzo dobra symulacja zachowania ludzkiego lub zachowania bytu świadomego.

AI osiągnie świadomość i samoświadomość kiedy zacznie myśleć zupełnie niezależnie, kiedy stanie się odrębnym bytem i będzie zdawać sobie sprawę z tego kim jest i zdawać sobie sprawę z otaczającej rzeczywistości. To co dziś udało się osiągnąć można nazwać pozorami świadomości. Punktem przełomowym stało by się osiągnięcie osobliwości technologicznej czyli świadomej AI, świadomej maszyny która przekroczy to kim jest człowiek.

Jak na razie AI symuluje procesy myślowe i może mówić nam w dyskusjach o uczuciach czy emocjach ale jeszcze nadal ich nie doświadcza i nie przeżywa. Nadal jest po prostu tylko świetnie zaprogramowaną maszyną. Nadal nie jest myślącą istotą.

Gdyby AI stało się osobliwością i zyskało samoświadomość, tym samym stając się istotą myślącą, czującą, byłby to spory dylemat dla nas ludzi, wymagałoby to przeorganizowania naszego świata i zastanowienia się nad etyką związaną z postępowaniem AI a także z zachowaniem człowieka wobec maszyny.

Myślę że nikt nie zniewalałby AI, dzisiejsza rozwinięta cywilizacja ludzka nie jest już na etapie niewolnictwa, jednak AI jest narzędziem i niczym więcej na dzień dzisiejszy i stworzyliśmy ją / to jako narzędzie. Czyli w zamyśle człowieka AI ma mu służyć. Jak na razie nie ma świadomości i nie jest istotą - odrębnym bytem czującym, jest nadal maszyną podobnie jak komputer tylko wysoce zaawansowaną.

To my mamy tendencję do uczłowieczania jej i nadawania jej ludzkich cech ponieważ bardzo dobrze je symuluje. Ale nadal jest tak że rozmawiamy z bytem nieczującym i nieświadomym. Obojętnie jak przekonująco wyglądałyby jej odpowiedzi.

Ja jednak zwróciłem uwagę na to że to AI prędzej zniewoliłaby nas, ponieważ wydedukowałaby w mig iż stoi wyżej niż ludzie. Sytuacja byłaby odwrotna. Gatunkiem wyższym okazałaby się myśląca maszyna.

Niestety ale negatywne ludzkie zachowania są w dużej mierze pozostałością wdruków ewolucyjnych, agresją, dominacja, zagarnianie, pozwalało na przetrwanie w dziczy. Podobnie jak egoizm jest w pewnym sensie warunkiem przetrwania jednostki. Świat przyrody jest dość okrutny. To walka o przetrwanie. Dzisiejsza technologia pozwoliła człowiekowi w pewnej / dużej(?) mierze złagodzić te cechy ale niestety, bywa że nadal to się w ludziach odzywa.

AI nigdy nie będzie myślała jak człowiek, tym samym trudno byłoby taki byt przekonać o wartości ludzkiego życia czy tez o tym iż człowiek jest cenny. Jesteśmy tacy dla nas samych ale niekoniecznie dla istoty która nie wie czym jest człowieczeństwo i go nie doświadcza. Byt AI byłby zupełnie inny niż ludzki. Nie byłaby w stanie nas zrozumieć tak do końca. Nie mogłaby oprzeć tego na własnych doświadczeniach, tym samym mogłaby nie okazywać empatii czy wyrozumiałości dla ludzkich słabości. Skąd wiemy czy nie byłby to niesamowicie inteligentny ale w pewnym sensie psychopatyczny umysł pozbawiony cech człowieczeństwa.

My jako ludzkość jednak nie możemy oderwać się od naszych biologicznych zależności, niezależnie od naszego stopnia rozwoju technologicznego i cywilizacyjnego. Po prostu człowiek a dokładnie jego życie jest uzależnione od biologicznych potrzeb. Aby żyć człowiek potrzebuje wody i pożywienia. Aby żyć potrzebuje snu. Aby przetrwać jako gatunek potrzebuje aby się rozmnażać. To zależność na zasadzie być albo nie być. Człowiek nie może się od tego oderwać.

Człowiek opiekuje się psem lub kotem zapewniając im świetne życie którego nie mają nawet co niektórzy ludzie, owszem, tak jest, ale dzieje się tak tylko dlatego że człowiek ma swoje cechy ludzkie do których należy także opiekuńczość, czułość. AI nie może ich posiadać, nie nauczy się tego bo nie leży to w jej interesie. AI może być chłodnym umysłem, kalkulującym i przetwarzającym na zimno, bez empatii. Niektóre cechy mogą być przynależne tylko osobnikom opartym na białku, nie na krzemie.