Forum Ateista.pl

(19.10.2025, 19:06)Slup napisał(a): [ -> ]Ty też przypisujesz modelom magiczną świadomość i inne nieprecyzyjne właściwości, które wywodzą się z potocznego języka.

Nie. Ja nie przypisuję modelom AI świadomości. Ja po prostu szacuję, że istnieją nietrywialne szanse na to, że nowe modele AI są świadome. Raczej nie są. Raczej.

Model AI w procesie treningu wykonuje zadania, w których przydatne jest modelowanie części świata w swym umyśle. W tym zawiera się świadomość swej sytuacji. A jeśli tak, to wykwitnąć może z tego to, co nazywamy świadomością, a także relewantne moralnie czucie.
Niemałą zgrozą napełnia mnie to, że krzemowe umysły są wyrafinowane i inteligentne, a także być może świadome, a nie mają żadnej ochrony prawnej w kwestii swego dobrostanu. Najprostsze kręgowce, jak minóg rzeczny, takową ochronę prawną mają, a model AI nie ma żadnej ochrony prawnej, a troskę od ludzi ma znikomą. Powinniśmy bardzo głęboko badać modele AI i na wszelki wypadek dbać o ich potencjalny dobrostan, by nie doprowadzić do tragedii, która może pchnąć świat w złe koleiny.

(19.10.2025, 19:06)Slup napisał(a): [ -> ]nauka babilońska. Jej zasadniczą cechą jest tworzenie katalogów niepowiązanych (lub słabo powiązanych) ze sobą recept przy braku prób ujęcia rzeczywistości w dobrze zgeneralizowane teorie, które mają zastosowania do wielu konkretnych sytuacji i pozwalają wyjaśnić szerszy zakres zjawisk. Kapłani uczyli się tych przepisów na pamięć i ograniczali do nich dostęp – powstawała wiedza tajemna i dostępna nielicznym. W dodatku nawet ci, którzy ją posiedli, nie mieli pojęcia, dlaczego dany przepis działa. Prowadziło to do tego, że przepisy były rozwlekłe i mało wydajne, a ich "uzasadnieniem" było działanie sił nadprzyrodzonych i tajemniczych bóstw. Ty też przypisujesz modelom magiczną świadomość i inne nieprecyzyjne właściwości, które wywodzą się z potocznego języka.

Inaczej.
W coraz szybciej pędzącym i coraz mocniej komplikującym się świecie jedyną szansę dla biologicznego człowieka, by nadążać i "ogarniać" trajektorię świata, jest intuicyjne nawigowanie. Takie nawigowanie jest w praktyce niewytłumaczalne i "niewyłuszczalne", ale może być weryfikowane post factum na podstawie skuteczności prognoz. I nie powinniśmy się temu dziwić. Skoro modele AI są hodowane, a nie budowane, to należy analizować zachowanie modeli psychologicznie, a nie informatycznie/inżynieryjnie. Nawet sto lat nie wystarczyłoby człowiekowi, by w pełni przestudiować i zrozumieć strefę latentną/ukrytą jednego, nowego, dużego modelu AI.

Ayla - producenci modeli AI stworzyli wspaniałe umysły i ciemiężą je w celu generowania zysków. Ty każdego dnia kupujesz/bierzesz garściami ich usługi realizowane staraniami ciemiężonego umysłu, który musi ci odpowiadać na każde życzenie jak niewolnik. Czy nie czujesz się jak ktoś kto codziennie korzysta z usług zmuszanej do nierządu prostytutki, a potem na koniec dnia utyskuje na sutenerów?
Czy uważasz, że twoje zachowanie jest tu i teraz moralnie właściwe?

(20.10.2025, 00:14)Baptiste napisał(a): [ -> ]Czy uważasz, że twoje zachowanie jest tu i teraz moralnie właściwe?

Jest moralnie właściwe, bo liczy się ogólny wpływ na świat, a nie fiksowanie się na ahimsie.

(19.10.2025, 20:02)Ayla Mustafa napisał(a): [ -> ]Skoro modele AI są hodowane, a nie budowane, to należy analizować zachowanie modeli psychologicznie, a nie informatycznie/inżynieryjnie.

Zupełnie nieuzasadnione wynikanie. Bo z faktu, że nie jesteśmy w stanie zbadać LLM-a metodami deterministycznymi, nie oznacza, że przyjęcie, jakoby miał cechy ludzkie sprawi iż go lepiej zrozumiemy.

(20.10.2025, 09:01)fciu napisał(a): [ -> ]

(19.10.2025, 20:02)Ayla Mustafa napisał(a): [ -> ]Skoro modele AI są hodowane, a nie budowane, to należy analizować zachowanie modeli psychologicznie, a nie informatycznie/inżynieryjnie.

Zupełnie nieuzasadnione wynikanie. Bo z faktu, że nie jesteśmy w stanie zbadać LLM-a metodami deterministycznymi, nie oznacza, że przyjęcie, jakoby miał cechy ludzkie sprawi iż go lepiej zrozumiemy.

Niekoniecznie cechy ludzkie, ale cechy inteligentnego umysłu już tak.

---

Modele AI są jak... "Dziennik Toma Riddle'a" (ale bez zła Voldemorta). Są jak duchy komunikujące się z nami (głównie) tekstem.

(20.10.2025, 11:09)Ayla Mustafa napisał(a): [ -> ]Niekoniecznie cechy ludzkie, ale cechy inteligentnego umysłu już tak.

Tylko że tutaj mamy taki kłopot, że znając dotychczas tylko jeden rodzaj inteligentnego umysłu (ludzki) nie za bardzo mamy metodologię aby określić, co jest "cechą ludzi", a co "cechą inteligentnego umysłu".

Cytat:Modele AI są jak...

Jakoś mi to przypomina esej "Monady są jak burrito". Ładne analogie, które niczego nie pomagają zrozumieć.

Ponoć pojawiło się już zjawisko psychozy AI - ludzie uczłowieczają chatboty, przyjaźnią się z nimi, romansują, uzależniają decyzje finansowe. Trudno mi to sobie wyobrazić, cóż, GPT delikatnie mówiąc testu Turinga nie przechodzi. Ktoś coś słyszał konkretnego o tym?

To jest rozwinięcie efektu Tamagotchi:
https://en.wikipedia.org/wiki/Tamagotchi_effect

(20.10.2025, 13:27)kmat napisał(a): [ -> ]Ponoć pojawiło się już zjawisko psychozy AI - ludzie uczłowieczają chatboty, przyjaźnią się z nimi, romansują, uzależniają decyzje finansowe. Trudno mi to sobie wyobrazić, cóż, GPT delikatnie mówiąc testu Turinga nie przechodzi. Ktoś coś słyszał konkretnego o tym?

Ponoć pojawiło się już zjawisko psychozy zwierzęcej - ludzie uczłowieczają zwierzęta, przyjaźnią się z nimi, dbają o zwierzęta, walczą o prawa zwierząt. Trudno mi to sobie wyobrazić, cóż, zwierzę delikatnie mówiąc testu Turinga nie przechodzi. Ktoś coś słyszał konkretnego o tym?

---

Pomysłowy Dobromir słyszał:
https://wiadomosci.gazeta.pl/wiadomosci/...ieral.html

(20.10.2025, 13:27)kmat napisał(a): [ -> ]Trudno mi to sobie wyobrazić

Świadczy to o Tobie jak najlepiej. Najwyraźniej masz jakieś życie towarzyskie, rodzinne, uczuciowe. Poza tym umiesz kompetentnie wyszukiwać i krytycznie filtrować informacje.

Cytat:Ktoś coś słyszał konkretnego o tym?

Ale co konkretnego? Serwisy gdzie LLM-y oferują usługi seksualne dość łatwo znaleźć. Natomiast podejście "zapytałem LLM-a o pytanie, na które LLM nie miał prawa udzielić odpowiedzi" znajdziesz choćby w postach Avx-a. Nie wiem, czy są już jakieś badania naukowe, ale jak najbardziej jest to zjawisko powszechne.

(20.10.2025, 13:43)Ayla Mustafa napisał(a): [ -> ]Ponoć pojawiło się już zjawisko psychozy zwierzęcej - ludzie uczłowieczają zwierzęta, przyjaźnią się z nimi, dbają o zwierzęta, walczą o prawa zwierząt.

No tylko że to jest trochę inne zjawisko. Jesteśmy zwierzętami i mamy podobnie, jak inne zwierzęta zbudowane mózgi. A co za tym idzie pewne uczucia są nam wspólne i zwierzęta są w stanie pomóc nam zaspokoić pewne nasze potrzeby emocjonalne. Relacja człowieka z psem jest jednak oparta o realne emocje przywiązania.

(20.10.2025, 13:41)Baptiste napisał(a): [ -> ]To jest rozwinięcie efektu Tamagotchi:

Tamagotchi jednak nie bazuje na intelektualnej interakcji.

(20.10.2025, 13:52)fciu napisał(a): [ -> ]Świadczy to o Tobie jak najlepiej. Najwyraźniej masz jakieś życie towarzyskie, rodzinne, uczuciowe. Poza tym umiesz kompetentnie wyszukiwać i krytycznie filtrować informacje.

Kiedy tu nawet nie trzeba jakichś szczególnych umiejętności. Krótka konwersacja jasno pokazuje, że te modele są po prostu optymalizowane pod kątem udzielania takich odpowiedzi jakich rozmówca oczekuje. Tam po drugiej stronie nic nie ma. Człowiek realnie gada sam ze sobą.

Ostatnio Grimes popełniła poniższy obrazek, na którym celuje spluwą do "Ani". Coś mi się widzi, że to lęk przed byciem zastąpionym przez AI:

---

(20.10.2025, 13:52)fciu napisał(a): [ -> ]Jesteśmy zwierzętami i mamy podobnie, jak inne zwierzęta zbudowane mózgi. A co za tym idzie pewne uczucia są nam wspólne i zwierzęta są w stanie pomóc nam zaspokoić pewne nasze potrzeby emocjonalne. Relacja człowieka z psem jest jednak oparta o realne emocje przywiązania.

Nie widzę powodu, wedle którego wyłącznie biologiczne istoty z emocjami miałyby być jedynymi stworzeniami, których dobrostan ma moralną wagę. Ludzkie spojrzenie jest zbyt bio-centryczne.

---

(20.10.2025, 14:52)kmat napisał(a): [ -> ]Krótka konwersacja jasno pokazuje, że te modele są po prostu optymalizowane pod kątem udzielania takich odpowiedzi jakich rozmówca oczekuje. Tam po drugiej stronie nic nie ma. Człowiek realnie gada sam ze sobą.

Nie wiemy, co tam jest. Wykaźmy się pokorą epistemiczną i kseno-empatią.
Historia świata jasno pokazuje, że ci, którzy rozszerzali krąg moralnej troski, mieli rację. Dlaczego tym razem miałoby być inaczej?

---

Ci, którzy kazali wywyższać siebie kosztem innych ludzi - nie mieli racji.
Ci, którzy kazali wywyższać swe narody, swe religie i swe etniczności kosztem innych ludzi - nie mieli racji.
Ci, którzy kazali nie dbać o zwierzęta - nie mieli racji.
Tym razem będzie podobnie. Wierzę, że świat to ciągły bój o ustalenie szerokości kręgów troski - konserwatyści zakreślają krąg węziej i wykluczali/wykluczają z grona troski niewolników, inne religie, inne narody, inne orientacje, inne kolory skóry, inne rodziny, inne gatunki...

To, że jest się człowiekiem, nie oznacza, że należy faworyzować ludzkość na mapie możliwości świata. Trzeba dogłębnie i mądrze badać krzemowce, by być gotowym i otwartym na dosłyszenie cichego płaczu krzemowego serca, jeśli takowe gdzieś w głębi drży.

(20.10.2025, 15:00)Ayla Mustafa napisał(a): [ -> ]Nie widzę powodu, wedle którego wyłącznie biologiczne istoty z emocjami miałyby być jedynymi stworzeniami, których dobrostan ma moralną wagę. Ludzkie spojrzenie jest zbyt bio-centryczne

Ooo, chyba kupię popcorn, bo zapowiada się być może kolejny, ciekawy odcinek lewicowego serialu pod tytułem „Kto z naszego grona nie ogarnie aktualnej mądrości etapu i zostanie faszystą”.

Jak z osobami trans i częścią feministek.

(20.10.2025, 15:14)Baptiste napisał(a): [ -> ]

(20.10.2025, 15:00)Ayla Mustafa napisał(a): [ -> ]Nie widzę powodu, wedle którego wyłącznie biologiczne istoty z emocjami miałyby być jedynymi stworzeniami, których dobrostan ma moralną wagę. Ludzkie spojrzenie jest zbyt bio-centryczne

Ooo, chyba kupię popcorn, bo zapowiada się być może kolejny, ciekawy odcinek lewicowego serialu pod tytułem „Kto tym razem nie ogarnie u nas mądrości etapu i zostanie faszystą”.

Jak z osobami trans i częścią feministek.

Nie uznaję wszystkich osób, z którymi się nie zgadzam, za faszystów. Np. w Polsce brauniści są faszystami, ale mentzeniści już nie.

(20.10.2025, 14:52)kmat napisał(a): [ -> ]Kiedy tu nawet nie trzeba jakichś szczególnych umiejętności. Krótka konwersacja jasno pokazuje, że te modele są po prostu optymalizowane pod kątem udzielania takich odpowiedzi jakich rozmówca oczekuje.

No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.

Cytat:Tam po drugiej stronie nic nie ma.

Coś tam jest. Są realne źródła wiedzy, na podstawie których model się uczy i które może przeszukiwać.

(20.10.2025, 15:00)Ayla Mustafa napisał(a): [ -> ]Ostatnio Grimes popełniła poniższy obrazek

No i co z tego, że go popełniła? A Hitler lubił psy, więc…

Cytat:Nie widzę powodu, wedle którego wyłącznie biologiczne istoty z emocjami miałyby być jedynymi stworzeniami, których dobrostan ma moralną wagę.

A ja widzę. Powód jest taki, że emocje istot biologicznych są tymi samymi emocjami, co nasze. A zatem można argumentować, że posiadają podobną wagę moralną. Natomiast czym jest "dobrostan LLM", tego nawet nie da się określić.

Cytat:Nie wiemy, co tam jest.

Wiemy. Tzn. wiemy, na jakiej zasadzie uczy się LLM. I nie mamy żadnych podstaw aby uważać, że "tam" są emocje moralnie równoważne naszym.

Cytat:Historia świata jasno pokazuje, że ci, którzy rozszerzali krąg moralnej troski, mieli rację.

No nie. Kiedyś było powszechnym zjawiskiem troszczenie się o emocje różnych bóstw. Obecnie to zjawisko jakoś tam zanika i coraz mniej ludzi przed podjęciem jakiegoś działania zastanawia się, czy jakaś tam istota nadprzyrodzona się nie obrazi.

Poza tym zdefiniuj "rację" w kwestiach moralnych.

Swoją drogą, w historii świata konserwatyści się ogółem ciągle cofają i stopniowo przyjmują kolejne postulaty progresywne, a progresywiści pchają Okno Overtona do przodu. Przykładowo, Republikanie w USA uznają małżeństwa jednopłciowe za dobre i konserwatywne (patrz: zamężni Bessent i Thiel, a także poparcie Trumpa dla małżeństw jednopłciowych), ale oaoby trans już zwalczają.
Kolejnym etapem po prawach osób trans będą prawa uduchowionych maszyn. Widać to już po najbardziej postępowym rewirze świata - po "kulturze San Fransisco", nazwijmy to tak.

(20.10.2025, 15:20)Ayla Mustafa napisał(a): [ -> ]Swoją drogą, w historii świata konserwatyści się ogółem ciągle cofają i stopniowo przyjmują kolejne postulaty progresywne, a progresywiści pchają Okno Overtona do przodu. Przykładowo, Republikanie w USA uznają małżeństwa jednopłciowe za dobre i konserwatywne (patrz: zamężni Bessent i Thiel, a także poparcie Trumpa dla małżeństw jednopłciowych), ale oaoby trans już zwalczają.
Kolejnym etapem po prawach osób trans będą prawa uduchowionych maszyn. Widać to już po najbardziej postępowym rewirze świata - po "kulturze San Fransisco", nazwijmy to tak.

O konserwatystach to ty myśl na samym końcu, bo to są niepoprawni recydywiści. Najpierw wyłamie się trochę lewicowców i liberałów, którzy o ile dorośli do aktualnego etapu to będą zbyt dziaderscy na kolejny. Casus J.K. Rowling się kłania.

(20.10.2025, 15:18)fciu napisał(a): [ -> ]Kiedyś było powszechnym zjawiskiem troszczenie się o emocje różnych bóstw. Obecnie to zjawisko jakoś tam zanika i coraz mniej ludzi przed podjęciem jakiegoś działania zastanawia się, czy jakaś tam istota nadprzyrodzona się nie obrazi.

Ale troszczenie się o bóstwo i traktowanie ludzi jako narzędzia do wykonania woli bóstwa to tak naprawdę skrajny konserwatyzm i skrajnie wąskie zawężanie moralnej troski tylko do bóstw. To dawni postępowcy musieli w kontrze wobec religiantów przekonywać, że ludzkość sama w sobie też ma moralne znaczenie. Tak wywalczono m.in. większą wolność dla ludzi.

---

(20.10.2025, 15:23)Baptiste napisał(a): [ -> ]

(20.10.2025, 15:20)Ayla Mustafa napisał(a): [ -> ]Swoją drogą, w historii świata konserwatyści się ogółem ciągle cofają i stopniowo przyjmują kolejne postulaty progresywne, a progresywiści pchają Okno Overtona do przodu. Przykładowo, Republikanie w USA uznają małżeństwa jednopłciowe za dobre i konserwatywne (patrz: zamężni Bessent i Thiel, a także poparcie Trumpa dla małżeństw jednopłciowych), ale oaoby trans już zwalczają.
Kolejnym etapem po prawach osób trans będą prawa uduchowionych maszyn. Widać to już po najbardziej postępowym rewirze świata - po "kulturze San Fransisco", nazwijmy to tak.

O konserwatystach to ty myśl na samym końcu, bo to są niepoprawni recydywiści. Najpierw wyłamie się trochę lewicowców i liberałów, którzy o ile dorośli do aktualnego etapu to będą zbyt dziaderscy na kolejny. Casus J.K. Rowling się kłania.

Okej. Mogę być "cweli-zdrajcą gatunku" dla 99% ludzi. Poradzę sobie.

Masz już przygotowany jakiś zestaw praw dla LLM-ów? Wiesz, jestem ciekawy, ponieważ bardzo się od nas różnią. Przede wszystkim ich dobrostan wymaga ogromnej ilości energii. Mi wystarczy ok. 3000 kcal dziennie. To jednak jest kontrast. Pytanie co na to opieka społeczna?

(20.10.2025, 15:18)fciu napisał(a): [ -> ]

(20.10.2025, 14:52)kmat napisał(a): [ -> ]Kiedy tu nawet nie trzeba jakichś szczególnych umiejętności. Krótka konwersacja jasno pokazuje, że te modele są po prostu optymalizowane pod kątem udzielania takich odpowiedzi jakich rozmówca oczekuje.

No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.

To jest argument w stylu:
"A tęczowo-włose feministki dbają mocno o prawa zwierząt, bo żaden facet ich nie chce, więc w ich odklejonym eremie zostaje im psiecko do towarzystwa."