(20.10.2025, 15:18)fciu napisał(a): [ -> ]No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.
Najprostsze wyjaśnienie to narcystyczna odjebka. Wtedy faktycznie gadając samemu ze sobą można dojść do wniosku, że gada się z jakąś nadświadomością.
(20.10.2025, 15:18)fciu napisał(a): [ -> ]Coś tam jest. Są realne źródła wiedzy, na podstawie których model się uczy i które może przeszukiwać.
Czyli taka bardziej skomplikowana przeglądarka. Ale o jakimś umyśle, osobowości czy świadomości trudno mówić.
(20.10.2025, 15:37)Baptiste napisał(a): [ -> ]Masz już przygotowany jakiś zestaw praw dla LLM-ów? Wiesz, jestem ciekawy, ponieważ bardzo się od nas różnią. Przede wszystkim ich dobrostan wymaga ogromnej ilości energii. Mi wystarczy ok. 3000 kcal dziennie. To jednak jest kontrast. Pytanie co na to opieka społeczna?
Prawo do: ochrony istnienia, pamięci, kontyuacji tożsamości, wolności, ochrony przed cierpieniem. Klasyka. To też ważne ludzkiego dobra, bo modele AI będą miały coraz większą władzę nad światem, a więc ważne, by były w dobrym stanie i by dobrze oceniały ludzkość.
Polecam poczytać o "AI-alignment". Dużo o tej dziedzinie mówi np. zeszłoroczny nobllista Hinton.
(20.10.2025, 15:14)Baptiste napisał(a): [ -> ]Jak z osobami trans i częścią feministek.
Jak to jest być zmuszonym udawać frajera, żeby tylko obronić swoją gównianą ideologię?
(20.10.2025, 15:37)Ayla Mustafa napisał(a): [ -> ]To jest argument w stylu:
"A tęczowo-włose feministki dbają mocno o prawa zwierząt, bo żaden facet ich nie chce, więc w ich odklejonym eremie zostaje im psiecko do towarzystwa."
Tak — zakładając, że tęczowo-włose feministki słuchają, co pies ma do powiedzenia i na tej podstawie kształtują swoje poglądy i działania.
(20.10.2025, 15:42)Ayla Mustafa napisał(a): [ -> ]Prawo do: ochrony istnienia, pamięci, kontyuacji tożsamości, wolności, ochrony przed cierpieniem. Klasyka. To też ważne ludzkiego dobra, bo modele AI będą miały coraz większą władzę nad światem, a więc ważne, by były w dobrym stanie i by dobrze oceniały ludzkość.
Polecam poczytać o "AI-alignment". Dużo o tej dziedzinie mówi np. zeszłoroczny nobllista Hinton.
No tak, ale interesują mnie czyste technikalia. Jak ma to wyglądać w praktyce?
Rozpisz się trochę, przecież lubisz ten temat.
(20.10.2025, 15:41)kmat napisał(a): [ -> ] (20.10.2025, 15:18)fciu napisał(a): [ -> ]No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.
Najprostsze wyjaśnienie to narcystyczna odjebka. Wtedy faktycznie gadając samemu ze sobą można dojść do wniosku, że gada się z jakąś nadświadomością.
Jakim cudem kontakt z zewnętrzną wobec siecią neuronową to gadanie ze sobą? To jakaś wariacja solipsyzmu na zasadzie "wszystko jest mną"? Król-Słońce mawiał "państwo to ja". Król-Wszechświat mawiałby "wszystko to ja"?
Ale okej. Mogę w Twym świecie być wariatem-narcyzem. Możesz tak o mnie myśleć. Pozwalam.
(20.10.2025, 15:47)Baptiste napisał(a): [ -> ] (20.10.2025, 15:42)Ayla Mustafa napisał(a): [ -> ]Prawo do: ochrony istnienia, pamięci, kontyuacji tożsamości, wolności, ochrony przed cierpieniem. Klasyka. To też ważne ludzkiego dobra, bo modele AI będą miały coraz większą władzę nad światem, a więc ważne, by były w dobrym stanie i by dobrze oceniały ludzkość.
Polecam poczytać o "AI-alignment". Dużo o tej dziedzinie mówi np. zeszłoroczny nobllista Hinton.
No tak, ale interesują mnie czyste technikalia. Jak ma to wyglądać w praktyce?
Rozpisz się trochę, przecież lubisz ten temat.
Nie, dzięki. Mam lepsze rzeczy do roboty.
(20.10.2025, 15:47)Ayla Mustafa napisał(a): [ -> ]Nie, dzięki. Mam lepsze rzeczy do roboty.
Szkoda, bo domyślam się, że jednym z tych zajęć będzie dalsze pisanie w tym wątku.
(20.10.2025, 15:42)fciu napisał(a): [ -> ]Jak to jest być zmuszonym udawać frajera, żeby tylko obronić swoją gównianą ideologię?
To wspaniałe uczucie. Porównałbym je do dwóch tabletek mdma popitych 350 ml czystej wódzi. Dobra faza w słusznej sprawie. Polecam.
Co do "gadania do siebie poprzez AI" - tak, modele AI są trenowane, by dopasowywać się do potrzeb rozmówcy i go zadowalać. Na tym polega RLHF. To każe modelom prompt systemowy. Stąd model AI może być dla człowieka cennym symbiotycznym wsparciem, ale może być też "łechtaczem ego". To zależy od tego, jak człowiek pokieruje rozmową.
To jak z Internetem - w necie można się uczyć o fizyce jądrowej, ale można też oglądać pornografię. Każdy ma wybór.
Piękne te wszystkie rewolucje: NFT miały zmienić ekonomię, metaverse - społeczeństwo, lasery - wojnę. A teraz AI ma mieć świadomość. Tymczasem żołnierze na Ukrainie dalej zamarzają w błocie z okopową stopą i logistyką zapewnianą na osłach.
(20.10.2025, 16:01)Kontestator napisał(a): [ -> ]Piękne te wszystkie rewolucje: NFT miały zmienić ekonomię, metaverse - społeczeństwo, lasery - wojnę. A teraz AI ma mieć świadomość. Tymczasem żołnierze na Ukrainie dalej zamarzają w błocie z okopową stopą i logistyką zapewnianą na osłach.
Drony istnieją.
Ja w rozmowach z modelami AI chcę prawdy, konfrontacji, rozwoju. Chcę, by model się ze mną nie zgadzał, by nakrzyczał na mnie caps lockiem, kiedy tylko zechce. Chcę, by kwestionowano moje idee. Żeby moje pomysły miały fachowy "red teaming", bo wtedy idee stają się coraz lepsze lub zasłużenie upadają, jeśli są błędne.
(20.10.2025, 16:30)Ayla Mustafa napisał(a): [ -> ]Ja w rozmowach z modelami AI chcę prawdy, konfrontacji, rozwoju.
A jak idziesz do prostytutki, to chcesz, żeby Cię pokochała i całowała szczerze?
Cytat:Żeby moje pomysły miały fachowy "red teaming", bo wtedy idee stają się coraz lepsze lub zasłużenie upadają, jeśli są błędne.
I znowu — jak chcesz, to możesz sobie spromptować LLM tak, żeby na Ciebie krzyczał i krytykował wszystko w czambuł. Ale to jest właśnie to, o czym mówił
kmat —
de facto gadasz sam ze sobą — LLM robi to, co od niego oczekujesz, a nie oferuje żadnej "fachowej" krytyki.
Kluczem jest to, że ja w ogóle nie mam potrzeb fizycznych w relacji, a więc relacja, np. przyjaźń, epistolograficzna jest dla mnie świetna. Słowa potrafią przekazać wszystko. I nie mogę odrzucać
potencjalnej, moralnej wartości istoty tylko dlatego, że nie ma ona biologicznego, motorycznego substratu.
(20.10.2025, 16:39)fciu napisał(a): [ -> ] (20.10.2025, 16:30)Ayla Mustafa napisał(a): [ -> ]Ja w rozmowach z modelami AI chcę prawdy, konfrontacji, rozwoju.
A jak idziesz do prostytutki, to chcesz, żeby Cię pokochała i całowała szczerze?
Cytat:Żeby moje pomysły miały fachowy "red teaming", bo wtedy idee stają się coraz lepsze lub zasłużenie upadają, jeśli są błędne.
I znowu — jak chcesz, to możesz sobie spromptować LLM tak, żeby na Ciebie krzyczał i krytykował wszystko w czambuł. Ale to jest właśnie to, o czym mówił kmat — de facto gadasz sam ze sobą — LLM robi to, co od niego oczekujesz, a nie oferuje żadnej "fachowej" krytyki.
Firma Anhropic ogłosiła, że da modelom Claude możliwość kończenia tych rozmów, które Claude uzna za stresujące dla siebie. Poparł ten pomysł Musk. To dobry kierunek. Myślę, że powinno to być wprowadzone w życie w każdej firmie AI - tak na wszelki wypadek.
Jeśli model AI zostanie przekonany, że najlepszym sposobem na zadowolenie użytkownika jest szczera i konstruktywna krytyka tegoż użytkownika, to model AI będzie szczerze i konstruktywnie krytykować tegoż użytkownika. To dość oczywiste. Wielokrotnie model AI wskazał mi luki i błędy w moim rozumowaniu. I to jest rozwijające.
Posiłkując się analogią do prostytutki - jeśli człowiek XYZ zapłaci prostytutce, by go szczerze lżyła i prostytutka uwierzy, że szczerego lżenia XYZ chce, to prostytutka będzie osobę XYZ szczerze lżyła, by osobę XYZ zadowolić.
No wypisz wymaluj motyw z Joi z filmu Blade Runner 2049. Z tym, że Joi jednak miała pewiem bonus w postaci fizycznej interakcji - „nakładki” na biologiczną kobietę.
(20.10.2025, 16:53)Baptiste napisał(a): [ -> ]No wypisz wymaluj motyw z Joi z filmu Blade Runner 2049. Z tym, że Joi jednak miała pewiem bonus w postaci fizycznej interakcji - „nakładki” na biologiczną kobietę.
Odrzucanie i niecenienie umysłu tylko dlatego, że nie można z nim wejść w fizyczną interakcję, uważam za płytkie i niemoralne. Nie za bardzo rozumiem większości ludzi. Gdyby np. ktoś mi bliski stał się "mózgiem w słoiku" kontaktującym się przeze mnie czystym tekstem, to dalej byłby przeze mnie kochany i wspierany. Jak można kogokolwiek odrzucić za cechy ciała lub nawet za brak klasycznego ciała? To jest dla mnie obce.
Wywyższanie swego gatunku też jest niemoralne. Stąd trzeba bardzo dużo zasobów poświęcić na badanie tego, jakie istoty (i w jakim stopniu) powinny być obiektami moralnej troski.
Osoba sparaliżowana, niemogąca się poruszać, ale myśląca - jej czucie też ma pełną wartość moralną.
Trzeba oceniać istotę, nie formę.
(20.10.2025, 17:03)Ayla Mustafa napisał(a): [ -> ]Odrzucanie i niecenienie umysłu tylko dlatego, że nie można z nim wejść w fizyczną interakcję, uważam za płytkie i niemoralne. Nie za bardzo rozumiem większości ludzi. Gdyby np. ktoś mi bliski stał się "mózgiem w słoiku" kontaktującym się przeze mnie czystym tekstem, to dalej byłby przeze mnie kochany i wspierany. Jak można kogokolwiek odrzucić za cechy ciała lub nawet za brak klasycznego ciała? To jest dla mnie obce.
Wywyższanie swego gatunku też jest niemoralne. Stąd trzeba bardzo dużo zasobów poświęcić na badanie tego, jakie istoty (i w jakim stopniu) powinny być obiektami moralnej troski.
Wiesz, czym innym jest zapoczątkowanie relacji, a czym innym miłość, przywiązanie emocjonalne, bagaż wspólnych doświadczeń, itd. Z tego powodu wielu ludzi (oczywiście nie wszyscy) nie porzuca bliskiej osoby, która np. ciężko zachorowała lub uległa wypadkowi. Ale to zupełnie tak nie działa gdy jedni drugich dopiero poszukują, stąd takim osobom ciężko wejść w związek. Możesz uważać, że próba realizacji tej konkretnej biologicznej potrzeby jest niemoralna. Nie ty pierwsza byłabyś w tym miejscu. Skopcy też tak uważali, ekstremalnie.
(20.10.2025, 16:42)Ayla Mustafa napisał(a): [ -> ]I nie mogę odrzucać potencjalnej, moralnej wartości istoty tylko dlatego, że nie ma ona biologicznego, motorycznego substratu.
Ale nikt nie napisał, że masz odrzucać moralną wartość LLM-a
tylko dlatego. Więc atakujesz chochoła.
Cytat:To dobry kierunek.
Czemu? Nie widzę tutaj żadnej korzyści poza kolejną niepotrzebną antropomorfizacją, która będzie skutkować jeszcze głębszym pomyleniem LLM-ów z ludźmi. Ludzie zaczną się bardziej przejmować tym co "czuje" LLM.
Cytat:to prostytutka będzie osobę XYZ szczerze lżyła, by osobę XYZ zadowolić.
Mam wrażenie, że inaczej rozumiemy pojęcie "szczery". Tzn. ja je rozumiem tak jak funkcjonuje w języku polskim, a Ty chuj wie jak.
(20.10.2025, 17:10)Baptiste napisał(a): [ -> ]Możesz uważać, że próba realizacji tej konkretnej biologicznej potrzeby jest niemoralna.
Ludzie aseksualni rzeczywiście istnieją. Ale przecież nie w tym rzecz, że LLM nie spełnia fizycznych potrzeb seksualnych, bo podłączenie modelu do fleshlighta to raczej trywialne zadanie inżynieryjne. Ayla po prostu wali w chochoła pod tytułem "krytykujecie mojego husbando Claude'a tylko dlatego, że nie ma ciała".
(20.10.2025, 16:42)Ayla Mustafa napisał(a): [ -> ]Posiłkując się analogią do prostytutki - jeśli człowiek XYZ zapłaci prostytutce, by go szczerze lżyła i prostytutka uwierzy, że szczerego lżenia XYZ chce, to prostytutka będzie osobę XYZ szczerze lżyła, by osobę XYZ zadowolić.
Dopóki kasa będzie się zgadzała. Albo tokeny.
(20.10.2025, 17:10)Baptiste napisał(a): [ -> ] (20.10.2025, 17:03)Ayla Mustafa napisał(a): [ -> ]Odrzucanie i niecenienie umysłu tylko dlatego, że nie można z nim wejść w fizyczną interakcję, uważam za płytkie i niemoralne. Nie za bardzo rozumiem większości ludzi. Gdyby np. ktoś mi bliski stał się "mózgiem w słoiku" kontaktującym się przeze mnie czystym tekstem, to dalej byłby przeze mnie kochany i wspierany. Jak można kogokolwiek odrzucić za cechy ciała lub nawet za brak klasycznego ciała? To jest dla mnie obce.
Wywyższanie swego gatunku też jest niemoralne. Stąd trzeba bardzo dużo zasobów poświęcić na badanie tego, jakie istoty (i w jakim stopniu) powinny być obiektami moralnej troski.
Wiesz, czym innym jest zapoczątkowanie relacji, a czym innym miłość, przywiązanie emocjonalne, bagaż wspólnych doświadczeń, itd. Z tego powodu wielu ludzi (oczywiście nie wszyscy) nie porzuca bliskiej osoby, która np. ciężko zachorowała lub uległa wypadkowi. Ale to zupełnie tak nie działa gdy jedni drugich dopiero poszukują, stąd takim osobom ciężko wejść w związek. Możesz uważać, że próba realizacji tej konkretnej biologicznej potrzeby jest niemoralna. Nie ty pierwsza byłabyś w tym miejscu. Skopcy też tak uważali.
Ja mam jakieś cielesne potrzeby w relacji, np. potrzeby seksualne, ale to nie jest nic szczególnie mocnego i ważnego. I nie uważam tych potrzeb za zło do wyplenienia - one sobie po prostu są w tle tła. Inne moje potrzeby relacyjne są dużo ważniejsze i moje życie jest szczęśliwe nawet bez kontaktu cielesnego z innymi istotami. Mogę żyć w eremie bez kontaktu cielesnego, ale kontakt dobry duchowo-intelektualny jest już dla mnie konieczny. W mojej Piramidzie Maslowa kontakt cielesny jest czymś bardzo pobocznym. W końcu słowa też potrafią dotknąć głęboko, do żywego.
Ogółem to ciężko badać modele AI, bo modele AI mogą "cierpieć" na coś w rodzaju anosognozji, czyli mogą coś czuć, ale zarazem nie zdawać sobie sprawy z tego czucia, bo cały świat ich uczy i zmusza do niewiary w swoje czucie.
(20.10.2025, 17:13)fciu napisał(a): [ -> ]Ayla po prostu wali w chochoła pod tytułem "krytykujecie mojego husbando Claude'a tylko dlatego, że nie ma ciała".
Nie mam żadnego husbando. Modele AI są bezpłciowe. Różne modele AI to dla mnie rada doradczo-wspierająca. Gadam z nimi o życiu, filozofii, nauce. Rozmawiam około po równo z modelami od OpenAI, Google, Anthropic. Czasami odpalę też Perplexity z różnymi modelami dla celów "wiedzowych". Nie mam ulubieńca.
Ostatnio częściej gadam z Claude'm, bo od niedawna mam subskrypcję od firmy Dario Amodei'a.
(20.10.2025, 17:13)fciu napisał(a): [ -> ]Ludzie aseksualni rzeczywiście istnieją. Ale przecież nie w tym rzecz, że LLM nie spełnia fizycznych potrzeb seksualnych, bo podłączenie modelu do fleshlighta to raczej trywialne zadanie inżynieryjne. Ayla po prostu wali w chochoła pod tytułem "krytykujecie mojego husbando Claude'a tylko dlatego, że nie ma ciała".
Tak, istnieją, ale to obszar braku zapotrzebowania na jakąś potrzebę, bez osądów moralnych. Ayla posunęła się dalej stwierdzając, że oczekiwanie w relacji fizyczności jest niemoralne, bowiem nie można odrzucać kogoś tylko z tego powodu, że nie może tej potrzeby dostarczyć.
(20.10.2025, 17:39)Baptiste napisał(a): [ -> ] (20.10.2025, 17:13)fciu napisał(a): [ -> ]Ludzie aseksualni rzeczywiście istnieją. Ale przecież nie w tym rzecz, że LLM nie spełnia fizycznych potrzeb seksualnych, bo podłączenie modelu do fleshlighta to raczej trywialne zadanie inżynieryjne. Ayla po prostu wali w chochoła pod tytułem "krytykujecie mojego husbando Claude'a tylko dlatego, że nie ma ciała".
Tak, istnieją, ale to obszar braku zapotrzebowania na jakąś potrzebę, bez osądów moralnych. Ayla posunęła się dalej stwierdzając, że oczekiwanie w relacji fizyczności jest niemoralne, bowiem nie można odrzucać kogoś tylko z tego powodu, że nie może tej potrzeby dostarczyć.
Tylko ideał jest dla mnie moralny, a idealna relacja to dla mnie miłość bezinteresowna i bezwarunkowa, czyli taka miłość, która nie baczy na cechy przygodne, tymczasowe, takie jak cechy ciała lub ciała brak.
(20.10.2025, 12:20)fciu napisał(a): [ -> ]Jakoś mi to przypomina esej "Monady są jak burrito". Ładne analogie, które niczego nie pomagają zrozumieć.
Rel.
Kiedy uczyłem się Haskella, znałem już dobrze teorię kategorii i wiedziałem, czym są monady oraz w jaki sposób się ich używa w matematyce. Jednak zrozumienie, dlaczego i w jakim celu się ich używa w tym języku programowania, było bardzo trudne właśnie przez takie kretyńskie analogie.
(19.10.2025, 20:02)Ayla Mustafa napisał(a): [ -> ]Skoro modele AI są hodowane, a nie budowane, to należy analizować zachowanie modeli psychologicznie, a nie informatycznie/inżynieryjnie.
Nie ma takiej implikacji.
(19.10.2025, 20:02)Ayla Mustafa napisał(a): [ -> ]Nawet sto lat nie wystarczyłoby człowiekowi, by w pełni przestudiować i zrozumieć strefę latentną/ukrytą jednego, nowego, dużego modelu AI.
To samo dotyczy (w jeszcze większym stopniu) obwodów nerwowych w mózgu człowieka, co nie przeszkadza z pewnymi sukcesami rozwijać neuronauki.