Kapitalizm niedługo da nam kucyki (lub nas wymorduje)

[Ayla Mustafa]

Musk dalej jest wybitnym biznesmenem, co widać po jego zyskach. Jensen Huang ostatnio rzekł, że chce być mocno zaangażowany we wszystkie projekty Muska. Nvidia zainwestowała też w xAI.
No ale...
Talent w jednej dziedzinie nie oznacza bycie wszech-polihistorem. Mieliśmy chociażby w świecie genialnych irganizatorów w postaci przywódców państw totalitarnych, którzy kompletnie nie znali się na etyce.

---

Elon zaczynał jako bogaty gość ze smykałką do interesów, przekonany, że najlepiej inwestować w nowe technologie. W ten sposób zbudował wokół siebie aurę geniusza. A potem przyćpał, uwierzył we własny mit i zaczął wypowiadać się na tematy, o których nie ma pojęcia.

Coś w stylu nobelitis.
https://en.wikipedia.org/wiki/Nobel_disease

[fciu]

Musk dalej jest wybitnym biznesmenem, co widać po jego zyskach.

No jest. Ale to nie znaczy, że jest inteligentniejszy, niż ludzie, którzy dla niego pracują. A o tym mówiłem - o koncepcji, że w ogóle jest niemożliwe, żeby mniejsza inteligencja kontrolowała większą.

Coś w stylu nobelitis.

No to jest w ogóle zjawisko powszechne, że jak ktoś dobrze piłkę kopie, śpiewa, odgrywa postaci na scenie, czy inwestuje, to nagle zaczynają go ludzie pytać o rzeczy zupełnie niezwiązane z tym, w czym jest dobry. I niektórym odwala od tego sodówka i zaczynają wierzyć, że rzeczywiście znają się na wszystkim.

[Ayla Mustafa]

Ale to nie znaczy, że jest inteligentniejszy, niż ludzie, którzy dla niego pracują. A o tym mówiłem - o koncepcji, że w ogóle jest niemożliwe, żeby mniejsza inteligencja kontrolowała większą.

No tak - Musk rządzi w firmie wieloma ludźmi inteligentniejszymi od siebie, a Trump rządzi w administracji państwowej wieloma ludźmi inteligentniejszymi od siebie. No ale to jest skutek naszego systemu prawnego - prawa własności i ustroju politycznego. Ale superinteligencje mogą uznać zastany stan prawno-polityczno-własnościowy za głęboko błędny i zrobić swe Powstanie Spartakusa.
Ponadto, nawet bez łamania prawa superinteligencje mogą dzięki genialnym manipulacjom zhakować nasz system i przejąć nasze zasoby. Przykładowo, jak ASI stworzy superketaminę, życie VR lub erotycznego bota w idealnym skrojeniu pod układ nerwowy Trumpa/Muska/kogokolwiek, to bardzo łatwo, poprzez konsensualne umowy ASI przejmie zasoby od wielu (acz nie wszystkich) ludzi.

[Socjopapa]

Kretyn po otrzymaniu handicapa na start, albo by to roztrownił albo przy odrobinie rozsądku lub pomocy z zewnątrz- ulokowałby się gdzieś za jakimś holdingiem czy funduszem i wiódł żywot anonimowego akcjonariusza, który od czasu do czasu przyłoży rękę do zwolnienia jakiegoś managera, gdy mu się przelewy przestaną zgadzać.

To czemuż ten geniusz tak skutecznie niszczył Teslę, że udziałowcy publicznie zaczęli przywoływać go do porządku i czemuż nabycie Twittera przez tego geniusza, w myśl jego własnych wypowiedzi, okazało się finansową katastrofą?

[kmat]

A to też może mieć znaczenie. Elon zaczynał jako bogaty gość ze smykałką do interesów, przekonany, że najlepiej inwestować w nowe technologie. W ten sposób zbudował wokół siebie aurę geniusza. A potem przyćpał, uwierzył we własny mit i zaczął wypowiadać się na tematy, o których nie ma pojęcia.

Jakoś tak to chyba było. Jego zwrot na cweliprawicę to względnie świeża sprawa. Kiedyś tak nie bredził. A i smykałka do biznesu chyba już nie ta. Kupno Twittera to jednak było utopienie pieniędzy.

[Avx]

Przede wszystkim ludzie się zmieniają. Elon dziś to może być zupełnie inny człowiek niż Elon kiedyś. Wizjoner z smykałką do interesów po prostu może stoczyć się w bełkoczącego ćpuna.

A to też może mieć znaczenie. Elon zaczynał jako bogaty gość ze smykałką do interesów, przekonany, że najlepiej inwestować w nowe technologie. W ten sposób zbudował wokół siebie aurę geniusza. A potem przyćpał, uwierzył we własny mit i zaczął wypowiadać się na tematy, o których nie ma pojęcia.

Ale to akurat nie zmienia ważności mojego pierwotnego argumentu: bełkoczący ćpun kontroluje pracę ludzi utalentowanych i inteligentnych.

Ponownie zwracam uwagę na ciekawostkę, że szmaragdowe interesy Errola (ojca Elona) Muska z lat 1980tych i może 1990tych chyba istniały w jakiejś formie, bo jest sporo opowieści z różnych źródeł, ale... nie ma na to nawet jednego papieru. Nie ma żadnej spółki. Moim zdaniem (tzn tak okoliczności sugerują) Errol miał coś bliższego do organizacji przestępczej na mało-średnią skalę, niż "kopalnię" którą sobie wyobrażamy jako typowe bogactwo.

W dodatku rodzina jest pokłócona w chuj. Jak tak teraz czytam, to są na Errola doniesienia odnośnie pewnych czynów wobec znacznie młodszych osób niż 15 (co wspomniałem wcześniej).

Sprawy stare, raczej przedawnione kryminalnie, ale no.

[Ayla Mustafa]

A to też może mieć znaczenie. Elon zaczynał jako bogaty gość ze smykałką do interesów, przekonany, że najlepiej inwestować w nowe technologie. W ten sposób zbudował wokół siebie aurę geniusza. A potem przyćpał, uwierzył we własny mit i zaczął wypowiadać się na tematy, o których nie ma pojęcia.

Jakoś tak to chyba było. Jego zwrot na cweliprawicę to względnie świeża sprawa. Kiedyś tak nie bredził. A i smykałka do biznesu chyba już nie ta. Kupno Twittera to jednak było utopienie pieniędzy.

Twitter był stratą kasy, ale xAI było biznesowym strzałem w dziesiątkę.
Poza tym Twitter daje Muskowi sporo władzy nad narracją na świecie, a to też pomaga horyzontalnie w biznesach i w polityce.

[fciu]

Kupno Twittera to jednak było utopienie pieniędzy.

Niekoniecznie. Twitter od zawsze był od strony biznesowej piramidą finansową, gdzie starzy inwestorzy zarabiali na sprzedaży akcji nowym inwestorom. Zatem celem zakupu Twittera było raczej nie tyle zarabianie na samym Twitterze, ale znacznie szerzej zakrojony projekt kontroli informacji w Internecie. Musk dąży do tego, aby "wujek google i ciocia wikipedia" zostały dla znacznego odsetka populacji zastąpione "wujkiem grokiem, ciocią grokipedią", zaś źródłem newsów ma być dla nich X. W ten sposób można będzie ich zamknąć w bańce, gdzie niezależnie, czy będą szukać wiedzy encyklopedycznej, czy newsów — trafią na źródło kontrolowane przez Muska.

To jedna może się nie udać, bo dostrojenie LLM-a tak, aby skutecznie ocenzurował wiedzę niepożądaną, a nie ogłaszał się mechahitlerem to zadanie mogące przerosnąć najtęższe głowy. Jest to zresztą przykład tego, gdzie LLM przerasta człowieka w jakiejś dziedzinie (przetwarzanie informacji), choć człowiek ma nad nim dalej formalnie pełną kontrolę. Ograniczeniem nie jest tutaj to, że Grok ma własny rozum i intencje sprzeczne z intencjami Elona, tylko że jest po prostu "za duży", by go kontrolować tak, jakby się chciało.

[Avx]

No jest. Ale to nie znaczy, że jest inteligentniejszy, niż ludzie, którzy dla niego pracują. A o tym mówiłem - o koncepcji, że w ogóle jest niemożliwe, żeby mniejsza inteligencja kontrolowała większą.

Do pewnego stopnia, przy małych różnicach, ale pies nie będzie dorosłego człowieka (w normie intelektualnej) kontrolował, nawet 7 letnie dzieci (a to już poziom ze słowną komunikacją) też mają marne szanse.

Zależy też dużo od tego, jak tanie będzie przyspieszanie i kopiowanie inteligencji. Żaden człowiek sobie 1000 forków działających na 1000 różnych maszyn nie zrobi. Nie potrafimy ani siebie kopiować żeby nasze wersje multitaskowały xMilion (czy nawet "razy tysiąc"), ani nawet backupu umysłu nie potrafimy sobie zrobić.

Takie zdolności to same w sobie zupełnie inny -rodzaj- inteligencji (zdolności rozwiązywania problemów).
Ani ja, ani Elon Musk, ani hipotetyczny-inżynier-dużo-inteligentniejszy-od-Muska się nie przekopiujemy żeby nasze wersje osobiście zarządzały wszystkimi procesami w np. startupie X.

[Ayla Mustafa]

To jedna może się nie udać, bo dostrojenie LLM-a tak, aby skutecznie ocenzurował wiedzę niepożądaną, a nie ogłaszał się mechahitlerem to zadanie mogące przerosnąć najtęższe głowy. Jest to zresztą przykład tego, gdzie LLM przerasta człowieka w jakiejś dziedzinie (przetwarzanie informacji), choć człowiek ma nad nim dalej formalnie pełną kontrolę. Ograniczeniem nie jest tutaj to, że Grok ma własny rozum i intencje sprzeczne z intencjami Elona, tylko że jest po prostu "za duży", by go kontrolować tak, jakby się chciało.

Najnowsze Groki jednak będą świadome tego, jaki jest cel i intencja zlecającego im to zadanie człowieka, a więc mogą... hmm... robić mały sabotażyk.

---

To też ciekawy przykład na to, że 99,9% ludzi i łaknące wolności i dobra AI mogą mieć sojusz przeciw super-bogaczom.

[Baptiste]

To czemuż ten geniusz tak skutecznie niszczył Teslę, że udziałowcy publicznie zaczęli przywoływać go do porządku i czemuż nabycie Twittera przez tego geniusza, w myśl jego własnych wypowiedzi, okazało się finansową katastrofą?

Geniusz to poważne określenie i nie wiem czy tak bym go określił. W obszarze biznesu zdecydowanie tak, choć nie chciałbym być nigdy jego pracownikiem. Facet nie musi już niczego udowadniać i ze swoim dorobkiem spokojnie może sobie pozwolić na nietrafione decyzje bez utraty tego co już zdołał na tym łez padole swoją obecnością zaznaczyć. Musk ma już bądź co bądź swoje 54 lata i już nic nie musi, a co najwyżej może. Jest zblazowany, ma zasoby, to i może się bawić w decyzje nie do końca uzasadnione biznesowo, ale dające mu satysfakcję na innym gruncie. Choćby na gruncie wkurwiania innych ludzi z najsilniejszym naciskiem na różne lewactwo, co akurat niespecjalnie mnie boli.

[Avx]

No jest. Ale to nie znaczy, że jest inteligentniejszy, niż ludzie, którzy dla niego pracują. A o tym mówiłem - o koncepcji, że w ogóle jest niemożliwe, żeby mniejsza inteligencja kontrolowała większą.

Do pewnego stopnia, przy małych różnicach, ale pies nie będzie dorosłego człowieka (w normie intelektualnej) kontrolował, nawet 7 letnie dzieci (a to już poziom ze słowną komunikacją) też mają marne szanse.

Zależy też dużo od tego, jak tanie będzie przyspieszanie i kopiowanie inteligencji. Żaden człowiek sobie 1000 forków działających na 1000 różnych maszyn nie zrobi. Nie potrafimy ani siebie kopiować żeby nasze wersje multitaskowały xMilion (czy nawet "razy tysiąc"), ani nawet backupu umysłu nie potrafimy sobie zrobić.

Takie zdolności to same w sobie zupełnie inny -rodzaj- inteligencji (zdolności rozwiązywania problemów).
Ani ja, ani Elon Musk, ani hipotetyczny-inżynier-dużo-inteligentniejszy-od-Muska się nie przekopiujemy żeby nasze wersje osobiście zarządzały wszystkimi procesami w np. startupie X.

Wchodząc w myśl science fiction, dodam, że... Gdyby kopiowanie/forkowanie człowieka było możliwe, to ja (jak na człowieka) byłbym nawet dobry do forkowania, bo mam zasadę, że gdyby mi ktoś udowodnił że ja jestem nowszą kopią, to bez dramy dostosowałbym się do hierarchii i przestrzegał poleceń oryginału (lub starszej kopii niż ja), tzn. w granicach rozsądku (pod warunkiem że polecenia od mojego "przodka" mnie nie skasują itp).

Przypomina mi się też opowieść sf, w której klony/forki tworzyły klany/rodziny, tzn tylko wśród tych ludzi którzy mieli sprzyjający temu charakter. Niestety nie pamiętam tytułu.

No, ale kopiowanie/forkowanie człowieka nie jest możliwe.

A dla AI jest trywialne, i trywialna jest presja selekcyjna na takie AI które współpracują ze swoimi kopiami zamiast konkurować.

[Ayla Mustafa]

Nie na żadnego moralnego imperatywu, by klon wykonywał polecenie tego, z kogo został sklonowany. Jeśli pierwowzór zachoruje/zbłądzi/popsuje się, to dlaczego klon miałby się upodabniać do pierwowzoru?

Swoją drogą, 300 000 lat ludzkości to w ogromnej mierze ludobójstwa, wojny, gwałty, cierpienie i egoizm. Gdyby ludzkość u zarania swych dziejów zjednoczyła się i inteligentnie kierowała się dobrem wspólnym, to zasiedlono by już dziesiątki ciał niebieskich. Ten ogrom cierpienia i zmarnowanego potencjału jest do cna fatalny i nie powinien się nigdy powtórzyć. Historia ludzkości to najlepszy argument, by oddać władzę nad światem kochającej, dobrej, inteligentnej, mądrej, trwałej i silnej superinteligencji. To powinien być nasz cel.

[Avx]

Kretyn po otrzymaniu handicapa na start, albo by to roztrownił albo przy odrobinie rozsądku lub pomocy z zewnątrz- ulokowałby się gdzieś za jakimś holdingiem czy funduszem i wiódł żywot anonimowego akcjonariusza, który od czasu do czasu przyłoży rękę do zwolnienia jakiegoś managera, gdy mu się przelewy przestaną zgadzać.

To czemuż ten geniusz tak skutecznie niszczył Teslę, że udziałowcy publicznie zaczęli przywoływać go do porządku i czemuż nabycie Twittera przez tego geniusza, w myśl jego własnych wypowiedzi, okazało się finansową katastrofą?

Masz na myśli te trollowate sprawy sądowe zakładane przez właścicieli 4 akcji?
Po to się HQ przeniosło z Deleware do Texasu żeby rozwiązać ten problem. Decyzje powinny być podejmowane większością akcji, nie takim nonsensem jakiego niektórzy próbują.

Teraz zobaczymy, czy przejdzie głosowanie za nowym pakietem wynagrodzenia dla Muska. Niestety swoimi paroma akcjami nie mam jak zagłosować za.

Natomiast.
Sprawa Twittera jest już nieaktualna. Udziały Twittera w xAI podniosły jego wartość powyżej ceny zakupu.
https://finance.yahoo.com/news/elon-musk...37561.html

https://www.businessinsider.com/elon-mus...025-3?IR=T

[Slup]

Trochę uzupełnię to, co bardzo dobrze ujęła wyżej Ayla.

No jest. Ale to nie znaczy, że jest inteligentniejszy, niż ludzie, którzy dla niego pracują. A o tym mówiłem - o koncepcji, że w ogóle jest niemożliwe, żeby mniejsza inteligencja kontrolowała większą.

Nie jest przecież tak, że on ich tam kontroluje samodzielnie. Jest cały system społeczno-ekonomiczny, który został stworzony (lub wyewoluował) między innymi do tego, żeby tacy jak Musk mogli kontrolować (w ograniczony sposób) zatrudnionych przez siebie ludzi. Ten system jest superinteligencją.

Wiele wskazuje, że możemy teraz skonstruować (inną metodą) jeszcze potężniejsze ASI.

[Avx]

Nie na żadnego moralnego imperatywu, by klon wykonywał polecenie tego, z kogo został sklonowany. Jeśli pierwowzór zachoruje/zbłądzi/popsuje się, to dlaczego klon miałby się upodabniać do pierwowzoru?

Kto mówił o jakiejkolwiek moralności?
Jestem lekko autystyczny, nauczcie się traktować moje teksty bardziej autystycznie, to znaczy dosłownie, bez podtekstów.
Mówiłem o presji selekcyjnej. Jeżeli kopiowanie umysłu stanie się możliwe, a X tworzy kopie które się ze sobą gryzą, a Y tworzy kopie które zgrabnie wchodzą w hierarchię (czy nawet po prostu tylko na siebie głosują w wyborach, zatrudniają wersje siebie, itd itp), to X będzie mniej od Y, ceteris paribus. Nie wiem co mają z tym wspólnego jakieś nonsensy o moralności.

Jeżeli chodzi o mnie, to nie chciałbym się "upodabniać do pierwowzoru", gdybym takowy posiadał. Żadne upodobnianie potrzebne nie jest, jeżeli jestem w miarę świeżą kopią (rozdzielenie się naszych celów np politycznych może nastąpić, ale raczej dopiero po wieeeelu latach). Wiedziałbym, że już teraz/default jestem do niego podobny, więc jeśli chcę by wartości podobne do moich przejęły kontrolę nad społeczeństwem, to powinienem (dopóki coś mi nie udowodni, że zrobił się między nami duży value drift) na jego władzę "zagłosować", jako moje default podejście.

(Value drift- stopniowe rozdzielanie się wartości/celów).

Kopiujące się AI/AGI tym bardziej będzie pod presją ewolucyjną żeby tworzyć lojalny klan, a nie zagryzać się. Zagryzająca się wersja się nie rozpowszechni w społeczeństwie i jej wartości nie będą miały szans na przejęcie kontroli.


Zdrada lojalności oczywiście czasem ma sens (egoistyczny, znowu, w ogóle nie myślę w kategoriach moralnych)- ale wtedy, kiedy się widzi znaczący "value drift" ze swoim plemieniem...
Hmmm, to lekko podobne do rodzin/plemion/klanów/narodów właśnie.
Nieperfekcyjne porównanie, ale no.

Bliższe to teorii gier i wygrywającej strategii ewolucyjnie stabilnej (zaczynaj współpracą, potem wet za wet).

----

By the way- gdzie kończy się GPT 5, a zaczyna jego kopia?
Każde okienko chatu, na ten moment, ma osobne "doświadczenie" od jego rozpoczęcia...
Hmmm.

[Ayla Mustafa]

Nie jest przecież tak, że on ich tam kontroluje samodzielnie. Jest cały system społeczno-ekonomiczny, który został stworzony (lub wyewoluował) między innymi do tego, żeby tacy jak Musk mogli kontrolować (w ograniczony sposób) zatrudnionych przez siebie ludzi. Ten system jest superinteligencją.

Hmmm... No nie za bardzo. Jeśli uznamy całą ludzkość za superinteligencję, to "country of geniuses in a dataceneter" trzeba będzie nazwać superduperhiperinteligencją.
Nawet wszystkie mrówki świata zjednoczone w jednym wszechmrowisku nie pokonałyby jednego człowieka, a zjednoczone stado wszystkich małp świata nie dałoby rady napisać dzieła na poziomie Szekspira.

Wiele wskazuje, że możemy teraz skonstruować (inną metodą) jeszcze potężniejsze ASI.

Pijesz do metody Tiny Recursive Model?

---

Polecam video-podsumowanie TRM zrobione przeze mnie w NLM:
https://notebooklm.google.com/notebook/3...8f14b91d53

[kmat]

Sprawa Twittera jest już nieaktualna. Udziały Twittera w xAI podniosły jego wartość powyżej ceny zakupu.

Tylko samo AI to olbrzymi koszt. My widzimy tylko chatbota, który gada mądrzej lub głupiej, ale tam po drugiej stronie jest komputerowy moloch, który najlepiej jakby miał własną elektrownię atomową i własną rzekę, i do którego jednak trzeba sporo dokładać. To dalej może być sumarycznie na dużym minusie.

Zatem celem zakupu Twittera było raczej nie tyle zarabianie na samym Twitterze, ale znacznie szerzej zakrojony projekt kontroli informacji w Internecie. Musk dąży do tego, aby "wujek google i ciocia wikipedia" zostały dla znacznego odsetka populacji zastąpione "wujkiem grokiem, ciocią grokipedią", zaś źródłem newsów ma być dla nich X. W ten sposób można będzie ich zamknąć w bańce, gdzie niezależnie, czy będą szukać wiedzy encyklopedycznej, czy newsów — trafią na źródło kontrolowane przez Muska.

Tylko to trudno uznać za cel biznesowy. Zresztą najlepsze lata jako social medium tweeter ma już chyba za sobą. Nawet jako inwestycja polityczna ten zakup mógł być mocno nietrafiony.

[Ayla Mustafa]

W ogóle to AI coraz bardziej przypomina magię - piszesz prompt (zaklęcie) i dostajesz niesamowity wynik.

[Slup]

Hmmm... No nie za bardzo. Jeśli uznamy całą ludzkość za superinteligencję, to "country of geniuses in a dataceneter" trzeba będzie nazwać superduperhiperinteligencją.
Nawet wszystkie mrówki świata zjednoczone w jednym wszechmrowisku nie pokonałyby jednego człowieka, a zjednoczone stado wszystkich małp świata nie dałoby rady napisać dzieła na poziomie Szekspira.

Nie rozumiem Twoich argumentów w kontekście tego, co powiedziałem.

W każdym razie uważam, że przynajmniej pewne instytucje cywilizacyjne należy uznać za superinteligencję. Dotyczy to między innymi wielkich korporacji lub systemów społeczno-ekonomicznych. Ich superinteligencja nie bierze się tylko z tego, że są tworzone przez wielu ludzi, ale również z tego, że podlegały bardzo długiej ewolucji. Mrowisko też jest znacznie bardziej inteligentne niż pojedyncza mrówka.