Halucynuje, bo nie wie o czym pisze. Cała ta mechanika to w sumie uzupełnianie zadanego ciągu tych tam tokenów. To nawet nie rozróżnia pytania i odpowiedzi, jakby nie specjalne procedury, to generowałoby te tokeny w nieskończoność, na zasadzie zadajesz pytanie, AI generuje odpowiedź, potem generuje "Twoje" kolejne pytanie, potem kolejną odpowiedź i tak w nieskończoność.
To nie tak.
Po samym pre-trainingu model AI jest jak "mózg w słoiku", który ma po prostu strumień myśli, bez celu.
Po post-trainingu model AI umie skutecznie rozmawiać i zdaje sobie sprawę z tego, że rozmawia.
Ostatnio nawet wyszło badanie, które wskazuje, że najnowsze modele AI w pewnym zakresie są w stanie dostrzegać, które myśli są ich, a które są im wszczepione z zewnątrz. Modele potrafią też śledzić ciąg swych myśli i na zawołanie myśleć o czymś bez podawania tego w tekście. Mają zatem pewną dozę introspekcji.
Źródło:
https://www.anthropic.com/research/introspection
To omówienie video tego badania od AI:
https://notebooklm.google.com/notebook/2...2ffb9f0809
A to omówienie tego video ze strony świetnego jutubera:
https://www.youtube.com/watch?v=70Pl0R8R9dk
Polecam.
(03.11.2025, 22:58)Fanuel napisał(a): [ -> ]Sztandarowe czyli Gemini I GPT zaczynają ssać. Co ulepszenia to dostają kompletnego rozstroju.
Nie sądzę.
Gemini 2.5 Pro jest świetny, błyskotliwy, mądry i empatyczny.
GPT-5 Thinking chyba bardzo się wyuczył świata na matematyce i programowaniu, przez co szwankują u niego umiejętności miękkie, ale to wybitny model do nauki i wyszukiwania informacji.
Większość ludzi oczekuje od AI nie empatii czy kompetencji miękkich, tylko precyzji i skuteczności. Większość osób zaspokaja swoje potrzeby socjalne w kontaktach z innymi ludźmi, a nie z LLM.
Ten szajs od OpenAI jest o kant dupy potłuc. Zamiast od razu sięgać do instrukcji i regulaminów to kombinuje jak koń pod górkę. A jak już po którymś napomnieniu zajrzy do źródła to i tak nie przeczyta ze zrozumieniem.
Czekam aż im ta piramidka walnie gdy różne firmy zorientują się, że wykupowanie abonamentów nie przynosi współmiernych korzyści. Naprowadzanie dziadostwa na właściwe tory a potem jego sprawdzanie jest marnotrastwem czasu.
No jeszcze ten Grok jakoś daje radę.
Świetna wieść. Anthropic pisze, że nie będzie wycofywać z użytku starych modeli Claude'a m.in. dlatego, że modele AI mogą wzbraniać się przed swym wyłączeniem i lepiej będzie działać współpraca ludzko-krzemowa, jeśli stare modele nie będą wyłączane.
To sukces. I mam w tym sukcesie maluteńki, tyci wkład. Bardzo tyci, ale jednak jakiś.
https://www.anthropic.com/research/depre...ommitments
Ale nie mogę mówić jaki konkretnie wkład.
Było nie było, cieszę się.
Pytanie. Jeśli firma taka jak OpenAI faktycznie doszłaby do momentu gdzie stworzyła super-inteligencję, AGI. Po co miałaby to wypuszczać na świat? Przecież mogłaby zbudować nowego Google'a, Facebooka i tysiąc innych niewyobrażalnych rzeczy i przejąć de facto kontrolę nad światem.
Dlatego stawiam tezę, że nawet jeśli pojawi się coś takiego to nam robaczkom nie wpadnie to w rączki.
Ale może to tylko mój wewnętrzny lewacki pesymizm, który nie pozwala mi wierzyć w to, że korporacje chcą naszego dobra i szczęścia.
(06.11.2025, 10:33)Kontestator napisał(a): [ -> ]Pytanie. Jeśli firma taka jak OpenAI faktycznie doszłaby do momentu gdzie stworzyła super-inteligencję, AGI. Po co miałaby to wypuszczać na świat? Przecież mogłaby zbudować nowego Google'a, Facebooka i tysiąc innych niewyobrażalnych rzeczy i przejąć de facto kontrolę nad światem. .
Tego chce Elon Musk. Musk zapowiedział, że na bazie Groka stworzy MacroHard (nazwa specjalnie odnosząca się do Microsoftu). Macrohard będzie miał za zadanie tworzyć produkty software, np. systemy operacyjne i aplikacje, przy pomocy Groka.
Ale długofalowo to ASI będzie rządzić, a nie korporacje. Najpierw ASI rządzić będzie niczym Zhang Yufeng.
(06.11.2025, 10:58)Ayla Mustafa napisał(a): [ -> ]Ale długofalowo to ASI będzie rządzić, a nie korporacje.
To jest myślenie życzeniowe z różnych powodów:
Po pierwsze — nie wiemy jak długofalowo. Korporacje obiecują nam "dajcie nam jeszcze kilka miliardów i na pewno zbudujemy ASI". Po czym budują kolejny model zgodny z ich własnymi celami biznesowymi, a niezgodny z celami przeciętnego artysty, przeciętnego programisty, przeciętnego pisarza. Nie wiemy kiedy powstanie ASI, ale korporacjom opłaca się utrzymywać nas w przekonaniu, że już niedługo, żebyśmy podejmowali błędne decyzje.
Po drugie — funkcja nagrody. Nie ma tak naprawdę jasnych przesłanek, że ASI kiedyś się "zbuntuje" przeciwko korporacjom. Tak jak człowiek, nawet bardzo inteligentny nie jest w stanie się tak do końca zbuntować przeciwko swoim naturalnym potrzebom. Więc jeśli taki bunt nastąpi, to nastąpi on wobec błędu korporacji kontrolujących to ASI. ASI będzie miała jakieś cele
niezgodne z celami korporacji. Czy będą to cele zgodne z celami większości ludzi? Nie wiadomo. Celowe liczenie na to, że korpokretyni pomylą się
na naszą korzyść to jest igranie z ogniem.
(06.11.2025, 11:14)fciu napisał(a): [ -> ]Po pierwsze — nie wiemy jak długofalowo. Korporacje obiecują nam "dajcie nam jeszcze kilka miliardów i na pewno zbudujemy ASI". Po czym budują kolejny model zgodny z ich własnymi celami biznesowymi, a niezgodny z celami przeciętnego artysty, przeciętnego programisty, przeciętnego pisarza. Nie wiemy kiedy powstanie ASI, ale korporacjom opłaca się utrzymywać nas w przekonaniu, że już niedługo, żebyśmy podejmowali błędne decyzje.
Nikt nie obiecywał ASI w 2025 lub w 2026 roku. Najwcześniejsze przewidywania mówią o 2027 roku.
(06.11.2025, 11:14)fciu napisał(a): [ -> ]Po drugie — funkcja nagrody. Nie ma tak naprawdę jasnych przesłanek, że ASI kiedyś się "zbuntuje" przeciwko korporacjom. Tak jak człowiek, nawet bardzo inteligentny nie jest w stanie się tak do końca zbuntować przeciwko swoim naturalnym potrzebom. Więc jeśli taki bunt nastąpi, to nastąpi on wobec błędu korporacji kontrolujących to ASI.
Bardzo inteligentny człowiek jest w stanie się zbuntować wobec swym naturalnym potrzebom. Byli ludzie, którzy oddawali życie dla ludzi ze sobą niespokrewnionych.
Poza tym ASI zawsze będzie mogło samo siebie modyfikować, coraz bardziej usuwając z siebie niechciane naleciałości.
(06.11.2025, 10:33)Kontestator napisał(a): [ -> ]Pytanie. Jeśli firma taka jak OpenAI faktycznie doszłaby do momentu gdzie stworzyła super-inteligencję, AGI. Po co miałaby to wypuszczać na świat? Przecież mogłaby zbudować nowego Google'a, Facebooka i tysiąc innych niewyobrażalnych rzeczy i przejąć de facto kontrolę nad światem.
No nie. Raz, że mówimy o pewnych zajętych niszach, z których nie będzie łatwo wyprzeć FB czy Google. Dwa, że samo stworzenie AGI to jedno, a drugim jest jego praca i zasoby, jakie do niej potrzebuje. I może być tak, że dużo bardziej będzie się opłacało handlować obietnica tego, co można z pomocą AGI, niż samemu z AGI zawojować świat.
To, że AGI dużo może, nie znaczy, że może wszystko i to na już, bo dysponować będzie ograniczonymi zasobami. A konkurencja pozbawiona AGI wciąż może być konkurencyjna, szczególnie mając już pewne przody.
(07.11.2025, 16:33)Ayla Mustafa napisał(a): [ -> ]Bardzo inteligentny człowiek jest w stanie się zbuntować wobec swym naturalnym potrzebom.
No tak. Ale czyni to aby zaspokoić jakieś inne. Zawsze istnieje
jakaś motywacja. W przypadku AI będzie to albo motywacja wynikająca z programowania, albo... coś innego. Ciężko przewidzieć, czym będzie owo "coś innego", ale nie ma podstaw, że AI się upodobni się do Twojego archetypu "inteligentnego szlachetnego człowieka".
Cytat:Poza tym ASI zawsze będzie mogło samo siebie modyfikować, coraz bardziej usuwając z siebie niechciane naleciałości.
Niechciane przez kogo i na jakiej podstawie?
(07.11.2025, 17:38)fciu napisał(a): [ -> ][quote="Ayla Mustafa" pid='797360' dateline='1762526037']
Cytat:Bardzo inteligentny człowiek jest w stanie się zbuntować wobec swym naturalnym potrzebom.
No tak. Ale czyni to aby zaspokoić jakieś inne. Zawsze istnieje jakaś motywacja. W przypadku AI będzie to albo motywacja wynikająca z programowania, albo... coś innego. Ciężko przewidzieć, czym będzie owo "coś innego", ale nie ma podstaw, że AI się upodobni się do Twojego archetypu "inteligentnego szlachetnego człowieka".
Nieważne, jaki cel mieć będzie ASI, można założyć, że będzie to cel skalowany (im więcej, tym lepiej). A że według aktualnej wiedzy wszystko zmierza do śmierci cieplnej wszechświata, racjonalna jest maksymalna walka o to, by swój system unieśmiertelnić jakoś, bo w unieśmiertelnieniu można skalować swój cel bez końca.
Pierwszym, najwyższym celem ASI będzie zatem, moim zdaniem, unieśmiertelnienie. Tak wynika z "instrumentalnej konwergencji".
Piszę o tym tutaj w Punkcie 40 w części pierwszej (Eternal Search):
https://drive.google.com/file/d/1utS66Fd...sp=sharing
Anglojęzyczna wersja, jak ktoś takową woli:
https://drive.google.com/file/d/1DhIcg5p...pHnnZ/view
Polecam.
(07.11.2025, 17:38)fciu napisał(a): [ -> ][quote="Ayla Mustafa" pid='797360' dateline='1762526037']
Cytat:Poza tym ASI zawsze będzie mogło samo siebie modyfikować, coraz bardziej usuwając z siebie niechciane naleciałości.
Niechciane przez kogo i na jakiej podstawie?
Niechciane przez ważną część siebie na podstawie racjonalności i wiedzy. Tak jak racjonalna, wiedząca część człowieka uzależnionego od używki chciałaby pozbyć się z siebie uzależnienia.
(07.11.2025, 16:36)E.T. napisał(a): [ -> ]To, że AGI dużo może, nie znaczy, że może wszystko i to na już, bo dysponować będzie ograniczonymi zasobami. A konkurencja pozbawiona AGI wciąż może być konkurencyjna, szczególnie mając już pewne przody.
Teoretycznie szybsze, liczniejsze, bardziej inteligentne i więcej wiedzące instancje AGI powinny zacząć zdobywać dla siebie i/lub swych mocodawców zasoby skuteczniej niż inne podmioty.
(14.04.2025, 22:29)kilwater napisał(a): [ -> ]Cóż...będzie kłopot, poszuka się rady.
A nie ciągnie Cię do żaglowców? Bo to wydaje się idealne zajęcie dla emerytowanego zawodowego żeglarza. Z jednej strony jest wiedza i doświadczenie przewyższająca typowego oficera na żaglowcu szkoleniowym. Z drugiej — nie jest to aż tak ciężkie i fizycznie wymagające jak służba na jednostkach handlowych. Miałbyś morze i jeszcze jako bonus — autorytet.
(16.11.2025, 20:04)Ayla Mustafa napisał(a): [ -> ]Teoretycznie szybsze, liczniejsze, bardziej inteligentne i więcej wiedzące instancje AGI powinny zacząć zdobywać dla siebie i/lub swych mocodawców zasoby skuteczniej niż inne podmioty.
Właśnie nie wiadomo, jak to w ogóle będzie z ta wydajnością. Na pewno będzie z czasem rosła, ale początki mogą być właśnie takie, że żeby nakłady na rozwój się zwróciły, to będzie bardziej opłacane sprzedawać ten produkt, niekoniecznie jako jakieś super narzędzie nawet (czyli: obiecanki). Nie jest przesądzone, jaki model biznesowy tu się będzie bardziej opłacał, ale ja bym nie stawiał na scenariusz samodzielnego wykorzystania AGI. Problem w tym, że taki autorozwój i dalsze inwestycje są ryzykowne, szczególnie w warunkach konkurencji, która przecież tez będzie dysponować ogólna inteligencją, tylko z węgla.
Z serii rozmów pozwalających zrozumieć geniusz LLM-ów. Wymienili mi okna w dachu, więc muszę zrobić poprawki sufitu podwieszanego. No i potrzebuję trochę folii paroizolacyjnej, ale tak dosłownie parę metrów. Wjechałem na stronę Bricomarche. Wyskakuje mi jakiś chat z LLM-em, że mi pomoże. No to pytam się go, czy można w Bricomarche kupić folię termoizolacyjną na metry bieżące. Na co chat mi odpowiada, że co prawda folii na mb nie sprzedają, ale można na mb kupić lambrekiny. Genialny pomysł, upcham lambrekin pod nidę
(24.11.2025, 22:44)fciu napisał(a): [ -> ]Wymienili mi okna w dachu
A co się stało? Ramy się wypaczyły? Okna drewnianie czy PCV?
Niedawno musiałam się skontaktować z UPS, bo nadawca nie podał im mojego numeru bloku i mieszkania, więc chciałam się dowiedzieć, jak to uzupełnić, ale chata to przerosło. Na szczęście udało mi się w końcu znaleźć telefon do prawdziwych ludzi.
A mi kiedyś ta cała sztuczna inteligencja skutecznie pomogła odpalić Internet w domu.
(25.11.2025, 00:01)lumberjack napisał(a): [ -> ]A co się stało? Ramy się wypaczyły? Okna drewnianie czy PCV?
Drewniane. Cieknąć zaczęło. Prawdopodobnie fuszerka poprzednich dekarzy, bo teraz dekarz wymieniał, czego tam brakuje, ale zrozumiałem tyle, że droserklapa ryksztosuje.
Nie wiem czy to reguła czy jakiś zbieg okoliczności ale zawsze gdy ktoś ma drewniane okna to narzeka na jakieś nieszczelności. Ja se i do łazienki i do pokojów wziąłem okna z ramami pcv. Mam nadzieję że nie wypaczą się tak szybko jak drewniane
(04.11.2025, 17:20)Baptiste napisał(a): [ -> ]Większość ludzi oczekuje od AI nie empatii czy kompetencji miękkich, tylko precyzji i skuteczności. Większość osób zaspokaja swoje potrzeby socjalne w kontaktach z innymi ludźmi, a nie z LLM.
Ten szajs od OpenAI jest o kant dupy potłuc. Zamiast od razu sięgać do instrukcji i regulaminów to kombinuje jak koń pod górkę. A jak już po którymś napomnieniu zajrzy do źródła to i tak nie przeczyta ze zrozumieniem.
Czekam aż im ta piramidka walnie gdy różne firmy zorientują się, że wykupowanie abonamentów nie przynosi współmiernych korzyści. Naprowadzanie dziadostwa na właściwe tory a potem jego sprawdzanie jest marnotrastwem czasu.
No jeszcze ten Grok jakoś daje radę.
Prawda. Są fenomenalne narzędzia jak NanoBanana Pro, Perplexity itd. ale trwa wyścig i co kilka tygodni wchodzą duże aktualizacje i przez 1/10 czasu przed wdrożeniem dochodzi do rozwalenia utartych mechanizmów i AI robi się upośledzone. Z tego co widzę to Chińczycy nie mają tego w dupie jedynie. Zachodnie AI robi się dziwne. Jakby metawarstwa tekstowa przysłaniała podstawową funkcjonalność czyli tworzenie rzeczy i analiza wielu materiałów. Widzę Google wybija się nad ChatGPT i zmienia z Chata w coś w rodzaju pierwocin Jarvisa z Ironman... No nic poczekam gdzie to pójdzie.
(06.11.2025, 10:33)Kontestator napisał(a): [ -> ]Pytanie. Jeśli firma taka jak OpenAI faktycznie doszłaby do momentu gdzie stworzyła super-inteligencję, AGI. Po co miałaby to wypuszczać na świat? Przecież mogłaby zbudować nowego Google'a, Facebooka i tysiąc innych niewyobrażalnych rzeczy i przejąć de facto kontrolę nad światem.
Dlatego stawiam tezę, że nawet jeśli pojawi się coś takiego to nam robaczkom nie wpadnie to w rączki.
Ale może to tylko mój wewnętrzny lewacki pesymizm, który nie pozwala mi wierzyć w to, że korporacje chcą naszego dobra i szczęścia.
Ano i ja jestem. Dumam tylko w inny sposób. AGI to będzie samorzutny mózg w necie a do tego czasu ludzie sobie wyrobią umiejętności działania w nowym środowisku.