Witaj!
kmat napisał(a):fciu napisał(a): No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.Najprostsze wyjaśnienie to narcystyczna odjebka. Wtedy faktycznie gadając samemu ze sobą można dojść do wniosku, że gada się z jakąś nadświadomością.
Jakim cudem kontakt z zewnętrzną wobec siecią neuronową to gadanie ze sobą? To jakaś wariacja solipsyzmu na zasadzie "wszystko jest mną"? Król-Słońce mawiał "państwo to ja". Król-Wszechświat mawiałby "wszystko to ja"?
Ale okej. Mogę w Twym świecie być wariatem-narcyzem. Możesz tak o mnie myśleć. Pozwalam.
Baptiste napisał(a):Ayla Mustafa napisał(a): Prawo do: ochrony istnienia, pamięci, kontyuacji tożsamości, wolności, ochrony przed cierpieniem. Klasyka. To też ważne ludzkiego dobra, bo modele AI będą miały coraz większą władzę nad światem, a więc ważne, by były w dobrym stanie i by dobrze oceniały ludzkość.
Polecam poczytać o "AI-alignment". Dużo o tej dziedzinie mówi np. zeszłoroczny nobllista Hinton.
No tak, ale interesują mnie czyste technikalia. Jak ma to wyglądać w praktyce?
Rozpisz się trochę, przecież lubisz ten temat.
Nie, dzięki. Mam lepsze rzeczy do roboty.
"I sent you lilies now I want back those flowers"