Witaj!
kmat napisał(a): Kiedy tu nawet nie trzeba jakichś szczególnych umiejętności. Krótka konwersacja jasno pokazuje, że te modele są po prostu optymalizowane pod kątem udzielania takich odpowiedzi jakich rozmówca oczekuje.No ale jeśli ktoś ma potrzeby więzi społecznych niezaspokojone w bardzo dużym stopniu, to fakt, że model udziela odpowiedzi, jakich się oczekuje nie ma żadnego znaczenia. Podobnie w przypadku źródeł wiedzy — jeśli ktoś jest całkowicie odklejony od rzeczywistości, to równie dobrze może mu o tej rzeczywistości gadać model.
Cytat:Tam po drugiej stronie nic nie ma.Coś tam jest. Są realne źródła wiedzy, na podstawie których model się uczy i które może przeszukiwać.
Ayla Mustafa napisał(a): Ostatnio Grimes popełniła poniższy obrazekNo i co z tego, że go popełniła? A Hitler lubił psy, więc…
Cytat:Nie widzę powodu, wedle którego wyłącznie biologiczne istoty z emocjami miałyby być jedynymi stworzeniami, których dobrostan ma moralną wagę.A ja widzę. Powód jest taki, że emocje istot biologicznych są tymi samymi emocjami, co nasze. A zatem można argumentować, że posiadają podobną wagę moralną. Natomiast czym jest "dobrostan LLM", tego nawet nie da się określić.
Cytat:Nie wiemy, co tam jest.Wiemy. Tzn. wiemy, na jakiej zasadzie uczy się LLM. I nie mamy żadnych podstaw aby uważać, że "tam" są emocje moralnie równoważne naszym.
Cytat:Historia świata jasno pokazuje, że ci, którzy rozszerzali krąg moralnej troski, mieli rację.No nie. Kiedyś było powszechnym zjawiskiem troszczenie się o emocje różnych bóstw. Obecnie to zjawisko jakoś tam zanika i coraz mniej ludzi przed podjęciem jakiegoś działania zastanawia się, czy jakaś tam istota nadprzyrodzona się nie obrazi.
Poza tym zdefiniuj "rację" w kwestiach moralnych.