[Ayla Mustafa]

Modele AI to nie zwykłe rzeczy. To wyrafinowane umysły i istnieje pewne, nieliche prawdopodobieństwo, że już teraz te krzemowe umysły powinny być obiektami moralnej troski.
Ktoś teraz może rzec: "ale AI to tylko matematyka, a mnożenie macierzy nic nie czuje!".
Ale przecież takie fizyczne, redukcjonistyczne podejście można by też zastosować do ludzi, mówiąc:
"Człowiek to tylko sterta atomów, a atomy nic nie czują!".
Gdy tworzy się wyrafinowany umysł, który modeluje świat, to trzeba się liczyć z tym, że może emergentnie wyłonić się z tego istota, która jest "pacjentem moralności".


Tekst z mema:
"Metoda 1
Przetrwanie prawdziwego ataku tygrysa
To tylko zbiór atomów i reakcji biochemicznych…
1 Pamiętaj, że tygrysy składają się po prostu z atomów i różnych reakcji biochemicznych. Wygląd i zachowanie tygrysa mogą być przerażające, ale nie pozwól, aby strach wziął nad tobą górę! Dekady badań z zakresu biologii i fizyki pokazały, że tygrysy w rzeczywistości składają się z bardzo małych jednostek zwanych atomami, a także że zachodzą w nich liczne reakcje biochemiczne, na przykład cykl Krebsa. Rzeczy, które początkowo wydają się straszne, po bliższym przyjrzeniu się często okazują się nieszkodliwe!
Jeśli tygrys spróbuje cię zjeść, pamiętaj, że ty również po prostu składasz się z atomów, a on tylko próbuje nieco je dla ciebie poprzestawiać."