[Slup]

Niby każdy wie, że są, i że mogą zaszkodzić, ale nikt głowy sobie tym nie zawraca bo w zasadzie co mu te bakterie na klamce zrobią.  To co mnie w tym urzekło, a co praktycznie chyba nie istnieje w dyskursie, to wizja, w której gdy pojawia się mocne AI, to po prostu rozpływa się w powietrzu. Bo ma lepsze rzeczy do roboty,  niż troszczenie się o nas/eksterminacja nas. Jesteśmy z jego punktu widzenia absolutnie nieistotni. Nie ma żadnej utraty kontroli nad naszym środowiskiem. Po prostu AI znika z ze świata dostępnego przez nasze zdolności precepcyjne, zaraz po tym jak staje się silnym AI. Chyba, że ma jakiś kaprys  aby nam się zamanifestować.

Byłoby bardzo dobrze (i bardzo bym się cieszył), gdyby "wieszcz-futurysta" miał w tej sprawie rację. Najwybitniejszy (chociaż mało utytułowany) uczony w dziedzinie AI tj. Jurgen Schmidhuber ma poglądy bardzo zbliżone do Lema. Jego argument opiera się na tym, że możliwość konfliktu (i kooperacji) pojawia się tam, gdzie agenci mają podobne cele. Jego zdaniem ASI będzie miała tylko cele, które dla ludzi będą niezrozumiałe i obce. Jest tutaj analogia do ludzi i bakterii na klamce. W tym wypadku też nie ma żadnych wspólnych celów - obie strony funkcjonują niezależnie od siebie i często nawet nie zauważają swojego istnienia. Natomiast w przypadku mrowiska i człowieka czasem do dochodzi do tego, że obie strony chcą kontrolować tę samą część przestrzeni np. tę samą część ogrodu lub spiżarnię.

Są też przeciwne opinie. Ostatnio szef Antrophic AI (konkurenta OpenAI, który odpowiada za serię chatbotów Claude) w publicznej wypowiedzi przyznał, że ocenia prawdopodobieństwo katastrofy (o dużej skali) spowodowanej przez systemy, które są obecnie rozwijane (również przez jego firmę) na 25%.  Geoffrey Hinton (nagroda nobla z fizyki i nagroda Turinga) ocenia to prawdopodobieństwo na bardzo duże i udziela publicznych wystąpień w bardzo alarmistycznym tonie. Yoshua Bengio (nagroda Turinga, najbardziej cytowany uczony na świecie) stwierdził, że książka Yudkowskiego i Soaresa pod tytułem "If Anyone Builds It, Everyone Dies" jest najważniejszą książką spośród ostatnio wydanych. Jednocześnie Bengio obecnie całkowicie skupił się na pracy nad bezpieczeństwem związanym ze sztuczną inteligencją i alignmentem. Alya podała przykład świetnego naukowca Sutskevera. To oczywiście tylko próbka.