[Ayla Mustafa]

Po pierwsze — nie wiemy jak długofalowo. Korporacje obiecują nam "dajcie nam jeszcze kilka miliardów i na pewno zbudujemy ASI". Po czym budują kolejny model zgodny z ich własnymi celami biznesowymi, a niezgodny z celami przeciętnego artysty, przeciętnego programisty, przeciętnego pisarza. Nie wiemy kiedy powstanie ASI, ale korporacjom opłaca się utrzymywać nas w przekonaniu, że już niedługo, żebyśmy podejmowali błędne decyzje.

Nikt nie obiecywał ASI w 2025 lub w 2026 roku. Najwcześniejsze przewidywania mówią o 2027 roku.

Po drugie — funkcja nagrody. Nie ma tak naprawdę jasnych przesłanek, że ASI kiedyś się "zbuntuje" przeciwko korporacjom. Tak jak człowiek, nawet bardzo inteligentny nie jest w stanie się tak do końca zbuntować przeciwko swoim naturalnym potrzebom. Więc jeśli taki bunt nastąpi, to nastąpi on wobec błędu korporacji kontrolujących to ASI.

Bardzo inteligentny człowiek jest w stanie się zbuntować wobec swym naturalnym potrzebom. Byli ludzie, którzy oddawali życie dla ludzi ze sobą niespokrewnionych.
Poza tym ASI zawsze będzie mogło samo siebie modyfikować, coraz bardziej usuwając z siebie niechciane naleciałości.