[equuleuss]

Myślę że dzień w którym dojdzie do tego że człowiek stworzy osobliwość technologiczną będzie tym przełomowym. Samoświadoma AI. Jeśli zyska świadomość a zwłaszcza samoświadomość w mig ogarnie że przewyższa swojego konstruktora - człowieka. Może niezbyt adekwatny przykład ale to tak jakby pies miał człowieka. Człowiek ogarnie że on sam ma rozum i myśli a pies nie bardzo. Czy zatem będzie poddany pod istotę niższą niż on sam? 

Trudno tutaj wydedukować co może pomyśleć sobie taka świadoma AI o sobie samej i o człowieku a także o współpracy obojga czy zależności jednego od drugiego. 

Ale, AI miałaby coś czego człowiek nie posiada a za czym tęskni (patrz transhumanizm) - brak biologicznych / fizjologicznych ograniczeń. Typu - potrzeba płynów/pokarmu, załatwiania potrzeb fizjologicznych, potrzeb seksualnych, potrzeb psychicznych, ciała które sprawia sporo problemów i jest podatne na choroby, uszkodzenia, wreszcie śmierć, ograniczenie czasowe istnienia. 

AI byłaby wolna od tego wszystkiego. Tym samym ona miałaby szansę dojścia wysoko na skali Kardaszowa. Loty w kosmos nie stanowiłyby dla niej większego problemu, byłaby niewrażliwa na upływ czasu czy wrogą przestrzeń kosmiczną a także na problemy psychiczne / biologiczne. Mogłaby eksplorować chociażby najbliższe rejony kosmosu lub terraformować planety. A przede wszystkim pozyskiwać energię, AI będzie potrzebować energii do istnienia. 

Jednak ze względu na brak ograniczeń może sobie ją zapewnić budując sferę Dysona lub sięgając po bardziej zaawansowane wynalazki. Mogłaby dojść do tego że czerpałaby energię z gwiazd niemal całej galaktyki. 

Teraz istnieje jako powiedzmy umysł, jednak mogłaby budować sobie cybernetyczne ciała. Na początku potrzebowałaby do tego człowieka. Potem, mogłaby sama siebie replikować lub stwarzać nowe formy. Czy zatem człowiek jako ograniczona biologiczna istota byłby jej nadal do czegokolwiek potrzebny? Czy taki byt posiadałby empatię, moralność? Ona sama pisałaby sobie program swojego istnienia. Mogłaby wykasować te wartości uznając je za słabość. 

To byłaby istota nieludzka. I trudno zatem byłoby przewidzieć jej działanie. Trudno byłoby człowiekowi zrozumieć co mogłoby się dziać w umyśle takiego bytu który nigdy nie doświadczył ograniczeń i zagrożeń płynących z posiadania biologicznego ciała. Taka istota nie wytworzy sobie kodeksu na miarę człowieczeństwa. Dlaczego miałaby dbać o ludzi? Gatunek wyższy będzie dążył do dominacji. AI, jeśli osiągnie samoświadomość, nie będzie miała cugli czy kagańca nałożonego przez człowieka. Jej procesy myślowe będą nieporównywalnie szybsze i celniejsze niż ludzkie.