[Avx]

Chwila, chwila. Przecież nasz wszechświat jest opisywany matematyką. To oznacza, że każdy jego element może być symulowany. Co z kolei oznacza, że inteligencja może być symulowana.

Jak na razie chcemy symulować robaka. Jest otwartoźródłowy.
http://www.openworm.org/

Oczywiście inna sprawa, czy tego rodzaju podejście ma sens, czy też może da się to załatwić prościej. O tym za chwilę.

Biorąc rzecz od absolutnych podstaw, nie mam z tą ideą problemu. Mam natomiast olbrzymi problem z czasem, który według singularytarian jest konieczny i wystarczający do stworzenia takiego symulakrum, a przede wszystkim z ich naiwnością i niezrozumieniem (albo udawaniem niezrozumienia), jak złożony jest system, który chcieliby w wersji cyfrowej zrekonstruować.

Aaaa, chyba, że tak. To dyskusja z zupełnie innej strony.
Właśnie, fakt jest faktem, że jak na razie nawet nasz wirtualny robak jest troszkę niekompletny, a to żyjątko ma dosłownie kilkaset neuronów.

Wielu badaczy podchodzi jednak do AI od innej strony i nie próbuje tworzyć symulacji umysłów istot żywych, tylko próbuje iść na skróty i logicznie łączyć algorytmy.

Skąd będzie wiadomo, że taki człowiek albo SI przekroczyło granicę TO? W jaki sposób pozostała część populacji będzie w stanie to sprawdzić skoro będzie to poza naszymi możliwościami pojmowania?

Zwyczajową odpowiedzią jest, że nasza cywilizacja, taka jak ją znamy, przestanie istnieć niedługo po powstaniu TO.

Czy w ogóle istnieje tutaj granica, którą możemy przekroczyć? Może jesteśmy u szczytu świadomości, ktora nie jest przekraczalna?

What ? Please. Ludzki umysł jest niewiarygodnie kiepsko zoptymalizowany. Jest dostosowany do warunków pierwotnych i życia zwierzęcia stadnego. Całę szczęście, że w ogóle jesteśmy w stanie (znaczy, niektórzy są w stanie - ja nie...) rozumieć fizykę i matematykę; 99% naszej mocy obliczeniowej idzie na zupełnie inne rzeczy.

SI nie ma i nie zanosi się, że w najbliższym okresie powstanie, a nawet jeśli, to i tak będzie dorównywać nam, ale nie przerośnie naszych możliwości, ale powinna być efektywniejsza i przez to mieć przewagę.

Nawet SI "zwyczajnie dorównująca nam" ale puszczona szybciej...
Polecam przeczytać sobie taką ładną alegoryczną opowiastkę:
http://lesswrong.com/lw/qk/that_alien_message/

(..)From the aliens' perspective, it took us thirty of their minute-equivalents to oh-so-innocently learn about their psychology, oh-so-carefully persuade them to give us Internet access, followed by five minutes to innocently discover their network protocols, then some trivial cracking whose only difficulty was an innocent-looking disguise. We read a tiny handful of physics papers (bit by slow bit) from their equivalent of arXiv, learning far more from their experiments than they had. (Earth's skeleton team spawned an extra twenty Einsteins, that generation.)

Then we cracked their equivalent of the protein folding problem over a century or so, and did some simulated engineering in their simulated physics. We sent messages (steganographically encoded until our cracked servers decoded it) to labs that did their equivalent of DNA sequencing and protein synthesis. We found some unsuspecting schmuck, and gave it a plausible story and the equivalent of a million dollars of cracked computational monopoly money, and told it to mix together some vials it got in the mail. Protein-equivalents that self-assembled into the first-stage nanomachines, that built the second-stage nanomachines, that built the third-stage nanomachines... and then we could finally begin to do things at a reasonable speed.

Three of their days, all told, since they began speaking to us. Half a billion years, for us.

Rozumiesz alegorię ?

Nie porównuj potężnej SI do jednostki, a do cywilizacji; szczególnie, że mając odpowiednią moc obliczeniową można ją puścić znacznie szybciej niż real-time.