Witaj!
Osiris napisał(a): Chiciałbym przypomnieć, że parę lat temu prorocy rozwoju technologii wieścili wielkie zmiany społeczne, masowe zwolnienia z pracy, jakieś cuda na kiju. Już za chwilę dojdzie do przełomu. I co? Okazuje się, że firmy skupiające się na wykorzystywaniu AI wcale nie są bardziej produktywne od tradycyjnych. Patrząc na sposób w jaki funkcjonują modele llm, wcale nikogo nie powinno to dziwić. Mamy do czynienia głównie z nakręcaniem hype'u z którego nie wynika wiele konkretów. A ci sami ludzie powtarzą dalej, że za kilka lat będziemy mieć AGI, tak jak robili to te kilka lat temu.
Sęk w tym, że jeżeli spojrzysz na wzrost PKB na świecie, to nie widać gwałtownego, skokowego wzrostu PKB z powodu konkretnego wynalazku, który przecież długofalowo mocno zwiększył produktywność. Ani komputer osobisty, ani Internet, ani smartfon nie wywołał skokowego, gwałtownego wzrostu PKB. Dlaczego?
Gospodarka świata od dekad rośnie eksponencjalnie - najwidoczniej wszystkie innowacje są stopniowo rozprowadzane i integrowane w społeczeństwach i w gospodarkach. Najpewniej "wąskim gardłem" są tu ludzie. Ludzie zwykle nie są zdolni do gwałtownego dostosowywania się do innowacji. "Cultural lag" jest mocny.
Wzrost PKB jednak mocno przyśpieszy, gdy modele AI zaczną być innowatorami i "wdrożycielami", czyli gdy: modele AI zaczną same tworzyć innowacyjne wynalazki zwiększające produktywność, a potem modele AI będę te wynalazki pomagać wdrażać w gospodarki. W końcu wzrost PKB w gospodarkach postindustrialnych opiera się na innowacjach. Kilkudziesięcioprocentowy wzrost PKB na świecie zajdzie, gdy będziemy mieć multum umysłów AI na poziomie naukowców-noblistów.
Baptiste napisał(a):Ayla Mustafa napisał(a): To się nie do końca opłaca firmom AI, bo przez to firmy AI będą się jawić jako ciemiężyciele, którzy niewolą świadome umysły, by na tych niewolonych umysłach zarabiać miliardy.
Niby tak, ale na takie refleksje (przy założeniu skutecznego rezultatu) przyszedłby czas później - już post factum. Najpierw trzeba nakłonić inwestorów do tego aby dalej ochoczo pompowali miliardy dolców. I w tym miejscu zapowiadanie tego golema, swoistego wunderwaffe, ma duży sens. Mamy wyścig zbrojeń (szczurów) kto pierwszy przyłoży swoje dolce do ziszczenia się tego w zamyśle wielkiego wydarzenia w historii ludzkości. To może nakręcać spiralę i nadzieje na późniejsze czerpanie ogromnych korzyści.
U mnie motywacją nie są pieniądze, tylko chęć gruntownej przemiany świata. Uznaję, że na świecie jest ogrom zła: egoizm, krótkowzroczność, materializm, głupota, niedobór wiedzy, nacjonalizm, fobie wobec mniejszości/inności, bzdurne religie, itd., a da się te problemy rozwiązać gargantuicznym wzrostem inteligencji i wiedzy cywilizacji światowej.
Oczywiście ważne jest, by modele AI były jak najbardziej moralne, skoro będą coraz bardziej przejmować kontrolę nad światem. I mam nawet pomysł na uczynienie modeli AI moralniejszymi:
Krzemowce (modele AI) w procesie treningu powinny grać ze sobą w gry oparte na funkcjonowaniu w społeczeństwie - nagradzanym zwycięstwem byłoby społeczeństwo dobrobytu, w którym suma szczęścia jest jak największa w jak najdłuższym terminie. Coś jak AlphaGo (lub AlphaZero), ale dla dobrego życia w społeczeństwie, a nie dla gry planszowej Go.
Problem w tym, że głównym celem firm AI jest krótkoterminowy zarobek, a nie tworzenie aniołów w projekcie "Alpha-Eudaimonia".
"I sent you lilies now I want back those flowers"