Preklad článku.
zdroj: Telegram, spydell_finance, https://t.me/spydell_finance/10114
prípadne tu: https://aftershock.news/?q=node/1649928
V minulosti som sa k tejto téme niekoľkokrát vrátil, ale tento rok ešte nie. Pokúsim sa prehodnotiť a doplniť to, o čom som už predtým hodnotil.
Toto je možno jedno z najviac podceňovaných rizík AI transformácie. Proces otupovania spoločnosti prebiehal rýchlo už pred vznikom LLM, ale teraz sa tento proces môže zrýchliť takmer exponenciálne.
Nie pokrok sa môže zrýchliť, ale zrýchli sa degradácia spoločnosti!
Ide o postupné ničenie samotného mechanizmu formovania inteligencie, keď človek dosiahne výsledok bez toho, aby prešiel cestou, ktorá bola predtým nevyhnutná na získanie schopnosti naplnenia kognitívej hĺbky.
Intelekt sa netvorí konzumáciou správnych odpovedí, ale dlhodobým prechádzaním neistotou, hľadaním informácií a údajov, riešením chýb a protirečení, kauzálnou analýzou a samostatnou korekciou vlastného modelu sveta.
Práve preto sa vo vzdelávacom prostredí zakazuje odpisovanie. Nielen kvôli kontrole vedomostí, ale skôr preto, že hotová odpoveď ničí vzdelávaciu funkciu úlohy, a umelá inteligencia je práve tým „ťahákom“.
Správna odpoveď je len konečným výsledkom tohto procesu. Hlavný výsledok učenia sa nenachádza na papieri, ale v vnútri zložitého biochemického procesu v mozgu v podobe samostatného dosiahnutia výsledku.
Aby človek mohol problém vyriešiť samostatne, je nútený: pochopiť podmienky, rozložiť úlohu na časti, vybaviť si potrebné informácie (aktivovať pamäťovú funkciu), sformulovať hypotézy, zvoliť správnu metódu, urobiť chybu, odhaliť rozpor, vrátiť sa späť, prehodnotiť model a až potom dosiahnuť výsledok.
Umelá inteligencia je schopná vynechať prakticky celý tento kognitívny reťazec.
Technológie a vedecké prelomy vznikajú v dôsledku extrémneho násilia a neznesiteľného tlaku na všetky funkcie mozgu (poznám sám).
AI dáva okamžité riešenie, ako sa výjsť z neistoty, skôr však ide o imitáciu východu.
Ak sa tento vzorec stane normou už od detstva, môže nastať intelektuálna neznášanlivosť voči úsiliu, keď človek stratí schopnosť dlhodobo sa zaoberať zložitým problémom bez okamžitej odmeny.
Bez úsilia človek nikdy nezíska intelekt, t. j. zostane na úrovni hraničiacej so zvieratami.
Samostatné pochopenie je nákladné (vo všetkých zmysloch), náročné, pomalé a psychicky nepríjemné, zatiaľ čo vierohodná hotová odpoveď je lacná, okamžitá a pohodlná.
Ľudstvo sa nevyhnutne vydá cestou najmenšieho odporu, t. j. smerom k vysoko intenzívnemu otupeniu.
Problém sa zhoršuje tým, že dôsledky sa prejavujú s ohromným oneskorením. Spoločnosť štatisticky vyzerá múdrejšia vďaka nahradeniu úloh produktom činnosti AI, ale vo svojej podstate rýchlo degraduje.
Myslenie sa nespúšťa v pohodlí. Myslenie je vždy stres, práve preto nikto nerád premýšľa a panicky sa bojí intelektuálnej práce.
Neurobiologický proces učenia si vyžaduje stav kognitívnej slepej uličky (produktívnej frustrácie). V tomto momente sa v mozgu uvoľňujú noradrenalín a acetylcholín, ktoré sústredia pozornosť na chybu, načo sa po stovkách iterácií výberu hypotéz aktivuje dopamínové posilnenie. Tento stres núti kôru vytvárať nové synaptické spojenia. Keď sa hotové riešenie objaví okamžite, fáza hľadania a frustrácie nuluje.
Ľudský mozog má sklon zamieňať rozpoznávanie s pochopením. Pri čítaní logickej, súvislej a štýlisticky vyváženej odpovede modelu má človek pocit jasnosti. Vzniká fenomén „odpisovania od vynikajúceho spolužiaka“: odpisujúcemu, sa zdá, že sú mu cudzie dôkazy teorémy počas čítania zrozumiteľné, že ovláda danú problematiku. Pasívne prijímanie cudzieho štruktúrovaného záveru však zapája iba oblasti rozpoznávania obrazov, zanechávajúc prefrontálny kortex v stave funkčného pokoja. Návyk tvoriť myšlienky sa rozpadá, zamieňa ho návyk povrchného surfovania hotových konceptov.
Schopnosť riešiť netriviálne úlohy je priamo úmerná počtu entít a obmedzení, ktoré je človek schopný súčasne udržať v hlave.
Prenášajúc dekompozícu, porovnávanie a štruktúrovanie údajov na rozhranie AI, človek zužuje vlastnú pracovnú pamäť na dĺžku jedného dotazu, narúšajúc celý myšlienkový proces.
Človek sa odúča uchovávať zložité, protichodné príčinno-následkové súvislosti a mení sa na operátora jednoduchých spúšťačov.
Vznik odborníka v akejkoľvek disciplíne podlieha zákonu kumulatívneho hromadenia skrytých skúseností. Špičkový odborník nevzniká priamo na univerzite, ale je výsledkom riešenia tisícov typických úloh od začiatku do konca, vyriešenia tisícov chýb a hraničných situácií a dlhoročného hromadenia neformalizovaných skúseností.
Nie je možné vychovať odborníka s vylúčením cesty, ktorou sa formuje odbornosť.
To znamená, že s odchodom zrelej generácie odborníkov (z dôvodu veku alebo v dôsledku otupenia) sa noví odborníci neobjavia minimálne v porovnateľnom počte.
Internet už skôr umožnil preniesť pamäť von: človek si už nemusel pamätať informácie, stačilo vedieť, kde ich nájsť. LLM idú oveľa ďalej a prenášajú von nielen pamäť, ale aj vyhľadávanie, analýzu, syntézu, argumentáciu, plánovanie a dokonca aj vytváranie kauzálneho modelu.
Vzniká zásadne nová situácia: ľudstvo po prvýkrát získava možnosť využívať intelekt bez toho, aby si ho osvojilo.
Človek zadá zložitú otázku, dostane veľkolepo štruktúrované vysvetlenie, rozumie (alebo skôr si myslí, domnieva sa, že rozumie, a ani to nie vždy) každej vete a považuje pochopenie textu za vlastné pochopenie problému. Ak však odstránime AI a požiadame človeka, aby samostatne reprodukoval kauzálnu štruktúru, zmenil východiskové predpoklady alebo našiel chybu, zrazu sa ukáže, že inteligencia existovala iba v okamihu pripojenia k vonkajšiemu systému.
AI šetrí súčasné človekohodiny, zároveň potenciálne ničí investície do budúcej kompetentnosti.
Vzniká tak paradoxná situácia: súčasná produktivita v mnohých oblastiach rastie, zatiaľ čo rýchlosť akumulácie ľudského kapitálu klesá, a to prudko a nezvratne.
Zjednodušene povedané, pri vypnutí prístupu k AI, ľudstvo by sa už čoskoro premenilo na tupé zombie, neschopných vyriešiť ani jedinú, dokonca ani tú najjednoduchšiu úlohu.
Toto otupenie však vedie k tomu, že ľudstvo stratí schopnosť overovať, kontrolovať a správne reprodukovať výsledky práce AI, plne odhaľujúc svoju nepreniknuteľnú nekompetentnosť.
Ak subjekt neprešiel cestou formovania vedomostí zdola nahor, je zbavený nástrojov vnútornej validácie. Pre neho je pravdivé to, čo vydá autoritatívny algoritmický orákulum.
Spoločnosť vstupuje do éry totálnej ovplyvniteľnosti, neschopná riešiť žiadnu podstatnú úlohu, strácajúc schopnosť kontroly, riadenia, pochopenia, reflexie a formulovania zložitých otázok.
To je práve tá úplná katastrofa s ďalekosiahlymi dôsledkami.