Didysis klipas – AIS ir LLM peržengia mokslą.

Visuose savo seminaruose ir daugelyje mano pranešimų galų gale aptariu redukcionizmo ir holizmo skirtumus. Tai buvo mano pagrindinė žinia nuo 2005 m. Staiga, bet netikėtai, bet tai tapo kritinėmis žiniomis.

Nes mes ruošiamės pereiti.

Daugelis žmonių nesuvokia, kad tarp jų yra būdingas konfliktas. Jie mano, kad LLM turi būti moksliniai, nes jie naudoja linijinę algebrą, veikiančią deterministine kompiuterio aparatine įranga, ir juos sukūrė akademiniai matematikai ir programuotojai.

Ir tada jie sužino, kad mokslininkai gali paaiškinti mokslininkus kaip Tai veikia, bet ne Kodėl (Atkreipkite dėmesį į tą žodį) Jis veikia. Ir kad LLM sužino „faktus“ ir keistas koreliacijas iš socialinės žiniasklaidos įrašų. Ir kad LLM meluoja tau. Pardavėjas sako: „Tai nemeluoja, o tai tiesiog pereina prie išvadų dėl menkų įrodymų“.

Man neatrodo labai moksliškai. Arba bet kas, kuris išbandė ankstyvuosius GPT.

Vis dėlto mūsų AIS nulaužė baltymų sulankstymą, kurių moksliniai metodai negalėjo padaryti.

LLM mokymasis anglų kalba tai daro ant aparatinės įrangos, kuri yra visiškai determinuota naudojant algoritmus, pagrįstus labai tvirta matematika.

Bet Anglų kalba nėra deterministinė. Taip pat nėra pasaulis. Ar fikcija. Ar socialinė žiniasklaida. Arba net biologija – ląstelė yra sriubos maišas.

Kaip matome, daugumos žmonių nuomonėje apie mokslo ir AI vaidmenis kažkas turi būti negerai. Ir dėl labai gerų priežasčių. Mokslas yra laimėjimo strategija nuo maždaug 1600 m. 400 metų. Tai mus nuvedė į mėnulį. Aš nesiginčiju su šia sėkme. Aš vis dar tvirtinu

Šiame etape tai yra teisingas dalykas kiekvienai rūšiai, nes tai būtina perėjimui. Įjungti Didysis apverstas. Mes norime, kad galėtume išnaudoti pažangius holistinius metodus, ir mums reikėjo paleisti įkrovą iki taško, kuriame galėtume sukurti LLM. Ir mes padarėme. Mes esame pasirengę.

Net pažvelgę ​​tik į AI istoriją, visiškai aišku, kad mes beveik padarėme teisingus dalykus. Nuo 1955 m. Minsky, John, Solomonoff ir kiti nukreipė mus į elgesio, loginius ir modelius (redukcionistinius) bandymus AI. Ir tuo metu tai buvo teisingas požiūris, nes tai buvo vienintelis dalykas, kurį galėjo valdyti mūsų kompiuteriai. Šiandienos LLM veikti visiškai kitaip ir reikalauti milžiniškų išteklių.

Mokslas yra pats gryniausias redukcionizmo pavyzdys. Mūsų LLM yra holistiniai problemų sprendimai. Tai yra konfliktas. Šį pagrindinį pranešimą galite rasti visuose kituose mano raštuose ir vaizdo įrašuose. Taigi leiskite man išbandyti savo pranešimo karikatūrą:

Žmonės nėra bendras intelektas. Esame bendrieji besimokantieji. Kalba, vaikščiojimas ir priežastinis ryšys gali būti stebimas aplink mus ir mes sužinome viską, kas vėliau gali būti naudinga. Kai išmoksime tapti mokslininkais ar inžinieriais, mes mokomės fizikos ir kitos mokslinės disciplinos dviem lygiais: mes mokomės pasąmonėje, intuicijai pagrįstai, naudodamiesi holistine smegenų architektūra ir tam tikru mokymosi „algoritmais“, taip pat, kaip mes mokomės snieglenčių lentoje. Mes labai efektyviai mokomės iš tiesioginės patirties. Padidiname įtampą ir staiga matome dūmus iš savo prietaiso.

Be šios patirties ir kito supratimo, mes pridedame, mokydamiesi iš kitų patirties, nors ir knygų ir mokyklų, modelių sluoksnio. Lygtys, teorijos, hipotezės ir kompiuterinės kompiuterių programos.

Mes mokomės Ohmo įstatymų, kurie galėjo numatyti dūmus. Jūs negalite naudoti Ohmo įstatymų, nebent suprantate Kodėl (Vėl yra tas žodis) Jis veikia ir kaip jis taikomas jūsų dabartinei situacijai.

Taigi inžinierius ar mokslininkas apžvelgia sudėtingą situaciją realiame pasaulyje. Jie naudoja savo supratimą apie pasaulį, kad išmestų viską, kas nereikšminga, ir padalyti tai, kas lieka į mažesnius ir mažesnius gabalus … kol apačioje rasite gabalą, kuris atitiktų vieną iš lygčių, kurias jie išmoko STEM.

Jie išveda tai kaip modelį, kuris tinka dabartinei problemai. Jie išmatuoja skaičius, kurie patenka į lygtį, apskaičiuoja rezultatą ir tada naudoja tai savo realiojo pasaulio problemai išspręsti. Tai labai efektyvus būdas išspręsti problemas, kurios atitinka šią kategoriją. Daugelį probleminių situacijų realiame pasaulyje gali išspręsti redukcionistas (mokslininkas ar inžinierius), naudodamos savo patirtį ir gilų supratimą, kad supaprastintų sudėtingą pasaulį iki skaičiavimo modelio.

Tai yra kamieninio išsilavinimo rankos. Jie aiškiai moko jus

1. Pasirinkite naudojamą modelį

2. Išmatuokite vertes ir apskaičiuokite rezultatą naudodami modelį

3. Naudokite tuos skaičius kaip savo modelio parametrus

4. Paleiskite modelį, kad apskaičiuotumėte rezultatą

Bet jie nepaiso jums pasakyti, kad jūs taip pat padarysite

-3. Stebėkite pasaulį, nes gimstate
-2. Sukurkite holistinį pasaulio supratimą ir priežastingumą
-1. Gaukite redukcionistinį išsilavinimą MIT viršuje.
0. Supraskite problemą pakankamai gerai, kad atliktumėte episteminį mažinimą

Žmonės, rašantys tekstą internete, išsprendė nuo -3 -1. Mes galime naudoti tą tekstą, kad paleistume savo mašinas, kad atliktume veiksmus nuo -2 iki 2. Tai labai tvarkingas triukas, daugiausia todėl, kad žmonės jau yra daromi užpildę internetą tekstu. Dabar mašinos skaito.

PG leidžia deleguoti veiksmus nuo -2 iki 2 į mašiną. Žmonės taip pat turi atlikti paskutinį žingsnį:

5. Supraskite, kaip pritaikyti rezultatą problemai realiame pasaulyje.

Galime atlikti keletą apytikslių pastangų, kurios patenka į šiuos etapus, įvertinimus. Esant naujai problemų sprendimo situacijai, mes norime pasakyti, ar AI gali padėti įtraukti, ar ne. Jei jūsų darbas reikalauja pasirinkti tarp problemų sprendimo strategijų, tada gali būti naudinga epistemologija.

Redukcionizmo mokslo ribos yra sunkios. Redukcionizmas turi įgijo sugadintą reputaciją Nes žmonės tai pritaikė problemoms, nepriklausančioms nuo to, ką patogiai gali padaryti redukcionizmas. Užuomina ta, kad pasaulis yra sudėtingas ir mokslas negali susitvarkyti su sudėtingumu. Pirmasis sumažinimo žingsnis yra atsisakyti nereikšmingo. Kas nutiks, kai viskas yra aktualu ir išmetę ką nors iš viso tai paveiktų sprendimą nežinomais būdais?

Tai yra normali padėtis šioje tikrovėje. Išsprendę visas mokslo problemas, mes pastebime, kad likusios problemos turi vieną bendrą dalyką. Kuris epistemologui visiškai nestebina. Dabar mes suprantame Sudėtingumas yra pagrindinis bet kurios rūšies pažangos priešas.

Aš ir keli kiti vadiname šį probleminių sričių rinkinį Keistos sistemos Nurodyti, kad moksliniai metodai net negali pradėti. Pasaulinė ekonomika ir akcijų rinka, ląstelių biologija, vaistų sąveika kūne, signalizuoja žmogaus smegenyse, kuria kalbą, sulankstomi baltymai, paskirsto globalius išteklius, kovoja su karu ar valdo šalį.

Šiose srityse sprendimus galime rasti tik tuo atveju, jei pragmatiškai atlaisvinsime standartinius redukcionizmo mokslo reikalavimus, tokius kaip optimalumas, pakartojamumas ir paaiškinamumas. Arba radikaliai apribojant problemos sritį, su tuo, ką gali sutvarkyti mūsų žinomi domenų modeliai, o tai yra ypač linkusi į klaidas sudėtingose ​​situacijose ir dažnai sukelia netikėtų pasekmių. Apsvarstykite mūsų ekonomikos modelius. Kai kurie paprastesni nedarbo lygis traktuoja kaip įvestį, o gyventojai – racionali.

Mes galime suprasti savo kalbas ir sulankstyti savo baltymus tik naudodamiesi nervų tinklais, kurie nėra pakartojami ar būtinai paaiškinami.

Kurdami PG, mes nesistengiame išspręsti plaučių vėžio problemos. Mes stengiamės sukurti mašiną, kuri galėtų išmokti ką nors suprasti, ir mes ją pateikiame visą informaciją apie plaučių vėžį. LLM yra mokymosi modelis. Tai yra tiek mokslinė, kiek ji gaunama, ir net tai yra ruožas.

Mokslas neturi jokių algoritmų ar net sąvokų, skirtų supratimui, intuicijai, redukcionizmui, holizmui ar net abstrakcijai. Jie gali būti aptariami tik epistemologijoje. Tačiau Epistemologijos įžvalgos gali būti naudojamos vadovaujant AI algoritmų kūrimui, ir būtent tai aš jį naudoju nuo 2001 m.

Galime įsivaizduoti įvairių rūšių mokymosi modelius, tačiau šie metamodeliai dar nėra pakankamai gerai suprantami, kad padėtų pažangai. Vietoj to, progresas atliekamas atliekant kompiuterių algoritmą pagrįstus eksperimentus, kuriuos galima išmatuoti redukcionizmo efektyvumui, tačiau tai yra nuostabiai prieštaringi Greenfield tyrimai su keliais aktyviais projektais. Dabartinis nugalėtojas, be abejo, yra DNN ir jų palikuonys, transformatoriai, tačiau jie nėra vienintelė žinoma strategija ir yra pakankamai brangūs, kad reikalautų GPU.

Viskas, ko intelektas mokosi, yra koreliacijos. Pasaulio supratimas yra mokslininkų galvoje ir LLM svoriuose koreliacijų tinklas. Jie yra palyginami mokymosi-algoritmo lygyje, o tai reiškia, kad LLMS supranta viską, ką jie žino taip, kaip supranta žmonės ir kiti gyvūnai.

Koreliacija smegenyse yra neuronų ir neurono sinapsinis ryšys. Tai yra esminė. Jei jūsų LLM algoritmo negalima įgyvendinti neuronuose ir sinapsėse – imituojami ar ne -, tai nėra bioplaudimas ir greičiausiai nebus toks efektyvus kaip biologinės smegenų architektūra. Tai gali veikti, jei jūsų algoritmas kažkaip imituoja sinapses.

Ar tai mane daro asmeniškai? Ar didžiulis klipas paveiks mano verslą? Ar galiu naudoti šias žinias savo naudai? Ką reiškia laikytis holistinės pozicijos? Kur galiu rasti daugiau informacijos? Ar kas nors seka „mažus apverstus“, kurie galų gale bus Didžiojo komponentai. Na, aš juos stebėsiu ir tikiuosi, kad galėsiu juos suskirstyti.

(Yra tiek daug ką pasakyti apie šiuos dalykus, kad aš tai darau pirmaisiais įvadiniais įrašais iš serijos apie didįjį apmąstymą. Spėlioju apie artimiausią AI ateitį ir jos priėmimą pasaulyje, kaip matoma epistemologo akimis. Likusią šios serijos dalį reikės prenumeratos, tačiau kiti įrašai ir toliau bus nemokami.)

Mes visi dabar žinome, kad AI visiškai pakeis pasaulį. Puikus apverstas prasidėjo ir jo negalima sustabdyti. Mes galime tiesiogiai stebėti privalumus, kuriuos gauname naudodamiesi LLMS užduotims, kurios jiems gerai sekasi, ir kuriais mokslas daro prastai. Ir tai dabar vyksta. Matome naują mokslinės pažangos bangą, pagrįstą LLM, suprantant didesnius tikrovės gabaliukus, nei žmonės gali laikyti galvose. Ir dėl šios pažangos iš tikrųjų atsiranda geresni pasaulio modeliai. Geresnis mokslas! Mokslas jokiu būdu nėra miręs ir, kaip ir mes negalime numatyti, ar menininkų ar programuotojų skaičius padidės ar sumažės dėl AI, galime pamatyti AI dominuojančią mokslą iki momento, kai mums reikia mažiau mokslininkų, arba galime pamatyti milijonus mėgėjų mokslininkų jų garažuose, naudodamiesi bendraisiais kompiuteriais su bendradarbių lygio AI, kad padidintume mokslą. Apima UBI, o ne kolegijos ar korporacijos.

Bet koks pasaulio modelis yra neišsamus ir pasenęs tuo metu, kai jis bus paskelbtas. Tai įstatymas. Ir susidūrę su visišku mūsų kasdieniškos tikrovės sudėtingumu, turime pereiti prie holistinių metodų, nes būtent tai ir lieka, kai mokslas patenka.

Mes galime naudoti AI. Mes galime asmeniškai laikytis holistinės pozicijos ir Naudokite mūsų žarną dažniau. Arba mes galime sukurti specializuotų mašinų ne llm Holistinių metodų katalogas kurie (epistemologui) yra primityvai, iš kurių yra LLM.

Apskritai, tai reiškia, kad vis daugiau ir daugiau supratimo mes deleguosime vis daugiau ir veiksmingesnių supratimų. Į mūsų AIS.

Ar šiandien turėtume investuoti į AI? Ar tai padėtų mūsų verslui? Ar mūsų problemoms net reikia AI? Ar mūsų klientai to nori? Kam netgi galime paklausti?

Ar jūsų įmonėje yra korporatyvinis epistemologas?