Reikia rūšies padidinti AI

Žmonės humanitariniuose moksluose yra varginantys dėl dabartinių LLM konfliktų. Jiems sakau: tiesiog palauk. Netrukus tai taps jūsų problema.

AI auginti reikia rūšies.

JAV technikams pavyko kartu sujungti mašiną, kuri gali išmokti bet kokios kalbos planetoje. Šis proveržis buvo pasiektas po to, kai buvo galima perskaityti internetą. Kalbos išmokti reikia daug teksto, jei tiesiogine prasme neturite gyvenimo.

Tai, ką supranta nedaugelis žmonių, nepriklausančių nuo AI bendruomenės, yra AI mokymosi korpuso svarba. Tai yra knygų ir internetinių tekstų kolekcija, kurią mes jį pateikiame perskaityti, kai juos auginame. Korpusas yra ne tik svarbus, bet ir vienintelis dalykas, kuris yra svarbus. Tai suteikia griežtą viršutinę ribą, kiek mašina gali žinoti apie bet ką pasaulyje.

Tai yra epistemologijos teiginys. Tai yra lygis, kuriame turite veikti, norint suprasti, kodėl AI veikia. Priešingai nei tai, kaip tai veikia. Šiame lygmenyje mašininis mokymasis yra tarsi žmonių mokymasis, mašininis supratimas apie bet ką veikia panašiai kaip žmogaus supratimas, abstrakcija yra abstrakcija ir kt.

Šiuolaikinis LLM išmoksta suprasti kalbą naudodamas mechanizmus, panašius į žmonių smegenis. Bet kokios žinios, kurias ji turi iš pasaulio, aprašyto korpuse (priešingai nei vertinti ją kaip paprasčiausią „kalbos“ pavyzdį) yra premija, kurios tikėjomės, bet tikrai neturėjo teisės tikėtis. Nes mokymasis matematikos ir fizikos bei maisto gaminimas nebuvo tikslas, bent jau iš pradžių. Kalba yra pakankamai sunki. Aš pats niekada nesu mokęs GPT stiliaus modelio nuo nulio, tačiau mano paties LLM dizainas turi keletą kartų skaityti mano mažąjį korpusą, nes per pirmąsias perskaitymo metu jis vis dar yra tik mokymosi personažų deriniai.

Tai reiškia, kad net jei jis būtų korpuse, sistema galbūt to neišmoko. Jei bandytumėte išmokti suomių nuo nulio skaitydami Suomijos enciklopediją nuo galo iki galo, nesuprastumėte pakankamai suomių, kad išmoktumėte tikrojo turinio, kol gal galite atlikti darbą.

Tačiau dabar, kai šie prietaisai žino kalbas, mes pakelsime kompetentingesnius, kurie daugiau žino apie pasaulį. Mokymasis yra brangus, todėl iš pradžių teiksime pirmenybę pelningoms problemoms, tokioms kaip verslas, matematika, įstatymai, medicina ar fizika. Aparatūros ir algoritmų patobulinimai leidžia jiems išmokti daugiau domenų ir gilintis į kiekvieną.

Pasaulio žinių korpusas daugiausia apibrėžs, kuo tiki LLM. Potencialiai visi jie. Tai yra pagrindinė atsakomybė, ir užduotis reikia tinkamo dėmesio.

– *-

Technikos bando sukurti naudingą sistemą iš to, kas prasideda be jokio sveiko proto, jokio kūno, jokio kvapo, jokio prisilietimo ir (bent jau pradžioje) jokio regėjimo, jokio garso. Tiesiog įvesties teksto pojūtis, o gal ir balsas.

Anglijos didieji ir jų ilk sėdi nuošalyje. Kai kurie kritikuoja rezultatus, aiškiai tikisi intelektualios sistemos, galbūt net AI orakulo, o ne sistemą, kuri tik gerai supranta kalbą.

Technikos pasiekė taip toli, netaikydami daug specializuotų švietimo, psichologijos, etikos, teisės ar politikos įgūdžių, tiesiog patraukdami visą tekstą, kurį galėjome rasti internete, ir vadindami jį korpusu.

Humanitariniams mokslams tai taps darbu pakelti mūsų AIS ir nerimauti dėl AI suderinimo – užtikrinti, kad jų tikslai atitiktų mūsų pačių tikslus. Surinkti korporą, kuri sukurs naudingą ir gerai subalansuotą AIS, kuri galės perkelti civilizaciją į priekį visų naudai.

Mums reikia naudingo JAV piliečio sutarimo realybės korpuso.

Kas gali tai kurti?