Kodėl AIS meluoja?
„Zeroth“ principai gali paaiškinti daugelį ML/AI srities problemų.
Kaip aptarta ankstesniame įraše, epistemologija paprastai yra fotelio disciplina, kaip ir visa kita filosofija. Tai tik pastaruoju metu tapo prieinama eksperimentams, nes mes galime naudoti įvairius mašinų mokymosi modelius, kad patikrintume savo hipotezes.
Norėčiau pateikti tris epistemologijos teiginius, kurie (aš tvirtinu) gana sunku ginčytis:
Visapusiškumas nepasiekiamas
Mes net neturime akių į galvą. Sudėtingos ir chaotiškos sistemos negali būti prognozuojamos per ilgą laiką. Niekas, net AI, negali sekti visko, kas nutinka. Norėdami visada būti teisingi dėl visko, mums reikės žinoti viską. Norėdami puikiai numatyti orą, mums reikės sekti kiekvieną vandens molekulę vandenyne.
Kai kurie labai griežtai redukcionistai teigė, kad galime turėti visažinį. Jie aiškiai nesitiki, kad AI pasirodys per savo gyvenimą. Geriau yra pereiti prie holistinės pozicijos.
Visos korporos yra neišsamūs
AI dabar mokosi mašinų. „ChatGpt“ ir jo ILK (visų rūšių LLMS, o būsimos sistemos, kurios gali būti labai skirtingai suprojektuotos, yra suskirstytos pagal terminą „AI“ mano rašymo čia ant „Matter“) yra iškeliami pagal mokymosi programą – teksto „korpusą“. Net mažas korpusas gali sukelti tinkamų įprastų užduočių atlikimo, tačiau didesnės korporacijos gali apimti daugiau kampinių atvejų ir suteikti daugiau galimybių pasimokyti iš pusiau susijusių probleminių sričių. Šiandien, neturėdami geresnių palyginimų, galime peržiūrėti kalbos modelio dydį arba korpuso dydį kaip naujos sistemos galimybių įvertinimus.
Atrodo, kad mūsų mašinos yra per mažos, kad būtų iš tikrųjų naudingi rezultatai. „ChatGPT-3.5“, norėdamas paimti konkretų pavyzdį, daug sužinojo apie kalbą, iš tikrųjų keli iš jų, tačiau greičiausiai nebuvo pakankamai išteklių išmokti naudingų kompetencijų matematikos, fizikos ar pilietikos sritys iš esmės nežinantis.
Tam tikru momentu, turėdami efektyvesnius algoritmus ir dar didesnius besimokančius debesis, pasieksime tašką, kuriame mūsų AIS visais praktiniais tikslais daugumai žmonių nustos meluoti ir taps patikimais įvairių rūšių padėjėjais. Jie pasakys mums, kai jie nepakankamai žino, kad galėtų atsakyti, ir, ant „Flipside“, mes išmoksime jų netrukdyti meluoti.
Visi intelektai yra klaidingi
Tai išplaukia iš ankstesnių dviejų teiginių.
Nežinojimas yra vienas iš keturių pagrindinių visų intelekto gedimų režimų. Kiti yra iliuzija (neteisingas jutimo įvestis ir išankstinis apdorojimas), nesusipratimas (jis buvo išmoktas neteisingai, galbūt iš neteisingos ar prieštaringos korporos) ir sumišimas (daugiau nei vienas aiškinimas buvo įmanomas, net ir išvadų metu ar vykdymo metu).
Žmonės ir AIS yra ribojami dėl šių epistemologinių suvaržymų. Turime tai sutikti ir būti laimingi, jei iš bet kurio agento galime gauti ką nors naudingo ir pusiaukelėje.
Konfabuliacija
Konfabuliacija yra techninis terminas AIS meluoti gaminant tekstą. Kai jie gamina vaizdus, kai kurie mėgsta tai vadinti „haliucinacija“.
Kadangi visi intelektai yra klaidingi, tai reiškia, kad visi intelektai yra – techniškai – kenčia kiekvieną kartą, kai jie skleidžia bet kokį komunikaciją. Nes jie gali būti lengvai neišmanantys, sumišę ar klysti. Atkreipiame dėmesį, kad konfabuliacija neturi būti kenksminga. Vaikai, išmokę kai kurias kalbas, pasakys fantastiškus pasakas apie tai, kaip jie mato ir interpretuoja pasaulį.
Šiuo metu mūsų AIS gali pasakyti, kad tai tik neišmanantis kalbos modelis arba lygiavertis. Bet jei vartotojas primygtinai reikalauja ar apgaudinėja, jis konfabuliuos keletą pastraipų iš to, ką sužinojo apie paragintą temą. Ir kadangi jo pasaulio modelis pateikia tik „seklią ir tuščiavidurį pseudo supratimą“, turės daug galimybių išleisti keletą labai painių teiginių.
Superžmogiškas AIS
Atminkite, kad aš nesakau, kad superžmogiški intelektai yra neįmanomi. Visai ne. Aš tik noriu pabrėžti, kad žvalgybos ribos yra griežtos, ir kad priartėję prie tų ribų taps mažėjančios grąžos kova.
Pastaruoju metu nesilaikiau „AI kaip egzistencinės rizikos“ diskusijų, ir tam yra daugybė aspektų, tačiau paskutinį kartą žiūrėjau, kad niekas neaptarė šių žvalgybos ribų. TJO, AI patobulinimai pasieks valdomus tarifus, panašiai kaip „iOS“ leidimai. Kai kuriuos tai aptariau tinklaraščio įraše.
Išnagrinėdami šį arčiau pastebime, kad žvalgybos ribos nėra tik technologinės, bet ir daugiausia nustato pasaulio sudėtingumą.
Ir pridėjus AIS į pasaulį, jis taps dar sudėtingesnis.
