Uusi blogikirjoitus todentamisen epäsymmetriasta ja "todentajan laista": Todentamisen epäsymmetria – ajatus siitä, että jotkut tehtävät on paljon helpompi todentaa kuin ratkaista – on tulossa tärkeäksi ajatukseksi, koska meillä on RL, joka vihdoin toimii yleisesti. Hyviä esimerkkejä todentamisen epäsymmetriasta ovat esimerkiksi sudoku-palapelit, koodin kirjoittaminen verkkosivustolle, kuten instagram, ja BrowseComp-ongelmat (vastauksen löytämiseen tarvitaan ~100 verkkosivustoa, mutta ne on helppo tarkistaa, kun sinulla on vastaus). Muilla tehtävillä on lähes symmetrinen todentaminen, kuten kahden 900-numeroisen luvun summaaminen tai jotkin tietojenkäsittelyskriptit. Toisiin tehtäviin on kuitenkin paljon helpompi ehdottaa toteuttamiskelpoisia ratkaisuja kuin todentaa ne (esim. pitkän esseen faktantarkistus tai uuden ruokavalion mainitseminen, kuten "syö vain biisonia"). Tärkeä asia ymmärtää todentamisen epäsymmetriasta on, että voit parantaa epäsymmetriaa tekemällä työtä etukäteen. Esimerkiksi, jos sinulla on vastausavain matemaattiseen tehtävään tai jos sinulla on testitapauksia Leetcode-ongelmaan. Tämä lisää huomattavasti toivotun todentamisen epäsymmetrian ongelmia. "Verifierin laki" sanoo, että tekoälyn kouluttamisen helppous ratkaista tehtävä on verrannollinen siihen, kuinka todennettavissa tehtävä on. Kaikki tehtävät, jotka ovat ratkaistavissa ja helposti todennettavissa, ratkaistaan tekoälyn avulla. Kyky kouluttaa tekoälyä ratkaisemaan tehtävä on verrannollinen siihen, onko tehtävällä seuraavat ominaisuudet: 1. Objektiivinen totuus: kaikki ovat yhtä mieltä siitä, mitkä ovat hyvät ratkaisut 2. Nopea tarkistaa: mikä tahansa ratkaisu voidaan tarkistaa muutamassa sekunnissa 3. Skaalautuva todennettavaksi: useita ratkaisuja voidaan todentaa samanaikaisesti 4. Hiljainen: todentaminen korreloi mahdollisimman tiukasti liuoksen laadun kanssa 5. Jatkuva palkitseminen: on helppo asettaa paremmuusjärjestykseen monien ratkaisujen hyvyys yhteen ongelmaan Yksi ilmeinen todentajalain ilmentymä on se, että useimmat tekoälyssä ehdotetut vertailuarvot ovat helppoja todentaa ja toistaiseksi ne on ratkaistu. Huomaa, että käytännössä kaikki suositut vertailuarvot viimeisen kymmenen vuoden aikana täyttävät kriteerit #1-4; vertailuarvot, jotka eivät täytä kriteereitä #1-4, kamppailevat tullakseen suosituiksi. Miksi todennettavuus on niin tärkeää? Tekoälyssä tapahtuvan oppimisen määrä maksimoidaan, kun yllä olevat kriteerit täyttyvät; Voit ottaa paljon gradienttivaiheita, joissa jokaisessa vaiheessa on paljon signaalia. Iteroinnin nopeus on ratkaisevan tärkeää – se on syy siihen, että digitaalinen maailma on edistynyt niin paljon nopeammin kuin fyysisessä maailmassa. Googlen AlphaEvolve on yksi suurimmista esimerkeistä todentamisen epäsymmetrian hyödyntämisestä. Se keskittyy asetelmiin, jotka täyttävät kaikki yllä olevat kriteerit, ja se on johtanut useisiin edistysaskeliin matematiikassa ja muilla aloilla. Toisin kuin mitä olemme tehneet tekoälyn parissa viimeisen kahden vuosikymmenen ajan, se on uusi paradigma siinä mielessä, että kaikki ongelmat optimoidaan ympäristössä, jossa junasarja vastaa testisarjaa. Todentamisen epäsymmetriaa on kaikkialla, ja on jännittävää ajatella rosoisen älykkyyden maailmaa, jossa kaikki, mitä voimme mitata, ratkaistaan.