6533b86cfe1ef96bd12c8f3b

RESEARCH PRODUCT

Ainas reprezentācija, renderēšana un atsaiste ar neironu tīkliem un DDF metodi

subject

description

Lielākā daļa mākslīgo neironu tīklu tiek apmācīti ar pārraudzīto mācīšanu, taču jebkuram intelektuālajam aģentam praktiski nav vajadzīga nekāda pārraudzība. Tā vietā ir vajadzīga spēja (1) veidot reprezentāciju, (2) zināt, kā sadalīt jēdzienos pasaules bāzes struktūru un (3) izmantot ģenerējošo spēku ir augstāk attīstīto zīdītāju izdzīvošanai nozīmīga prasme. Tādēļ ir vēlams izveidot mākslīgu sistēmu, kas spētu ģenerēt datus pati no saviem sensoriem un mācīties no tiem bez cilvēka ietekmes. Nesen tika publicēts raksts, kas iepazīstināja ar ģeneratīvo vaicājuma tīklu (GQN), kas lieto nepārraudzīto mācīšanos un spēj mācīties no datiem, ko savāc “pats pēc saviem” ieskatiem [25]. Šajā maģistra darbā autors izmanto GQN modeli un trenē to ar DeepMind datu kopu “Room Ring Camera”, un analizē rezultātus ar jaunas atsaistīšanas sistēmas palīdzību – diferencējamo atsaistīšanas filtru (DDF). Kaut gan GQN un GQN ar DDF mācīšanas process tika priekšlaicīgi pārtraukts, iegūtie rezultāti bija apmierinoši. Tika pierādīts, ka DDF spēj atsaistīt dažas GQN reprezentācijas, un tas pārspēja bāzes konfigurācijas modeļus. Par sākotnejiem rezultatiem tika sagatavota un iesniegta publikācija uz BlackBoxNLP-2019 semināru. Tomēr objektīvāka vērtējuma iegūšanai ir vajadzīga papildu apmācība. Autors arī apmācīja autoenkodera modeli ar MNIST datu kopu, kur reprezentācijas vektoru svari tiek nejauši reinicializēti katru iterāciju. Rezultātā modelis joprojām labi rekonstruē dažus ciparus. Autors uzskata, ka nejauši svari pārveido reprezentācijas vektoru uz telpu ar mazāku dimensiju skaitu un modelis iemācas dekodēt no šis telpas.