Vähendatud parameetritega peenhäälestusmeetodid masinlugemise mõistmisel
Nimi
Rustam Abdumalikov
Kokkuvõte
Küsimustele vastamine on oluline ülesanne loomuliku keele töötluse valdkonnas. Küsimustele vastamise süsteemide arendamisel on erinevaid lähenemisviise, näiteks eeltreenitud teadmiste kasutamine või vastuse leidmine etteantud kontekstist, mida tavaliselt nimetatakse masinlugemise mõistmiseks. Üks probleem eeltreenitud teadmistega on see, et need võivad vananeda, sest mudelit eeltreenitakse ainult ühe korra. Selle asemel, et mudeli infot treenimisega uuendada, on üheks alternatiiviks värskendatud teabe lisamine etteantud kontekstina mudeli sisendisse. Siiski on võimalik, et mudel võib liiga palju toetuda oma parameetritesse salvestatud teadmistele ja ignoreerida etteantud kontekstis sisalduvat uut teavet ning see võib põhjustada vigu. Selle magistritöö eesmärk on uurida, kas vähendatud parameetritega peenhäälestusmeetodid parandaksid mudeli võimet käsitleda uut teavet. Töös hindasime nende tehnikate tõhusust võrreldes tavapä- rase peenhäälestusega masinlugemise mõistmise ülesandel kasutades augmenteeritud NaturalQuestions andmestikku. Töö tulemused näitavad, et vähendatud parameetritega peenhäälestusmeetodid mõnevõrra parandavad masinlugemise mõistmise täpsust võrrel- des tavapärase peenhäälestusega. Lisaks leidsime, et andmete augmenteerimine panustas kõige enam mudeli ennustustäpsuse tõusu.
Lõputöö keel
inglise
Lõputöö tüüp
Magister - Informaatika
Juhendaja(d)
Yova Kementchedjhieva, Kairit Sirts
Kaitsmise aasta
2023