КАМ РЕСУРС ТИЛЛАР УЧУН НУТҚНИ МАТНГА АЙЛАНТИРИШ ВА ДИАЛЕКТЛАРНИ НОРМАЛЛАШТИРИШ: ЎЗБЕК ТИЛИ МИСОЛИДА
Keywords:
NLP, ўзбек тили, диалект, Transformer, нутқни матнга айлантириш (Speech-to-Text), матнни нормаллаштириш, кам ресурс тиллар.Abstract
Табиий тилни қайта ишлаш (Natural Language Processing, NLP) соҳасида сезиларли ютуқларга эришилган бўлса-да, аксарият ривожланишлар юқори ресурс тилларга қаратилган. Ўзбек тили учун эса белгиланган маълумотлар тўпламлари ва лингвистик ресурсларнинг етишмаслиги NLP тизимлари самарадорлигини чеклаб келмоқда. Ушбу тадқиқот ўзбек тили шеваларини автоматик нормаллаштириш вазифасига бағишланган. Тадқиқот доирасида 5000 дан ортиқ диалектал жумлалардан иборат маълумотлар тўплами яратилди ва Transformer архитектурасига асосланган sequence-to-sequence модели ўқитилди. Модел сифати BLEU ва Accuracy метрикалари орқали баҳоланди. Эксперимент натижалари таклиф этилган ёндашув ўзбек тилидаги диалектал матнларни қайта ишлашда самарали эканлигини кўрсатди.
Downloads
References
1. Vaswani A. et al. Attention Is All You Need. NIPS, 2017.
2. Devlin J. et al. BERT: Pre-training of Deep Bidirectional Transformers. NAACL, 2019.
3. Brown T. et al. Language Models are Few-Shot Learners. NeurIPS, 2020.
4. Raffel C. et al. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. JMLR, 2020.
5. Conneau A. et al. Unsupervised Cross-lingual Representation Learning. ACL, 2020.
6. Jurafsky D., Martin J. Speech and Language Processing. Pearson, 2023.
7. Koehn P. Neural Machine Translation. Cambridge University Press, 2020.
8. Sennrich R. Neural Machine Translation of Rare Words. ACL, 2016.
9. Xue L. et al. mT5: A Massively Multilingual Pre-trained Text-to-Text Transformer. 2021.
10. Wolf T. et al. Transformers: State-of-the-Art NLP. EMNLP, 2020.
11. Abdurakhmonov S. Uzbek NLP Resources and Challenges. 2022.
12. Tursunov B. Uzbek Language Technologies: Current State and Future Directions. 2023.
13. Goodfellow I. Deep Learning. MIT Press, 2016.
14. Goldberg Y. Neural Network Methods for NLP. Morgan & Claypool, 2017.
15. Manning C., Schütze H. Foundations of Statistical NLP. MIT Press, 1999.
