Implementasi Model DISTILGPT-2 dalam Sistem Tanya Jawab Generatif untuk Layanan Informasi Program Studi di Unsika sebagai Upaya Efisiensi Layanan Informasi

Yuliarman Saragih; Dene Herwanto; Ibrahim

doi:10.32493/epic.v8i2.59260

Authors

Yuliarman Saragih Universitas Singaperbangsa Karawang
Dene Herwanto Universitas Singaperbangsa Karawang
Ibrahim Universitas Singaperbangsa Karawang

DOI:

https://doi.org/10.32493/epic.v8i2.59260

Keywords:

DistilGPT-2, Question Answering, Natural Language Processing, Chatbot Akademik, Layanan Informasi

Abstract

Penelitian ini bertujuan untuk mengembangkan sistem question answering generatif berbasis Large Language Model guna meningkatkan efisiensi layanan informasi akademik di Universitas Singaperbangsa Karawang. Metode yang digunakan adalah experimental development dengan tahapan pengumpulan dataset domain spesifik UNSIKA, preprocessing, fine-tuning model DistilGPT-2, evaluasi performa, serta implementasi dalam bentuk prototipe chatbot berbasis web. Dataset yang digunakan terdiri dari 800 pasangan pertanyaan dan jawaban yang merepresentasikan kebutuhan informasi akademik. Hasil penelitian menunjukkan bahwa model memiliki performa yang stabil dengan nilai training loss sebesar 1.23, validation loss sebesar 1.31, dan perplexity sebesar 3.41 yang mengindikasikan kemampuan generasi teks yang baik. Evaluasi kualitatif menunjukkan tingkat relevansi jawaban sebesar 92%, keterbacaan bahasa sebesar 90%, dan ketepatan fakta sebesar 89%. Waktu pelatihan model tercatat ±1 jam 25 menit dengan total parameter sekitar 82 juta, yang menunjukkan efisiensi komputasi yang baik. Berdasarkan hasil tersebut, dapat disimpulkan bahwa pendekatan fine-tuning model bahasa berbasis domain lokal efektif dalam meningkatkan kualitas layanan informasi akademik. Sistem yang dikembangkan mampu memberikan respons yang relevan, akurat, dan mudah dipahami, sehingga berpotensi menjadi solusi dalam mendukung transformasi digital layanan akademik di perguruan tinggi.

References

Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Hernandez, D., Liang, P., Winter, C., Hesse, C., Chen, M., Sigler, E.,

Litwin, M., Gray, S., Chess, B., Clark, J., Berner, C., McCandlish, S., Radford, A., … Amodei, D. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1901.

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep learning. MIT Press.

Gururangan, S., Marasović, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don’t stop pretraining: Adapt language models to domains and tasks. arXiv preprint arXiv:2004.10964.

Jurafsky, D., & Martin, J. H. (2020). Speech and language processing (3rd ed., draft). https://web.stanford.edu/~jurafsky/slp3/

Sanh, V., Debut, L., Chaumond, J., & Wolf, T. (2019). DistilBERT, a distilled version of BERT: Smaller, faster, cheaper and lighter. arXiv preprint arXiv:1910.01108.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.

Wolf, T., Debut, L., Sanh, V., Chaumond, J., Delangue, C., Moi, A., Cistac, P., Rault, T., Louf, R., Funtowicz, M., Davison, J., Shleifer, S., von Platen, P., Ma, C., Jernite, Y., Plu, J., Xu, C., Le Scao, T., Gugger, S., … Rush, A. M. (2020). Transformers: State-of-the-art natural language processing. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing: System Demonstrations (pp. 38–45).