Optimalisasi BoW Feature Extraction pada Natural Language Processing untuk Klasifikasi Emosi Teks
Abstract
Klasifikasi emosi teks merupakan salah satu cabang penting dalam Natural Language Processing (NLP) yang memungkinkan sistem komputer mengenali kondisi afektif seseorang berdasarkan teks yang ditulis. Salah satu tahapan paling krusial dalam membangun model klasifikasi emosi adalah feature extraction, yaitu proses mengubah teks tidak terstruktur menjadi representasi numerik yang dapat diproses oleh algoritma machine learning. Penelitian ini bertujuan untuk mengoptimalkan proses feature extraction dengan membandingkan tiga skema representasi teks, yaitu Bag-of-Words (BoW), Term Frequency-Inverse Document Frequency (TF-IDF) unigram, dan TF-IDF kombinasi unigram-bigram, serta mengevaluasi pengaruh pembatasan jumlah fitur (max_features) dan ambang frekuensi minimum (min_df) terhadap akurasi dan efisiensi komputasi. Penelitian menggunakan metodologi Cross-Industry Standard Process for Data Mining (CRISP-DM) yang terdiri atas pemahaman bisnis, pemahaman data, persiapan data, pemodelan, evaluasi, dan deployment. Dataset yang digunakan terdiri atas 102.000 teks berbahasa Inggris dengan lima label emosi seimbang (Anger, Anxiety, Calm, Depression, dan Joy) yang diperoleh dari Hugging Face. Tiga algoritma klasifikasi, yaitu Multinomial Naïve Bayes, Logistic Regression, dan Linear Support Vector Machine (SVM), digunakan untuk menguji setiap skema feature extraction pada kondisi data yang disisipi derau (noise) berupa kesalahan ketik dan kata pengisi untuk mensimulasikan teks media sosial yang lebih realistis. Hasil penelitian menunjukkan bahwa kombinasi TF-IDF unigram-bigram dengan pembatasan 2.000 fitur dan ambang min_df=3 menghasilkan F1-score makro tertinggi sebesar 0,9999 ketika dipasangkan dengan Linear SVM, sedangkan skema Bag-of-Words unigram dengan jumlah fitur yang dibatasi memberikan waktu ekstraksi fitur tercepat namun dengan F1-score sedikit lebih rendah. Optimalisasi feature extraction melalui pembatasan dimensi fitur dan pemilihan rentang n-gram terbukti mampu menjaga akurasi klasifikasi tetap tinggi sekaligus meningkatkan efisiensi waktu ekstraksi fitur hingga 45% dibandingkan skema TF-IDF unigram-bigram tanpa pembatasan jumlah fitur.
Keywords
References
A. A. Sari And T. Triyono, “Optimalisasi Copywriting Berbasis Kecerdasan Buatan Untuk Meningkatkan Daya Tarik Pariwisata Desa Ponggok, Klaten, Jawa Tengah,” J. Pengabdi. Masy. Inov. Indones., Vol. 3, No. 1, 2025, Doi: 10.54082/Jpmii.720.
A. A. Mudding, “Mengungkap Opini Publik: Pendekatan Bert-Based-Caused Untuk Analisis Sentimen Pada Komentar Film,” J. Syst. Comput. Eng., Vol. 5, No. 1, 2024, Doi: 10.61628/Jsce.V5i1.1060.
N. S. Jaggi, “A Survey On Machine Learning: Concept, Algorithms And Applications,” Int. J. Innov. Res. Comput. Commun. Eng., Vol. 5, No. 8, 2017, Doi: 10.15680/Ijircce.2017.0508001.
I. D. G. M. Parawangsa, G. S. Mahendra, And R. N. P. Pinatih, “Implementasi Metode Xlm-Roberta Untuk Analisis Sentimen Ulasan Pengunjung Objek Wisata Kerta Gosa Klungkung,” Riggs J. Artif. Intell. Digit. Bus., Vol. 4, No. 4, 2026, Doi: 10.31004/Riggs.V4i4.5368.
F. Zuli And K. Nisa, “Sistem Pakar Untuk Diagnosa Gangguan Kesehatan Mental Pada Anak Remaja Dengan Menggunakan Metode Forward Chaining,” J. Jimatek, Vol. 1, No. 1, 2023, Doi: 10.59134/Jimat.V1i1.578.
N. Maula Rif’at, H. Risky Kurniawan, A. Putri Setiawan, A. Putra Pratama, M. Khoiril Abidin, And A. Arum Sari, “Evaluasi Sentimen Pelanggan Terhadap Toko Resmi Xiaomi Di Tokopedia Menggunakan Algoritma Support Vector Machine,” Pros. Semin. Nas. Teknol. Inf. Dan Bisnis, 2025, Doi: 10.47701/9c71cp98.
T. A. Azzahra Et Al., “Perbandingan Efektivitas Na�Ve Bayes Dan Svm Dalam Menganalisis Sentimen Kebencanaan Di Youtube,” J. Media Inform. Budidarma, Vol. 8, No. 1, 2024, Doi: 10.30865/Mib.V8i1.7186.
D. Khurana, A. Koli, K. Khatter, And S. Singh, “Natural Language Processing: State Of The Art, Current Trends And Challenges,” Multimed. Tools Appl., Vol. 82, No. 3, 2023, Doi: 10.1007/S11042-022-13428-4.
G. Prima Ertansyah, R. Tri Cahya Kusuma, And A. Arum Sari, “Analisis Sentimen Pada Media Sosial Menggunakan Teknik Natural Language Processing,” Pros. Semin. Nas. Teknol. Inf. Dan Bisnis, 2025, Doi: 10.47701/Qgcey104.
M. W. Suva Et Al., “A Symmetry-Aware Equivariant Quantum Clustering Approach For Enhanced Unsupervised Learning,” Phys. Scr., Vol. 101, No. 2, 2026, Doi: 10.1088/1402-4896/Ae2dd7.
Z. Shao, M. N. Ahmad, And A. Javed, “Comparison Of Random Forest And Xgboost Classifiers Using Integrated Optical And Sar Features For Mapping Urban Impervious Surface,” Remote Sens., Vol. 16, No. 4, 2024, Doi: 10.3390/Rs16040665.
S. Samuel Et Al., “Investigation Of An Inverted Bow On Frigate Hull Resistance,” J. Appl. Fluid Mech., Vol. 17, No. 1, 2024, Doi: 10.47176/Jafm.17.1.2122.
A. Nasirudin, I. K. Aria Priautama, Sutiyo, And A. Kukuh Priyasambada, “Cfd Analysis Into The Resistance Estimation Of Hard-Chine Monohull Using Conventional Against Inverted Bows,” Cfd Lett., Vol. 15, No. 6, 2023, Doi: 10.37934/Cfdl.15.6.5464.
J. A. Perusquía, J. E. Griffin, And C. Villa, “Beta-Corm: A Bayesian Approach For N-Gram Profiles Analysis,” Comput. Stat. Data Anal., Vol. 202, 2025, Doi: 10.1016/J.Csda.2024.108056.
Y. Setiawan, N. U. Maulidevi, And K. Surendro, “The Optimization Of N-Gram Feature Extraction Based On Term Occurrence For Cyberbullying Classification,” Data Sci. J., Vol. 23, No. 1, 2024, Doi: 10.5334/Dsj-2024-031.
A. D. M. Putri, N. Sulistianingsih, And R. Rismayati, “Pengaruh Teknik Representasi Teks Bag-Of-Words Dan Tf-Idf Terhadap Akurasi Klasifikasi Sentimen Teks Multi-Domain,” Jtim J. Teknol. Inf. Dan Multimed., Vol. 7, No. 4, 2025, Doi: 10.35746/Jtim.V7i4.756.
M. R. Khurshid, S. Manzoor, T. Sadiq, L. Hussain, M. S. Khan, And A. K. Dutta, “Unveiling Diabetes Onset: Optimized Xgboost With Bayesian Optimization For Enhanced Prediction,” Plos One, Vol. 20, No. 1 January, 2025, Doi: 10.1371/Journal.Pone.0310218.
M. Salman Al Markas, S. Anraeni, And L. Budiman Ilmuwan, “Implementasi Fitur Vector Bag Of Word Dan Tf Idf Untuk Analisis Sentiment,” Linier Lit. Inform. Dan Komput., Vol. 2, No. 2, 2025, Doi: 10.33096/Linier.V2i2.3104.
R. Suryanti And P. Prasetyaningrum, “Perbandingan Metode Tf-Idf Dan Bag Of Words Dalam Analisis Sentimen Diet Kopi Americano Di Media Sosial Twitter Menggunakan Naïve Bayes,” Build. Informatics, Technol. Sci., Vol. 7, No. 1, 2025.
D. L. Girsang, Alwi Sidiq, And Tahniah Salsabila Elenaputri, “Analisis Sentimen Masyarakat Terhadap Layanan Bpjs Kesehatan Dan Faktor-Faktor Pendukung Opini Dengan Pemodelan Natural Language Processing (Nlp),” Emerg. Stat. Data Sci. J., Vol. 1, No. 2, 2023, Doi: 10.20885/Esds.Vol1.Iss.2.Art24.
P. I. Sabbah Naiarni Panjaitana, Azzikrarairyahannum, Syahilatuzzahira, “Sentimen Analisis Pengguna Media Sosial Berdasarkan Metode Ekstraksi Fitur Dan Klasifikasi,” J. Ilmu Komput., Vol. 16, No. 2, 2024.
M. P. Utami, “Implementasi Aplikasi Konsultasi Kesehatan Jiwa Dengan Algoritma Kepakaran Dan Jaringan Syaraf Tiruan,” Techno.Com, Vol. 22, No. 2, 2023, Doi: 10.33633/Tc.V22i2.8038.
M. G. T. Li, M. Lazo, A. K. Balan, And J. De Goma, “Employee Performance Prediction Using Different Supervised Classifiers,” In Proceedings Of The International Conference On Industrial Engineering And Operations Management, 2021. Doi: 10.46254/An11.20211188.
S. M. Tasin Et Al., “Ensemble Machine Learning Model For Inner Speech Recognition: A Subject-Specific Investigation,” Ieee Access, 2026, Doi: 10.1109/Access.2025.3644494.
G. Šaffa, “Reassessing The Evidence For The Composite Bow In Ancient Eurasia,” J. Archaeol. Method Theory, Vol. 33, No. 1, 2026, Doi: 10.1007/S10816-025-09750-4.
A. Ariansyah And U. Indahyanti, “Fitur Ekstraksi Pada Pemodelan Topik Menggunakan Metode Latent Dirichlet Allocation Pada Peristiwa Kebocoran Data,” Indones. J. Appl. Technol., Vol. 1, No. 2, 2024, Doi: 10.47134/Ijat.V1i2.3041.
L. Zhang, “Features Extraction Based On Naive Bayes Algorithm And Tf-Idf For News Classification,” Plos One, Vol. 20, No. 7 July, 2025, Doi: 10.1371/Journal.Pone.0327347.
T. Xu Et Al., “Derivation And Validation Of A Nomogram Based On Clinical Characteristics To Diagnose Endometriosis Associated Ovarian Cancer Preoperatively,” J. Cancer Res. Clin. Oncol., Vol. 150, No. 1, 2025, Doi: 10.1007/S00432-023-05524-1.
A. Wadanur And A. A. Sari, “Implementation Of Apriori And Fp-Growth Algorithms In Spare Parts Sales,” Edumatic J. Inf. Educ., Vol. 6, No. 1, 2022.
Refbacks
- There are currently no refbacks.
Editorial Office :
Prosiding SENDIKO (Seminar Nasional Hasil Penelitian & Pengabdian Masyarakat Bidang Ilmu Komputer)
Published by Universitas PGRI Madiun
Managed by Program Studi Sistem Informasi Fakultas Teknik Universitas PGRI Madiun
Address Jl. Auri 14-16 Kota Madiun Kampus III Universitas PGRI Madiun 63118
Website http://prosiding.unipma.ac.id/index.php/sendiko/index
Email [email protected]
e-ISSN: 3025-4604