KLASIFIKASI ARTIKEL BERITA MENGGUNAKAN ALGORITMA MULTINOMIAL NAÏVE BAYES DENGAN INFORMATION GAIN-MAXIMAL MARGINAL RELEVANCE DAN DEEP FEATURE WEIGHTING

Klasifikasi berita merupakan permasalahan dengan ruang fitur berdimensi tinggi. Seleksi fitur digunakan untuk mengurangi dimensi fitur dengan menghilangkan fitur irelevan dan redundan tanpa mengurangi nilai akurasi. Klasifikasi menggunakan Multinomial Naïve Bayes dengan seleksi fitur Information Gain dan Maximal Marginal Relevance menunjukkan penurunan akurasi dengan bertambahnya jumlah fitur dibandingkan Maximal Marginal Relevance. Algoritma Naïve Bayes mengasumsikan independensi antar fitur yaitu nilai dari sebuah fitur tidak tergantung pada nilai fitur lainnya pada variabel kelas tertentu sehingga setiap fitur berkontribusi secara independen terhadap probabilitas suatu kelas data. Terdapat metode untuk melemahkan independensi fitur dengan pembobotan fitur pada probabilitas kondisional terhadap sub himpunan fitur terbaik, yaitu Deep Feature Weighting Multinomial Naïve Bayes dengan pemilihan fitur menggunakan Correlation based Feature Selection. Pengujian dilakukan menggunakan beberapa jumlah fitur yang diseleksi. Untuk setiap jumlah fitur yang diseleksi menggunakan nilai antara 0 sampai 1 (inkremen 0,1). Nilai akurasi rata-rata diperoleh dengan pengujian k-fold cross validation dengan nilai k adalah 10. Hasil menunjukkan penerapan Deep Feature Weighting mampu meningkatkan akurasi pada jumlah fitur rendah yaitu 10 pada nilai antara 0 sampai 0,9, sedangkan untuk parameter jumlah fitur lain nilai akurasi turun walaupun tidak signifikan. Untuk semua algoritma, nilai akurasi meningkat secara konsisten seiring dengan bertambahnya jumlah fitur.