Tampilkan postingan dengan label Data Mining. Tampilkan semua postingan
Tampilkan postingan dengan label Data Mining. Tampilkan semua postingan

Kamis, 21 Desember 2017

Mengenal Apa Itu Stop Word, Download Stop Word List Dalam 28 Bahasa Negara

ARSPuja Labs - Mengenal Apa Itu Stop Word, Download Stop Word List Dalam 28 Bahasa Negara

Stop words adalah kata umum (common words) yang biasanya muncul dalam jumlah besar dan dianggap tidak memiliki makna.  Stop words umumnya dimanfaatkan dalam task information retrieval, termasuk oleh Google.  Contoh stop words untuk bahasa Inggris diantaranya “of”, “the”.  Sedangkan untuk bahasa Indonesia diantaranya “yang”, “di”, “ke”.


source: wp.com

Dalam dunia pemrogramman khusunya di proses klasifikasi data, stop word sangat diperlukan yaitu digunakan stop words untuk mengurangi jumlah kata yang harus diproses. Sangat berguna untuk proses Text Mining.

Dalam  sistem temu kembali informasi (Search engine, pencarian, Information retrieval), dokumen yang diretreive akan melalui proses indexing sebelum dicocokkan dengan query. Beberapa tahapan dalam indexing diantaranya adalah Tokenisasi, Pembuangan stopwords, pemotongan imbuhan (stemming), pembobotan(weighting) dan pembuatan index.

Tokenisasi berfungsi untuk memisahkan deretan kata di dalam kalimat, paragraf atau halaman menjadi token atau potongan kata tunggal dan pengubahan setiap kata menjadi huruf kecil(lowercase). Stemming berfungsi untuk menghilangkan variasi morfologi kata dengan cara menghilangkan imbuhan pada setiap kata. Stopwords merupakan daftar kata yg umum (kata yang mempunyai fungsi tapi tidak mempunyai arti).

Di sini kami menyediakan List Stop Word dari 28 Bahasa Negara. Seperti Bahasa Indonesia, Inggris, Argentina dan lainnya, yang langsung bisa didownload di bawah ini:

DOWNLOAD: STOP WORD LIST.rar

Silahkan gunakan sesuai kebutuhan untuk data list stop word diatas. :)



Sumber: https://sites.google.com/site/kevinbouge/stopwords-lists

#Ars #kevinbouge

Jumat, 08 Desember 2017

Mengenal Lebih Jauh Tentang Metode Wavelet Transform

ARSPuja Labs - Mengenal Lebih Jauh Tentang Metode Wavelet Transform

Teori wavelet adalah suatu konsep yang relatif baru dikembangkan. Kata “Wavelet” sendiri diberikan oleh Jean Morlet dan Alex Grossmann pada awal tahun 1980-an, dan berasal dari bahasa Prancis, “ondelette” yang berarti gelombang kecil. Kata "onde" yang berarti gelombang kemudian diterjemahkan ke bahasa Inggris menjadi “wave”, lalu digabung dengan kata aslinya sehingga terbentuk kata baru "wavelet".

source: toolsmiths.com

Wavelet Transform adalah metode tranformasi yang mengadopsi metode Fourier Transform dan Short Time Fourier Transform (STFT). Seperti halnya STFT, Wavelet Transform mentransformasi signal dalam domain waktu menjadi signal dalam domain waktu dan frekuensi (yang dalam hal ini dibentuk menjadi domain translation and scale). Translation adalah sebuah bentuk transformasi dari domain waktu. Translation terkait dengan lokasi dari window function, di mana window dipindah-pindahkan sepanjang signal yang masuk. Scale adalah bentuk transformasi dari frekuensi, dimana nilai scale berbanding terbalik dengan nilai frekuensi.

Memperbaiki kelemahan yang terdapat dalam metode STFT, Wavelet Transform melakukan:

Transformasi Fourier dengan memanfaatkan window function tidak digunakan lagi. Sehingga puncak tunggal (single peak) atau frekuensi yang bernilai negatif tidak dihitung lagi.
Lebar window dirubah seiring dengan perhitungan transformasi untuk setiap signal yang ada (Ini merupakan karakteristik yang paling signifikan dari Wavelet Transform).
Rumus yang digunakan untuk Wavelet Transform adalah:

CWT_x^psi (tao, s) = PSI_x^psi (tao, s) = 1/SQRT(|s|) INTEGRAL (-infty to infty) x(t) * psi*((t-tao)/s) dt

dimana:
tao : nilai dalam domain translation
s    : nilai dalam domain scale
x    : signal input

Perlu diperhatikan di sini bahwa x adalah signal dengan domain waktu dan PSI_x^psi adalah signal dengan domain translation (bentuk turunan dari waktu) dan domain scale (bentuk turunan dari frekuensi). Term 1/SQRT(|s|) adalah sebuah konstanta untuk tujuan normalisasi energi, sehingga setiap signal yang ditransformasi akan mempunyai energi yang sama untuk setiap skala. psi(t) merupakan fungsi transformasi yang disebut dengan mother wavelet. Disebut demikian, karena fungsi ini menaungi semua bentuk window yang digunakan dalam proses transformasi menggunakan Wavelet Transform. Dua mother wavelet yang bisa digunakan adalah Morlet Wavelet dan Mexican Hat Function.

Morlet Wavelet didefinisikan sebagai berikut:

w(t) = exp(i*a*t)*exp(-(t^2)/(2*sigma))

dimana:
a         : parameter modulasi (pengatur)
sigma : parameter scaling

Mexican Hat Function merupakan turunan kedua dari Gaussian function

w(t) = 1/(SQRT(2*PI)*sigma^2) * exp (-(t^2)/(2*sigma^2))

yaitu

psi(t) = 1/(SQRT(2*PI)*sigma^3) * exp (-(t^2)/(2*sigma^2)) * ((t^2)/(sigma^2) – 1)

Cara penghitungan wavelet adalah dengan sistem satu dalam satu waktu, dimana untuk nilai s yang pertama adalah 1 dan nilai tau berubah dari nilai 0 sampai akhir signal. Selanjutnya nilai s ditambahkan dengan step size yang kecil dan dilanjutkan untuk tao dengan nilai yang sama dengan di atas. Demikian berlanjut sampai batas tertinggi nilai s tercapai.

Metode Wavelet banyak digunakan dalam pengolahan Citra.


Referensi Teori: SEKILAS MENGENAL WAVELET.pdf (Binus University) 


#Ars #BinusUniversity

Senin, 27 November 2017

Mengenal Lebih Jauh Algoritm Neural Network Data Preprocessing

ARSPuja Labs - Mengenal Lebih Jauh Algoritm Neural Network Data Preprocessing

Neural Network bukanlah hal baru bagi seorang Programmer atau melek IT, di mana algoritm ini sangat berperan penting dalam pengolahan data.

source: google.com

Bagian Teori Umum

- Pengertian Neural Network 

Jaringan saraf tiruan (JST) (Bahasa Inggris: artificial neural network (ANN), atau juga disebut simulated neural network (SNN), atau umumnya hanya disebut neural network (NN)), adalah jaringan dari sekelompok unit pemroses kecil yang dimodelkan berdasarkan sistem saraf manusia. JST merupakan sistem adaptif yang dapat mengubah strukturnya untuk memecahkan masalah berdasarkan informasi eksternal maupun internal yang mengalir melalui jaringan tersebut. Oleh karena sifatnya yang adaptif, JST juga sering disebut dengan jaringan adaptif.

Secara sederhana, JST adalah sebuah alat pemodelan data statistik non-linier. JST dapat digunakan untuk memodelkan hubungan yang kompleks antara input dan output untuk menemukan pola-pola pada data. Menurut suatu teorema yang disebut "teorema penaksiran universal", JST dengan minimal sebuah lapis tersembunyi dengan fungsi aktivasi non-linear dapat memodelkan seluruh fungsi terukur Boreal apapun dari suatu dimensi ke dimensi lainnya.

- Sejarah 

Saat ini bidang kecerdasan buatan dalam usahanya menirukan intelegensi manusia, belum mengadakan pendekatan dalam bentuk fisiknya melainkan dari sisi yang lain. Pertama-tama diadakan studi mengenai teori dasar mekanisme proses terjadinya intelegensi. Bidang ini disebut Cognitive Science. Dari teori dasar ini dibuatlah suatu model untuk disimulasikan pada komputer, dan dalam perkembangannya yang lebih lanjut dikenal berbagai sistem kecerdasan buatan yang salah satunya adalah jaringan saraf tiruan. Dibandingkan dengan bidang ilmu yang lain, jaringan saraf tiruan relatif masih baru. Sejumlah literatur menganggap bahwa konsep jaringan saraf tiruan bermula pada makalah Waffen McCulloch dan Walter Pitts pada tahun 1943. Dalam makalah tersebut mereka mencoba untuk memformulasikan model matematis sel-sel otak. Metode yang dikembangkan berdasarkan sistem saraf biologi ini, merupakan suatu langkah maju dalam industri komputer.

Model pada JST pada dasarnya merupakan fungsi model matematika yang mendefinisikan fungsi f : X->Y. Istilah "jaringan" pada JST merujuk pada interkoneksi dari beberapa neuron yang diletakkan pada lapisan yang berbeda. Secara umum, lapisan pada JST dibagi menjadi tiga bagian:

Lapis masukan (input layer) terdiri dari neuron yang menerima data masukan dari variabel X. Semua neuron pada lapis ini dapat terhubung ke neuron pada lapisan tersembunyi atau langsung ke lapisan luaran jika jaringan tidak menggunakan lapisan tersembunyi.
Lapisan tersembunyi (hidden layer) terdiri dari neuron yang menerima data dari lapisan masukan.
Lapisan luaran (output layer) terdiri dari neuron yang menerima data dari lapisan tersembunyi atau langsung dari lapisan masukan yang nilai luarannya melambangkan hasil kalkulasi dari X menjadi nilai Y.
Secara matematis, neuron merupakan sebuah fungsi yang menerima masukan dari lapisan sebelumnya gi(X) (lapisan ke- i). Fungsi ini pada umumnya mengolah sebuah vektor untuk kemudian diubah ke nilai skalar melalui komposisi nonlinear weighted sum, dimana f(x)=K(E wi gi(x)), K merupakan fungsi khusus yang sering disebut dengan fungsi aktivasi dan w merupakan beban atau weight.


Bagian Teori Binus University

Pendahuluan

Cabang ilmu kecerdasan buatan cukup luas, dan erat kaitannya dengan disiplin ilmu yang lainnya. Hal ini bisa dilihat dari berbagai aplikasi yang merupakan hasil kombinasi dari berbagai ilmu. Seperti halnya yang ada pada peralatan medis yang berbentuk aplikasi. Sudah berkembang bahwa aplikasi yang dibuat merupakan hasil perpaduan dari ilmu kecerdasan buatan dan juga ilmu kedokteran atau lebih khusus lagi yaitu ilmu biologi.

Neural Network merupakan kategori ilmu Soft Computing. Neural Network sebenarnya mengadopsi dari kemampuan otak manusia yang mampu memberikan stimulasi/rangsangan, melakukan proses, dan memberikan output. Output diperoleh dari variasi stimulasi dan proses yang terjadi di dalam otak manusia. Kemampuan manusia dalam memproses informasi merupakan hasil kompleksitas proses di dalam otak. Misalnya, yang terjadi pada anak-anak, mereka mampu belajar untuk melakukan pengenalan meskipun mereka tidak mengetahui algoritma apa yang digunakan. Kekuatan komputasi yang luar biasa dari otak manusia ini merupakan sebuah keunggulan di dalam kajian ilmu pengetahuan.

Fungsi dari Neural Network diantaranya adalah:

- Pengklasifikasian pola
- Memetakan pola yang didapat dari input ke dalam pola baru pada output
- Penyimpan pola yang akan dipanggil kembali
- Memetakan pola-pola yang sejenis
- Pengoptimasi permasalahan
- Prediksi

Sejarah Neural Network

Perkembangan ilmu Neural Network sudah ada sejak tahun 1943 ketika Warren McCulloch dan Walter Pitts memperkenalkan perhitungan model neural network yang pertama kalinya. Mereka melakukan kombinasi beberapa processing unit sederhana bersama-sama yang mampu memberikan peningkatan secara keseluruhan pada kekuatan komputasi.

source: binus.ac.id

Hal ini dilanjutkan pada penelitian yang dikerjakan oleh Rosenblatt pada tahun 1950, dimana dia berhasil menemukan sebuah two-layer network, yang disebut sebagai perceptron. Perceptron memungkinkan untuk pekerjaan klasifikasi pembelajaran tertentu dengan penambahan bobot pada setiap koneksi antar-network.

source: binus.ac.id

Keberhasilan perceptron dalam pengklasifikasian pola tertentu ini tidak sepenuhnya sempurna, masih ditemukan juga beberapa keterbatasan didalamnya. Perceptron tidak mampu untuk menyelesaikan permasalahan XOR (exclusive-OR). Penilaian terhadap keterbatasan neural network ini membuat penelitian di bidang ini sempat mati selama kurang lebih 15 tahun. Namun demikian, perceptron berhasil menjadi sebuah dasar untuk penelitian-penelitian selanjutnya di bidang neural network. Pengkajian terhadap neural network mulai berkembang lagi selanjutnya di awal tahun 1980-an. Para peneliti banyak menemukan bidang interest baru pada domain ilmu neural network. Penelitian terakhir diantaranya adalah mesin Boltzmann, jaringan Hopfield, model pembelajaran kompetitif, multilayer network,  dan teori model resonansi adaptif.

Untuk saat ini, Neural Network sudah dapat diterapkan pada beberapa task, diantaranya classification, recognition, approximation, prediction, clusterization, memory simulation dan banyak task-task berbeda yang lainnya, dimana jumlahnya semakin bertambah seiring berjalannya waktu.

Konsep Neural Network

1.  Proses Kerja Jaringan Syaraf Pada Otak Manusia

Ide dasar Neural Network dimulai dari otak manusia, dimana otak memuat  sekitar 1011 neuron. Neuron ini berfungsi memproses setiap informasi yang masuk. Satu neuron memiliki 1 akson, dan minimal 1 dendrit. Setiap sel syaraf terhubung dengan syaraf lain, jumlahnya mencapai sekitar 104 sinapsis. Masing-masing sel itu saling berinteraksi satu sama lain yang menghasilkan kemampuan tertentu pada kerja otak manusia.


source: binus.ac.id

Dari gambar di atas, bisa dilihat ada beberapa bagian dari otak manusia, yaitu:

Dendrit (Dendrites) berfungsi untuk mengirimkan impuls yang diterima ke badan sel syaraf.
Akson (Axon) berfungsi untuk mengirimkan impuls dari badan sel ke jaringan lain
Sinapsis berfungsi sebagai unit fungsional di antara dua sel syaraf.
Proses yang terjadi pada otak manusia adalah:

Sebuah neuron menerima impuls dari neuron lain melalui dendrit dan mengirimkan sinyal yang dihasilkan oleh badan sel melalui akson. Akson dari sel syaraf ini bercabang-cabang dan berhubungan dengan dendrit dari sel syaraf lain dengan cara mengirimkan impuls melalui sinapsis. Sinapsis adalah unit fungsional antara 2 buah sel syaraf, misal A dan B, dimana yang satu adalah serabut akson dari neuron A dan satunya lagi adalah dendrit dari neuron B. Kekuatan sinapsis bisa menurun/meningkat tergantung seberapa besar tingkat propagasi (penyiaran) sinyal yang diterimanya. Impuls-impuls sinyal (informasi) akan diterima oleh neuron lain jika memenuhi batasan tertentu, yang sering disebut dengan nilai ambang (threshold).

2.  Struktur Neural Network

Dari struktur neuron pada otak manusia, dan proses kerja yang dijelaskan di atas, maka konsep dasar pembangunan neural network buatan (Artificial Neural Network) terbentuk. Ide mendasar dari Artificial Neural Network (ANN) adalah mengadopsi mekanisme berpikir sebuah sistem atau aplikasi yang menyerupai otak manusia, baik untuk pemrosesan berbagai sinyal elemen yang diterima, toleransi terhadap kesalahan/error, dan juga parallel processing.

source: binus.ac.id

Karakteristik dari ANN dilihat dari pola hubungan antar neuron, metode penentuan bobot dari tiap koneksi, dan fungsi aktivasinya. Gambar di atas menjelaskan struktur ANN secara mendasar, yang dalam kenyataannya tidak hanya sederhana seperti itu.

1. Input, berfungsi seperti dendrite
2. Output, berfungsi seperti akson
3. Fungsi aktivasi, berfungsi seperti sinapsis

Neural network dibangun dari banyak node/unit yang dihubungkan oleh link secara langsung. Link dari unit yang satu ke unit yang lainnya digunakan untuk melakukan propagasi aktivasi dari unit pertama ke unit selanjutnya. Setiap link memiliki bobot numerik. Bobot ini menentukan kekuatan serta penanda dari sebuah konektivitas.

Proses pada ANN dimulai dari input yang diterima oleh neuron beserta dengan nilai bobot dari tiap-tiap input yang ada. Setelah masuk ke dalam neuron, nilai input yang ada akan dijumlahkan oleh suatu fungsi perambatan (summing function), yang bisa dilihat seperti pada di gambar dengan lambang sigma (∑). Hasil penjumlahan akan diproses oleh fungsi aktivasi setiap neuron, disini akan dibandingkan hasil penjumlahan dengan threshold (nilai ambang) tertentu. Jika nilai melebihi threshold, maka aktivasi neuron akan dibatalkan, sebaliknya, jika masih dibawah nilai threshold, neuron akan diaktifkan. Setelah aktif, neuron akan mengirimkan nilai output melalui bobot-bobot outputnya ke semua neuron yang berhubungan dengannya. Proses ini akan terus berulang pada input-input selanjutnya.

ANN terdiri dari banyak neuron di dalamnya. Neuron-neuron ini akan dikelompokkan ke dalam beberapa layer. Neuron yang terdapat pada tiap layer dihubungkan dengan neuron pada layer lainnya. Hal ini tentunya tidak berlaku pada layer input dan output, tapi hanya layer yang berada di antaranya. Informasi yang diterima di layer input dilanjutkan ke layer-layer dalam ANN secara satu persatu hingga mencapai layer terakhir/layer output. Layer yang terletak di antara input dan output disebut sebagai hidden layer. Namun, tidak semua ANN memiliki hidden layer, ada juga yang hanya terdapat layer input dan output saja.

#wikipedia #binusUniversity #Ars