Membuat dan Menjalankan Aplikasi Apache Spark dengan Intellij IDEA pada OS Windows

    Pada artikel "Apache Spark: Perangkat Lunak Analisis Terpadu untuk Big Data" telah diperkenalkan secara singkat tentang apa itu Apache Spark dan kegunaannya. Kali ini kita akan mencoba untuk membuat dan menjalankan sebuah aplikasi Spark sederhana dengan sumber data dari Hadoop yang telah di-install dengan mode standalone pada OS Windows.
Tutorial ini menggunakan Windows 10 dan Software berikut:
  3. IDE Intellij IDEA; download dari https://www.jetbrains.com/idea/
    Sebelum mulai install Spark, jalankan Hadoop yang sudah diinstall. Buat direktori di Hadoop yang akan digunakan untuk menyimpan file teks yang akan diproses menggunakan Apache Spark. Gunakan perintah berikut:
    hdfs dfs -mkdir /tmp/input
    Kemudian, copy file teks dari drive lokal ke Hadoop dan pastikan file tersebut sudah benar-benar dikopi ke direktori Hadoop yang telah dibuat. Gunakan perintah berikut:
    hdfs dfs -copyFromLocal C:\tmp\intellij-projects\TextSearch\input\borobudur.txt /tmp/input/borobudur.txt
    hdfs dfs -ls /tmp/input

Langkah-langkah Install Apache Spark pada OS Windows :
  1. Download Spark dari http://spark.apache.org/downloads.html dan pastikan untuk mengunduh Spark yang kompatibel dengan versi Hadoop yang digunakan. Pada tutorial ini digunakan Apache Spark-2.3.1 (jadi kita unduh file spark-2.3.1-bin-hadoop2.7.tgz ) dari laman download Apache Spark.

  2. Ekstrak file tersebut ke C:\spark-2.3.1-bin-hadoop2.7
  3. Unduh file winutils.exe dari https://github.com/wmwijaya/hadoop2-standalone-windows7-windows10/tree/master/bin dan taruh file tersebut di direktori C:\spark-2.3.1-bin-hadoop2.7\bin
  4. Pada Environtment Variables > System Variables OS Windows, buat System Variables SPARK_HOME dengan value C:\spark-2.3.1-bin-hadoop2.7
  5. Edit System Variable > Path dan tambahkan C:\spark-2.3.1-bin-hadoop2.7\bin
  6. Test Apache Spark: buka Command Prompt Windows, kemudian eksekusi perintah spark-shell.cmd
    Catatan: cara edit Environment Variables > System Variables OS Windows ada di Cara Sederhana Install Hadoop 2 mode Standalone pada Windows 7 dan Windows 10
Langkah-langkah membuat dan menjalankan aplikasi Spark dengan Intellij IDEA pada OS Windows :
  1. Start Intellij IDEA as Administrator
  2. Buat Maven Project dari menu File > New > Project > Maven ( silakan ikuti sesuai gambar, kemudian terakhir klik Finish ):


  3. Muat Spark Library dari menu File > Project Structure > Modules > Dependencies > + > 1 JARs or directories…
  4. Buat Java Package "textsearch" dengan klik kanan TextSearch > src > main > java > New > Package
  5. Buat Java Class "TextSearch.java" dengan klik kanan TextSearch > src > main > java > textsearch > New > Java Class
  6. Buka TextSearch.java, kemudian copy-paste source code TextSearch.java dari GitHub TextSearch
  7. Edit konfigurasi untuk menjalankan program TextSearch dari menu Run > Edit Configuration… > + > Application
  8. Jalankan aplikasi dari menu Run > Run 'TextSearch' ( hasilnya seperti pada gambar ):
Demikian, selamat mencoba!

Komentar

Posting Komentar

Postingan populer dari blog ini

Metode Analisis PIECES

Menurut Wukil Ragil (2010:17), metode PIECES adalah metode analisis sebagai dasar untuk memperoleh pokok-pokok permasalahan yang lebih spesifik. Dalam menganalisis sebuah sistem, biasanya akan dilakukan terhadap beberapa aspek antara lain adalah kinerja, informasi, ekonomi, keamanan aplikasi, efisiensi dan pelayanan pelanggan. Analisis ini disebut dengan PIECES Analysis ( Performance, Information, Economy, Control, Eficiency and Service ). Analisis PIECES ini sangat penting untuk dilakukan sebelum mengembangkan sebuah sistem informasi karena dalam analisis ini biasanya akan ditemukan beberapa masalah utama maupun masalah yang bersifat gejala dari masalah utama. Metode ini menggunakan enam variable evaluasi yaitu : 1.       Performance (kinerja) Kinerja merupakan variable pertama dalam metode analisis PIECES . Dimana memiliki peran penting untuk menilai apakah proses atau prosedur yang ada masih mungkin ditingkatkan kinerjanya, dan melihat sejauh mana dan seberapa handalkah suatu siste
Baca selengkapnya

Aritmetika Bilangan Jam dan Operasi Hitungnya

Gambar
Aritmetika Bilangan Jam dan Operasi Hitungnya          Materi pelajaran matematika yang akan dijabarkan pada postingan Rumus Matematika Dasar kali ini adalah mengenai Bilangan Jam. Bilangan jam adalah sebuah konsep perhitungan yang didasarkan kepada bilangan atau angka-angka yang diletakkan pada sebuah jam dengan aturan tertentu. Jika pada umumnya kita melihat angka pada sebuah jam berjumlah 12 dimulai dari angka 1 sampai dengan 12 maka pada bilangan jam jumlah angkanya berbeda-beda bergantung pada bentuk bilangan dari jam tersebut. Angkanya pun tidak dimulai dari 1 (satu) melainkan dimulai dari 0 (nol). Untuk lebih jelasnya coba perhatikan gambar tiga buah jam berikut ini:       Dari ketiga gambar jam di atas, kita dapat melihat bahwa pada jam empatan, hanya terdapat empat buah angka dimana angka terendah adalah 0 dan angka tertinggi adalah 3, sehingga anggota himpunan pada jam empatan adalah {0, 1, 2, 3).     Kemudian pada jam enaman, ada enam buah dimulai dari an
Baca selengkapnya

Kerajaan Singasari

Gambar
Kerajaan Singasari berdiri pada tahun 1222. Kerajaan ini didirikan oleh Ken Arok. Ia mendirikan Singasari setelah mengalahkan Kerajaan Kediri pada pertempuran di Ganter. Kerajaan Singasari terletak di antara Kota Lawang - Malang, Jawa Timur. Ken Arok adalah pembentuk dinasti Rajasa sebagai raja yang memiliki pengaruh di kerajaannya. Ia berusaha mempertahankan keberadaan Singasari atas keturunannya sendiri. Tohjoyo direncanakan sebagai penggantinya. Namun, sebelum rencananya terwujud terjadi kemelut dalam kerajaan. Anusapati (anak Tunggul Ametung) membunuh Ken Arok melalui orang upahan. Setelah mengetahui bapaknya dibunuh, Tohjoyo lalu membunuh Anusapati pada tahun 1248. Rencana balas dendam antar keturunan terus berlanjut. Tohjoyo pun mengalami nasib yang sama. Ia dibunuh oleh keturunan Anusapati. Akhirnya, pada tahun 1268 Wisnuwardhana memerintah di Kerajaan Singasari. Mulai masa itulah kerajaan ini berhenti bertikai dengan bantuan Mahesa Campaka. Mahesa Cempaka adalah saudara seayah
Baca selengkapnya