43
Tahun Ajaran 2011/2012 Denial of Service Ethical Hacking and Countermeasures (PAI 083213) Program Studi Teknik Informatika, Unsoed Iwan Setiawan <stwn at unsoed.ac.id>

Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

Embed Size (px)

Citation preview

Page 1: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

Tahun Ajaran 2011/2012

Denial of ServiceEthical Hacking and Countermeasures (PAI 083213)

Program Studi Teknik Informatika, Unsoed

Iwan Setiawan <stwn at unsoed.ac.id>

Page 2: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Serangan Denial of Service (DoS) adalah serangan yang membuat sistem tidak dapat menyediakan layanan kepada pengguna.

Page 3: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Caranya dengan membebani sistem.(membanjiri sistem dan jaringan dengan lalu lintas “sampah”)

Page 4: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Dapat terjadi lokal atau seluruh jaringan.

Page 5: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

Serangan DoS berpengaruhpada elemen keamanan apa?

Page 6: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Availability.(ketersediaan layanan)

Page 7: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

DoS

Page 8: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

DoS

● Terdapat 2 kategori DoS.● DoS biasa/sederhana: satu sistem menyerang satu sistem target.

● DoS tersebar/Distributed DoS (DDoS): banyak sistem menyerang satu atau beberapa sistem target.

● Tujuan DoS adalah untuk menghalangi pengguna mengakses layanan pada sebuah sistem dan jaringan.

● Serangan­serangan DoS.● Membanjiri jaringan dengan lalu lintas data.● Mengganggu koneksi antar dua buah mesin.● Menghalangi pengguna tertentu untuk mengakses layanan.● Mengganggu layanan yang sedang digunakan sistem/pengguna tertentu.

● DDoS umumnya dilakukan oleh BOT dan BOTNET.

Page 9: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Membuat sistem “sibuk sendiri” ;-)

Page 10: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Efek DoS: sistem dan jaringan mati, operasional organisasi lumpuh, kerugian finansial, turunnya citra organisasi.

Page 11: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

Kevin Labianco, CC BY­NC­ND, https://secure.flickr.com/photos/kevinl8888/64076074/

Page 12: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

DoS adalah cara terakhir.(dalam proses peretasan)

Page 13: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

DDoS

Page 14: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

DDoS adalah DoS versi lanjut.(banyak sistem diminta untuk mengirim paket yang tidak

dapat ditangani oleh target, berskala besar, terkoordinasi)

Page 15: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Trinoo/trin00, Tribal FloodNetwork (TFN), TFN2K, ...

Page 16: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

DDoS

● Target utamanya adalah sistem yang layanannya akan diserang.

● Target sekundernya adalah sistem yang digunakan untuk menyerang.● Berjumlah banyak dan disebut dengan zombie atau BOT.● Dikuasai terlebih dulu oleh penyerang.● Umumnya tersebar di beberapa tempat dengan lokasi dan 

alamat IP yang berbeda.

● Tiga komponen DDoS: master/handler, target sekunder/slave/zombie/agent, dan target utama.

Page 17: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

Page 18: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

Page 19: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

Page 20: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

BOT/BOTNET

Page 21: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Fase DDoS

● Secara umum terdiri dari 2 fase.● Fase penyusupan komputer yang akan dijadikan zombie/slave 

dan menguasainya. Penyerang memasang program DDoS.● Fase penyerangan dengan meminta banyak zombie untuk 

menyerang sistem target.

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

BOT/BOTNET

Page 22: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

BOT/BOTNET

● Dari kata roBOT, secara umum adalah program yang dapat dikendalikan secara otomatis dan cerdas. ● Dapat pula berarti sistem yang telah terpasang program BOT.

● Dikenal di layanan IRC. BOT IRC menerima perintah dan menyediakan layanan seperti status pengguna, merekam pembicaraan di kanal tertentu, kuis, dll.

● Sebagian BOT adalah program yang berjalan di web, seperti web crawler atau spider.

● Sebagian yang lain digunakan untuk bermain gim, serta menyediakan layanan pada pengguna melalui pesan instan, dan lain­lain.

● Dapat digunakan untuk mengirimkan spam dan pengendusan data.

● BOTNET adalah kumpulan sistem BOT. Dalam DDoS, BOTNET adalah kumpulan sistem yang telah dikuasai oleh penyerang, dan digunakan untuk melakukan serangan.

Page 23: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

10 BOT?

Page 24: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

100 BOT?

Page 25: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

1000 BOT?

Page 26: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

Page 27: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Worm Apache/mod_ssl (2002)

● Berkas sumber worm ada di direktori /tmp: .uubugtraq, .bugtraq.c, dan .bugtraq.

● Memindai port 80/tcp.● Menyebar melalui koneksi 443/tcp.● DDoS. Sistem akan mengirim atau menerima datagram 

pada porta sumber dan tujuan 1978/udp, 2002/udp, atau 4156/udp, yang merupakan kanal komunikasi antar sistem yang terinfeksi untuk mengkoordinasikan serangan pada beberapa situs target.

● Baca https://cert.org/advisories/CA­2002­27.html.

Page 28: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

Ping of Death

Page 29: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Ping of Death

● Mengirim paket IP dengan ukuran lebih dari yang diijinkan, yaitu 65.536 bita.

● Fragmentasi membuat paket IP dapat dibagi menjadi bagian­bagian kecil.

● Potongan­potongan tersebut dapat bertambah melebihi ukuran 65.536 bita, sehingga dapat membuat sistem hang, reboot, atau crash.

● Dapat dikombinasikan dengan alamat IP palsu.● Ping of Death tinggal kenangan ;­)

Page 30: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

Serangan Smurf

Page 31: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Page 32: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

EC­Council. 2008. Module XIV: Denial of Service, Ethical Hacking and Countermeasures Version 6.

Page 33: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Serangan Smurf

● Serangan smurf: pengiriman ICMP Echo (ping) dalam jumlah banyak ke alamat IP broadcast dengan alamat sumber target yang dipalsukan (spoofed).

● Setiap komputer yang berada di dalam jaringan akan membalas permintaan ICMP Echo dengan balasan Echo.

● Terjadi peningkatan jumlah lalu lintas balasan Echo sesuai dengan jumlah komputer yang merespon ;­)

● Dalam jaringan broadcast multi­access, ratusan mesin akan membalas setiap paket ICMP Echo.

● Muncul serangan DoS dari balasan ping yang semakin banyak.

● Peladen IRC adalah salah satu target serangan smurf di Internet.

Page 34: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

SYN Flood

Page 35: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

1

A B

Page 36: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

1

A B

2

Page 37: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide

1

A B

2

3

Page 38: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

SYN Flood (1)

● Serangan SYN flood: pengiriman permintaan koneksi TCP yang banyak dan lebih cepat dari kemampuan pemrosesan komputer target.

● Penyerang membuat alamat sumber acak untuk setiap paket dan flag SYN diset untuk meminta koneksi TCP baru dari banyak alamat IP palsu (spoofed).

● Mesin target akan merespon (SYN/ACK) ke banyak alamat palsu dan menunggu konfirmasi balik (ACK) yang tak akan pernah muncul.

● Tabel koneksi target akan penuh dengan status menunggu konfirmasi balik (ACK), sehingga koneksi­koneksi baru akan diabaikan, termasuk dari pengguna valid yang ingin meminta layanan.

Page 39: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

SYN Flood (2)

● Serangan SYN flood dapat dideteksi dengan perintah netstat. Lihat status SYN_RECV pada perintah `netstat ­n ­p tcp`.

● Beberapa metode yang dapat digunakan untuk mencegah serangan SYN flood.● SYN Cookies: memastikan peladen tidak mengalokasikan sumber daya sistem 

sampai proses three­way handshake lengkap.

● RST Cookies: peladen akan merespon SYN dengan SYN/ACK yang keliru. Ketika klien membalas dengan RST, maka peladen tahu bahwa klien valid, dan akan menerima permintaan koneksi normal.

● Micro Blocks: mencegah SYN flood dengan mengalokasikan ruang yang kecil di memori untuk rekaman koneksi, ~16 bita.

● Stack Tweaking: mengubah tumpukan/stack TCP/IP dengan mengurangi koneksi yang datang atau mengurangi timeout secara selektif ketika sistem mencoba membebaskan memori untuk alokasi rekaman koneksi baru.

Page 40: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 

Penanggulangan DDoS

Page 41: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

EC­Council. 2008. Module XIV: Denial of Service, Ethical Hacking and Countermeasures Version 6.

Page 42: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Penanggulangan DDoS

● Ingress Filtering: menerapkan teknik penyaringan untuk memastikan paket yang datang memang dari jaringan yang bersangkutan. Membutuhkan implementasi di semua penyedia akses jaringan. Kebanyakkan IDS, dingap, dan router memiliki kemampuan ini.

● Membatasi laju lalu lintas jaringan: dengan pembatasan jumlah lebar pita untuk beberapa kasus di router (traffic shaping).

● Pemasangan IDS: untuk mendeteksi komunikasi antar komponen DDoS. Perlu pemutakhiran basis data IDS.

● Alat pelacak jaringan otomatis: melacak aliran paket yang mempunyai alamat palsu (spoofed) melalui jaringan. Menghabiskan waktu banyak dan perlu kerja sama penyedia layanan jaringan lain saat serangan terjadi.

● Alat audit sistem dan jaringan: pemindaian sistem berkas dan jaringan terhadap program DDoS yang terpasang.

Page 43: Denial of Service - ee.unsoed.ac.idstwn/kul/pai083213/ethack-2012-07.pdfDoS biasa/sederhana: satu sistem menyerang satu sistem target. DoS tersebar/Distributed DoS (DDoS): banyak sistem

 Ethical Hacking and Countermeasures  (PAI 083213) ­ Program Studi Teknik Informatika, Unsoed

Daftar Bacaan

● EC­Council. 2008. Module XIV: Denial of Service, Ethical Hacking and Countermeasures Version 6

● Graves, K. 2010. CEH: Certified Ethical Hacker Study Guide, Sybex