Parallel computing adalah pengunaan
lebih dari satu CPU untuk menjalankan sebuah program secara simultan. Idealnya,
parallel processing membuat program berjalan lebih cepat karena semakin banyak
CPU yang digunakan. Tetapi dalam praktek seringkali sulit membagi program
sehingga dapat dieksekusi oleh CP yang berbeda-beda tanpa berkaitan
diantaranya. Maksudnya program dijalankan dengan banyak CPU secara bersamaan
dengan tujuan untuk membuat program yang lebih baik dan dapat diproses cepat.
Dapat diambil kesimpulan bahwa parallel processing berbeda dengan istilah
multitasking, yaitu satu CPU menangani atau mengeksekusi beberapa program
sekaligus, parallel processing dapat disebut sebagai istilah parallel computing.
Pada
dasarnya, program komputer didesain dengan menggunakan sebuah cara di mana
tidak memungkinkan parallel computing, yaitu dengan menyelesaikan setiap
langkah dalam satu waktu. Untuk program yang melakukan proses dengan cara ini
(parallel computing), maka program tersebut didesain untuk dapat membagi task
ke dalam task-task yang lebih kecil yang dapat dikerjakan secara individual.
Keuntungan
utama parallel computing adalah program dapat melakukan eksekusi secara lebih
cepat. Jika hardware komputer yang mengeksekusi sebuah program yang menggunakan
parallel computing memiliki arsitekturnya, seperti pad processor(CPU/Central
Processing Unit), parallel computing dapat menjadi sebuah teknik yang efisien.
Komputasi paralel membutuhan:
- Algoritma
- Bahasa pemrograman
- Compiler
Sumber daya komputer(computer resource) dapat terdiri
dari sebuah komputer dengan beberapa processor atau bebarapa komputer yang
terhubung oleh sebuah jaringan ataupun kombinasi antara keduanya. Processor mengakses
data melalui shared memory. Beberapa super computer parallel processing system
memiliki ratusan bahkan ribuan microprocessor.