Paradigma Komputer Paralel

[Ke Urutan Pembelajaran Paralel]

Menurut T.G.Lewis, komputer paralel dikelompokkan menjadi :

TG_Lewis

Synchronous :

  • Pada komputer paralel yang termasuk dalam kategori ini terdapat koordinasi yang mengatur beberapa operasi untuk dapat berjalan bersamaan sedemikian hingga tidak ada ketergantungan antar operasi.
  • Parallelism yang termasuk dalam kategori ini adalah vector/array parallelism, SIMD dan systolic parallelism.
  • Systolic parallel computer adalah multiprocessor dimana data didistribusikan dan dipompa dari memory ke suatu array prosesor sebelum kembali ke memory.

Asynchronous :

  • Pada komputer paralel asynchronous, masing-masing prosesor dapat diberi tugas atau operasi yang berbeda-beda dan masing-masing prosesor melaksanakan operasi tersebut secara sendiri-sendiri tanpa perlu koordinasi.
  • Paradigma yang juga termasuk dalam kategori ini adalah MIMD dan reduksi.
  • Paradigma reduksi adalah paradigma yang berpijak pada konsep graph reduksi. Program dengan model reduksi diekspresikan sebagai graph alur data. Komputasi berlangsung dengan cara mereduksi graph dan program berhenti jika graph akhirnya tinggal mempunyai satu simpul saja.

MICHAEL J. QUINN  membedakan paralelism dalam dua jenis :
Data Parallelism dan Control Parallelism.

  • Data Parallelism : penerapan operasi yang sama secara simultan terhadap elemen-elemen dari kumpulan data.
  • Control Parallelism : penerapan operasi-operasi berbeda terhadap elemen-elemen data yang berbeda secara bersamaan. Pada control parallelism memungkinkan terjadinya aliran data antar proses dan kemungkinan terjadi aliran data yang kompleks/rumit. Pipeline merupakan satu kasus khusus dari control parallelism dimana aliran data membentuk jalur yang sederhana.

Controled_Paralelism

M. J. FLYNN.
Pengklasifikasian oleh Flynn, dikenal sebagai Taksonomi Flynn yang membedakan komputer paralel ke dalam empat kelas berdasarkan konsep aliran data (data stream) dan aliran instruksi (instruction stream), yaitu : SISD, SIMD, MISD, MIMD.

SISD (Single Instruction stream, Single Data stream)

  • Komputer tunggal yang mempunyai satu unit kontrol, satu unit prosesor dan satu unit memori.

BaganSISD

SIMD  (Single Instruction Multiple Data stream)

  • Komputer yang mempunyai beberapa unit prosesor di bawah satu supervisi satu unitcommon control. Setiap prosesor menerima instruksi yang sama dari unit kontrol, tetapi beroperasi pada data yang berbeda.

BaganSIMD

MISD (Multiple Instruction Single Data stream)

  • Sampai saat ini struktur ini masih merupakan struktur teoritis dan belum ada komputer dengan model ini.

BaganMISD

MIMD (Multiple Instruction Multiple Data stream)

  • Organisasi komputer yang memiliki kemampuan untuk memproses beberapa program dalam waktu yang sama. Pada umumnya multiprosesor dan multikomputer termasuk dalam kategori ini.

BaganMIMD

[Ke Urutan Pembelajaran Paralel]

Terminologi Pemrosesan Paralel

[Ke Urutan Pembelajaran Paralel]

Pemrosesan Paralel (Parallel Processing)

  • Pemrosesan Paralel adalah pemrosesan informasi yang menekankan pada manipulasi secara serentak pada elemen-elemen data di satu atau lebih prosesor untuk memecahkan sebuah masalah.
  • Dimaksudkan untuk mempercepat komputasi dari sistem komputer dan menambah jumlah keluaran yang dapat dihasilkan dalam jangka waktu tertentu

Komputer Paralel

  • Komputer yang memiliki kemampuan untuk melakukan pengolahan paralel

Super Komputer

  • Sebuah general-purpose computer yang mampu menyelesaikan problem dengan kecepatan komputasi sangat tinggi.
  • Semua superkomputer kontemporer adalah komputer paralel. Beberapa di antaranya memiliki prosesor yang sangat kuat dalam jumlah yang relatif sedikit, sementara yang lainnya dibangun oleh mikroprosesor tetapi dalam jumlah yang cukup besar.

Throughput

  • Banyaknya keluaran yang dihasilkan per unit waktu
  • Peningkatan Throughput artinya :
    • Meningkatkan kecepatan operasi
    • Meningkatkan jumlah operasi yang dapat dilakukan
      dalam satu waktu tertentu (concurency)

Pipeline

  • Pada komputasi pipelined, komputasi dibagi ke dalam sejumlah langkah yang masing-masing disebut sebagai segmen, atau stage. Output dari sebuah segmen menjadi input segmen yang lain.

Data Parallelism

  • pemakaian unit multifungsi untuk melakukan operasi yang sama secara serentak terhadap sekumpulan data.

Speedup / Percepatan

Rasio/perbandingan antara terhadap waktu yang diperlukan untuk bagi algoritma yang sekuensial yang paling efisien dengan waktu yang diperlukan  untuk menjalankan operasional yang sama pada komputer paralel.

[Ke Urutan Pembelajaran Paralel]

Pengenalan dan Latar Belakang Komputasi dan Algoritma Paralel

[Ke Urutan Pembelajaran Paralel]

Pada terdahulu, teori-teori ilmu klasik dikembangkan berdasarkan obeservasi, teori dan experience/pengalaman.

  • Dari observasi yang dilakukan pada fenomena tertentu akan dihasilkan suatu hipotesa
  • Teori-teori dikembangkan untuk menerangkan fenomena
  • Dan akhirnya menggunakan Design Experimen untuk menguji teori nya. (Biasanya sering dilakukan secara fisik, dan berbiaya mahal, terkadang waktu yang lama dan tidak etis)

Saat ini Experimen lebih banyak dilakukan secara simulasi numerik, sehingga membutuhkan konstruksi komputasi yang sangat kuat. Baik fisik mesin komputer yang digunakan maupun algoritma yang paling efisien . Ukuran komputasi yang semakin meningkat secara significant akhirnya tidak dapat lagi dilakukan dengan hanya menggunakan komputer dengan single processor, tapi sudah memerlukan dukungan mesin komputasi yang memiliki lebih dari satu prosessor.

Contoh kebutuhan akan komputer paralel :

Oceanographer pada Oregon State University akan mensimulasikan secara numerik sirkulasi global dari samudra dengan membagi laut sebagai berikut:

  • 4096: dari timur ke barat
  • 1024 dari utara ke selatan
  • 12 lapisan laut

Hal ini berarti membutuhkan 4096 X 1024 X 12 ? ± 50 juta sel matrik. Jika setiap bagian (iterasi) butuh 10 menit dengan 30 milyar kalkulasi floating point maka tentu memerlukan komputer yang EXTREMELY HIGH SPEED

[Ke Urutan Pembelajaran Paralel]