Ein Parallelrechner ist ein Mehrprozessor- oder Multiprozessorsystem mit MIMD-Rechnerarchitektur, Multiple Instruction Multiple Data (MIMD), dessen Prozessoren gleichzeitig ein Programm abarbeiten.
Parallelrechner arbeiten nach dem Prinzip der Arbeitslastteilung und sind ideal für die Verarbeitung großer Datenmengen. Eingesetzt werden sie u.a. in High Performance Computern ( HPC). Jede Funktionseinheit eines Parallelrechners arbeitet parallel einen Programmteil ab. Dabei sind die Aufgabenverteilung und die Synchronisation wichtige Aspekte für die Rechenleistung.
Die Parallelverarbeitung kann durch "n" Prozessoren erfolgen, wobei sich die Rechengeschwindigkeit mit der Anzahl der Prozessoren verkürzt. Theoretisch beträgt die Rechenzeit mit n Prozessoren nur 1/n.
Es gibt eine weitere Rechnerarchitektur bei der mehrere Befehle gleichzeitig parallel abgearbeitet werden und das den klassischen Von-Neumann-Rechner ablösen könnte: Explicit Multi-Threading ( XMT), ein von der Universität Maryland entwickeltes Konzept bei dem die Aufgaben für die einzelnen Prozessoren der Mehrkernprozessoren nicht durch das Betriebssystem verteilt werden, sondern hardwaremäßig durch einen Prozessor.