Die Verkleinerung der Geräte und der ständig steigende Integrationsgrad von Chips haben dazu geführt, dass ganze Systeme mit Prozessoren, Controllern, Speicherbausteinen und anderen Komponenten auf einem Chip untergebracht sind. Diese Entwicklungsstufe bilden die System-on-Chips (SoC). Die Entwicklungsstufe ist durch interne Bus-Architekturen geprägt über die die einzelnen Komponenten miteinander kommunizieren. Die Bus-Technologie kann nur eine begrenzte Anzahl an Komponenten hinreichend effizient unterstützen und hat zudem für die einzelnen Komponenten ein nicht vorhersagbares Verhalten, da viele andere Komponenten den internen Bus nutzen. Aus den genannten und weiteren Gründen, die in der Physik, der Architektur und dem Betriebssystem liegen, wurden in den 90er Jahren erste Forschungen hin zum Network-on-Chip (NoC) vorangetrieben.

Die Bezeichnung Network-on-Chip umfasst die Hardware-Infrastruktur, die Middleware, Kommunikationsservices und das Betriebssystem, die Design-Technologien und die Abbildung von Anwendungen auf der NoC-Plattform. NoCs unterstützen mehrere asynchrone Taktimpulse, sie kombinieren die Netzwerktheorie mit systematischen Netzwerkmethoden zu einer On-Chip-Kommunikation, sie verbessern die Skalierbarkeit und führen zu einer wesentlichen Leistungsverbesserung gegenüber den System-on-Chips. Im Gegensatz zu System-on-Chips tauschen die einzelnen Prozessoren, Speicher, Controller und andere Komponenten ihre Informationen nicht über einen internen Bus, sondern über über geschichte Bus-Architekturen, über Netzwerke und Switches. Wobei die Informationen auf dem Weg von der Quellkomponente zur Empfangskomponente als Punkt-zu-Punkt- oder Mehrpunktverbindung über mehrere Links geschaltet werden kann. Und zwar, wie bei einem Netzwerk, mittels Routing.

Prinzipiell ist ein Network-on-Chip vergleichbar einem Netzwerk mit Switching oder Paketvermittlung über gemultiplexte Links.