Hlavním rysem von Neumannovy architektury je společná paměť pro instrukce i data. Nejstarší počítací zařízení měla programy pevně zabudované v hardwaru. Proto nový software  často znamenal částečnou nebo úplnou změnu hardwaru zařízení. To překonala von Neumannova architektura svým novým modelem počítače.

V této architektuře řídící jednotka zpracovává jednotlivé instrukce uložené v paměti. Provádění těchto instrukcí

je svěřeno aritmeticko-logické jednotce. Vstup programů a dat zajišťují vstupní jednotky, výstup dat pak zajišťují výstupní jednotky.