Prvi računalniki v petdesetih letih niso imeli operacijskih sistemov. Programer je moral pri pisanju programa poskrbeti za celotno delovanje računalnika med izvajanjem njegovega programa, tudi za nadzor nad sistemskimi sredstvi. Izkazalo se je, da je veliko programerjev opravilo isto delo, saj je vsak zase moral sprogramirati celoten računalnik. To je veljalo predvsem za vhodno/izhodne operacije, kot je bilo branje podatkov z magnetnega traku ali izpis na tiskalnik. Prav tako je veliko programerjev sprogramiralo nekaj najpogosteje izvajanih operacij, kot so matematične funkcije ali operacije z nizi. Da se delo ne bi več podvajalo, so najpogosteje uporabljane operacije shranili in so bile na voljo vsem programerjem na računalniku. Take shranjene zbirke operacij lahko štejemo za predhodnike sodobnih operacijskih sistemov. Pozneje so izdelovalci računalnikov operacijski sistem vgradili že v sam računalnik. Prvi operacijski sistemi so bili povsem prilagojeni uporabnikom računalnika,
tako da operacijski sistemi v različnih računalnikih iste vrste niso bili združljivi med sabo.

prvi elektro-mehanski računalnik

V šestdesetih letih je IBM predstavil družino računalnikov System/360. Gre za prvo družino računalnikov, kjer je bila postavljena jasna meja med arhitekturo in izdelkom, kar pomeni, da so vsi računalniki, ki so temeljili na arhitekturi 360, imeli enak nabor strojnih ukazov. V vsak računalnik je bil tako lahko nameščen operacijski sistem OS/360, programi med posameznimi računalniki pa so bili povsem prenosljivi. Pri razvoju OS/360 se je IBM ubadal z nemalo težavami, saj so bili posamezni modeli računalnikov iz družine 360 med sabo zelo različni. System/360 je uvedel kopico standardov, ki se v računalništvu uporabljajo še danes: osem bitov dolg bajt, 32-bitne besede, naslavljanje pomnilnika po bajtih (namesto po besedah) in disketno enoto. Operacijski sistem System/360 še vedno živi v današnjih sodobnih IBMovih operacijskih sistemih: v operacijskem sistemu z/OS, ki je združljiv z Unixom in teče na IBMovih strežnikih zSeries, še vedno lahko poganjamo vse programe, pisane za System/360.

Naslednji večji mejnik v razvoju operacijskih sistemov je razvoj Unixa. Razvili so ga trije inženirji v podjetju AT&T Bell Labs: Ken Thompson, Dennis Ritchie in J. F. Ossanna. Bell Labs je že v šestdesetih letih razvijal operacijski sistem Multics, s katerim naj bi zanesljivo in učinkovito podeljevali računalniški čas v velikih računalnikih posameznim projektom. Po večletnem razvoju so stroški razvoja Multicsa narasli, rezultatov pa ni bilo, tako da so projekt leta 1969 opustili. Trije programerji, ki so sodelovali pri razvoju Multicsa, so želeli začeti znova, vendar jim v Bell Labs niso dovolili uporabljati službenega računalnika za še en, po njihovem mnenju propadel projekt. Za druge projekte pa so dobili na voljo za Bell Labsove razmere dokaj skromen računalnik PDP-7, za katerega je Ken Thompson napisal preprosto igro. Skupaj z Ritchijem sta napisala tudi preprost vmesnik za shranjevanje rezultatov in nastavitev. Vmesnik je za zapisovanje podatkov uporabljal sebi lasten datotečni sistem. Vmesnik za shranjevanje podatkov so razvijali naprej in nastala je osnova, iz katerega se je razvil Unix. Pri prenosu podatkov na novejši PDP-11 pa je prišlo do težav: PDP-7 in PDP-11 nista bila med sabo združljiva. Thompson, Ritchie in Ossanna so zato operacijski sistem napisali v programskem jeziku C, ki so ga v ta namen sami razvili, napisali pa so tudi prevajalnik za C za PDP-7 in PDP-11.
Tako je Unix postal prvi operacijski sistem, ki so ga prenesli z ene arhitekture na drugo, kar je bilo v tistih časih nezaslišano.

Konec sedemdesetih in v začetku osemdesetih let so postali zelo priljubljeni osembitni hišni računalniki, kot sta ZX Spectrum in Commodore 64. Ti računalniki so bili v osnovi brez operacijskega sistema, saj so imeli v ROM (nespemenljivi bralni pomnilnik) vgrajen jezik BASIC, s katerim je uporabnik lahko izvajal tudi osnovne vhodno izhodne operacije, kot so dostop do zunanjih pomnilnikov in nalaganje programov. Zanje so bili sicer na voljo operacijski sistemi, kot sta CP/M in GEOS, ker pa je šlo za naprave, namenjene predvsem zabavi, ne pa resnemu delu, je večina uporabnikov teh računalnikov za delo uporabljala kar vgrajeni BASIC.

Z razvojem mikroprocesorjev je bila na trgu na voljo cela vrsta računalnikov različnih izdelovalcev, ki so uporabljali nekatere standardne sestavne dele ter vmesnike in vodila za njihovo priključevanje. Zato se je rodila potreba po nekem standardnem operacijskem sistemu, s katerim bi lahko krmilili vse tovrstne, med sabo ne povsem združljive naprave. Tej vlogi se je najbolj približal sistem CP/M podjetja Digital Research, namenjen procesorjem 8080, 8085 in Z-80. CP/M je tekel v različnih računalnikih, združljivost med posameznimi modeli pa je Digital Research dosegel z razdelitvijo operacijskega sistema na dva dela: prvi, BDOS (Basic Disk Operating System), je nize iz ukazne vrstice pretvarjal v zaporedje visokonivojskih ukazov. To zaporedje je potem poslal v obdelavo drugemu delu, imenovanemu BIOS (Basic Input/Output System), in ta jih je prevedel v strojni jezik. Prenos CP/Ma na novo arhitekturo je bil tako precej olajšan, saj je bilo treba na novo napisati samo BIOS, medtem ko je preostanek operacijskega sistema ostal enak. Programi za CP/M so bili tako povsem prenosljivi med računalniki z različno strojno opremo. CP/M so v Digital Research razvili tudi za 16-bitne računalnike: CP/M-68k je bil napisan za Motorolo 68000 in je postal standardni operacijski sistem za Atarijeve računalnike ST, medtem ko je bil CP/M-86 napisan za Intelova procesorja 8086 in 8088 in Digital Research je bil na najboljši poti, da CP/M-86 postane standardni operacijski sistem za novi IBMov računalnik PC. Zaradi nekaj manjših pravnih zapletov in nerodnosti s strani Digital Researchove uprave se je IBM na koncu odločil za CP/Mu podoben sistem DOS podjetja Microsoft.