Il kernel Linux vide la luce nell'agosto 1991 grazie al giovane studente finlandese Linus Torvalds che, appassionato di programmazione, era insoddisfatto del sistema operativo Minix (sistema operativo unix-like destinato alla didattica, scritto da Andrew Tanenbaum, professore ordinario di Sistemi di rete all'università di Amsterdam), poiché supportava male la nuova architettura i386 a 32 bit, all'epoca tanto economica e popolare. Così Torvalds decise di creare un kernel unix con lo scopo di divertirsi e studiare il funzionamento del suo nuovo computer, che era un 80386.

Il sistema operativo basato sul kernel programmato da Torvalds, chiamato Linux, per girare utilizzava inizialmente, oltre al kernel di Torvalds, lo userspace di Minix. Successivamente, Linus decise di rendere il sistema indipendente da Minix, anche perché non ne gradiva la licenza che lo rendeva liberamente utilizzabile solo a fini didattici, e decise quindi di sostituire quella parte del sistema operativo col software del progetto GNU. Per fare ciò, Torvalds cambiò la licenza e adottò la GPL, che tra l'altro considerava buona per il suo sistema operativo a prescindere dal software GNU stesso.

Linux era all'inizio un semplice emulatore di terminale scritto in C e assembly, e non aveva bisogno di appoggiarsi a un sistema operativo. L'emulatore di terminale avviava e gestiva due thread: uno per mandare segnali alla porta seriale e uno per riceverli; quando poi Linus ebbe bisogno di leggere e scrivere file su disco, questo emulatore fu esteso in modo che potesse gestire un file system. Lentamente, questo programma si trasformò in un intero kernel in grado di gestire un sistema operativo e Linus iniziò a documentarsi sulle specifiche POSIX, chiedendo assistenza sul newsgroup. La prima versione del kernel Linux, la 0.01, fu pubblicata su Internet il 17 settembre 1991 e la seconda nell'ottobre dello stesso anno.

Torvalds preferiva chiamare Freax il kernel a cui stava lavorando, ma Ari Lemmke, assistente alla Helsinki University of Technology che gli aveva offerto lo spazio FTP per il progetto (ftp.funet.fi), preferì assegnare alla subdirectory dedicata il nome alternativo di lavorazione Linux.

Sin dalla versione 0.01 si poteva compilare e far partire la shell GNU Bash. Fino alla versione 0.10 era richiesto un computer con Minix per configurare, compilare e installare Linux perché quest'ultimo usava il filesystem del sistema sul quale si appoggiava; dalla versione 0.11 poteva essere compilato da Linux stesso. Presto i sistemi Linux superarono Minix in termini di funzionalità: Torvalds e altri sviluppatori della prima ora di Linux adattarono il loro kernel perché funzionasse con i componenti GNU e i programmi in user-space per creare un sistema operativo completo, pienamente funzionante e libero.

Il 12 marzo 1994 il 16º livello di patch del kernel 0.99 divenne Linux 1.0. Fu lo stesso Linus Torvalds a presentare la prima versione stabile all'Università di Helsinki.

Nella primavera del 1992 l'hacker Orest Zborowski riuscì a rendere eseguibile il server X sulla versione 0.12 di Linux. Per far ciò, Orest dovette implementare tutta la struttura degli Unix Domain Socket indispensabili a X Window e quindi un primo livello socket sul quale venne poi costruita tutta l'infrastruttura di rete di Linux.

In realtà, il tutto era imbastito in maniera un po' caotica e non era ben integrato all'interno del kernel, ma Linus accettò comunque la patch perché con essa era possibile sia utilizzare X, sia utilizzare tale infrastruttura per dotare Linux di uno stack di rete.

Entusiasta della novità, Linus rilasciò, dopo la versione 0.13, la versione 0.95, senza pensare a tutti i problemi di sicurezza che la rete avrebbe comportato. Per rimediare alla leggerezza, nei due anni che trascorsero dalla 0.95 alla 1.0, Linus dovette utilizzare sia un ulteriore numero per indicare il livello di patch sia le lettere dell'alfabeto (sino alla versione 0.99.15Z, 0.99 15º livello di patch, revisione Z).
Gli ambienti desktop e gli anni 2000
Desktop KDE SC 4.10

Nel 1996 fu scelto come logo ufficiale di Linux un pinguino disegnato da Larry Ewing, chiamato Tux come abbreviazione di Torvalds Unix.

Il compito di fornire un sistema integrato, che combini tutte le componenti di base con le interfacce grafiche (come per esempio GNOME o KDE, basate a loro volta sulla presenza dell'X Window System) e con il software applicativo, è svolto dalle distribuzioni GNU/Linux.

Per quanto riguarda il kernel vero e proprio, Torvalds già nel settembre 2009 dichiarò che esso è diventato "gonfio e grosso", non così veloce e scattante come quando l'aveva progettato. Riconosce, però, che questo "ingrassamento" non va visto solo come una cosa negativa, perché significa che Linux ha molta più compatibilità rispetto al passato.

Nel luglio del 2011, per festeggiare il 20º anniversario della nascita di Linux, Torvalds decise di rilasciare il kernel Linux, passando ad un sistema di numerazione a 2 cifre, pubblicando la versione 3.0 del kernel. L'ultima release della serie 2.6 è stata la 2.6.39. Il 12 aprile 2015 è stata pubblicata la versione 4.0 che oltre a risoluzioni di bug aggiunge supporto a nuovo hardware (come intel quark) e le live patching, ovvero la possibilità di aggiornare il kernel e aggiornare punti critici del sistema senza riavviare, questa feature è dovuta anche alla collaborazione di RedHat e SUSE.

L'ultima versione del kernel Linux è la 4.13.3 ed è stata resa disponibile al pubblico il 20 settembre 2017. L'ultima versione attualmente in sviluppo del kernel Linux è la 4.14; il suo sviluppo è sostenuto dalla Linux Foundation, un'associazione senza fini di lucro nata nel 2007 dalla fusione di Free Standards Group e Open Source Development Labs.

Il kernel Linux, uno dei più riusciti esempi di software open source, costituisce il nucleo dei sistemi operativi della famiglia di Linux. Fu inizialmente creato nel 1991 da alcuni studenti di informatica finlandesi tra cui Linus Torvalds, il capogruppo. Successivamente aumentarono in modo repentino i suoi sviluppatori e i suoi utilizzatori che aderivano al progetto del software libero e contribuivano allo sviluppo del nuovo sistema operativo.

Rilasciato, liberamente scaricabile e modificabile sotto la licenza libera GNU GPL (insieme ad alcuni firmware con varie licenze), è continuamente e liberamente sviluppato da collaboratori di tutto il mondo attraverso la relativa community, con lo sviluppo che ogni giorno avviene sfruttando la relativa mailing list, in modo del tutto analogo in cui sono sviluppati i protocolli di Internet.

Il ramo di sviluppo principale del kernel Linux prevede che esso contenga anche alcune parti non-libere, offuscate od oscurate come ad esempio alcuni driver. Il progetto Linux-libre si propone come variante completamente libera di Linux, da cui sono nate diverse distribuzioni completamente libere.