Friedrich Krupp (1787 – 1826) diede il via alle attività siderurgiche della famiglia, costruendo una piccola fonderia di acciaio ad Essen nel 1811. Suo figlio Alfred (1812 – 1887), noto come "il Re Cannone" o "Alfredo il Grande", investì pesantemente in nuove tecnologie per diventare un importante costruttore di locomotive e materiale rotabile. Investì anche nelle tecnologie per il raffreddamento dei metalli (in particolare nel processo Bessemer) e acquistò molte miniere in Germania e in Francia. Investì in edilizia convenzionata per i suoi lavoratori e diede il via a un programma di mutua e pensione. La compagnia iniziò a produrre cannoni in acciaio negli anni 1840 - in particolare per gli eserciti di Russia, Impero Ottomano e Prussia. La bassa richiesta per la produzione non bellica e i sussidi governativi fecero sì che la compagnia si specializzò sempre più nelle armi: alla fine degli anni 1860 la produzione di armamenti rappresentava circa il 50% della produzione totale della Krupp. Quando Alfred iniziò, l'azienda aveva cinque dipendenti. Alla sua morte, ventimila persone lavoravano per la Krupp - rendendola la più grande azienda industriale del mondo.

Durante la I guerra mondiale alcuni criticarono la politica della Krupp di vendita di cannoni alla Triplice Intesa, oltre che alle Potenze Centrali, politica che generò alti profitti. (Si dice che Ford e GM agirono similarmente durante la II guerra mondiale, ma le case madri statunitensi non controllavano le rispettive sussidiarie tedesche durante il conflitto.)

Dopo che Hitler prese il potere in Germania nel 1933, la Krupp divenne il centro del riarmo tedesco. Nel 1943, per ordine speciale di Hitler, la compagnia divenne una holding familiare e Alfried Krupp von Bohlen und Halbach (1907 - 1967), figlio di Gustav Krupp, ne assunse la gestione. Dopo la sconfitta tedesca, quando Gustav si dimostrò incapace di andare a processo, il Tribunale di Norimberga condannò Alfred come criminale di guerra (nel cosiddetto "Processo Krupp") per l'uso del lavoro schiavistico da parte dell'azienda. Venne condannato a 12 anni di carcere e costretto a vendere il 75% dei suoi averi. Nel 1951, con lo svilupparsi della Guerra Fredda e dato che nessun acquirente si faceva avanti, le autorità lo rilasciarono, e nel 1953 riprese il controllo dell'azienda.

Nel 1999 il Gruppo Krupp si fuse con il suo principale concorrente, la Thyssen AG; la compagnia che ne risultò, la ThyssenKrupp, divenne la quinta azienda tedesca per dimensioni e uno dei principali produttori di acciaio al mondo.

 

Nell'agosto 1914, la Krupp aveva segretamente sviluppato un tipo di mortai da 420mm, i più grandi pezzi di artiglieria da campo disponibili. Questi enormi cannoni, soprannominati "Grandi Berta" sparavano proiettili da 900 kg a 40 km di distanza, e furono determinanti negli assedi, durante le prime fasi della guerra, alle fortezze di Liegi, Charleroi e Anversa che si ritenevano inespugnabili, ma che furono facilmente conquistate proprio con l'aiuto di queste nuove artiglierie; consentendo all'esercito tedesco di passare in Francia in esecuzione del Piano Schlieffen.
Successivamente le Grandi Berta furono determinanti negli attacchi tedeschi a Verdun e Ypres dove demolirono letteralmente le fortezze nemiche.
Fra 1917 e 1918 la Krupp costruì il cosiddetto Parisgeschütz, in grado di colpire la capitale francese da 120 chilometri di distanza.

 

La Krupp produsse carri armati, cannoni, munizioni e armamenti per l'esercito tedesco. La compagnia fu anche responsabile dello spostamento degli stabilimenti dai territori della Germania occupati dagli Alleati verso la fine della guerra.

Negli anni 1930 la Krupp sviluppò due cannoni ferroviari da 80 cm, gli Schwerer Gustav e i Dora. Si trattò dei più grossi pezzi di artiglieria mai schierati da un esercito in tempo di guerra, e pesavano circa 1.344 tonnellate. Potevano sparare un proiettile da 7 tonnellate ad una distanza di 37 chilometri. Si dimostrarono comunque estremamente imprecisi a Sebastopoli, durante il prolungato bombardamento della città, e furono più un pesante onere logistico che una risorsa dell'artiglieria, guadagnandosi la condanna delle truppe.

Più cruciale per le operazioni militari tedesche fu lo sviluppo da parte della Krupp del famoso cannone antiaereo da 88 mm, arma dalla nota efficacia che divenne anche un cannone anticarro e un cannone per carri armati.

Nel 1940-41, la Krupp acquisì il controllo dell'armatore tedesco, Deutsche Schiff- und Maschinenbau AG (Deschimag), con sede a Brema.