Il primo modello operativo fu il Mustang con motore Allison, prima che il Merlin venisse prodotto su licenza dalla Packard americana. Il P-51A venne utilizzato, già nel 1942, dalla RAF in azioni di attacco e ricognizione sull'Europa occupata dai tedeschi. Queste, condotte essenzialmente dal territorio inglese, sono poco note e pubblicizzate, tanto da sembrare quasi ininfluenti sulla storia delle operazioni aeree dell'epoca. Eppure persino il primo modello del Mustang fu il più moderno velivolo a disposizione della RAF.
In seguito, una versione molto simile entrò in servizio con l'USAAC. L'A-36 era un Mustang con aerofreni, utilizzato come bombardiere in picchiata, autore di migliaia di missioni con oltre 8.000 tonnellate di bombe sganciate tra il 1943 ed il 1944. Le perdite furono molto alte, tanto che, di circa 500 velivoli prodotti, oltre 170 vennero abbattuti o perduti per diversi motivi. Si assicurarono anche un centinaio di vittorie aeree, a testimonianza che non si trattava di facili bersagli per nessun avversario.
Il modello P-51B entrò in servizio solo nel 1943, impiegato in azione il dicembre di quell'anno. Il P-51C era una versione simile, ed entrambi dimostrarono chiaramente le loro manovrabilità anche ad alta quota con il motore Merlin.
L'armamento era limitato a 4 mitragliatrici di grosso calibro con un abitacolo angusto, specialmente per le missioni di lungo raggio. Il P-51D e il quasi identico K riuscirono dopo pochi mesi a risolvere il problema, aumentando a 6 il numero di armi. L'unico vero contrattempo consisteva nel fatto che con il tettuccio a goccia le missioni ad alta quota di una durata superiore alle 6 ore erano difficili anche a causa dell'esposizione alle radiazioni solari.
I Mustang più di ogni altro velivolo contribuirono alla protezione dei bombardieri americani, in quanto il P-51D poteva raggiungere Berlino grazie alla sua lunghissima autonomia.
I pesanti caccia tedeschi ora non riuscivano a raggiungere e ad abbattere i bombardieri nemici, visto che qualunque intercettore che si fosse trovato attorno alle formazioni di bombardieri, sarebbe stato una facile preda dei caccia americani. Questo valeva anche per i caccia monoposto tedeschi: l'espediente di caricare armi aggiuntive finiva per essere controproducente se bisognava affrontare i P-51.
Questo fatto, oltre al non trascurabile elemento psicologico di avere degli "angeli protettori", era di molto aiuto agli equipaggi dei bombardieri : ora sarebbe stato più difficile abbatterli. Un caccia tedesco, che nel 1943 "si metteva in fila" per attaccare un bombardiere che perdeva posizione, era uno spettacolo frustrante per i compagni di volo, testimoni impotenti. I Mustang riuscirono a ridurre, persino di dieci volte, la percentuale di perdite, mentre i tedeschi erano in crisi, in quanto non riuscivano ad progettare aerei di qualità sufficiente per contrastare le formazioni dei caccia di scorta, e nel contempo causare perdite consistenti alle formazioni di bombardieri americani.
I Mustang, nelle ultime fasi del conflitto, finirono per combattere anche contro i caccia a reazione tedeschi, ed approfittando della necessità avversaria di attaccare in primo luogo i bombardieri, riuscirono ad infliggere rilevanti perdite. La scorta di numerosi caccia, necessaria già nel 1943, divenne infatti indispensabile negli anni successivi, specialmente perché velivoli come il Me 262 erano pesantemente armati e talmente veloci, da poter oltrepassare la scorta, cercando di distruggere i quadrimotori alleati con un singolo passaggio, seppure col rischio di entrarvi in collisione, a causa del brevissimo tempo necessario a mirare e schivare l'obiettivo.
Il Mustang venne usato anche e diffusamente nel ruolo di cacciabombardiere, in missioni di caccia libera a lungo raggio, e altro ancora. La sua versatilità fu tale che venne proposto anche in una variante imbarcata, tuttavia non fu in grado di offrire prestazioni superiori al Chance Vought F4U Corsair e il suo sviluppo venne interrotto.
Venne impiegato anche nel teatro bellico dell'Estremo Oriente, pur se in maniera minore a modelli che operavano da portaerei o modelli bimotore, come il Lockheed P-38 Lightning; il P-51 rivendicò comunque 221 vittorie sui caccia giapponesi durante le missioni del 1945, oltre ad entrare in servizio in Asia continentale.
Come cacciabombardiere tuttavia il P-51 non era molto adatto perché la vulnerabilità del motore raffreddato a liquido finiva con il causare numerose perdite contro ogni tipo di fuoco antiaereo; i circuiti di raffreddamento erano infatti estremamente vulnerabili al fuoco proveniente dal basso.
Il Mustang operò solo nella seconda metà della guerra, ma i suoi risultati furono sicuramente straordinari. Nel solo settore europeo vennero costituiti almeno 34 gruppi, per un totale di 2.500 velivoli, per la maggior parte nella versione D. Il numero di ore di volo arrivò a 1.120.000, il 36% con i Mustang B e C. Il totale delle ore di volo raggiunse su tutti i fronti oltre le 1.350.000.
Circa metà di tutti gli aerei nemici distrutti in Europa dai caccia americani caddero vittime dei P-51. Entro l'8 maggio 1945, i piloti dei Mustang furono in grado di abbattere circa 4.950 aerei nemici. L'aviatore con il maggior numero di aerei abbattuti fu George Preddy dell'United States Army Air Forces (USAAF). Aveva totalizzato 27,5 aerei abbattuti - 24 con il Mustang - quando fu colpito e ucciso da fuoco amico il 25 dicembre 1944, durante la Battaglia delle Ardenne.