Vēsture Ludzas apkārtne bija apdzīvota jau mezolītā, par ko liecina kaula priekšmeti, kas atrasti Lielā Ludzas ezera krastos. Daudzi jaunāku laika periodu atradumi liecina par Ludzas apkārtnes nepārtrauktu un intensīvu apdzīvotību. Joprojām izplatīts ir viedoklis, ka Ludza ir vecākā rakstos minētā apdzīvotā vieta Latvijas teritorijā. Nosaukums Lučina esot minēts Kijivas Krievzemes hroniku apkopojumā “Ipatija hronika” (Ипатьевская летопись, hronikā apkopoti notikumi no 9. gs. līdz 13. gs. beigām, avotu apkopojumi dažādās redakcijās tapuši no 15. līdz 18. gs.) 1173. gadā, tomēr mūsdienu vēsturnieki uzskata, ka tam nav ticamu pierādījumu. To apliecina arī tas, ka Ludzas pilsētas centrā nav bijis latgaļu pilskalna – vienīgi liels kapulauks Odukalnā (383 izpētīti apbedījumi), kas atrodas līdzās Ludzas Baznīcas kalnam. Ludzas austrumu nomalē aiz kapsētas atrodas Jurizdikas pilskalns, kas virs apkārtnes paceļas 15 m – pilskalnā iegūtie atradumi liecina, kas tas bijis apdzīvots mūsu ēras pirmā gadu tūkstoša otrajā pusē.
Latgaļi apdzīvojuši arī Ķīšu kalnu, kas atrodas Lielā Ludzas ezera pretējā krastā, aptuveni 2,5 km (pa gaisa līniju) no Ludzas pilsētas centra. Arheologs Juris Urtāns uzskata, ka tieši Ķīšu kalnā būtu meklējami Ludzas pirmsākumi, vēl jo vairāk tāpēc, ka līdzās šim pilskalnam ezera krastā bijusi samērā ievērojama dzelzs laikmeta apmetne (vismaz 14 ha), ko var dēvēt arī par senpilsētu, kas uzskatāma par kāda novada centru. 13. gs. Ludza atradās Lotigolas zemē, kas bija strīdus teritorija starp Vācu ordeni Livonijā, Polockas kņazu un Lietuvas kunigaišu pārvaldītajām zemēm.
Tomēr arheoloģiskie izrakumi Ķīšu kalnā neliecina par sadursmēm starp latgaļiem un krustnešiem, kuri Ludzas apkārtni pakļāva 13. gs. un pievienoja Vācu ordenim Livonijā. Tikai 1399. gadā uz pakalna starp Lielo un Mazo Ludzas ezeru ordenis uzcēla mūra pili kā ordeņa priekšposteni netālu no robežas ar slāvu zemēm, kas atradās kaimiņos. Tomēr šim gadskaitlim arī trūkst dokumentālu pierādījumu, jo rakstītos avotos Ludzas pils pirmo reizi pieminēta 1433. gadā. Ludza bija pēdējā krustnešu uzceltā pils Latgales teritorijā – tā bijusi Rēzeknes fogtejas blakuspils ar sešiem torņiem, trīs vārtiem un divām priekšpilīm. Laika gaitā pili vairākkārt ieņēma dažādi karaspēki. Zināms, ka 1700. gadā no pils palika pāri tikai drupas, iespaidīgas un pat gleznainas, tāpēc Krievijas valdība 19. gs. tās iekļāva aizsargājamo kultūrvēstures objektu sarakstā. 1765. gadā apmetne pie Ludzas pilsdrupām tika nosaukta par miestu ar 38 gruntsgabaliem.
Pēc Polijas un Lietuvas pirmās dalīšanas (1772) Latgali un līdz ar to Ludzu pievienoja Krievijas Pleskavas guberņai. 1777. gadā Latgale tika sadalīta Daugavpils, Rēzeknes un Ludzas apriņķos un Ludzai tika piešķirtas apriņķa pilsētas tiesības. 1778. gadā Krievijas imperatore Katrīna II (Екатерина II) apstiprināja jaunu Ludzas pilsētas apbūves plānu.
1802. gadā Ludzu, tāpat kā visu pārējo Latgali, iekļāva Vitebskas guberņā. 19. gs. 1. ceturksnī Ludzā ievērojami pieauga tirdzniecības nozīme – šeit notika seši gadatirgi, galvenā tirdzniecības prece bija lini. 1815. gadā 67 % no Ludzas iedzīvotājiem bija ebreji un šeit darbojās septiņas sinagogas. 1866. gadā Ludzā izcēlās liels ugunsgrēks, kurā nodega apmēram 200 māju.
1896. gadā Ludzā bija 242 tirdzniecības, rūpniecības un amatniecības uzņēmumi, darbojās divas dzirnavas, divi kaļķu cepļi, ādu miecētava un ķieģeļu ceplis. Ludzas izaugsmi veicināja dzelzceļa līnijas būvniecība 19. gs. izskaņā un Ludzas stacijas atklāšana 1901. gadā. Pilsētnieku skaits strauji pieauga – no 5140 iedzīvotājiem 1897. gadā līdz 7100 iedzīvotājiem 1914. gadā jeb par 38 % nepilnos 20 gados. Ap staciju izvērsās dzīvojamo māju celtniecība – galvenokārt šeit apmetās krievu vecticībnieki, kuri masveidā ieradās Ludzā dzelzceļa būvniecības laikā. Ludzas pilsētas vēsturiskais centrs ir valsts nozīmes pilsētbūvniecības piemineklis.
Pirmā Pasaules kara gados Ludza atradās tālu no frontes līnijas un cieta minimāli, bet Latvijas Neatkarības kara laikā Ludzu no lieliniekiem 1920. gada 26. janvārī atbrīvoja Latvijas armijas 2. Ventspils kājnieku pulks.
Sākās jauns posms Ludzas attīstībā – lai gan Ludza saglabāja multietnisko savdabību, tomēr ievērojami pieauga latviešu īpatsvars. 1929. gadā Ludzā darbojās sešas pamatskolas, valsts ģimnāzija, krievu ģimnāzija, ebreju komercskola un valsts arodskola. Darbojās septiņas dažādas biedrības, trīs krājaizdevu sabiedrības, trīs aptiekas un divas slimnīcas.
1935. gadā Ludzā bija 356 tirdzniecības uzņēmumi un 238 ar rūpniecisko ražošanu saistīti uzņēmumi, bet gandrīz visi no tiem bija pavisam sīki ar 1 vai 2 strādājošajiem; notika astoņi gadatirgi. Ludzā bija 1066 dzīvojamās ēkas – no tām tikai 47 mūra vai jaukta materiāla, 32 divstāvu, trīs trīsstāvu un divas četrstāvu ēkas, bet visas pērējās – viena stāva koka ēkas. 1938. gada 11. jūnijā Ludzā plosījās pilsētas vēsturē lielākais ugunsgrēks, kurā nodega seši pilsētas kvartāli ar 372 ēkām – aptuveni piektā daļa no Ludzas apbūves, tajā skaitā turpat 200 gadus vecā katoļu baznīca.
Pēc Otrā pasaules kara Ludzā tika celti vairāki rūpniecības uzņēmumi – lielākie no tiem bija metālapstrādes rūpnīca “Metālists”, linu fabrika, gaļas un piena pārstrādes uzņēmumi. Darbaspēks tika iesaistīts ne tikai no apkārtējiem lauku apvidiem, bet arī no citām padomju republikām – pārsvarā no Krievijas un Baltkrievijas. Pilsētā izvērtās plaša daudzdzīvokļu namu celtniecība, tika uzceltas daudzas sabiedriskās ēkas, piemēram, kultūras nams, kinoteātris, skolas, bērnudārzi, slimnīca, pilsētas stadions un citas, kā arī izveidots pilsētas parks. Padomju okupācijas gados Ludza no apriņķa centra pārtapa par rajona centru (1949) un kopš 1777. gada nekad nav zaudējusi administratīvā centra statusu. Kopš 2009. gada Ludza ir novada centrs; 2021. gadā Ludzas novads tika ievērojami paplašināts, tam pievienojot Ciblas, Kārsavas un Zilupes novadu.