Radusies Senajā Grieķijā, epigramma sākotnēji bija īss uzraksts, kas iekalts akmens plāksnē. Uzrakstus, kurus iekala uz kapu plāksnēm sauca par epitāfijām, bet uz tempļu sienām, priekšmetiem vai statuju pamatnēm rakstītos – par epigrammām. Epigrammai raksturīgā īsā forma radusies no ierobežotā rakstu laukuma.
Atšķirībā no pārējās sengrieķu literatūras, kas izveidojusies no mutvārdu tradīcijas, epigramma ir pirmais literatūras žanrs, kas radies rakstītā formā. Lielākā daļa pirmo epigrammu rakstītas prozā. Dažkārt lietots pantmērs, visbiežāk elēģiskais distihs un daktilu heksametrs, retāk jambs vai trohajs. Kompozīcija nostiprinājusies jau 8. gs. p. m. ē. beigās, kad datētas pirmās dzejas formas epigrammas.
Galvenā epigrammas pazīme ir īsums un kodolīgums, bet tā kā žanram nav noteikta pantmēra, šī pazīme viennozīmīgi nenošķir epigrammu no citām īsajām dzejas formām, piemēram, satīras, elēģijas. Robeža starp elēģiju un epigrammu ir grūti nosakāma, jo mēdz būt garas epigrammas un īsas elēģijas. Arī antīkajā pasaulē daži teorētiķi uzskatīja, ka tā ir elēģiskā distiha forma, kas jāapskata kopā ar elēģiju, kamēr citi vispār atteicās to definēt. Galvenā atšķirība, jo īpaši žanra attīstības pirmsākumos, ir fakts, ka elēģija ir saistīta ar mūziku un paredzēta skandēšanai, kamēr epigramma ir lasāma.
Antīko epigrammu saturs ietver plašas variācijas par visdažādakājām tēmām, tāpēc arī vēstījums nevar būt žanra definīcijas pamatā.