Parēmija salīdzinājumā ar citām stilistiskajām figūrām antīkajā retorikā netiek plaši iztirzāta, un tā veidojusies no sengrieķu lietvārda παροιμία – burtiski ‘pārvārds’. Parēmiju īsi raksturojis sengrieķu filozofs Aristotelis (Ἀριστοτέλης) traktātā “Retorika” (Ῥητορική, 4. gs. p. m. ē.), aprakstot gnomas – īsus teicienus, aforismus. Aristotelis rakstījis, ka dažas parēmijas arī ir gnomas un sniedzis piemēru – Ἀττικὸς πάροικος ‘Atikas kaimiņš’. Šo parēmiju mūsdienās grūti uztvert, ja nav zināma fona informācija. Korintieši raksturojuši savus kaimiņus, sakot, ka spartiešiem trūkst enerģijas, ja tos salīdzina ar vienmēr nemierīgajiem atēniešiem. Piemērā Atikas kaimiņi ir atēnieši. Aristoteļa raksturojums rāda, ka parēmija ir īss izteiciens, kurš izsaka plašu domu un kas ir līdzīgs gnomai.

Mūsdienās parēmijas definīcija saglabā antīkajā retorikā apgalvoto – īsi izteikties par plašo. Tas vērojams, piemēram, latīņu spārnotajā teicienā in vino veritas, in aqua sanitas ‘vīnā ir patiesība, bet ūdenī ir veselība’. Vienā teikumā izteikta plaša doma. Parēmijas definīcijas nesniedz skaidrojumu, kas to veido, kādai tai jābūt vai kas to raksturo, kā tas mēdz būt ar citām stilistisko figūru definīcijām. Taču parasti tiek norādīts, ka parēmija ir īss aforistisks teiciens – sakāmvārds, paruna, sentence vai aforisms. Dažkārt minēts, ka tā ir īss, aforistisks folkloras sacerējums. Tātad parēmijai jābūt kodolīgai un lakoniskai, tautā izplatītai un saprotamai, pamācošai, metaforiskai un ar vispārinātu, plašu domu.