Parēmija salīdzinājumā ar citām stilistiskajām figūrām antīkajā retorikā netiek plaši iztirzāta, un tā veidojusies no sengrieķu lietvārda παροιμία – burtiski ‘pārvārds’. Parēmiju īsi raksturojis sengrieķu filozofs Aristotelis (Ἀριστοτέλης) traktātā “Retorika” (Ῥητορική, 4. gs. p. m. ē.), aprakstot gnomas – īsus teicienus, aforismus. Aristotelis rakstījis, ka dažas parēmijas arī ir gnomas un sniedzis piemēru – Ἀττικὸς πάροικος ‘Atikas kaimiņš’. Šo parēmiju mūsdienās grūti uztvert, ja nav zināma fona informācija. Korintieši raksturojuši savus kaimiņus, sakot, ka spartiešiem trūkst enerģijas, ja tos salīdzina ar vienmēr nemierīgajiem atēniešiem. Piemērā Atikas kaimiņi ir atēnieši. Aristoteļa raksturojums rāda, ka parēmija ir īss izteiciens, kurš izsaka plašu domu un kas ir līdzīgs gnomai.