Jau no senatnes cilvēka ikdienas dzīves ritmu īsākā laikposmā noteica dienas un nakts maiņa, bet ilgākā – gadalaiku maiņa. Tādēļ sākotnēji laika vienības tika saistītas ar Zemes diennakts kustību, tai rotējot ap savu asi un Sauli. Tik īsa laika vienība kā sekunde varēja rasties tikai tad, kad laiku sāka mērīt ar vairāk vai mazāk precīziem mehāniskajiem pulksteņiem, tātad – apmēram 14. gs. Īpaši nepieciešamība pēc tik mazas laika vienības kā sekunde saasinājās pēc tam, kad ar izcilu prātu un enciklopēdiskām zināšanām apveltītais nīderlandiešu pētnieks Kristiāns Heigenss (Christiaan Huygens) 1656. gadā radīja pirmo svārsta pulksteni, ar kuru laiku varēja mērīt daudz precīzāk nekā ar iepriekš izmantotajiem pulksteņiem. Svārsta pulksteņus, kuros izmantots K. Heigensa radītais mehānisms, sadzīvē lieto vēl šodien.
Gan precīzu pulksteņu lietošana, gan arī sekundes kā mērvienības rašanās lielā mērā saistāma ar astronomisku novērojumu izvirzītajām prasībām pēc precīzas laika mērīšanas. Sākotnēji viena sekunde tika definēta kā 1/86400 daļa no vidējā diennakts (Zemes viena apgrieziena ap savu asi) garuma. Taču, precīzi nosakot Zemes rotācijas ātrumu, nācās konstatēt, ka tas nav pastāvīgs un līdz ar to sekundes ilgums ir mainīgs, tāpēc bija nepieciešams mainīt sekundes definīciju. 1956. gadā Starptautiskā svaru un mēru komiteja mainīja sekundes definīciju. Tika noteikts, ka viena sekunde ir 1/31 556 925,9747 daļa no gada. Tomēr, saprotot, ka arī gada garums jeb laiks, kādā Zeme apriņķo ap Sauli, var mainīties, sekundes definīcijai tika izvēlēts 1900. gads. Šī definīcija, lai arī ļoti precīza, tomēr rada grūtības sekundes standarta veidošanai. Ir neiespējami atgriezties laikā pagātnē, 1900. gadā, un mērīt gada garumu. Tādēļ vienpadsmit gadus vēlāk, attīstoties modernajai fizikai, 1967. gadā 13. ģenerālajā svaru un mēru konferencē tika pieņemta vēl šobrīd lietotā sekundes definīcija, kas ir saistīta ar atoma īpašībām.