Proces šifrování zprávy (označme ji M) lze popsat tak, že se na zprávu M aplikuje kryptografická transformace (nazývána také enkrypční transformace) Ek , která způsobí zašifrování zprávy M do jiného tvaru, označme ho C, tak, že bude platit C=Ek(M). Adresát po doručení zašifrované zprávy C vykoná její dešifrování, tj. vykoná transformaci Dk (Dk bude z matematického hlediska inverzní funkce k funkci Ek a nazývá se taky dekrypční, dekódovací transformace), pomocí které získá původní zprávu M, tj. bude platit Dk(C)=M. Enkrypční a dekrypční transformace Ek a Dk mohou ještě být (a bývají) závislé od hodnoty jednoho nezávislého vstupu – parametru k (z matematického pohledu jsou to funkce parametricky závislé na parametru k), který se nazývá klíč. Matematická funkce, pomocí které se uskutečňuje šifrování a dešifrování, se nazývá kryptografický algoritmus, resp. šifra (cipher).
Z hlediska užívání klíčů se rozlišují:
• Kryptografické systémy s tajným klíčem – tyto systémy používají stejný klíč pro šifrování a dešifrování a jejich bezpečnost spočívá v utajení klíče. Je zapotřebí, aby si před samotnou komunikaci adresát a odesílatel klíč vzájemně vyměnili, což představuje jistou nevýhodu.
• Kryptografické systémy s veřejným klíčem – pro šifrování je používán jiný klíč jako pro dešifrování, tedy platí C=Ek1(M); M=Dk2 [Ek1 (M)]. Šifrovací klíč k1 je veřejný (znám) a dešifrovací klíč k2 je soukromý (zná ho jen adresát). Bezpečnost systémů s veřejným klíčem se zakládá na tom, že dostupnými technickými a programovými prostředky není možné vyčíslit dešifrovací parametry (soukromý klíč k2) ze známých (veřejných) šifrovacích parametrů (veřejný klíč k1).