Схема шифрования с открытым ключом. Пусть K — пространство ключей, а e и d — ключи шифрования и расшифрования соответственно

Пусть K — пространство ключей, а e и d — ключи шифрования и расшифрования соответственно. - функция шифрования для произвольного ключа e K, такая что:

Здесь , где C — пространство шифротекстов, а , где M — пространство сообщений.

- фукция расшифрования , с помощью которой можно найти исходное сообщение m, зная шифротекст c :

{ : e K }- набор шифрования, а { : } — соответствующий набор для расшифрования. Каждая пара (E,D) имеет свойство: зная , невозможно решить уравнение , то есть для данного произвольного шифротекста , невозможно найти сообщение . Это значит, что по данному e невозможно определить соответствующий ключ расшифрования d. является односторонней функцией, а d - лазейкой.

Ниже показана схема передачи информации лицом А лицу В. Они могут быть как физическими лицами, так и организациями и так далее. Но для более лёгкого восприятия принято участников передачи отождествлять с людьми, чаще всего именуемых Алиса и Боб. Участника, который стремится перехватить и расшифровать сообщения Алисы и Боба, чаще всего называют Евой.

1 Боб выбирает пару (e,d) и шлёт ключ шифрования e (открытый ключ) Алисе по открытому каналу, а ключ расшифрования d (закрытый ключ) защищён и секретен (он не должен передаваться по открытому каналу, либо его подлинность должна быть гарантирована некоторым сертифицирующим органом).

2 Чтобы послать сообщение m Бобу, Алиса применяет функцию шифрования, определённую открытым ключом e: , c — полученный шифротекст.

3 Боб расшифровывает шифротекст c, применяя обратное преобразование однозначно определённое значением d.