Главная / Блог / Crypto CTF для начинающих: шифры и XOR

14 мин.02

Crypto CTF для начинающих: шифры и XOR

Crypto CTF для начинающих: шифры и XOR

На первом CTF я потратил четыре часа на строку, которая оказалась ROT13. Перебрал Base64, попробовал Vigenère, написал три Python-скрипта — всё мимо. Решение заняло три секунды в CyberChef. Три. Секунды. На picoCTF задачи с тегами Caesar и ROT13 щёлкаются за минуту — если знаешь, как определить тип шифра по виду текста. Проблема была не в сложности, а в том, что я тупо не умел распознавать паттерны. Эта статья — маршрут от базовых кодировок до XOR-атак с known-plaintext, который сэкономил бы мне пару первых соревнований.

Кодирование и шифрование — почему это не одно и то же

Первая ошибка новичков в crypto CTF — путать кодирование с шифрованием. Разница принципиальная: кодирование — обратимое преобразование без ключа, шифрование — преобразование с ключом. Base64 — не шифр, это способ представить бинарные данные в текстовом виде. Любой может декодировать Base64 без секретного знания. Шифр Цезаря — шифр, потому что для расшифровки нужен ключ (величина сдвига). Подробнее — в нашем материале про создание ctf заданий.

Половина «crypto»-тасков начального уровня на CTF — чистое кодирование. Организаторы заворачивают флаг в Base64, потом в hex, потом ещё раз в Base64 — и гордо называют это «crypto challenge». Если понимать разницу, такие задачи решаются за секунды, а не за часы.

Как распознать тип кодирования

Каждая кодировка оставляет характерный след в тексте. Угадывать не нужно — достаточно глянуть на алфавит и структуру:

  • Base64 — символы A-Z, a-z, 0-9, +, /. Часто заканчивается на = или ==. Длина кратна четырём. Пример: SGVsbG8gQ1RG
  • Base32 — только заглавные A-Z и цифры 2-7. Заканчивается на =. Пример: JBSXSIJAKRUGS4ZA
  • Hex (Base16) — только 0-9 и a-f (или A-F). Длина всегда чётная. Никакого padding. Пример: 48656c6c6f
  • URL-encoding — знак процента + два hex-символа: %20, %3D. Часть текста остаётся читаемой
  • Binary — исключительно нули и единицы, обычно группами по 8 бит

Видите только заглавные буквы и цифры 2-7 — Base32. Смесь регистров с = на конце — Base64. Только hex-символы — hex. После десятка задач определение занимает секунды.

Для автоматизации есть операция Magic в CyberChef — она пробует десятки кодировок и показывает наиболее вероятный результат. Загружаете строку, жмёте Magic — получаете декодированный текст. Для начинающих в CyberChef это самый быстрый путь. По рекомендациям CTF-площадок (CryptoHack, picoCTF) именно Magic — первый шаг при встрече с неизвестной строкой.

Многослойное кодирование

Частый приём в CTF — несколько слоёв кодирования, по типу матрёшки. Строка выглядит как Base64, но после декодирования получается hex, а после перевода hex в ASCII — ещё один Base64. Слово «layers» в условии задачи — прямой намёк на такую структуру.

Правило, которое экономит время: после каждого декодирования спрашивайте — результат выглядит как ещё одна кодировка? Если да — декодируйте снова. Если получился читаемый текст или флаг — готово. В CyberChef можно выстроить цепочку операций (Recipe) и применить их последовательно, что делает многослойное декодирование тривиальным.

Четыре шага решения любого crypto-таска в CTF

Прежде чем разбирать конкретные шифры — зафиксируем фреймворк. Он работает для классических шифров, кодировок и большинства CTF-задач начального уровня. По опыту CryptoHack и подборок на CTFtime, этот подход покрывает порядка 90% задач beginner-уровня.

Шаг 1 — определить семейство за 30 секунд. Смотрите на паттерны текста. Пробелы и пунктуация сохранены → подстановочный шифр (Caesar или моноалфавитная подстановка). Частотное распределение букв имеет один выраженный пик → Caesar. Распределение плоское → Vigenère или transposition. Hex-дамп или строка из ограниченного алфавита → кодирование, не шифр.

Шаг 2 — нужен ли ключ. Кодировки ключа не требуют. Caesar можно перебрать полным перебором (25 вариантов). Vigenère требует восстановления ключа через метод Касиски или индекс совпадений. Однобайтовый XOR — перебор 256 вариантов. Этот шаг определяет стратегию.

Шаг 3 — выбрать инструмент и атаку. Caesar → перебор всех сдвигов в dCode или CyberChef. Моноалфавитная подстановка → частотный анализ с интерактивным маппингом. Vigenère → автоматический крекер. XOR → брутфорс ключа или known-plaintext.

Шаг 4 — проверить результат. Флаги CTF имеют формат flag{...}, picoCTF{...}, CTF{...} или читаемый английский текст. Если после расшифровки видите фрагменты слов — направление верное, продолжайте итерации. Частичная расшифровка — нормальное промежуточное состояние, а не признак ошибки.

Шифр Цезаря: как расшифровать за 30 секунд

Шифр Цезаря — сдвиг каждой буквы алфавита на фиксированное число позиций. Сдвиг 3: A становится D, B становится E, Z становится C. Ключ — величина сдвига (число от 1 до 25). ROT13 — частный случай со сдвигом 13, популярный потому что двойное применение возвращает исходный текст (13 + 13 = 26 — полный круг алфавита).

Признаки Caesar в шифротексте

Шифротекст Цезаря сохраняет структуру оригинала: пробелы на месте, знаки пунктуации не тронуты, длина слов совпадает с обычным текстом. Частотное распределение букв имеет характерный пик — если для английского текста самая частая буква E (~12.7%), то в шифротексте самой частой будет та, в которую E превратилась после сдвига. График частот выглядит как сдвинутая копия стандартного распределения.

Это главное отличие от Vigenère, где частотное распределение сглаживается из-за нескольких сдвигов одновременно.

Пример разбора

Дано: GURER VF N FRPERG UVQQRA VA GUR YRGGREF

Пробелы на месте → подстановочный шифр. Слово GUR встречается дважды — в английском самое частое трёхбуквенное слово THE. Если G=T, U=H, R=E — сдвиг 13. Проверяем ROT13: THERE IS A SECRET HIDDEN IN THE LETTERS. Готово.

Не хочется считать вручную — загружаете шифротекст в dCode (Caesar Cipher) или CyberChef (операция ROT13 Brute Force). Инструмент покажет все 25 вариантов сдвига. Глаз мгновенно выхватывает читаемый текст среди мусора.

В терминале — одной командой: echo "GURER VF..." | tr 'A-Za-z' 'N-ZA-Mn-za-m' для ROT13. Для перебора всех сдвигов — цикл for i in $(seq 1 25) с tr, но на практике dCode быстрее.

Классические примеры шифра Цезаря встречаются на picoCTF, CryptoHack и практически на каждом CTF начального уровня. Их ценность — не в сложности, а в тренировке навыка распознавания.

Частотный анализ шифров: ломаем моноалфавитные подстановки

Шифр Цезаря — частный случай моноалфавитной подстановки, где каждая буква заменяется ровно одной другой по фиксированному правилу. Если правило — не простой сдвиг, а произвольная перестановка алфавита, перебор невозможен: 26! вариантов (число с 26 знаками). Тут вступает частотный анализ.

Принцип: в любом достаточно длинном тексте на конкретном языке буквы встречаются с предсказуемой частотой. В английском — E (~12.7%), T (~9.1%), A (~8.2%), O (~7.5%), I (~7.0%). Если в шифротексте самая частая буква X — с высокой вероятностью X = E в открытом тексте. Этой технике криптоанализа несколько столетий, и она до сих пор работает.

Частотный анализ требует объёма текста. На строке из 20 символов статистика ненадёжна — частоты не успевают стабилизироваться. На тексте от 150-200 символов результат почти всегда точный.

Как это работает на практике

Последовательность действий для решения crypto-таска с моноалфавитной подстановкой:

  1. Подсчитайте частоту каждой буквы в шифротексте — в dCode это Letter Frequency Analyzer
  2. Сопоставьте самую частую букву шифротекста с E, вторую — с T
  3. Ищите характерные биграммы: TH, HE, IN, ER, AN — они подскажут несколько маппингов одновременно
  4. Короткие слова сужают поиск: однобуквенные слова в английском — почти всегда I или A. Двухбуквенные — OF, TO, IN, IS
  5. Итеративно подставляйте буквы, пока текст не станет читаемым

Процесс похож на кроссворд — каждая найденная буква облегчает поиск следующей. В dCode Substitution Cipher Helper можно интерактивно менять маппинг букв и видеть результат в реальном времени. Для CTF-тасков с шифрами подстановки — самый короткий путь.

Нюанс: частотный анализ работает только для моноалфавитных шифров. Если каждая буква открытого текста может превращаться в разные буквы шифротекста в зависимости от позиции — это полиалфавитный шифр, и нужен другой подход.

Шифр Виженера: полиалфавитная подстановка

Виженер — классический полиалфавитный шифр. Вместо одного сдвига используется ключевое слово, каждая буква которого задаёт свой сдвиг. Ключ KEY означает: первая буква открытого текста сдвигается на 10 (K=10), вторая на 4 (E=4), третья на 24 (Y=24), четвёртая снова на 10 — ключ повторяется циклически.

Частотный анализ «в лоб» не работает: одна и та же буква исходного текста шифруется разными буквами в зависимости от позиции. Распределение частот становится более плоским, чем у Caesar — и это главный признак Виженера при идентификации. Видите текст из латинских букв, пробелы убраны, а частотное распределение относительно ровное — с большой вероятностью перед вами Виженер.

Определение длины ключа

Атака на Виженер — два этапа: найти длину ключа, потом применить частотный анализ к каждой «полосе» текста отдельно.

Индекс совпадений (Index of Coincidence). Для каждой предполагаемой длины ключа L берём каждую L-ю букву шифротекста и вычисляем IC — вероятность того, что две случайно выбранные буквы совпадут. Для правильной длины IC будет близок к значению естественного языка (~0.067 для английского). Для неправильной — ближе к 0.038 (случайное равномерное распределение).

Метод Касиски. Ищем повторяющиеся триграммы (группы из трёх букв) в шифротексте. Расстояния между их вхождениями с высокой вероятностью кратны длине ключа. НОД всех найденных расстояний даёт вероятную длину.

После определения длины ключа задача распадается на несколько независимых Caesar-шифров — каждый ломается обычным частотным анализом. Ключ Виженера восстанавливается побуквенно.

На практике: загружаете шифротекст в dCode (Vigenere Cipher Cracker) или CyberChef (операция Vigenère Decode с автоопределением ключа). Инструмент сам определяет длину ключа через Kasiski и дешифрует текст. Вручную проходить через индекс совпадений полезно для понимания механики, но на соревновании — автоматизация экономит минуты.

XOR шифр в CTF: от брутфорса до known-plaintext

XOR — фундамент криптографии и «хлеб с маслом» crypto-категории на CTF. Операция проста: побитовое «исключающее ИЛИ». Два свойства, на которых строятся все атаки:

  1. Обратимость: A XOR K = C и C XOR K = A. Та же операция шифрует и расшифровывает
  2. Самоуничтожение: A XOR A = 0 и A XOR 0 = A

Из второго свойства вытекает вся мощь атак на XOR: если два сообщения зашифрованы одним ключом, XOR шифротекстов уничтожает ключ и оставляет XOR открытых текстов. Но об этом ниже.

На CryptoHack XOR-задачи составляют основу раздела Introduction и встречаются на каждом CTF начального уровня. Разбор XOR шифрования — обязательный навык для crypto-тасков.

Однобайтовый XOR: перебор 256 вариантов

Простейший случай — каждый байт открытого текста XOR-ится с одним и тем же однобайтовым ключом (число от 0x00 до 0xFF). Всего 256 вариантов — перебираются мгновенно.

Трюк — как отличить правильный результат от мусора. Для текста на английском используется scoring-функция: считаем количество символов, попадающих в набор частых английских букв и пробелов. Чем выше score — тем вероятнее правильная расшифровка.

# Брутфорс однобайтового XOR-ключа
# Адаптация стандартного подхода из CryptoPals / CryptoHack
def score(plaintext):
    freq = b' etaoinshrdlu'
    return sum(1 for byte in plaintext if byte in freq)

ciphertext = bytes.fromhex('1b37373331363f78151b7f2b783431333d')
for key in range(256):
    result = bytes(b ^ key for b in ciphertext)
    if score(result) > len(ciphertext) // 3:
        print(f"Key: {key:#04x} | {result}")

Порог len(ciphertext) // 3 — эвристика: если хотя бы треть расшифрованных байтов попадает в частые буквы, результат стоит посмотреть глазами. На коротких строках иногда выдаёт несколько кандидатов — правильный обычно очевиден по читаемости.

Repeating-key XOR

Если ключ длиннее одного байта, он повторяется циклически: ключ ICE применяется как I-C-E-I-C-E-I-C-E.... По сути — Виженер, но на уровне байтов, а не букв алфавита.

Атака аналогична: определяем длину ключа через нормализованное расстояние Хемминга (Hamming distance) между блоками шифротекста. Берём блоки размером L байт, считаем расстояние Хемминга между первым и вторым, нормализуем на L. Правильная длина ключа даёт минимальное нормализованное расстояние. Дальше разбиваем шифротекст на полосы — каждую ломаем как однобайтовый XOR.

Known-plaintext атака на XOR

Если знаете хотя бы часть открытого текста — ключ извлекается одной операцией. В CTF формат флага часто известен заранее: flag{, picoCTF{, HTB{. Пять-шесть известных байтов — и фрагмент ключа у вас в руках.

# Known-plaintext атака на XOR
# Пример для демонстрации концепции
ciphertext = bytes.fromhex('0c0e1a0f4b5c0a')
known_prefix = b'flag{'
key_fragment = bytes(c ^ p for c, p in zip(ciphertext, known_prefix))
print(f"Фрагмент ключа: {key_fragment}")

Если ключ короткий (3-5 байт) — пяти известных байтов хватит для полного восстановления. Если ключ длинный — полученный фрагмент подскажет паттерн: часто ключ — читаемое ASCII-слово, и первые буквы дают подсказку.

Key reuse — классическая ошибка

Два сообщения зашифрованы одним XOR-ключом: C1 = P1 XOR K, C2 = P2 XOR K. XOR двух шифротекстов: C1 XOR C2 = P1 XOR P2 — ключ самоуничтожается. Остаётся XOR двух открытых текстов, который восстанавливается через crib-dragging: подставляете вероятные слова (the, and, flag) в одну позицию, XOR-ите с C1 XOR C2, и если результат на другой стороне читаемый — попали.

Повторное использование ключа в XOR — смертельная ошибка. В теории одноразовый блокнот (One-Time Pad) с XOR абсолютно стоек — но только если ключ используется ровно один раз и его длина не меньше сообщения. На CTF это эксплуатируется регулярно: организаторы дают два шифротекста с одним ключом, и задача — восстановить оба.

Инструменты для crypto CTF

Инструментов много, но для начинающих важнее глубина владения тремя, чем поверхностное знание десяти. Таблица — с конкретикой и ограничениями:

Инструмент Задачи Формат Когда НЕ подходит
CyberChef Кодирование/декодирование, классические шифры, Magic (автоопределение) Браузер, работает оффлайн RSA, эллиптические кривые, задачи с сервером
dCode 200+ шифров, частотный анализ, автоматическое определение типа шифра Браузер Задачи требующие программирования, бинарные данные
Python + pycryptodome AES, RSA, любая современная криптография, кастомные скрипты Python-библиотека Не подойдёт без знания Python
pwntools Автоматизация взаимодействия с CTF-сервером, отправка данных Python-библиотека Локальные задачи без серверной части
SageMath Теория чисел, решётки, RSA-атаки, метод Копперсмита Python-окружение Классические шифры (overkill), быстрые задачи

Для первых 10-15 crypto-тасков хватит CyberChef + dCode за глаза. Когда столкнётесь с XOR-задачами на серверах — пригодится pwntools для автоматизации. Python с pycryptodome понадобится на уровне AES и RSA — но это следующий этап после освоения основ криптографии.

Отдельно — CryptoPals (cryptopals.com): набор из 48 задач, выстроенных в прогрессию от базового XOR до padding oracle. Это не CTF-площадка в классическом смысле, а учебный трек, и среди криптографов считается каноническим набором упражнений по прикладной криптографии. CryptoHack — альтернатива с более структурированным интерфейсом и встроенными подсказками. Оба бесплатны.

Криптоанализ за пределами CTF: бизнес-логика атаки

Навыки решения crypto-тасков — не абстрактное упражнение для турнирной таблицы. В реальных атаках злоумышленники активно используют кодирование и XOR для сокрытия вредоносной нагрузки. В терминологии MITRE ATT&CK это техника Deobfuscate/Decode Files or Information (T1140, Defense Evasion) — малварь при исполнении декодирует свои компоненты, закодированные Base64 или зашифрованные XOR. Обратная сторона — Encrypted/Encoded File (T1027.013, Defense Evasion) — сокрытие вредоносных файлов через шифрование для обхода детекта.

Мотивация злоумышленника проста: антивирусы и EDR ищут известные сигнатуры в файлах. Если payload закодирован в Base64 или зашифрован однобайтовым XOR — сигнатура не совпадает, детект не срабатывает. Аналитик SOC, получивший алерт на подозрительный PowerShell-скрипт с вызовом certutil -decode, делает ту же работу, что CTF-игрок — определяет тип кодирования и извлекает payload. certutil.exe в Windows — классический LOLBAS (Living Off The Land Binary), стандартный системный инструмент, который применяется для декодирования Base64 в обход детекта.

По данным Atomic Red Team (публичный репозиторий тестов MITRE ATT&CK), один из тестовых сценариев для T1140 — декодирование Base64 через Python на Linux/macOS. Буквально тот же навык, который тренируется на CTF-задачах по кодированию.

Научились быстро определять тип кодировки и расшифровывать XOR на CTF — эти навыки напрямую переносятся в работу аналитика, пентестера или специалиста по incident response. Crypto challenges writeup с разбором реальных соревнований — один из лучших способов нарастить и техническое портфолио, и практический скилл.

Большинство новичков бросают crypto-категорию после первой встречи с RSA или эллиптическими кривыми — и это главная стратегическая ошибка. По моему опыту за последние два года, от 60 до 70 процентов crypto-тасков на соревнованиях начального и среднего уровня — классические шифры, кодировки и XOR. Не модулярная арифметика, не решётки, не AES-GCM. Обычный Caesar, Vigenère и однобайтовый XOR-ключ. Те самые задачи, которые решаются за минуты, если владеешь паттерн-распознаванием.

Я убеждён: проблема crypto-фобии в CTF-сообществе — не в сложности математики, а в неправильной точке входа. Люди начинают с writeup по RSA с малым экспонентом, видят pow(c, d, n) и решают, что crypto — не для них. Хотя до RSA нужно прийти через десяток XOR-тасков, пару Vigenère и понимание того, чем кодирование отличается от шифрования. Порядок имеет значение.

Самый недооценённый навык — не программирование и не теория чисел, а умение смотреть на строку из 40 символов и за секунды определить: «Base64, потом hex, потом XOR с ASCII-ключом». Тренируется только практикой. Прогоните 20-30 задач на CryptoPals или picoCTF, и мозг начнёт определять тип шифра автоматически. Когда базовый crypto CTF перестанет вызывать ступор — стоит посмотреть на WAPT, где криптографические атаки на веб-приложения разбирают с лабами на каждый вектор.

🚀 Хочешь закрепить на практике? Реши задачи по теме на HackerLab — категория «pentest-machines».

Поделиться

0 комментариев

Пожалуйста, войдите, чтобы оставить комментарий.

Загрузка комментариев...

Читайте также

Path traversal уязвимость: от находки до флага

12 мин.

5

Path traversal уязвимость: от находки до флага

Path traversal в CTF: workflow от разведки до RCE через log poisoning. Обход фильтров, PHP wrappers, таблица payload с предусловиями, разбор CVE с CVSS 9.8.

19 НОЯБРЬ, 2026

Ghidra для начинающих: первый CTF reverse за 20 минут

13 мин.

8

Ghidra для начинающих: первый CTF reverse за 20 минут

Пошаговый разбор crackme в Ghidra: file, strings, импорт, псевдокод, XOR-паттерн. Переименование переменных, stripped-бинарники, патчинг переходов.

19 НОЯБРЬ, 2026

Nmap сканирование портов: основы для CTF

13 мин.

21

Nmap сканирование портов: основы для CTF

Разбираем TCP handshake, типы сканирования nmap, банер-граббинг и двухпроходный workflow для CTF — от первого скана до поиска эксплойта за 10 минут.

18 НОЯБРЬ, 2026