Туториалы

BeautifulSoup и CaptchaAI на собственных авторизованных страницах

Безопасный scope: Это руководство применимо только к собственным или явно авторизованным QA-, staging- и production-средам. Описаны сценарии диагностики, тестирования и наблюдаемости вашей собственной CAPTCHA-интеграции — не для сторонних сайтов и не для несанкционированных workflow.

BeautifulSoup полезен для извлечения структурированных данных из HTML. Если страница защищена CAPTCHA — используйте этот шаблон только для собственного контента или при наличии явного письменного разрешения владельца.

Шаблон работы

import os, requests
from bs4 import BeautifulSoup

API_KEY = os.environ['CAPTCHAAI_KEY']
PAGE = 'https://staging.example.com/captcha-demo'

def solve(sitekey: str) -> str:
    ...

html = requests.get(PAGE).text
soup = BeautifulSoup(html, 'html.parser')
sitekey = soup.select_one('.g-recaptcha')['data-sitekey']
token = solve(sitekey)
resp = requests.post(PAGE, data={
    'g-recaptcha-response': token,
    'message': 'qa-test',
})
result = BeautifulSoup(resp.text, 'html.parser')

Что делать с результатом

Парсите только те поля, которые принадлежат вашему приложению. Любая работа со сторонними доменами — только при наличии явного разрешения владельца и в рамках их условий использования.

Логи и наблюдаемость

Структурированные логи помогают сравнивать поведение CAPTCHA между релизами и быстро находить регрессии в собственных формах:

import json, time, logging

log = logging.getLogger('captcha-qa')

def record(event: str, **fields) -> None:
    payload = {'ts': time.time(), 'event': event, **fields}
    log.info(json.dumps(payload, ensure_ascii=False))

Минимальный набор полей для каждой попытки: slug, captcha_type, task_id, wait_seconds, verify_status, env. Этого достаточно, чтобы построить дашборд медианы / P90 / P99 по типу CAPTCHA и по среде.

Troubleshooting

Симптом Что сделать
sitekey не найден Проверьте селектор и рендер страницы
Токен не принят backend Сверьте pageurl
Парсер падает Проверьте кодировку и структуру HTML
429 от backend Снизьте параллелизм

QA-чек-лист

  • Запрос отправляется только на собственные или авторизованные endpoints.
  • Тестовые учётные записи, события и платежи помечены как фиктивные.
  • CAPTCHA-токен проверяется на собственном backend, а не доверяется клиенту.
  • Логи содержат task_id, тип CAPTCHA, время ожидания и pass/fail.
  • Скрипт возвращает корректный exit code, чтобы CI мог принять решение.

FAQ

Можно ли использовать этот подход на сторонних сайтах?

Нет. Описанные сценарии применимы только к собственным или явно авторизованным средам. Для чужих ресурсов запрашивайте письменное разрешение владельца.

Что делать, если CaptchaAI вернул ошибку?

Логируйте task_id, тип CAPTCHA и текст ошибки, повторите запрос с экспоненциальной задержкой и фиксируйте долю ошибок в дашборде. Постоянный рост ошибок — повод проверить sitekey и страницу.

Как сравнивать результаты между релизами?

Сохраняйте логи в одном формате и стройте отчёт по медиане, P90 и P99 на одинаковом наборе сценариев. Сравнивайте только сопоставимые выборки в собственной среде.

Безопасные связанные руководства

  • Быстрый старт CaptchaAI
  • QA-тестирование CAPTCHA в авторизованных средах
  • Тестирование CAPTCHA API на собственных формах
  • Отладка: браузерный тест падает, API проходит
  • reCAPTCHA v2 через API
  • Cloudflare Turnstile через API
  • GeeTest v3 через API

Готовы парсить свой контент с защитой CAPTCHA? Подключите CaptchaAI.

Комментарии для этой статьи отключены.