GPTBot: что это за бот и как его закрыть
Собирает контент, который может использоваться для обучения базовых моделей OpenAI. На поиск ChatGPT не влияет — за него отвечает OAI-SearchBot.
| Владелец | OpenAI |
|---|---|
| Тип | Обучение нейросетей |
| Имя в User-Agent и robots.txt | GPTBot |
| Документация | официальная страница |
Соблюдает ли GPTBot robots.txt
Соблюдает robots.txt. По документации OpenAI, запрет для GPTBot означает, что контент сайта не должен использоваться для обучения моделей.
Частый выбор: закрыть GPTBot и оставить OAI-SearchBot — тексты не уходят в обучение, а сайт остаётся в поиске ChatGPT.
Как ограничить GPTBot
Добавьте в конец файла robots.txt в корне сайта:
User-agent: GPTBot Disallow: /
Поисковые роботы Яндекса и Google это правило не затрагивает. Готовые наборы правил для всех ИИ-ботов — в бесплатной проверке.
Видно ли GPTBot в Яндекс Метрике
Как правило, нет: такие роботы забирают HTML страницы, а счётчики работают на JavaScript. Поэтому узнать, пускает ли их сайт, можно только проверкой от их имени — её делает бесплатная проверка.