User-agent: *
Crawl-delay: 20 # задает таймаут в 2 секунды