User-agent: *
Disallow: /cgi-bin
Crawl-delay: 300 # задает таймут в 60 секунд