# Robots gironanuvis.com
User-agent: *
Disallow: /admin/
Disallow: /html/
Disallow: /cerca
Disallow: /visita
Disallow: /makeLov
Disallow: /makeFav
Disallow: /unmakeFav

# Sitemap permitido, búsquedas no, enlaces salientes no, widget no.
Sitemap: http://www.gironanuvis.com/sitemap.xml

# Lista de bots que suelen respetar el robots.txt pero rara
# vez hacen un buen uso del sitio y abusan bastante...

User-agent: MSIECrawler
Disallow: /

User-agent: WebCopier
Disallow: /

User-agent: HTTrack
Disallow: /

User-agent: Microsoft.URL.Control
Disallow: /

User-agent: libwww
Disallow: /

#
# Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen
# idas de pinza, toca decirles que reduzcan la marcha.
# El valor es en segundos y podéis dejarlo bajo e ir 
# subiendo hasta el punto óptimo.
#

User-agent: noxtrumbot
Crawl-delay: 50

User-agent: msnbot
Crawl-delay: 30

User-agent: Slurp
Crawl-delay: 10