Robots.txt: Der Türsteher Ihrer Website
Die robots.txt ist eine kleine Textdatei im Hauptverzeichnis Ihres Hostings. Sie sagt den Suchmaschinen-Bots (z. B. dem Googlebot), welche Bereiche Ihrer Website sie besuchen dürfen und welche nicht.
Sie möchten verhindern, dass Google sensible Bereiche wie Ihren Admin-Login oder Warenkorb-Seiten indexiert. Das spart "Crawl-Budget" und sorgt dafür, dass Google sich auf Ihre wichtigen Inhalte konzentriert.
Zusammenhang mit der Sitemap
In der Robots.txt wird Google oft auch der Weg zu Ihrer Sitemap gewiesen. Wie Sie eine solche Sitemap erstellen und einreichen, haben wir in unserem Guide "XML-Sitemap: Die Landkarte für Google" erklärt.
Jetzt SEO-Status prüfen