Sitemaps & robots.txt

Sitemaps

Mithilfe des TopRank Managers generiert WEBSALE V8s automatisch eine Sitemap im XML-Format, die von allen relevanten Suchmaschinen-Anbieter (z. B. Google Search Console) genutzt werden kann. WEBSALE V8s kann aber keine Garantie übernehmen, dass sämtliche URLs gecrawlt und indexiert werden. Dies ist immer abhängig von den Suchmaschinenbetreibern.

Wegweiser: TopRank-XML-Sitemaps

Sofern Sie einen Mobile Shop (bzw. Subshop) betreiben, ist es aus Gründen der Suchmaschinenoptimierung erforderlich, angepasste SiteMap-Dateien zu generieren.

Wegweiser: Mobile SiteMaps

 

robots.txt

Die Datei robots.txt ist hauptsächlich dafür vorgesehen, Crawlern (Spidern) von Suchmaschinen den Wunsch zu übermitteln, den Zugriff auf bestimmte Seiten, Verzeichnisse oder Dateiformate einer Website bzw. eines Onlineshops zu unterlassen. Darüber hinaus gibt es auch spezifische Steueranweisungen, z. B. zur zeitlichen Verzögerung des Zugriffs durch Crawler der Suchmaschinen. Außerdem kann über diese Datei gezielt der Zugriff auf Inhalte erlaubt werden bzw. bekannt gemacht werden, z. B. die XML-Sitemaps, die TopRank generieren kann.

Die Datei robots.txt ist eine reine Textdatei und wird bei der Einrichtung eines WEBSALE V8s Shops automatisch im Root-Verzeichnis für jeden Shop mit dem folgenden Basiseintrag bereitgestellt:

User-Agent: *
Disallow:

Das bedeutet, dass der komplette Shop von allen Webcrawlern ohne Einschränkung indiziert werden darf. Die Datei wird bereitgestellt, da dies ein guter SEO-Stil ist, technisch würde das gleiche Verhalten mit einer komplett leeren oder gar nicht vorhandenen robots.txt erreicht. Die generelle Indizierungserlaubnis kann bei Bedarf über andere Einträge in der robots.txt eingeschränkt werden.

Quelle: Aufbau einer robots.txt

WEBSALE V8s besitzt die Möglichkeit zur automatisierten Steuerung der Suchmaschinen mit dem Meta-Element <meta name="robots" ...> in den HTML-Seiten des Shops. In diese automatisierte Steuerung kann über TopRank wiederum zur Feinsteuerung bzgl. einzelner Kategorie- bzw. zugeordneter Produktseiten durch einen SEO manuell eingegriffen werden. Die Verwendung der automatischen Steuerung über das Meta-Element wird in jedem Fall empfohlen.

Wegweiser: Robots-Angabe im HTML-Head

Besonderheit im Zusammenhang mit dem TopRank-Manager

Es wird empfohlen, im Dienst "TopRank-Manager" die Option "Sitemaps erzeugen" und dort die Option "In robots.txt registrieren" zu aktivieren. Damit wird erreicht, dass TopRank die URLs der Sitemaps-Dateien den Suchmaschinen mitteilt. Ist die Registrierungs-Option aktiviert, wird eine vorhandene robots.txt-Datei von TopRank automatisch mit einem oder mehreren "Sitemap:"-Einträgen ergänzt. Ist die Datei noch nicht vorhanden, wird sie zuerst neu angelegt bevor die Einträge nach folgendem Muster erfolgen:

Sitemap: http://www.ihre-domain.de/ihre-xml-datei_<Subshop-ID>.xml

Bei der Durchführung der automatischen Erweiterung der robots.txt durch TopRank wird zunächst die alte Datei geladen, alle alten "Sitemap:"-Zeilen werden entfernt und anschließend werden die neuen "Sitemap:"-Zeilen am Ende der Datei eingefügt.

Somit bleiben alle eventuell bereits in der Datei gesetzten anderen Anweisungen für die Crawler erhalten.

Wegweiser: TopRank konfigurieren und aktivieren