REP
Aus SELFHTML-Wiki
Das Robots-Exclusion-Standard-Protokoll, ist eine Übereinkunft ohne RFC mehrerer Suchmaschinenbetreiber, in der geregelt wird, wie Sie das Verhalten von Suchmaschinenrobots auf Ihrer Seite beeinflussen können. Es handelt sich um ein unverbindliches Protokoll, das nur von „freundlichen“ Suchmaschinen akzeptiert wird und für die Geheimhaltung von Daten ungeeignet ist.