Kažin, ar daug kas domėjosi ką gi Google.lt leidžia naršyti paieškos robotams, o ką uždraudžia. Nieko nsitikėdamas parašiau www.google.lt/robots.txt ir išvydau patį paprasčiausią robots.txt...
Iš esmės, peržvelgęs visas eilutes nieko įdomaus nepastebėjau. Vienintelis įdomesnis dalykas - net 6 sitemapai. Verta susimąstyti, jei net Google juos naudoja - kodėl gi kuris iš web meistrų turėtų jų nenaudoti? Be abejo, tai retorinis klausimas, nes sitemap gali atnešti nebent naudos.
Kam įdomu patiems peržvelgti šį failiuką, tiesiog užsukite į www.google.lt/robots.txt ...