• User Attivo

    Meglio il robots.txt o il nofollow ?

    Ho a che fare con un sito che è finito nei supplementari perchè privo di contenuti. Finchè non verranno inseriti, sarebbe meglio che Google ne rimanesse fuori. Meglio usare un robots txt o un nofollow ?


  • User Attivo

    il robots viene letto di default da tutti gli spider, non se sia meglio ma se guardi i log è la prima cosa che uno spider guarda. Nel dubbio inseriscili entrambi non porta a nessun tipo di penalizzazione


  • Super User

    @John Koenig said:

    Ho a che fare con un sito che è finito nei supplementari perchè privo di contenuti. Finchè non verranno inseriti, sarebbe meglio che Google ne rimanesse fuori. Meglio usare un robots txt o un nofollow ?

    Secondo me è molto meglio usare il file robots.txt


  • User Attivo

    @lukas said:

    Secondo me è molto meglio usare il file robots.txt
    quoto in pieno, meglio mettere sempre il file robots.txt semmai all'interno lo si lascia vuoto


  • User Attivo

    OK grazie.
    Quando il sito sarà pronto, dal momento in cui rimuovo il robots txt (oppure il tag nofollow) quanto passerà prima che lo spider torni e indicizzi ?

    Non è che se viene visto una volta Google per risparmiare risorse ci pensa su due volte a tornare?

    Non vorrei darmi la zappa sui piedi !


  • Super User

    @John Koenig said:

    OK grazie.
    Quando il sito sarà pronto, dal momento in cui rimuovo il robots txt (oppure il tag nofollow) quanto passerà prima che lo spider torni e indicizzi ?

    Non è che se viene visto una volta Google per risparmiare risorse ci pensa su due volte a tornare?

    Non vorrei darmi la zappa sui piedi !

    Salve John,
    non esiste un tempo dopo il quale il GGBot tornerà a far visita al tuo sito... Può essere il giorno dopo come dopo 15 gg. Dipende molto dai tuoi BL.

    Leggendo questo post ne approfitto per chiedere un chiarimento sperando di non andare OT.

    Se io ho per esempio una directory www . poipoi/pio tra i supplementari e voglio farla uscire, è corretto inserire nel robots.txt l'istruzione che impedisce ai motori di visitare la directory?

    Mi spiego meglio; non sarebbe meglio far passare gli spider nella directory ed inserire un redirect 301 per far capire che quelle pagine sono state spostate definitivamente?

    Escludendo il passaggio degli spider facilito veramente il ritorno delle pagine dai supplementari ai risultati normali delle serp?

    :ciauz:


  • User Attivo

    @John Koenig said:

    OK grazie.
    Quando il sito sarà pronto, dal momento in cui rimuovo il robots txt (oppure il tag nofollow) quanto passerà prima che lo spider torni e indicizzi ?

    Non è che se viene visto una volta Google per risparmiare risorse ci pensa su due volte a tornare?

    Non vorrei darmi la zappa sui piedi !
    Usa il robots e quando vuoi far indicizzare non lo rimuovere ma lascialo vuoto come ha gia detto princo


  • User Attivo

    OK grazie. Ma perchè è meglio? E se lo rimuovo cosa succede ?
    Si rallenta il ritorno futuro dello spider ?


  • User Attivo

    @John Koenig said:

    OK grazie. Ma perchè è meglio? E se lo rimuovo cosa succede ?
    Si rallenta il ritorno futuro dello spider ?
    E' meglio per almeno 3 motivi.

    1. E' più facile da gestire
    2. E' universalmente riconosciuto
    3. Ha maggiore priorità su altri processi

    Se lo levi non muore nessuno ma è una informazione in più che fornisci ai motori. Di default interrogano sempre quel file in un dominio e se glielo fai trovare con le informazioni di base acceleri di 1picosecondo qualche processo :sbonk:


  • User Attivo

    ok
    nel momento in cui viene messo il txt vuoto (o tolto il noindex/nofollow) il sito torna immediatamente nella situazione precedente, o sconta comunque un rallentamento di indicizzazione?
    esempio: un sito in cui lo spider passa con regolarità viene rinnovato. durante la transizione metto un robot.txt (o un noindex/nofollow), poi dopo unmese è pronto e tolgo i blocchi: ritorna subito ad essere spiderato con regolarità ?