IdentifiantMot de passe
Loading...
Mot de passe oubli� ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les r�ponses en temps r�el, voter pour les messages, poser vos propres questions et recevoir la newsletter

C# Discussion :

[C#] Comment programmer un web crawler ?


Sujet :

C#

Vue hybride

Message pr�c�dent Message pr�c�dent   Message suivant Message suivant
  1. #1
    Membre confirm�
    Profil pro
    Inscrit en
    Janvier 2005
    Messages
    73
    D�tails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Janvier 2005
    Messages : 73
    Par d�faut [C#] Comment programmer un web crawler ?
    Bonjour je voudrais programmer ou plutot porter un webcrawler de perl vers C# pour plus de puissance et d'�fficatit� parce que voir un programme de 80Ko prendre 800Mo de ram sa fait froid dans le dos ce probl�me est du au threads qui ne sont pas vraiment au point dans perl.

    Je me suis renseign� sur la faisabilit� d'un webcrawler complet utilisant C#, mais j'ai quelques questions sans r�ponde pour l'instant !!


    Comment avec le framework impl�ment� la gestion des cookies lors d'une requ�te HTTP?

    Existe il une classe de gestion des fichiers robots.txt en dans l'un des language .NET ?

    Existe il des structure associative en C# parce que j'ai beau cherch� je ne trouve pas de renseignement la dessus mon hash en perl ressemble a cela


    Code : S�lectionner tout - Visualiser dans une fen�tre � part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    my $data = {
       url => $res->base,
       code => $res->content
      .....
      links => {
            $backlink => 1,
            .....
      }
    ....
    }
    Si un tel structure n'existe pas je peut passer par une structure Xml

    merci a tous et bon code

  2. #2
    Membre exp�riment�
    Avatar de StormimOn
    Homme Profil pro
    D�veloppeur informatique
    Inscrit en
    Mai 2005
    Messages
    2 593
    D�tails du profil
    Informations personnelles :
    Sexe : Homme
    �ge : 47
    Localisation : France, Sarthe (Pays de la Loire)

    Informations professionnelles :
    Activit� : D�veloppeur informatique
    Secteur : High Tech - �diteur de logiciels

    Informations forums :
    Inscription : Mai 2005
    Messages : 2 593
    Par d�faut
    Citation Envoy� par siaoly
    Existe il des structure associative en C# parce que j'ai beau cherch� je ne trouve pas de renseignement la dessus
    Tu as la classe HashTable ou, si tu utilises le framework 2.0, la classe Dictionary qui est un HashTable typ�.

  3. #3
    Membre confirm�
    Profil pro
    Inscrit en
    Janvier 2005
    Messages
    73
    D�tails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Janvier 2005
    Messages : 73
    Par d�faut
    Merci de ton aide StormimOn, j'ai une derni�re question mon crawler perl utilise un fichier dbm ( il s'agit une hash li� sur le disque ) qui me permet de sauvegarder mes hash sous forme s�rialis� sur le disque ainsi en cas d'arret du robot je ne perd pas de donn�es , je voudrais savoir si il existe un �quivalent des DBM avec le framework ou si je doit me lancer dans la programmation d'une extesion


    http://access.www.webthing.com/software/AnyDBM/

  4. #4
    Membre Expert Avatar de Mose
    Profil pro
    Inscrit en
    Janvier 2006
    Messages
    1 143
    D�tails du profil
    Informations personnelles :
    �ge : 48
    Localisation : France

    Informations forums :
    Inscription : Janvier 2006
    Messages : 1 143
    Par d�faut
    Ca n'existe pas, mais ce n'est pas bien dur � faire : il y a deux propri�t�s Keys et Values sur la hashtable.

Discussions similaires

  1. Comment d�marrer la programmation JAVA / WEB ?
    Par belocom dans le forum D�veloppement Web en Java
    R�ponses: 2
    Dernier message: 04/01/2008, 15h20
  2. [Palm] Comment programmer pour Palm Os ?
    Par Pascal Lob dans le forum Mobiles
    R�ponses: 7
    Dernier message: 24/08/2007, 09h59
  3. UN petit web crawler
    Par mobscene dans le forum Web
    R�ponses: 1
    Dernier message: 22/08/2005, 04h27
  4. R�ponses: 7
    Dernier message: 13/12/2004, 19h23
  5. comment programmer une progressbar
    Par Choucas dans le forum Paradox
    R�ponses: 3
    Dernier message: 13/11/2002, 11h07

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo