J'ai remarqué un projet qui parle de weboob dans sa présentation.

Fortunately, I discovered an awesome FOSS project called Weboob (WeB Outside Of Browser) that allows you to scrap data from the web and most importantly from bank websites. What makes it wonderful is that bank connectors are easy to build and are maintained by their community.

I convinced the Cozy team to integrate weboob in the core stack. That's what they did it and I was able to make big progress from there.
Mikolaj Pawlikowski - seeker89

Le projet : Cozy Personal Finance Manager, qu'on raccourcira en cozy-pfm tend à développer un gestionnaire de finance open source à héberger soi même. Cela reprend donc la formule de cozy cloud (après tout, ce sont les mêmes personnes). Soit l'idée d'une application serveur à installer chez soi, open source et avec une interface web.

Pour ceux qui ne connaîtrait pas cozy cloud, c'est assez simple également, c'est une plate-forme en tant que service (Paas). Donc des applications web à installer soi même sur un serveur pour ses propres besoins.

weboob

cozy-cloud
cozy-cloud : démo

cozy-pfm
cozy-pfm : demo
cozy-pfm : le code sur github

Lire les commentaires

Sommaire

Le prix de l'essence suit depuis plusieurs années une progression incertaine qui tend à la hausse. Les raisons sont multiples : la main-mise de l'Iran sur les puits de pétrole, la guerre en Irak, la crise, les 35 heures ou la mort de Steve Jobs.

Quoi qu'il en soit, la victime directe se trouve être le consommateur qui a besoin de ce précieux méat pour alimenter son tracteur afin d'aller travailler plus pour gagner plus chaque jour, et ce en raison des prix des logements à la hausse au centre du monde que constitue la ville de Paris et qui oblige les français à s'installer en province où il n'y a pas de travail, faisant exploser le chômage.

En attendant la TIPP flottante promise par le favori des sondages présidentiels, et le blocage des prix de l'essence qui a fait pleurer notre président de la République, je vous propose de suivre ses recommandations et de faire jouer la concurrence.

Comment ?

Le gouvernement français a mis à disposition des pollueurs un site web permettant d'avoir accès, pour chaque département, aux prix au litre par carburant pour toutes les stations services recensées, permettant d'effectuer une comparaison et d'aller s'approvisionner chez le moins profiteur.

Or, comme vous le savez tous, le web c'est le mal et ce site est lourd à utiliser.

Heureusement pour vous, Weboob a la solution.

Comparoob

Paru hier dans sa version 0.c, Weboob dispose d'une nouvelle application, comparoob, dont l'objectif est d'interagir avec les comparateurs de prix en ligne, et un module prixcarburants a vu le jour.

Au lancement de l'application, vous serrez invité à rajouter le backend prixcarburants qui nécessite comme paramètre votre numéro de département :

$ comparoob
Warning: there is currently no configured backend for comparoob
Do you want to configure backends? (Y/n): y

Available modules:
1) [ ] prixcarburants    French governement website to compare fuel prices
a) --all--               install all backends
q) --stop--

Select a backend to create (q to stop): 1

Configuration of backend prixcarburants
[zipcode] Zipcode: 75
Backend "prixcarburants" successfully added.

Vous pouvez dès lors utiliser la commande prices pour comparer les prix liés à un produit. Par exemple, si je souhaite voir le prix du SP95 :

comparoob> prices SP95
* (1) 1.570€ - Total (Paris 12) (prixcarburants)
* (2) 1.600€ - Total (Paris 17) (prixcarburants)
* (3) 1.600€ - Total (Paris 19) (prixcarburants)
* (4) 1.640€ - Elan (Paris 14) (prixcarburants)
* (5) 1.669€ - Carrefour (Paris 16) (prixcarburants)
* (6) 1.699€ - Agip (Paris 19) (prixcarburants)
* (7) 1.702€ - Total (Paris 15) (prixcarburants)
* (8) 1.740€ - Total (Paris 18) (prixcarburants)
* (9) 1.743€ - Agip (Paris 16) (prixcarburants)
* (10) 1.750€ - Avia (Paris 15) (prixcarburants)

Les résultats sont triés par ordre croissants. Par défaut, seuls les 10 stations services les moins chères sont affichées, mais cela se change aisément via la commande count.

Les différentes valeurs possibles sont :

  • E10
  • E85
  • Gazole
  • GPL
  • SP95

Pour avoir l'information sur une station service, vous pouvez utiliser la commande info :

comparoob> info 1
Total (Paris 12)
ID: 2.75012002@prixcarburants
Product: SP95
Cost: 1.570€

Shop:
        Name: Total
        Location: Paris 12

        **RELAIS PARIS REUILLY**
        **Total**
        32 Rue de Reuilly

        75012 Paris

        **Horaires :**
        Ouvert de 06h00 à 22h00

        **Service(s) proposé(s) : **
        Boutique alimentaire, Boutique non alimentaire, Vente de gaz domestique,
        Carburant qualité supérieure, Station de gonflage, Lavage multi-programmes,
        Baie de service auto, Piste poids lourds

Vous pouvez profiter de l'étonnante souplesse de Weboob pour sortir en une commande la liste de tous les tarifs d'un carburant particulier :

$ comparoob prices Gazole -n -1

Intégration Debian

J'en profite pour donner quelques news sur l'intégration de Weboob à Debian. Comme le savent les lecteurs assidus de DLFP, nous vivons une véritable odyssée (pour ne pas employer le terme de cabale) quant à son acceptation par les ftpmasters allemands de la distribution communautariste, et ce depuis plusieurs mois.

Nous devrions être arrivés aujourd'hui à un terrain d'entente. Après avoir renommé havesex en havedate, divers échanges ont eu lieu et le lobby boobiste n'a cédé sur aucun point, à raison puisqu'il semblerait que Weboob sera malgré tout accepté dès qu'il viendra à l'idée des ftpmasters de flusher la queue de la centaine de paquets en attente dans NEW.

La suite au prochain épisode.

Lire les commentaires

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web. Seulement deux mois après la dernière dépêche, Weboob 0.f est parue mardi dernier.

C'est une version très riche en nouveautés et dont l'activité de développement a été remarquable. Cette nouvelle version est ainsi constituée de plus de 450 commits, représentant l'ajout de plus de 15 000 lignes dans les sources.

Weboob est maintenant capable de rechercher des recettes de cuisine, d'obtenir des informations sur le monde du cinéma, de télécharger des sous-titres pour des vidéos ainsi que de récupérer des textes de chansons. Les anciennes fonctionnalités ne sont pas oubliées, avec notamment l'ajout de modules pour de nouveaux sites bancaires.

Ces nouveautés seront détaillées en seconde partie de la dépêche. Avec 16 nouveaux sites boobisés, Weboob atteint désormais le nombre de 106 modules !

Sommaire

Recherche de recettes de cuisine

C'est pas moins de trois sites de recettes de cuisines qui sont maintenant accessibles (marmiton, 750g, cuisineaz). Deux applications sont dédiées à cet effet, QCookboob pour la version graphique et Cookboob pour son équivalent en console.

Les deux ont les mêmes fonctionnalités : la recherche, l'affichage d'informations sur la recette (bien entendu la recette, mais aussi les commentaires et les photos qui vont avec), et l'export. Cette dernière fonctionnalité permet pour le moment d'exporter vers le format KRecipesML, importable dans les logiciels Krecipes et gourmet.

En résumé en images, le processus est donc très simple. On lance tout d'abord une recherche :

Recherche avec QCookboob

On sélectionne la recette choisie :

Informations détaillées QCookboob

On l'importe dans Krecipes :

Import dans Krecipes

Cet exemple est typique de la philosophie de Weboob. On agrège les résultats de nombreux sites pour trouver rapidement le meilleur choix, et on utilise ensuite ses logiciels habituels grâce à l'export de donnée dans de multiples formats.

Tout sur le cinéma

Après un bon repas, une activité courante pour briller en société est de tout connaître sur le cinéma. Weboob peut désormais vous aider à devenir imbattable au Time's Up, grâce aux applications QCineoob et cineoob. Ces applications permettent des recherches sur des films, des acteurs, ainsi que des recherches un peu plus complexes (trouver les films en communs de deux acteurs par exemple). Bien entendu, il est possible d'afficher toutes les informations détaillées à propos de ces films et acteurs. Les modules permettant ces recherches sont pour le moment le très populaire imdb et le site français allociné.

Un petit exemple en image :

Star Wars dadns QCineoob

Comme on peut le voir sur la gauche de la capture, d'autres fonctionnalités sont directement intégrées dans l'application. La première est la recherche de sous-titres, nouvelle fonctionnalité de cette version, accessible également via l'application spécialisée suboob. Autre fonctionnalité intégrée, la recherche de torrents correspondant au film (libre), déjà accessible dans les versions précédentes via l'application weboorrents.

En résumé, QCineoob est une application spécialisée qui devrait ravir les amateurs de cinéma. En quelques clics, on peut interagir avec des sites aux fonctionnalités différentes mais étant finalement utilisées très souvent en même temps.

Petites nouvelles

Parmi les nouveaux modules, on peut citer l'accès à de nouvelles banques. Le module Crédit du Nord permet ainsi d'accéder à la banque du même nom, mais aussi à la Banque Courtois, la Banque Kolb et la Banque Tarneaud qui partagent le même moteur de site Web. Ce ne sont pas complètement des banques, mais on peut noter l'ajout des module Paypal et American Express.

Pour les amateurs de Karaoké, l'application booblyrics permet de télécharger les paroles des chansons.

L'application pastoob permettant de poster et de récupérer des fichiers sur des sites comme Pastbin et Paste à la con a été améliorée. On peut notamment désormais choisir l'expiration du fichier.

Du côté du dossier contrib, contenant des scripts évoluant autour de Weboob mais pas assez développés pour être considérés comme des applications, on peut noter l'amélioration de downloadboob. Ce script permet d'automatiser le téléchargement de vidéos, l'exemple typique étant le téléchargement de l'émission Dessous des Cartes toutes les semaines, ou des Guignols de l'info. La configuration a été améliorée, permettant de filtrer sur une expression rationnelle sur l'identifiant d'une vidéo.

Pour les amateurs de graphiques, un script generic-munin est désormais disponible. Il permet de créer un plugin munin pour n'importe quelle valeur numérique obtenue par Weboob (température d'une ville, solde de votre forfait téléphonique, solde de votre compte bancaire, etc).

Enfin, pour l'export de données, un formateur JSON a été ajouté.

L'association

À l'occasion des trois ans du projet, les contributeurs et utilisateurs de Weboob étaient invités au Bouillon Belge le 13 février. Cette soirée fut l'occasion d'organiser l'assemblée constitutive de la naissante Association Weboob, décrite plus en détail sur le Wiki du projet. Suite à cette assemblée, les statuts ont été déposés en préfecture et l'association Weboob a désormais une existence légale.

Pour la petite histoire, nous utilisons Garradin pour le suivi des membres. Que nous n'avons pas encore boobisé

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Cyril Brulebois
  • Fabien Grumelard
  • Florent Fourcot
  • François Revol
  • Goffi
  • ianux
  • Julien Hebert
  • Julien Veyssier
  • Laurent Bachelier
  • Romain Bignon

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Nous recherchons également un volontaire ayant des connaissances en paquet et dépôts Debian. Le dépôt Weboob n'est plus à jour, les clefs de signatures sont expirées, et nous n'avons pas forcément les compétences en interne pour le remettre sur pied rapidement. C'est pourtant une demande régulière de nos utilisateurs de pouvoir bénéficier d'un paquet plus récent que la version 0.c présente dans Debian.

Lire les commentaires

Weboob — Web Outside Of Browsers — est un ensemble d’applications interagissant avec des sites Web.

Plus de sept mois après la dernière dépêche, Weboob 0.d est parue ce week‐end. Version marquante par sa stabilité, via un nombre incalculable de corrections de bogues, elle apporte aussi son lot de nouveautés, ainsi qu’on le verra en seconde partie de dépêches. Avec 18 modules rajoutés, Weboob en possède maintenant pas moins de 83 !

Sommaire

Modules bancaires

Grâce à la contribution active de la société Budget Insight au projet, de nombreuses améliorations ont été portées aux modules bancaires. Outre cinq nouveaux sites supportés (Banque Populaire, Bred, Caisse d’Épargne, CIC et Fortuneo), Weboob gère les débits différés de la plupart des banques. Les libellés sont maintenant analysés, afin d’extraire le type de transaction et la date d’opération (celle où vous avez sorti votre carte bleue, par exemple, en opposition à la date de débit qui est traditionnellement affichée par les banques). Cela permet également de n’afficher à l’utilisateur que la partie lisible du libellé.

De par la contribution de Budget Insight à Weboob, les modules bancaires atteignent une grande stabilité, et il est à en prévoir de nouveaux pour les mois à venir. En outre, un script a été intégré dans contrib/, report_accounts.sh, qui, lancé dans un cron, permet d’envoyer par courriel un rapport de l’état de ses comptes bancaires.

Traductions

L’application translaboob a été rajoutée. Elle permet d’effectuer des traductions en se basant sur les sites Ebonics, Google Translate ou WordReference.com :

$ translaboob translate fr en "Weboob est un ensemble d'applications interagissant avec des sites Web."
* googletranslate
        Weboob is a set of applications that interact with websites.

Téléchargement automatisé de vidéos

Un script a été rajouté dans contrib/, nommé downloadboob, qui est un gestionnaire de téléchargements automatisé de vidéos selon divers critères.

À lancer dans en tâche périodique via cron, le script prend une configuration ayant la forme suivante :

[main]
directory=~/download/podcasts

[zapping]
backend=canalplus
max_results=10
pattern=zapping
title_exclude=semaine
directory=Le zapping

[guignol]
backend=canalplus
max_results=10
pattern=les guignols de l'info
title_exclude=la semaine
directory=Les guignols de l'info

Dans cet exemple, le script va automatiquement télécharger le Zapping et la Semaine des Guignols de Canal+, chaque fois qu’une nouvelle vidéo est disponible.
Il sera peut‐être à terme intégré parmi les applications officielles de Weboob.

Nolife TV

Beaucoup ont constaté que le site Nolife TV est passé dans une nouvelle version il y a maintenant quelques mois. Une nouvelle mesure de protection avait été mise en place, mais l’équipe de Weboob a pu aisément en arriver à bout, permettant ainsi aux abonnés de la chaîne de pouvoir regarder les contenus, pour lesquels ils payent, sur un système entièrement libre.

Vous trouverez plus d’informations sur le contournement de cette mesure dans ce billet.

Et merci à ianux d’avoir prêté un abonnement Nolife pour la résolution de ce problème.

Debian

Nous en parlions dans la précédente dépêche, l’intégration de Weboob dans Debian s’était transformée en véritable odyssée. Petit rappel des épisodes précédents…

Après avoir été accepté par Debian, puis retiré en février dernier, de longs débats se sont enchaînés entre l’équipe de Weboob et les FTP masters. Refusant la moindre concession sur le nom du paquet, ou sur un éventuel avertissement à propos de soi‐disant contenus pornographiques présents dans Weboob, et avec le soutien de Stefano Zacchiroli, le Debian Project Leader, nous avons réussi à atteindre un compromis où le seul changement fut au sujet de l’application havesex renommée en havedate.

Et c’est le 13 juin que Weboob est enfin rentré définitivement dans Debian, dans sa version 0.c, et est maintenant en train d’attendre (très) patiemment la sortie de Debian Wheezy dans laquelle il sera présent !

Événements

Weboob étant un projet communautaire, de nombreux événements sont organisés. Comme il avait été annoncé, un boobathon a eu lieu le 17 mars dernier, à la Fondation pour le Progrès de l’Homme à Paris, dont l’objectif était de développer un maximum de modules. Malgré une quinzaine de participants, la journée ne fut pas la plus productive qui soit, de part les nombreux trolls qui l’ont ponctuée. L’événement s’est néanmoins achevé par une bonne bière avec des gens sympa.

En outre, pour la première fois, Weboob avait son stand lors des 13e Rencontres Mondiales du Logiciel Libre, du 7 au 12 juillet à Genève. Cet événement a été également l’occasion de donner une conférence sur le projet. Un petit compte‐rendu est disponible.

Enfin, de nombreuses soirées Weboob sont organisées dans des bars parisiens, telles que la prochaine, qui aura lieu le vendredi 2 novembre au Bouillon Belge. N’hésitez pas à passer sur le canal IRC #weboob@freenode, si vous souhaitez y participer.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Alexandre Flament ;
  • Alexandre Franke ;
  • Arno Renevier ;
  • Benjamin Drieu ;
  • BohwaZ ;
  • Clément Schreiner ;
  • Damien Cassou ;
  • elfangor ;
  • Florent Fourcot ;
  • François Revol ;
  • Gabriel Kerneis ;
  • Gilles‐Alexandre Quenot ;
  • Jean‐Christophe Dubacq ;
  • Johann Broudin ;
  • Laurent Bachelier ;
  • leto ;
  • Luc Didry ;
  • Lucien Loiseau ;
  • Noé Rubinstein ;
  • Pierre Mazière ;
  • Richard Genoud ;
  • Roger Philibert ;
  • theo ;
  • Xavier Guerrin.

Weboob est un projet qui grossit et qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Lire les commentaires

Il est souvent évoqué les entreprises comme Facebook, Google, HP, Novell ou Red Hat qui contribuent au libre, avec plus ou moins de controverse ou de respect des pratiques communautaires. Mais on parle moins souvent des petites sociétés.

Dans cet article nous présenterons le retour d'expérience de trois jeunes start-ups françaises de moins de deux ans, comment elles utilisent des logiciels libres et quelles interactions elles ont avec la communauté.

Note : l'article est écrit collaborativement par trois membres des trois sociétés présentées.

    Sommaire

    Trois start-ups

    Budget Insight

    Budget Insight est une société créée début 2012 qui développe une application web de gestion des comptes bancaires pour les particuliers.

    Outre la centralisation automatisée des comptes, elle catégorise automatiquement les transactions, pour permettre la création de budgets personnalisés, et envoie des alertes sur les grosses transactions ou en risque de découvert. La spécificité de Budget Insight est d'avoir développé un modèle statistique, permettant de détecter les dépenses fixes et variables et, ainsi, d'anticiper l'évolution du solde sur un mois.

    Budget Insight repose sur le logiciel libre weboob.

    Bio Eco Forests

    Bio Eco Forests propose une solution de gestion environnementale optimisée pour la gestion des espaces arborés tant urbains que forestiers. La société a été créée en septembre 2011, il y a un peu plus d'an.

    Cozy Cloud

    Cozy Cloud est un cloud personnel privé, comprendre une plateforme libre & autohébergeable où l'utilisateur stocke toutes ses données et installe ses propres web apps aussi facilement que sur un smartphone. Cozy Cloud vise donc à être aux serveurs ce qu'iOs a été aux smartphones, l'aspect libre en plus.

    Le business modèle de Cozy Cloud étant basé sur l'hébergement de cette solution, Cozy peut rester transparent sur sa manière de faire des gains et établir une relation saine avec ses utilisateurs : « you will stay because you can leave ! » (« vous resterez car vous pouvez partir »).
    Sa force pour l'utilisateur : empowerment et no lock-in (autonomisation et pas de verrouillage).

    Présence du libre dans l'activité

    La totalité des infrastructures internes de Budget Insight et Bio Eco Forests sont gérées par du logiciel libre. Les serveurs sont sous Debian, le gestionnaire de versions est git, le serveur de courriel postfix. Les gestionnaires de projet sont respectivement Chiliproject et Redmine.

    L'application web de Budget Insight, qui elle n'est pas libre, dépend du framework yii via le serveur web Apache2, utilise la base de données MySQL, et donc intègre weboob pour la synchronisation des comptes bancaires.

    L'ERP Tryton est au cœur de la solution proposée par Bio Eco Forests. Les SIG (Systèmes d'Informations Géographiques) QGIS et GRASS viennent compléter la solution.

    Cozy Cloud utilise beaucoup de logiciels libres au quotidien, environnement Ubuntu par défaut, Piwik pour connaitre le nombre de visiteurs, Osqa pour les forums, Newebe pour le réseau social interne, Jenkins pour son intégration continue… Et bien sûr toutes ses stacks techniques sont basées sur des logiciels ouverts (Django, MongoDB, Redis, Railway, CouchDB…).

    Contributeurs actifs

    Budget Insight repose massivement sur weboob, ce qui en fait un contributeur majeur, pour ce qui concerne en tous cas les modules bancaires. La société a en effet rajouté le support pour les banques Banque Populaire, Bred, Caisse d'Épargne et CIC, ainsi que la gestion du débit différé pour d'autres banques.
    De par l'exigence de disponibilité de service, elle maintient également l'ensemble des autres modules bancaires, et est réactive dans la correction des bugs. Son nombre grandissant d'utilisateurs en font une sorte de buildbot géant, faisant de ces modules les plus stables de weboob.

    Bio Eco Forests a intégralement financé et supporte les développements suivants :

    Cozy Cloud publie sa plateforme entièrement sous forme de logiciels libres (licence encore à définir) et fournit toutes les instructions pour l'installer sur son propre serveur.
    À côté de ça, Cozy commence à produire des bibliothèques externes et contribue à certaines.

    Relations avec la communauté

    La société Budget Insight ayant été fondée (entre autres) par le créateur de weboob, il était important d'établir dès le départ le cadre de la collaboration entre les deux entités. C'est ce qui a été fait dans un mail envoyé à l'ensemble des contributeurs, afin notamment de préciser que weboob restera complètement indépendant de Budget Insight et que chaque contribution de la société se doit d'être dans l'intérêt premier du projet libre, en particulier les choix architecturaux qui doivent être soumis à discussion auprès des autres développeurs.

    En outre, la relation entre Budget Insight et les contributeurs est un cercle vertueux, puisque si la société bénéficie librement de la valeur ajoutée que constitue weboob, elle assure l'assurance qualité de tout ce qui concerne la gestion bancaire et y contribue activement. Enfin, elle accorde aux contributeurs du projet des accès premium gratuitement, et pourra prendre à sa charge l'organisation de soirées weboob ou de boobathons.

    Bio Eco Forests était présente aux rencontres des utilisateurs Tryton en 2011 et 2012. Récemment, le droit de commit sur les dépôts Tryton a été proposé à l'un des salariés de la société.

    Cozy Cloud a déjà une petite communauté, constituée principalement par d'anciens stagiaires. D'autre part, des actions récentes ont été entreprises pour faciliter le développement d'applications sur la plateforme. Ce qui a notamment permis à un des early adopters de créer la première application issue d'une contribution extérieure.
    Cozy a également sponsorisé les dernières JDLL et compte aider de la même manière des événements autour du langage Javascript (la plateforme tourne sur NodeJS).

    Difficultés liées au libre

    Outre le service indépendant, Budget Insight cherche à vendre sa solution aux banques en tant que marque blanche pour qu'elles le proposent à leurs clients. Les questions concernant les briques libres utilisées reviennent souvent, les interlocuteurs ayant la perception qu'il s'agit de solutions non professionnelles et non maintenues par des structures sérieuses.

    Heureusement, il est facile de les rassurer en expliquant les parts de marchés du libre en entreprise, les sociétés qui poussent celles-ci, les avantages que nous apporte le libre en opposition au logiciel propriétaire, notamment dans notre indépendance et notre capacité à résoudre les problèmes.
    Néanmoins, il s'agit d'un véritable travail d'éducation à faire, qui se rajoute au travail commercial, face à des établissements peu flexibles et frileux face à l'innovation.

    Le support des types géographiques dans Tryton par Bio Eco Forests a nécessité l'utilisation de la bibliothèque PPyGIS. Plusieurs patchs ont été développés et proposés au développeur PPyGIS, mais même si ils n'ont pas été rejetés ni commentés, ils n'ont pas été appliqués. Un fork doit donc être maintenu : le projet python-dbgis, est hébergé sur le redmine de Bio Eco Forests.

    En outre, bien que développés par une entreprise dont les salariés sont les principaux développeurs Tryton, les patchs ajoutant le support des types géographiques ne sont pas encore intégrés dans les dépôts du projet Tryton. Le projet Tryton étant indépendant de la société ayant réalisé les patchs, cette société ne peut donc garantir l'intégration upstream des développements réalisés.
    La difficulté est ici liée aux coûts de la maintenance du fork et des patchs, coûts qui n'avaient pas été estimés/prévus.

    Pour Cozy Cloud, la principale difficulté aujourd'hui est de choisir sa licence. En effet, même si la plateforme est entièrement libre, il ne faut pas qu'elle impose une licence particulière aux applications déposées dessus et développées par des tiers. De même, cela ne doit pas impacter l'infrastructure d'hébergement qui restera probablement propriétaire. Toutefois, nous souhaitons garder le côté transmission de la GPL pour s'assurer que tout le monde joue le jeu du libre. Tout ça pour dire que, sans avis exterieurs, il serait bien difficile de choisir la licence de Cozy Cloud.

    Conclusion

    Bien que le libre soit au cœur de l'activité de ces trois jeunes sociétés, Budget Insight a fait le choix de ne pas libérer pour l'instant l'application web, de par la sensibilité du secteur d'activité, là où Bio Eco Forest et Cozy Cloud ne produisent que du code libre.

    Cependant, chacune a le libre dans ses gènes et si elles peuvent rencontrer des difficultés qui n'existent pas dans le logiciel propriétaire, elles compensent grâce aux avantages que le logiciel libre leur procure, en jouant le jeu de façon transparente et bénéfique pour la communauté.

    Lire les commentaires

Dans l'utilisation quotidienne de Weboob, il peut parfois devenir lassant de taper des commandes, qui sont relativement longues. Quelques exemples, taper "subscriptions" dans boobill, "transfer" dans boobank, "forecasts" dans wetboobs. Bien sur on peut activer l'auto-complétion, mais ça reste relativement peu optimal.

Suite à des discussions sur IRC, une nouvelle méthode pour réduire la longueur des commandes a été ajoutée. Le principe est de ne taper que les premières lettres de la commande, comme peut le permettre la commande "ip" (une ou deux lettres sont habituellement suffisantes pour supprimer les ambiguïtés). Si plusieurs solutions existent, une erreur est renvoyée à l'utilisateur avec une liste de suggestions de commandes possibles commençant par le préfixe indiqué.

Du coup, on peut maintenant faire des choses comme :

$ boobill su
* (0177-XXXXXX@nettokom) 0177-XXXXXX - 27,33 € - 14.06.2013 - Einheitstarif
* (06XXXXXXXX@freemobile) 06XXXXXXXX - Forfait 60mn/60SMS à 2 euros

$ wetboobs fore dresde
* Aujourd'hui:    (27C - 27C) Nuit claire
* Mardi 24:       (29C - 29C) Soleil
* Mercredi 25:    (30C - 30C) Soleil
* Jeudi 26:       (23C - 23C) Soleil

$ boobill d
Unknown command: "d"
Do you mean: download, details?

Comme les alias peuvent changer lors d'ajouts de fonctions aux applications, il n'est pas recommandé de les utiliser dans les scripts. Mais au quotidien, ça permet d'utiliser plus rapidement Weboob.

Cela va d'ailleurs dans le même sens qu'une autre optimisation, cette fois-ci dans boobill uniquement, qui permet de ne pas taper l'identifiant de compte dans les commandes usuelles si le compte est unique. On peut ainsi taper :

$ boobill de

Plutôt que :

$ boobill details 0177-XYGHZF@nettokom

Weboob fait la une du magazine Linux Pratique (même si ce n'est pas précisé, c'est bien de ça dont parle l'encart Web). À l'intérieur, 6 pages parlant du logiciel, ainsi qu'une mention dans l'édito.

Hormis une étape bizarre dans la description de l'installation, le contenu est bon. On regrettera cependant que l'auteur n'ait pas pris contact avec les développeurs, on aurait peut-être pu aider (ou au moins ne pas le découvrir par hasard).

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web.

Et pour profiter du printemps, voici une nouvelle version de Weboob ! Weboob 0.i a en effet été acceptée sur le Web lundi dernier.

Cette version bat de nouveaux records de changements, avec 628 commits provenant de 19 contributeurs. Elle apporte la révolution du projet Browser2 (nouveau navigateur pour simplifier l'extraction des données), ainsi que de nombreux nouveaux modules.

Les nouveautés sont détaillées en seconde partie de la dépêche. Weboob compte désormais 161 modules, gérant au total encore plus de sites (certains modules pouvant concerner plusieurs sites Web).

Sommaire

Browser2 : un nouveau navigateur

Puisque le but est d'extraire des données sur le Web, le navigateur est une composante essentielle du projet. Il permet de simplifier les requêtes HTTP, de gérer les sessions, les cookies, de remplir les formulaires, etc.

Le premier navigateur développé (toujours en service) est basé sur la bibliothèque mechanize, avec toute une couche d'abstraction rajoutée par Weboob pour en simplifier l'utilisation. Nous étions cependant limités par cette bibliothèque : la gestion des formulaires est affreuse, le SSL ne vérifie pas les certificats, le debug des entêtes HTTP était compliqué, etc.

Un projet de nouveau navigateur était donc lancé depuis un certain temps, en se basant cette fois sur la bibliothèque python-requests. Le projet a été retardé plusieurs fois, notamment du fait des nombreux changements d'API de la bibliothèque, empêchant de développer quelque chose de stable. Cette période de maturation de la bibliothèque semble terminée, et le travail a donc pu reprendre.

Cette bibliothèque tenant toutes ses promesses, le nouveau navigateur (Browser2) de Weboob est bien plus performant que le précédent. Nous avons pu partir de bases solides pour reconstruire un navigateur. Les formulaires sont ainsi très simples à remplir, les URL sont bien mieux gérées, les entêtes HTTP (envoyées et reçues) sont sauvegardées en mode Debug, et la gestion de la pagination est enfantine. Enfin, le SSL est pleinement fonctionnel.

ListItem : factorisons le code

Ce n'est pas lié au changement de bibliothèque, mais cela vient également avec le projet Browser2. En examinant nos expériences de plusieurs années sur le parsing de pages, et le code des modules, il était évident pour nous que ce dernier était très (trop) répétitif. Nous voulions limiter la duplication du code, et simplifier l'écriture de module.

C'est cette réflexion qui a conduit à l'écriture des classes ListElement et ItemElement, permettant d'obtenir un code très déclaratif. L'extraction des données se base sur des filtres, dont la composition permet de presque tout faire. Les modules ont la possibilité de déclarer des filtres personnalisés, mais l'objectif est bien de les centraliser dans le cœur pour les réutiliser au maximum.

Il nous reste encore des choses que nous voulons améliorer pour le projet Browser2, mais nous le pensons déjà pleinement utilisable et 24 modules sont maintenant basés dessus. Nous sommes très satisfaits du résultat, notamment quand on observe que la conversion d'un module permet très souvent de diviser le nombre de lignes de code par deux. La documentation est prête, et nous sommes preneurs de tout retour concernant ce navigateur.

Pour plus d'informations sur ce sujet, le Planet du projet contient de nombreux articles détaillés.

Des mots de passe protégés

La protection des mots de passe était souvent un sujet de discussion à l'intérieur et autour du projet. En effet, il n'existait que deux alternatives : stocker le mot de passe dans un fichier en clair, ou bien laisser le champ vide et taper le mot de passe à chaque utilisation.

Plutôt que de réinventer la roue avec un gestionnaire de mot de passe propre au projet, il est désormais possible de configurer un appel à une application externe pour obtenir les identifiants d'un compte. La syntaxe rappelle celle d'un script bash, avec l'utilisation des symboles ` pour délimiter la commande.

Un exemple d'utilisation est ainsi de remplacer dans le fichier de configuration backends une ligne :

password = 123456

par :

password = `pass banques/ing`

Les utilisateurs peuvent également utiliser l'outil de configuration weboob-config pour mettre à jour ce champ, et les nouveaux utilisateurs auront l'option d'utiliser cette méthode dès la configuration d'un module.

Les reprises de Weboob

Si Weboob fournit de (nombreuses) applications, elles n'ont pas vocation à remplacer les applications spécialisées (et bien plus efficaces) existantes. Dans l'idéal, les applications Weboob ne seraient utilisées que pour exporter vers un format standard, et les données traitées par des applications existantes.

C'est pourquoi nous sommes toujours heureux de voir des projets intégrant des appels directs à Weboob. C'est courant dans le monde des applications bancaires (Budgea pour du propriétaire, CozyCloud et son gestionnaire financier, skrooge pour importer les données bancaires ainsi que les factures, etc), mais moins pour les autres applications.

Nous profitons donc de cette dépêche pour parler d'un plugin pour la recherche de vidéos pour Grilo, et d'un plugin pour la recherche dans Gnome Shell. Plus d'informations sur le blog de l'auteur, avec notamment des vidéos de démonstrations.

Les petites nouvelles

Dans les petites nouvelles, la conversion de Weboob vers Python 3 a commencé. Nous prévoyons de rendre progressivement compatible le cœur, les applications, et les modules basés sur Browser2.

Chaque version de Weboob s'accompagne toujours de nouveaux modules, celle-ci n'est pas en reste avec de nombreux modules permettant d'envoyer/recevoir des images. Un module pour le site La Centrale fait également son apparition, ainsi que pour le site de rencontre de plus en plus populaire Tinder. Cela pourrait sauver une génération.

Enfin, on entend parfois sur ce site que le nom du projet est incompatible avec une utilisation professionnelle. La réalité prouve le contraire, avec une prochaine utilisation de Weboob par la Banque Accord (via l'entreprise Budget Insight). On peut même trouver des offres d'emploi mentionnant Weboob.

Association

L'association Weboob continue son rôle de pilotage et protection du projet. Elle tiendra son assemblée générale le 12 Juin dans un lieu qui reste à définir. Si vous êtes intéressés, une annonce est à venir sur la liste de diffusion du projet, et le bas de la page de l'association sera mis à jour.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Adrien Kunysz ;
  • Ahmed Boussadia ;
  • Benjamin Carton ;
  • Florent Fourcot ;
  • François Revol ;
  • Gabriel Kerneis ;
  • Johann Broudin ;
  • Laurent Bachelier ;
  • Matthieu Rakotojaona ;
  • Noé Rubinstein ;
  • Pierre Mazière ;
  • Raphaël Rigo ;
  • Roger Philibert ;
  • Romain Bignon ;
  • Vincent Osele ;
  • Vincent A. ;
  • Vincent Paredes ;
  • Vincent Texier ;
  • Yann Rouillard.

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites Web.

Trois mois après la dernière dépêche et peu de temps avant le troisième anniversaire du projet, Weboob 0.e est parue vendredi dernier.

Elle reste sur la lancée de la version précédente avec beaucoup de corrections de bugs et une amélioration des modules existants. On n'oublie pas les nouveautés qui seront détaillées en seconde partie de la dépêche. Avec sept nouveaux sites boobisés, Weboob atteint désormais le nombre de 90 modules !

Sommaire

Nouvelles options pour les applications

Avec l'introduction d'une vérification des certificats SSL dans la dernière version, cette nouvelle option était logique : on peut maintenant désactiver la vérification avec l'option -I. Autre flexibilité, il est possible pour un module de déclarer une liste de certificats, contre un unique choix auparavant (certains sites présentant différents certificats selon des critères difficiles à déterminer).

L'option -e améliore quant à elle le chargement des backends en permettant d'en exclure une liste. Cela évite de trouver par hasard une vidéo du parlement européen en recherchant un programme pour votre soirée.

Modules bancaires

Ils sont une fois de plus à l'honneur, avec l'ajout des modules pour le Crédit Coopératif, Axa Banque, la banque Barclays, la banque Carrefour, Gan Assurances et le Crédit Mutuel du Sud Ouest. C'est maintenant pas moins de 21 sites de banque qui peuvent être accédés grâce à l'application boobank. Autre nouveauté, les modules bancaires peuvent désormais gérer plusieurs monnaies et non plus seulement l'euro.

Pour utiliser toutes ces données, nous avons eu la bonne surprise de découvrir une intégration de Weboob dans le logiciel skrooge. L'équipe Weboob continue elle de proposer un module expérimental pour kmymoney.

Réécriture de l'API pour les sondes

Depuis environ un an, Weboob intégrait une capability de mesure de la hauteur et du débit de fleuves, permettant ce genre de suivis :

http://fourcot.fr/weboob/elbe_dresden-year.png

Cette capability était très spécialisée et a donc été récrite pour être plus générique et gérer tout type de sonde. La gestion des niveaux d'alerte a également été ajouté, ce qui permet d'envisager de gérer des sites comme les alertes au pollen ou le niveau de diverses pollutions.

Petites nouvelles

Une limitation historique sur les lecteurs vidéos a été supprimée, permettant de configurer simplement en indiquant un chemin vers un exécutable. Autre amélioration, on peut désormais passer des options à ce lecteur directement.

Du côté des modules permettant de gérer les factures et abonnements, la date de fin de période pour les abonnements périodiques est maintenant récupérable, permettant de savoir quand la consommation sera remise à zéro. Pour les contrats non-périodiques, la date de validité du crédit est récupérée. Les trois modules d'abonnements téléphoniques ont été mis à jour.

Avenir technique

Le plus grand projet technique de Weboob est probablement la réécriture de la classe Browser. Comme son nom l'indique, cette classe permet de simuler un navigateur et doit simplifier l'écriture de modules, en proposant de nombreux fonctions prêtes à l'emploi. Cet outil reste cependant optionnel, le module CMB, par exemple, ne l'utilise pas.

Actuellement, cette classe est basée sur la bibliothèque Mechanize. À l'usage, cette bibliothèque se relève cependant parfois contraignante, notamment sur la gestion des formulaires ou l'impossibilité de faire proprement du SSL. Nous souhaiterions donc nous en affranchir pour développer de nouvelles fonctionnalités.

C'est pourquoi le projet Browser2 est lancé depuis de nombreux mois. Cette fois-ci, le projet se base sur la bibliothèque Requests qui nous semble prometteuse et plus flexible que Mechanize. Malheureusement, cette bibliothèque ne semble pas toujours pensée pour avoir des utilisateurs sur le long terme. La sortie de la version 1.0 aurait ainsi pu se nommer « Oups, j'ai tout cassé, bon courage ». Sachant la variété de versions de la bibliothèque dans les distributions, il est assez démotivant de tenter de tout réécrire et d'envisager de maintenir toutes les versions pour que Weboob fonctionne partout.

Tout cela explique en partie le retard sur Browser2… Nous envisageons donc pour les prochaines versions de faire une fourchette de Requests, afin de maintenir une version stable correspondant à nos besoins.

Avenir administratif

Weboob grandit et a maintenant des débouchés professionnels. Cela nous impose de réfléchir à un cadre qui n'était pas forcément prévu au départ. C'est pourquoi nous sommes en cours de création d'une association, qui sera chargée de piloter le projet et de protéger la « marque » Weboob, notamment de gérer les sites Internet.

Le site web weboob.org ne changera pas et continuera de présenter le projet, ainsi que la documentation permettant de l'utiliser. En parallèle, le site Web weboob.com va être officiellement lancé et regroupera toutes les entreprises proposant des services autour de Weboob (notamment Budget Insight qui contribue fortement aux modules bancaires de Weboob et propose des services autour de Weboob en plus de l'utiliser en interne).

Avec cette association, le but est de maintenir l'indépendance du projet Weboob sur le long terme et d'éviter tout risque de conflits d'intérêts.

Évènements

Weboob étant un projet communautaire, on peut retrouver ses contributeurs à de nombreux évènements. Nous étions ainsi au 29C3 à Hambourg en fin d'année dernière. On a même pu nous voir à une présentation largement improvisée. Plusieurs d'entre nous serons également en fin de semaine à la FOSDEM, mais nous ne pourrons pas présenter le projet cette fois-ci.

Des soirées entre membres de la communauté sont régulièrement organisées, toujours sur Paris où vivent la plupart des principaux contributeurs. La prochaine sera le 13 février, journée anniversaire du projet. Pour plus d'informations, n'hésitez pas à passer sur le chan IRC #weboob sur le réseau freenode.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Adrien Kunysz
  • Florent Fourcot
  • Gabriel Kerneis
  • Gilles-Alexandre Quenot
  • Grmbl Frechneu
  • Julien Hebert
  • Kevin Pouget
  • Laurent Bachelier
  • Noé Rubinstein
  • Roger Philibert
  • Romain Bignon
  • Theo
  • Xavier Guerrin

Nous remercions également le contributeur gérant le paquet Weboob pour la distribution Gentoo.

Weboob est un projet qui grossit et qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Lire les commentaires

Pour différentes raisons, je suis « Release Manager » du projet Weboob. Derrière ce nom pompeux, je suis surtout en charge d'écrire les nouvelles concernant les sorties de versions, notamment sur LinuxFR.

Et depuis quelques versions, je m'inquiète des commentaires et me pose la question de l'utilité même (pour les développeurs) de continuer à venir en parler ici. Tout tourner en rond (anecdote personnelle : j'ai appris la signification du mot "Boob" après avoir contribué la première fois au projet). Pour expliquer un peu mon sentiment sur cette lente évolution, voici un petit historique, avec un petit rapport approximatif Technique/Troll par dépêche.

Version 0.b

Dans les commentaires, on propose des nouveaux modules (voyages-sncf, crédit coopératif), de calculette empêchant l'accès aux sites en Belgique, de localisation des fichiers de configurations (avec les spécifications XGD). En gros ça parle du projet, et ça troll un peu à côté sur l'inclusion dans Debian. Mais les développeurs ont un retour des utilisateurs, des propositions, etc.

Rapport Te/Tr : 0,5

Version 0.d

On saute la version 0.c, qui n'a pas eu le droit à sa dépêche (c'est pourtant la version supportée à long terme, du fait de son inclusion dans Wheezy). Sur cette dépêche, on reparle du crédit coopératif et de sa calculette. On a des retours utilisateurs sur de nombreux modules. Ça parle de mise à jour de paquets. De la sécurité des accès bancaires. Et le troll de Barret Michel prend à peine.

Rapport Te/Tr : 0,8

Version 0.e

Le projet continue son petit chemin, on parle dans les commentaires de munin, de l'export en QIF, de l'installation dans Mageia 3, et d'exécution de JavaScript pour scrapper les sites Web. Les trolls sont absents.

Rapport Te/Tr : 16

Version 0.f

Les commentaires commencent par l'utilité et la pertinence du projet (ou est l'esprit du libre : si quelqu'un code, c'est que ça doit lui servir ?). Quelques retours de bug, une idée de module. J'ai commencé à me poser des questions.

Rapport Te/Tr : 0,2

Version 0.g

Ça parle un peu de paquet (une fois de plus, et c'est probablement justifié). Un développeur qui a fait le même genre d'application qu'une des nouveautés. Un peu de sécurité. Et un méga-troll qui écrase tout le reste. Pierre vient parler du projet avec des vraies questions (merci à lui), mais il aurait pu le faire sur IRC qu'on aurait peut-être gagné du temps.

Rapport Te/Tr : 0,1

Version 0.h

C'est celle de cette semaine. On était pourtant pas vendredi, mais les commentaires commencent par "La nostalgie du Minitel". Puis du "NSFW". La seule (courte) discussion technique et retour utile pour un développeur, c'est pour parler de l'installateur Windows.
En fin de page, on attaque la vie personnelle d'un contributeur. Ça me donne envie de vomir, et pas que dans les bars (et le commentaire reste considéré comme pertinent par les lecteurs).

Rapport Te/Tr : 0,01

Du coup, je me pose la question : la technique disparaît-elle progressivement des préoccupations de la communauté DLFP ? Je n'ai rien contre les trolls, ils seront de toute façon toujours présents. Mais la disparition des discussions intéressantes est de mon point de vue préoccupante. C'est le premier objectif (pour moi) des dépêches LinuxFR, et ce qui fait la qualité du site par rapport à d'autres.

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web.

Quatre mois après la dernière dépêche, Weboob 0.g est paru samedi dernier, profitant des chaleurs rendant d'autres activités moins agréables.

Cette version bat la précédente (déjà exceptionnelle) en terme de commits, en dépassant le nombre symbolique des 500. Ils apportent des nouveautés comme la recherche sur des sites d'annonces d'emplois et le suivi de vos colis. Les améliorations de fonctionnalités existantes ne sont pas en reste, avec la résolution de demandes parfois très anciennes.

Ces nouveautés seront détaillées en seconde partie de la dépêche. Avec 19 nouveaux sites boobisés, Weboob atteint désormais le nombre de 125 modules !

Sommaire

Recherche d'emploi

Weboob se lance une fois de plus dans l'aide contre la crise économique. Grâce aux modules Adecco, Apec, Lolix et Pôle Emploi vous pouvez accéder à de nombreuses annonces en un rien de temps. Pour lire ces annonces, vous pouvez soit le faire en console avec handjoob ou en version graphique avec qhandjoob.

qhandjoob

Les applications n'offrent pour l'instant pas d'intéractions très complexes, mais ont déjà les avantages habituels de Weboob : l'agrégation de résultats de sources différentes en une seule application. Il ne fait aucun doute que la courbe du chômage devrait s'en ressentir.

Suivi de colis

Signe des temps de notre société, le suivi de colis est parfois synonyme de stress, d'énervement, et de frustration lors de l'appui sur la touche F5. C'est désormais terminé grâce à parceloob, permettant déjà le suivi des colis Chronopost et UPS. Vous pouvez désormais suivre vos colis dans votre terminal.

parceloob

Histoires de cœur

Vous avez peut-être remarqué les couleurs sur la capture d'écran précédente : eh oui, Weboob 0.g introduit de la couleur dans les applications consoles. Pour en profiter, il faut installer le paquet python-termcolor, actuellement dans la file d'attente NEW de Debian. Boobank profite également de ces couleurs pour améliorer la lisibilité de vos comptes :

boobank_couleurs

Autre grande nouveauté de cette version, il n'y a plus de limitation par défaut du nombre de résultats dans les applications. Il existait auparavant une limitation de 10 résultats, qui frustrait beaucoup de nouveaux utilisateurs n'ayant pas connaissance de l'option -n. Ce problème n'était cependant pas simple à corriger de façon élégante. C'est désormais fait, et en bonus, les commandes qui sont toujours limitées affichent un message si d'autres résultats sont disponibles mais non affichés.

Sous le capot, cela ne changera rien pour de nombreux utilisateurs, mais nous avons introduit un cache pour les requêtes DNS. Ce n'était pas de gaité de cœur, mais le site de la BNP nous y a forcé. En effet, ce site renvoie des adresses différentes à chaque requête. Ces changements d'adresse provoquent des déconnexions et des difficultés d'accès aux comptes, la solution temporaire étant alors de rajouter une entrée dans le /etc/hosts pour être tranquille. Avec ce cache, cela fonctionnera pour tous les utilisateurs.

Dans les dépendances externes, Weboob est désormais compatible avec Pillow. Nous avons au passage découvert que la « couche de compatiblité » introduite par Ubuntu et Debian (en paquet expérimental pour cette dernière) n'était pas parfaite. L'upstream de Pillow ne fournit pas de compatibilité, Ubuntu le fait mais de manière incomplète, ce qui rendait les rapports de bugs de nos utilisateurs incompréhensibles. Les utilisateurs de rancid peuvent donc installer cette nouvelle version pour corriger les bugs de certains modules.

Enfin, toute trace du support de python 2.5 est désormais supprimée. Cela a permis un peu de nettoyage de code.

Petites nouvelles

Si vous êtes fans d'archivages de factures et de documents administratifs, boobill a désormais accès à trois nouveaux modules. Vous pouvez maintenant récupérer les factures de GDF SUEZ DolceVita, d'Ameli et d'Amelipro.

Du côté des modules bancaires, on peut signaler l'ajout des banques Delubac, Hello Bank et Citélis. Pour les comptes professionnels, beaucoup de modules permettent désormais d'accéder à ces comptes grâce à une simple configuration des modules habituels (BNP, Société Générale, LCL, etc).
Enfin, pour les plus capitalistes d'entre nous, on peut désormais suivre l'évolution des investissements boursiers (sur le module ING uniquement pour le moment) avec boobank. Une confirmation des ordres des virements a également été ajoutée en mode interactif suite à une demande lors de la sortie de la version 0.f.

Si vous avez apprécié la version 0.f, vous serez d'ailleurs heureux d'apprendre l'ajout de nouveaux modules de recettes de cuisine, les sites Allrecipes et Supertoinette font leur apparition. Suite aux nombreux retours que nous avons reçu, les applications qcookboob et qcineoob ont été améliorées.

Comme tout détailler serait trop long, notons simplement l'apparition des modules V'Lille, Paroles.net, podnapisi, Arrêt sur Images et Grooveshark.

Communication

Une partie de l'équipe Weboob était présente aux RMLL, avec une conférence de présentation générale et une conférence plus spécifique sur le monde des sites Webs bancaires. Malheureusement ces conférences étaient programmées en parallèle, mais il est possible de les revoir.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Benjamin Carton
  • Christophe Lampin
  • Florent Fourcot
  • François D.
  • François Revol
  • Gabriel Kerneis
  • Johann Broudin
  • Julien Veyssier
  • Juliette Stehlé
  • Laurent Bachelier
  • Lucas Nussbaum
  • Mathieu Jourdan
  • Nicolas Duhamel
  • Noé Rubinstein
  • Romain Bignon
  • Sébastien Monel
  • Stefano Zacchiroli
  • Willy Villard

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Lire les commentaires

Qui me fréquente un peu a déjà entendu parler d'un logiciel nommé Weboob, pour Web Out Of Browser. Il est donc naturel d'en parler un jour ou l'autre sur ce blog.

Concrètement, ce logiciel permet d'aller chercher des informations sur des sites Web sans utiliser un navigateur traditionnel. Dans un monde idéal, Weboob n'existerait pas et les données seraient facilement exportables sur tout site Web. Ce n'est cependant que rarement le cas, et Weboob a l'ambitieuse mission de pallier aux carences des sites Web. Cela le rend forcément très riche, car le Web regorge de fonctionnalités... Par une petite suite de billets (probablement deux, ou trois, selon l'humeur) je vais présenter tout ce dont je me sers au quotidien (dans un ordre historique d'utilisation), et ce qui me fait gagner un temps relativement important tous les jours.

Relevés de compte

C'est par boobank que j'ai commencé à utiliser (et contribuer à) Weboob. L'application permet d'aller chercher le solde de ses comptes, l'historique des opérations, les opérations à venir, et même d'exporter les données pour l'intégration à un logiciel de comptabilité. J'étais très demandeur de cette fonctionnalité pour les banques françaises, qui contrairement aux banques allemandes forcent la connexion à leur site bourré de publicités plutôt que de permettre un simple export par des protocoles bien connus. Concrètement, avec le clavier virtuel, le changement régulier obligatoire de mots de passe, le site plutôt lent, je passais un temps fou à suivre mes comptes sur la BNP. Alors qu'en deux clics c'était fait pour la Deutsche Bank.

J'ai donc été bluffé quand j'ai utilisé pour la première fois Weboob et le module de la BNP. En une commande dans le terminal je pouvais enfin vérifier que je n'étais pas dans le rouge. Ça m'a tellement plu que j'ai contribué pour la première fois aux alentours d'août 2010 avec quelques patchs pour la BNP.

Depuis, boobank n'a fait que s'améliorer. L'application permet notamment de faire des virements de compte à compte et l'export en .qif. C'est toujours plus long que de passer par aqbanking à la mode allemande, mais le bénéfice est plus qu'appréciable. Autre chose que j'ai pu apprécier lors de mon changement de banque, c'est l'agrégation des données de toutes les banques configurées. J'avais à ce moment là deux banques, et je pouvais suivre le solde des deux au même endroit.

En cerise sur le gâteau, un script existe pour faire des graphiques des comptes à travers munin. Complètement inutile, donc parfaitement indispensable.

En conclusion, Boobank est l'archétype de « Weboob ne devrait pas exister ». Si les banques françaises arrêtaient de se moquer de leurs clients en forçant des accès à travers leur site Web ou des applications spéciales pour Smartphone (et je ne parle même des options payantes à des prix scandaleux pour recevoir des « alertes »), Boobank disparaîtrait immédiatement. Des solutions existent, comme les banques allemandes le prouvent.

Surveillance de l'Elbe

Vivre à Dresde, c'est vivre dans une ville au niveau du fleuve bien changeant. Ce n'est heureusement pas souvent comme en 2002, mais les variations peuvent tout de même être spectaculaires. Je ne suis pas ultra fan du site officiel (notamment car il ne publie pas un réel historique des données), et j'avais donc programmé un petit module Weboob pour suivre cette évolution, et faire des jolis graphiques comme celui-ci :

elbooc_dresden-year.png

(des observateurs un peu curieux pourront détecter une anomalie en décembre, mon serveur étant en panne...).

J'ai longtemps gardé dans mon coin ce module, qui était vraiment peu configurable et écrit (trop) rapidement pour mes besoins spécifiques. J'ai cependant fini par le proposer dans Weboob, et il est présent depuis la version 0.b dans la version officielle et utilisable à travers Wetboobs. Pour savoir le niveau de l'Elbe (ou de tout autre cours d'eau en Saxe), une commande très simple est maintenant disponible :

$ wetboobs gauges Elbe

On peut aussi aller chercher l'historique d'une sonde, ou bien juste la dernière valeur connue. Bien entendu, si je l'ai fait pour la Saxe, on peut imaginer écrire le même module pour la France entière via Vigicrue. Et coupler Weboob à un petit script pour recevoir un mail en cas d'alerte de crue, c'est assez simple. Le tout en attendant que les autorités publiques allemandes et françaises commencent à publier des Données ouvertes.

La suite

Dans un autre billet... Avec notamment la récupération des articles de journaux, le téléchargement de vidéos, et bien d'autres trucs.

Le navigateur (ou Browser) est dans Weboob une classe pour faciliter l'écriture de modules. Comme son nom l'indique, il est là pour contenir les fonctions habituelles d'un navigateur Web, évitant au module de devoir gérer les requêtes de bas niveau.

Browser1 est le navigateur historique, basé sur mechanize, et ajoutant des fonctionnalités propres à Weboob. Malheureusement, il est apparu au cours du temps que mechanize avait de nombreuses limitations, et que son architecture rendait certaines choses (comme la gestion des formulaires) très laborieuses.

Browser2 est le nom de code pour le remplacement de ce navigateur. C'est un projet qui dure depuis quelques versions de Weboob, mais est arrivé cette fois dans la branche de développement. Il est cette fois basé sur requests. Cette bibliothèque est plus bas niveau que mechanize, et de nombreuses fonctions sont donc cette fois directement intégrées dans Weboob. Et ça permet de simplifier beaucoup de choses.

Romain a déjà beaucoup écrit sur Browser2, mais je complète par mon opinion. J'ai récrit quelques modules avec, et on peut dire que c'est vraiment de grand changements. En effet, non seulement Browser2 est plus simple, mais l'ajout de fonctions pour simplifier l'extraction de données dans les pages est un vrai plaisir. Cela aurait certes pu être découplé de Browser2, mais le changement de navigateur était une bonne occasion pour remettre les choses à plat et profiter de l'expérience accumulée en écriture de modules.

J'aime donc beaucoup les filtres, un ensemble d'outils pour extraire les données d'une page Web. Ils sont construits d'une manière qui me rappelle un peu la programmation fonctionnelle, on applique des compositions de fonctions pour arriver au résultat désiré. Prenons l'exemple du module pour Poivy. Le code ressemble maintenant à ça :


class HistoryPage(LoggedPage, HTMLPage):
    @method
    class get_calls(ListElement):
        item_xpath = '//table/tbody/tr'
        class item(ItemElement):
            klass = Detail
            obj_datetime = Date(CleanText('td[1] | td[2]'))
            obj_price = CleanDecimal('td[7]', replace_dots=False, default=0)
            obj_currency = u'EUR'
            obj_label = Format(u"%s from %s to %s - %s",
                               CleanText('td[3]'), CleanText('td[4]'),
                               CleanText('td[5]'), CleanText('td[6]'))

Avec ce code, on itère automagiquement sur toutes les lignes de l'historique de la page. On signale par l'héritage de LoggedPage que l'on est certain que le login a réussi si on atteint cette page. Il est inutile de créer et de renvoyer l'objet Detail à chaque itération, la ligne klass suffit Et on parse vraiment très facilement les éléments. On transforme ainsi la septième colonne des lignes du tableau en décimal, c'est le prix de la ligne. On spécifie de ne pas remplacer les points (souvent utilisés comme séparateur pour les milliers en France), et le default=0 est une option magique pour dire que si ce n'est pas un décimal, c'est gratuit (cas des appels inclus dans le forfait). Il fallait autrement vérifier à la main le contenu et gérer si nécessaire les exceptions.

Les fonctions DateTime, Time et Date sont également assez magiques, transformant du texte pas toujours bien ordonné en un objet correspondant python. Par rapport au code précédent, c'est une division par deux du nombre de lignes. Et par beaucoup plus de la lisibilité. Les filtres définis sont très nombreux, permettant l'utilisation d'expression rationnelle, de formater des chaînes, de récupérer très facilement les attributs d'une balise html, etc. Comme ils se combinent, on applique ce dont on a besoin en une seule fois.
Il y a beaucoup d'autres fonctionnalités magie dans Browser2, dont notamment la pagination. Je n'avais jamais ajouté la pagination de l'historique au module poivy, car la pagination n'était pas toujours très pratique sur l'ancien navigateur. À présent, c'est fait en quelques lignes. En ajoutant à la classe get_calls ces quelques lignes :


    next_page = Link("//div[@class='date-navigator center']/span/a[contains(text(), 'Previous')]",
                     default=None)

On va donc chercher le lien vers la page suivante, et on rend un objet Link s'il faut itérer, None si on ne trouve rien. Le navigateur se charge ensuite d'aller sur les pages au fur et à mesure si c'est nécessaire.

En bilan chiffré, la partie navigateur et extraction des données du module Poivy est passé de 125 à 85 lignes (sans copyright, commentaires et lignes vides). En gagnant au passage à la fois en fonctionnalité et en lisibilité du code. Browser2 est vraiment une étape importante pour la simplicité des modules Weboob.

Un des paradoxe du projet Weboob, c'est la création de ticket qui passe surtout par l'interface Web du gestionnaire de tickets Redmine. Bien entendu, il existe un module Redmine, bien pratique pour les développeurs. Mais pour les utilisateurs, configurer le module juste pour ouvrir un rapport de bug était un peu compliqué, alors que cela devrait être une action simple.
Cependant, tout était déjà presque là pour faire un système agréable. Nous avons le module capable de créer des tickets, et une application pour utiliser le module. Afin de pouvoir facilement importer/exporter des bugs, cette application a été améliorée dans la branche de développement pour être capable de lire un ticket à partir d'un pipe reçu. Concrètement, un simple cat ticket.txt | boobtracker post weboob suffit à envoyer un ticket. De la même façon, un bug peut-être transformé en format texte.
Améliorons encore l'idée. On veut fournir un service simple pour les utilisateurs afin d'ouvrir un bug. Un moyen standard de transférer du texte, c'est l'email. On peut donc un peu modifier la configuration de postfix pour y ajouter un truc comme ça dans le fichier master.cf
weboobreport     unix -        n       n       -       -       
pipeflags=FR user=toto
argv=/usr/local/bin/boobtracker post weboob

Et hop, à la réception d'un mail, on envoie un ticket sur le gestionnaire de tickets. C'est ainsi que les utilisateurs de Weboob peuvent désormais ouvrir des bugs très simplement en envoyant un mail à nomdumodule@issues.weboob.org. Cela évite également de publier les adresses mails des mainteneurs des paquets lors d'un crash, et évitera de perdre des rapports de bugs envoyés directement aux mainteneurs (qui peuvent avoir délaissés le projet depuis). Cette fonctionnalité sera mise en avant dans la prochaine version publiée.

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web.

Nouvelle année, nouvelle version de Weboob ! Weboob 0.h irradie le Web depuis jeudi dernier.

Cette version atteint le nombre explosif de 25 contributeurs, totalisant 442 commits. Elle apporte de très nombreux modules (permettant l'interaction avec de nouveaux sites Web), ainsi qu'une nouvelle application permettant de remplir votre calendrier d'évènements culturels. Le très demandé module voyages-sncf est également de la partie.

Pour une vision plus atomique des changements, les nouveautés sont détaillées en seconde partie de la dépêche. Malgré la disparition de deux modules, Weboob atteint désormais le nombre de 148 sites gérés !

Sommaire

Boobcoming

boobcoming est une application dédiée à la recherche et l'export d'évènements (qui peuvent être culturels ou d'une autre nature). La recherche simple permet de trouver des évènements sur des dates précises, une recherche complexe permet d'affiner les résultats si nécessaires.

L'utilisateur peut ensuite exporter les évènements qu'il souhaite en format CalDav, pour l'intégrer dans ses applications habituelles de calendrier. Déjà quatre modules sont disponibles.

Capture d'écran de boobcoming

Transports

Du côté des transports, l'un des site favoris du public de DLFP est désormais géré : voyages-sncf. Le module permet des recherches d'itinéraires, prend en compte les cartes de réductions, etc. Pour profiter de ce module, il faut utiliser l'application traveloob, qui a bénéficié au passage d'un léger lifting.

voyages-sncf

Avec la même application, les habitants du centre de la France peuvent utiliser le module jvmalin pour les calculs d'itinéraires et horaires.

Toujours pour le transport, les modules permettant de récupérer les données de capteurs ont désormais une application dédiée. Parmi ces modules, on trouve notamment jcvelaux (permettant d'accéder à tous les systèmes de vélo en libre service de JCDecaux) et vlille. Cela fait beaucoup de villes, et pas seulement en France. Ces modules étaient demandés depuis très longtemps dans le redmine du projet.

Capture d'écran de boobsize

Plus proche des noyaux

Pour les développeurs d'applications externes, l'utilisation de Weboob en tant que bibliothèque est facilitée par l'introduction d'une nouvelle classe Webnip (Web (in) Non Interactive Programs). Cela évite notamment d'importer toute la gestion des dépôts de modules habituellement présente dans Weboob. La classe Weboob est toujours présente pour ceux qui souhaitent en bénéficier.

Pour les utilisateurs, le moteur de conditions a été complètement réécrit. Ce moteur concerne toutes les applications en console, et permet de mettre des conditions très fines sur les résultats à obtenir. En plus des conditions sur des champs numériques (solde supérieur à 1000€ sur un compte, transactions qui dépassent un certain montant, etc), un nouvel opérateur '|' a été ajouté pour "greper" les champs textuels. Il est également désormais possible de mettre des conditions sur des dates (jour précis, avant une date, après une date).
Les conditions peuvent être combinées grâce aux opérateurs AND et OR, permettant des expressions logiques très complexes. Toutes ces informations sont documentées dans le man de chaque application.

Petites nouvelles

La gestion des modules multimédias a été revue en interne de Weboob. Pour l'utilisateur, cela permet une séparation plus claire entre ce qui ne gère que du son (en utilisant l'application radioob) et ce qui est vidéo (via l'application videoob. Pour le son, de nombreuses radios apparaissent avec les modules Audioaddict, Nectarine et Nihon no Oto. En lecture par morceau, le module Grooveshark permet l'accès à de très nombreux groupes.

Autrement, nous perdons deux modules dans cette nouvelle version. Le site ecrans.fr n'a en effet plus de flux RSS et de site spécifique, et son module disparaît donc. Il peut être cependant remplacé par le nouveau module liberation, en le configurant pour ne prendre que les nouvelles ecrans. Autre site disparu : isohunt.

Cette version est remarquable par son nombre de nouveaux modules. Pour les amateurs de factures, on trouve notamment le module EDF et le module Poivy. Pour la recherche d'emploi, quatre nouveaux modules apparaissent. Le module GitHub permet quand à lui de suivre les bugs de projets. Comme toujours, quelques nouveaux modules bancaires avec Apivie (assurances vie) et Banqueaccord.

Autre nouveauté de cette version, un installateur Windows officiellement distribué. Bien que testés avec succès sur plusieurs ordinateurs, il peut encore contenir des bugs. Le fonctionnement complet de Weboob n'est pas non plus assuré sur cette plateforme, car aucun développeur ne l'utilise en système principal.

Communication

Nous n'avons rien fait pour, mais Weboob était en une du Linux Pratique de septembre/octobre. Si nous aurions probablement pu aider/compléter les informations de l'auteur, l'article est assez fidèle et est probablement à ce jour la meilleure documentation dans la catégorie « Weboob, premiers pas ».

Nous avons également indirectement bénéficié de la couverture médiatique du Personnal Financial Manager intégré à CozyCloud. À l'intérieur, c'est du vrai Weboob qui tourne (et CozyCloud semble permettre d'appeler Weboob via une API Web).

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Alexandre Bonhomme
  • Alexandre Lissy
  • Benjamin Carton
  • Clément Calmels
  • Christophe Gouiran
  • Christophe Lampin
  • Etienne Carriere
  • Florent Fourcot
  • François Revol
  • Hervé Werner
  • Jean-Benoist Leger
  • Jean-Philippe Dutrève
  • Jerem
  • John Morrow
  • Julien Veyssier
  • Laurent Bachelier
  • Mathieu Lordon
  • Pierre Mazière
  • Ryan Nowakowski
  • Roger Philibert
  • Romain Bignon
  • Simon Murail
  • Thomas Lecavelier
  • Vincent A.
  • Vincent Texier

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web.

En ces temps de rentrée, une nouvelle version de Weboob arrive pour vous accompagner. Weboob 0.j enjoue le Web depuis hier.

Cette nouvelle version est assez calme, avec environ 300 commits provenant de 13 contributeurs. Elle inclut cependant de nombreuses corrections de bugs, et peut être vue comme la version bêta de la 1.0 à venir.

Les nouveautés sont détaillées en seconde partie de la dépêche. Weboob compte désormais 165 modules, gérant davantage de sites (certains modules pouvant concerner plusieurs sites Web).

Sommaire

Export à l'international avec Wells Fargo et Twitter

Les fondateurs et la grande majorité des développeurs du projet sont francophones, ce qui introduit un biais sur la sélection des modules. Ainsi, tous les sites bancaires étaient jusqu'à présent des sites de banques françaises. On avait été parfois approché par des développeurs pour des banques à l'étranger, mais sans que cela n'aboutisse à des contributions concrètes. C'est désormais fait ! Cette version inclut en effet le module pour la banque Wells Fargo.

Dans la même veine, même si il a été développé par un francophone, un module Twitter a fait son apparition, amenant définitivement Weboob à la pointe des technologies de communication modernes.

Plugin XBMC/Kodi

L'intégration de Weboob dans des applications spécialisées est toujours un objectif. Cela permet une bien meilleure expérience utilisateur, et nous permet de rester concentrés sur les sites web plutôt que de développer des applications compliquées.
Nous sommes donc très heureux de présenter un plugin pour le lecteur XBMC/Kodi. Il permet de rechercher et visionner des vidéos en provenance de tous les sites gérés par Videoob:

Plugin xbmc

Plugin xbmc2

Le plugiciel est disponible dans le dossier contrib.

Browser2 et les opérateurs binaires

Nous présentions lors de la dernière dépêche le nouveau navigateur, permettant de simplifier l'extraction des données des sites Web. Cette simplification passe notamment par des filtres spécialisés, recherchant facilement les éléments du DOM, effectuant des traitements dessus et convertissant automatiquement les données au bon format (que ce soit un entier, une date, etc.). Ces filtres évitent d'écrire une conversion de texte en date dans chaque module. On peut imbriquer les filtres, afin d'obtenir un enchaînement assez puissant sans beaucoup de code :

    obj_duration = Duration(CleanText('//div[@id="video_text"]'))

Comme le code semble l'indiquer, on extrait d'abord le texte que l'on convertit ensuite en durée.

Cette encapsulation entre les différents filtres se fait parfois avec plusieurs niveaux, rendant le code un peu moins lisible. Pour résoudre cela, cette version introduit deux nouveautés basées sur les opérateurs binaires. Le premier est le &, qui permet d'enchaîner deux filtres dans le sens naturel. On pourra ainsi réécrire la ligne par :

    obj_duration = CleanText('//div[@id="video_text"]') & Duration

Le second, |, est utilisé pour définir une valeur par défaut, dans le cas où les filtres n'arrivent pas à convertir les données (notamment parce que la donnée n'est pas disponible sur le site lui-même ou qu'elle n'a pas le format attendu). Petit exemple de code réel :

    obj_duration = CSS('span.thumbtime span') & CleanText & Duration | NotAvailable

Ces opérateurs, optionnels, augmentent la palette des outils à disposition des développeurs de modules, rendant l'écriture de ceux-ci beaucoup plus aisée.

Pour plus d'informations sur le nouveau navigateur et son système de filtres, vous pouvez retrouver une série d'articles publiée (en français) sur le Planet Weboob.

En route vers la 1.0

Cette version sonne la dernière étape vers une stabilisation de Weboob et une sortie prochaine de la 1.0. Un travail d'uniformisation de l'API de développement a ainsi été effectué afin de pouvoir rentrer sereinement dans un cycle permettant la conservation de la rétro-compatibilité.

Cette uniformisation a cependant un coût temporaire : les outils externes utilisant Weboob comme bibliothèque doivent être mis à jour. Dans la même veine, le paquet Debian a été un peu nettoyé et rangé, et l'emplacement des plugins munin a notamment été modifié.

Nous sommes pour le moment dans les temps par rapport à notre planning prévisionnel pour la sortie de la version 1.0, prévue avant le gel de la distribution Debian.

La documentation développeur fait peau neuve

Un effort particulier a été réalisé durant ce cycle de développement pour améliorer la documentation. Nous avons ainsi refait la page d'accueil du site pour développeur, actualisé les guides et réorganisé la structure. Ce qui était parfois divisé entre le Wiki et la documentation est désormais intégralement sur le site dédié. Accessoirement, nous avons changé l'adresse du site, en passant de docs.weboob.org à dev.weboob.org.

Petites nouvelles

Les imports Python ont été réorganisés, pour réduire sensiblement le temps de chargement des applications simples (division par deux pour la plus simple des applications).
À la manière de l'utilitaire ip il est possible, pour économiser quelques lettres lors de l'écriture des commandes, de réduire les noms des modules (arte peut ainsi être écrit ar, voir a). Cela s'ajoute au nom des commandes déjà réduites.

Enfin, deux autres modules font leur apparition. Ils permettent d'accéder aux sites Feedly et Oney Banque

La prise en charge de Python 3 a été améliorée. Le projet reste en Python 2, mais certaines parties du core, et les modules compatibles, sont déjà utilisables avec Python 3.

L'application radioob gère maintenant les albums et les playlists :

$ radioob -b grooveshark search album sixsixsixteen
album.8163226@grooveshark — Blood Duster (Blood Duster)

$ radioob -b grooveshark play album.8163226@grooveshark

Le module arte prend en charge les podcasts.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Benjamin Carton
  • Florent Fourcot
  • Jean-Philippe Dutreve
  • Julien Hebert
  • Laurent Bachelier
  • Oleg Plakhotniuk
  • Romain Bignon
  • Simon Murail
  • Tanguy Ortolo
  • Tens San
  • Vincent A
  • Vincent Paredes
  • Vincent Texier

Weboob est un projet qui grossit et qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer, que vous connaissiez le Python ou pas, n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

 
 
 
 

Avant

class IndexPage(BasePage):
    def iter_videos(self):
        span_list = self.parser.select(self.document.getroot(), 'span#miniatura')
        for span in span_list:
            a = self.parser.select(span, 'a', 1)
            url = a.attrib['href']
            _id = re.sub(r'/videos/(.+)\.html', r'', url)

            video = YoujizzVideo(_id)

            video.thumbnail = BaseImage(span.find('.//img').attrib['data-original'])
            video.thumbnail.url = video.thumbnail.id

            title_el = self.parser.select(span, 'span#title1', 1)
            video.title = to_unicode(title_el.text.strip())

            time_span = self.parser.select(span, 'span.thumbtime span', 1)
            time_txt = time_span.text.strip().replace(';', ':')
            hours, minutes, seconds = 0, 0, 0
            if ':' in time_txt:
                t = time_txt.split(':')
                t.reverse()
                seconds = int(t[0])
                minutes = int(t[1])
                if len(t) == 3:
                    hours = int(t[2])
            elif time_txt != 'N/A':
                raise BrokenPageError('Unable to parse the video duration: %s' % time_txt)

            video.duration = datetime.timedelta(hours=hours, minutes=minutes, seconds=seconds)

            yield video

Après

class IndexPage(HTMLPage):
    @method
    class iter_videos(ListElement):
        item_xpath = '//span[@id="miniatura"]'
        next_page = Link(u'//a[text()="Next »"]')

        class item(ItemElement):
            klass = BaseVideo

            obj_id = Regexp(Link('.//a'), r'/videos/(.+)\.html')
            obj_title = CleanText('.//span[@id="title1"]')
            obj_duration = Duration(CleanText('.//span[@class="thumbtime"]//span'), default=NotAvailable)
            obj_nsfw = True

            def obj_thumbnail(self):
                thumbnail = BaseImage(Attr('.//img', 'data-original')(self))
                thumbnail.url = thumbnail.id
                return thumbnail

Browser2

Commentaires : voir le flux atom ouvrir dans le navigateur

Alors j’avoue ma faignantise : malgré l’absence de lien dans la news Slashdot (https://m.slashdot.org/story/349890), je me permets de mentionner ici que Debian aurait bouté Weboob hors de ses repos.

Comme le nom du logiciel avait déjà fait pas mal jaser par ici, je m’attends à voir quelques discussions d’autant que la nouvelle paraît un vendredi (enfin, jeudi soir pour nos amis outre-Atlantique.

J’espère que mon trollomètre va tenir le coup, il est tout neuf !

Commentaires : voir le flux atom ouvrir dans le navigateur

Chèr·e·s moul·e·s,

Comme les lecteurs assidus de DLFP le savent, depuis que weboob a été créé en 2010, son nom a été la cible de nombreuses attaques. Que ce soit ici à chaque release, ou plus récemment un débat sur la mailing-list de Debian sur l'éventualité de supprimer le paquet de la distribution, on fait face régulièrement au lot de Social Justice Wariors qui prétendent voir en weboob un masculinisme homophobe patriarcal cisgenre.

Évidement, que ce soit ma copine ou les contributrices féminines de weboob, l'ensemble des filles de mon entourage ne comprennent pas ces attaques, qui bien sûr émanent principalement d'hommes qui veulent insinuer aux femmes quoi penser au sujet du Bien et du Mal.

Toujours est-il qu'au delà de ces trolls, desquels je dois avouer on a joué puisqu'on a poussé la provocation au delà du simple nom (qui se trouve être une coïncidence) par les visuels et les noms des applications, je m'étais proposé de faire un talk à la PyConFr 2018 qui aura lieu début octobre.

L'idée était une conférence avec ma compagne, data scientist, sur l'utilisation conjointe de weboob et du machine learning. Nous avons choisi comme base commune les sites de rencontre, puisque weboob permet de scraper ceux-ci, et qu'accessoirement c'est le biais par lequel nous nous sommes connus.

Il y a dix ans j'ai donné une conférence au même PyConFr dont le titre était « Sortez votre Python pour draguer ». Le sujet concernait également le scraping de sites de rencontre, avant même la création de weboob.

M'étant assagis, le titre que j'ai donné à celle de cette année est on ne peut plus romanesque :

« Trouver l'amour avec Weboob <3 »

Ce soir, j'ai reçu une réponse positive de PyConFR pour la tenue de la conférence.

Néanmoins, ce paragraphe du mail m'a vraiment choqué :

Par contre, on a aussi parlé du nom de la conf "Trouver l'amour avec Weboob
<3" : même s'il se veut fun ce serait difficile de laisser en l'état
(https://www.pycon.fr/2018/code-of-conduct/). En soit il ne s'agit pas d'une
atteinte direct du CoC mais ça pourrait être mal interprété. Est-ce que vous
pouvez faire une proposition alternative (le côté fun peut être gardé mais en
étant moins direct) ?

J'ai du mal à comprendre en quoi le titre pourrait se retrouver « mal interprété ». « Tirer son coup avec Weboob <==3 » peut être mal interprété, mais parler d'amour, d'un logiciel libre connu et un cœur, non vraiment, ça me dépasse.

Titre de l'image

Commentaires : voir le flux atom ouvrir dans le navigateur

Almost since the inception of the Weboob project, we have received remarks on the name, the iconography, and lately the code comments. Until some time ago, that came from bystanders, social media, etc. However, the argument has been made by current contributors that we could be missing out on new contributors due to these aspects.

Now, we can’t exactly fork the universe to A/B test this hypothesis. Sanitizing Weboob will require at least these tasks to complete:

  • Rename the Weboob project to a unique and meaningful enough name
  • Buy new domain names, rename the various things in our infrastructure
  • Rename the WebNip class
  • Rename the various classes that contain Weboob in their name
  • Rename some modules (like popolemploi which refers to penises, bnporc)
  • Create a separate repository for porn or other possibly offensive modules
  • Coordinate with vendors on the rename (Distributions, companies, and the software that uses Weboob behind the scenes)
  • Rename most of the applications
  • Publish a migration guide
  • Come up with a new logo for Weboob
  • Redo most icons, keeping the constraint of parody for legal reasons

This obviously amounts to huge costs, and so far no help has been offered; in fact, my previous calls for merely redoing icons have been unanswered.

While I personally believe those who ask for a rename are more interested in power play and seek total capitulation for political motives, I have come up with a way to ensure we cannot be scammed by doing all the effort while gaining nothing in return. In turn, sincere people will be rewarded if the plan succeeds.

I personally don’t mind bland software, though some other contributors like the fun aspect of Weboob. However, we have to be sure there is something interesting to be gained for Weboob, instead of being tricked in working for free on boring tasks to please others, which would amount to self-flagellating in public.

Potential contributors who are repelled by the current naming and aesthetic choices of Weboob are welcome to make themselves known. To ensure they are sincere, a monetary deposit will be required, and will be refunded a year later if they have indeed become contributors. If not, the deposit will taken as a donation to Association Weboob to compensate for the energy wasted.

This operation is done in my name only, and only engages my responsibility. There is no support for it among the community or the association board yet outside of myself.

To be clear, the potential contributors will never have to contribute to “Weboob”, only the sanitized version.

Operating details (subject to change with feedback):

My low estimate cost for all the tasks is around 10000€. I would like the total of deposits to amount to at least that before starting doing any work.
Since we want to test for sincerity, the amounts don’t have to be the same for everyone, but ideally relative to income.

I won’t take deposits until I am sure the work can start with full support from the community and association board. I suspect the support for a rename mostly comes from the United States, so if I will make sure to store those deposit in dollars to shield the potential contributors from EURUSD fluctuations.

As a gesture of goodwill, if one succeeds in becoming a contributor, in addition to refunding the deposit, I will also donate my own money to Association Weboob in their name so they can become a member for free.

Potential contributors should contribute regularly over the year, with activity in the majority of the months, a decent number of new modules, and one non-module improvement. Obviously, the contributions have to be made in good faith, e.g. fixing typos while always welcome won’t count toward a contribution in this case.

Bonjour Nal,

Tu en as marre d'utiliser ton navigateur pour faire des tâcher répétitives ? Tu sais un peu développer en Python* ?
C'est l'occasion de découvrir le développement de modules Weboob (WEB Outside Of Browsers).

En effet, le samedi 21 avril 2018 sera organisé un Boobathon à Paris. Il s'agit d'un Hackaton autour de Weboob, qui permettra de
découvrir le projet, rencontrer les développeurs, et accéder à la gloire d'être un contributeur.

Pour plus de détails, c'est ici.

N'hésitez pas à faire suivre ce message auprès de vos connaissances/communautés.

* En fait, même si tu ne sais pas développer en Python, tu peux venir. Si tu t'y connais un peu en JavaScript**, et que tu veux contribuer à
Kresus ou Flatisfy, on ne t'en voudra pas !
** En fait même si tu ne sais pas développer en JavaScript, tu peux venir. Si tu t'y connais en graphisme***, tu peux nous aider à créer des jolies icônes pour les divers modules, on ne t'en voudra pas !
*** En fait même si tu ne sais rien faire de tout ça, tu peux venir. Si tu t'y connais en troll**** et que tu veux contribuer à Weboob, tu peux venir animer un atelier renommage du projet, on ne t'en voudra pas !
**** Au pire tu peux juste apporter des bières, on ne t'en voudra pas !

J'espère que cette fois-ci Zenitram sera content du formatage de la date !

Commentaires : voir le flux atom ouvrir dans le navigateur

Salut msieusdames,

De temps à autres, je (ou on) me pose des questions genre :
* est-ce que je dépense plus en carburant / électricité / gaz / etc que l'année dernière ?
* combien a-t-on donné à notre nourrice depuis le début (afin d'avoir une idée de l'indemnité de fin de contrat) ?
* combien est-il raisonnable que je dépense en matos informatique par mois ?

Pour répondre à ce genre de question il y a des tas de softs (gnucash / grisbi / kmymoney / Homebank / Skrooge etc…). Ils fonctionnent bien et permettent de répondre à toutes ces questions.

Du coup je me connecte à mes différentes banques, je télécharge tous les relevés de comptes du moment que j'importe ensuite dans un des logiciels sus-cités. C'est fastidieux. Mais c'est cool, ça me fait environ 3 mois d'historique (ça dépend des banques). Ce qui ne me permets pas de répondre aux questions du début. Pas grave, suffit que je refasse ça tous les 3 mois.

3 mois passent, bien sûr ça m'est complètement sorti de la tête, et même si j'y pense à un moment je suis sur autre chose donc je me dis que je vais le faire "plus tard". 3 mois de plus ma femme me repose une autre question du même genre et je suis toujours incapable d'y répondre. Allez hop c'est reparti, connexion sur les sites des banques téléchargement etc. Donc 3 mois d'historique, un trou de 3 mois, et 3 nouveaux mois. Ça ne sert toujours à rien, ça ne répond toujours à aucune de mes questions et dans 3 mois quand il faudra retélécharger le problème se reproduira certainement.

J'en conclus donc que le vrai problème c'est la récupération des données bancaires, pas leur exploitation.

Ce matin j'avais du temps pour tenter de trouver une solution je me suis donc penché sur le problème.

Si on a tous ces relevés de compte papier, on peut tenter de les scanner, d'ocriser le tout puis convertir tout ça dans un format importable (QIF est supporté par tous et à l'air trivial). Mais ma banque principale ne me les envoie plus. Abandonné donc, dommage ça aurait pu être rigolo.

Si on a les relevés sous forme électronique, on peut faire la même chose sauf qu'on a pas besoin du scan et de l'OCR (et donc de gérer les inévitables erreurs). Pourrait être intéressant, mais ma crétine de banque ne me les envoie pas par mail. Elle préfère m'envoyer un mail pour me signaler qu'ils sont disponibles sur le site web. Et en s'y connectant, pas de bol, il y a juste un an d'historique. C'est mieux que 3 mois, mais ça corrige pas le problème de fond.

Autre solution, on peut utiliser weboob. Test fait avec ma banque, ça récupère à peu près 3 mois d'historique. C'est bien, mais ça corrige pas le problème de fond. Une solution serait de le faire souvent, mais pas à la main parce que c'est voué à l'échec.

Voici donc ce que je propose :

#!/bin/bash

backends="-b lenomdemabanque"
accountsdir="$HOME/bank/accounts"
format="${1:-ofx}"

function accountsList()
{
        boobank $backends list -f csv | while IFS=';' read -a line
        do
                [ "${line[6]}" = "2" ] || [ "${line[6]}" = "1" ] && echo "${line[0]}"
        done
}

echo "Get accounts list..."
accountsList | while read account
do
        filename="$accountsdir/$account"$(date +%s)".$format"
        printf "Dump $account to $filename..."
        boobank history "$account" -f "$format" -n 999 > "$filename" && printf "        ok!\n" || printf "      failed!\n"
done

L'idée est simple, ce script va récupérer tous les comptes qui m'intéressent (localisés dans une banque en particulier) avec le maximum d'historique. Il suffit d'utiliser cron pour faire ça par exemple une fois par jour (ou anacron si on a pas de pc qui tourne constamment à sa disposition). Tous les fichiers seront stockés dans un répertoire sous le nom ..

Quelques remarques en vrac :
* pour que cela fonctionne weeboob doit avoir enregistré les identifiants. J'aime pas trop l'idée, mais si on veut de l'automatisme pas le choix.
* il arrive que les backends weeboob soit cassé (quand la banque modifie ses pages). Les fois où je l'ai constaté ça a été rapidement corrigé. Récupérer tous les jours les 3 derniers mois implique qu'on aura pas de trous, sauf si le backend est cassé plus de 3 mois ce qui semble improbable.
* on a plein de doublons. Le format ofx est donc le choix par défaut parce qu'a priori les opérations comportent un id qui ne change pas quand on télécharge plusieurs fois. J'imagine que les logiciels de budget vont savoir s'en dépatouiller mais je n'ai pas essayé (sinon il faudra s'en occuper soit-même).

En conclusion, je vais laisser tourner ça 9 mois afin d'avoir un an complet, on verra ensuite ce que je fais avec. Si c'est intéressant j'en reparlerai ici. Mais je tenais à partager ça avec vous, ça pourrait peut-être vous servir.

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est un ensemble d’applications et de modules interagissant avec des sites Web.

Ce projet peut également être utilisé comme une bibliothèque permettant de grandement simplifier l’extraction de données des sites Web. Pour du prêt à l’emploi, Weboob compte aujourd’hui 241 modules qui permettent d’accéder à de nombreux sites Web sans passer par un navigateur standard.

Sans être exhaustive, la suite de la dépêche vous propose de découvrir quelques nouveautés de la nouvelle version 1.3, sortie mercredi 20 septembre 2017, que ce soit pour les utilisateurs et utilisatrices ou les développeuses et développeurs. Nous détaillons également la vie du projet en fin de dépêche, notamment notre participation à la PyConFr du 21 au 24 septembre 2017.

Sommaire

Services bancaires et administratifs

Ajout de bénéficiaire pour les virements

Le système de virement avait été revu lors de la précédente version, afin de permettre un processus plus complet notamment lors de la demande d’informations complémentaires (exemple : un code envoyé par SMS). Nous franchissons une nouvelle étape dans la prise en charge de ces virements en permettant désormais l’ajout de bénéficiaires pour les virements (grâce à la sous‐capacité CapBankTransferAddRecipient). Si le site utilise un code unique par SMS, boobank le demandera pour finaliser l’ajout de la même manière que pour les virements. Neuf modules ont déjà cette fonctionnalité activée.

Nouveaux modules

Les modules bancaires sont de nouveau à la pointe grâce au soutien de l’entreprise Budget Insight qui utilise et contribue massivement à Weboob. On compte ainsi dix nouveaux modules bancaires et la liste des changements sur les modules existants est assez impressionnante.

Les modules qui permettent de simplifier la gestion administrative au quotidien ne sont pas en reste. On peut noter le téléchargement des fiches de paie pour tous les fonctionnaires d’état via le module ENSAP, ainsi que le téléchargement des factures du fournisseur de gaz Lampiris. N’oublions pas, pour les Parisiens, la gestion des réservations de livres dans les bibliothèques (module bibliothequesparis). On regrettera en revanche la disparition du module pour les bibliothèques rennaises, qui n’était plus maintenu.

Logements

Il est très difficile de chercher un logement en zone densément peuplée. Les offres sont très nombreuses, souvent dupliquées sur plusieurs sites. Le travail de veille est lourd et les logements partent très vite. C’est ainsi qu’un contributeur a développé Flatisfy, en utilisant les modules immobiliers de Weboob comme backend. L’objectif de cette application est de vous permettre de spécifier des filtres pour votre recherche de logements (secteur, loyer, nombre de pièces, temps de trajet), puis d’offrir une interface conviviale autour de ces résultats, en groupant les doublons et en affichant tous les résultats de façon uniforme, quel que soit le site d’origine de l’annonce. Flatisfy a été testé et approuvé à Lyon et Paris pour l’instant. Pour plus d’informations, vous pouvez regarder cet article de l’auteur.

Le développement de Flatisfy a été l’occasion de tester et mettre à jour les modules de recherche de logements. Outre les corrections de bogues sur les modules existants, les principaux changements sont :

  • l’ajout d’un module pour récupérer les annonces de Foncia ;
  • l’homogénéisation des résultats retournés par les divers modules, afin que les numéros de téléphone soient formatés de façon similaire, et que toutes les informations disponibles soient bien récupérées ;
  • l’ajout d’un nouveau champ utilities sur les Housing, afin de mentionner si les charges sont incluses ou non dans le loyer récupéré par le module ;
  • l’ajout de deux nouveaux champs rooms et bedrooms sur Housing, afin d’avoir une façon homogène entre les modules de représenter le nombre de pièces et de chambres du bien.

Vie privée et --auto-update

Par défaut, les applications Weboob vérifiaient automatiquement les mises à jour des modules quand un module rencontrait une erreur. C’est très pratique dans un projet comme Weboob qui est face à des sites volatiles, mais a des conséquences négatives en termes de respect de la vie privée. Un utilisateur a ouvert un ticket avec un argumentaire détaillé et nous avons pris en compte ses remarques. La mise à jour automatique est donc désormais optionnelle, désactivée par défaut et peut être réactivée à l’aide de --auto-update.

Rappelons qu’il est dans tous les cas toujours possible de rechercher des mises à jour manuellement avec weboob update.

Nouvelle application QGalleroob

Une nouvelle application Qt permet de faire des recherches d’images et de galeries : QGalleroob.
Screenshot QGalleroob

Dans les entrailles du développement

Prise en charge des versions de Python

Le cœur de Weboob ainsi que les applications Weboob sont maintenant compatibles Python 2.7 et Python 3.
De nombreux modules sont déjà compatibles Python 2 et Python 3, et de nouveaux seront portés au fur et à mesure. Les modules n’étant toujours pas compatibles sont dans une grande majorité des modules abandonnés, dont le fonctionnement est probablement douteux. Ils seront donc probablement supprimés dans les prochaines versions.

En fonction des retours sur Python 3 et de l’avancée du portage, il ne restera plus qu’une ou deux versions de Weboob qui prendront encore en charge Python 2.7. Nous prévoyons de changer de numéro majeur de version (et de passer donc à Weboob 2.0) au cours de l’année 2018, et donc à une version qui n’aura plus Python 2.7.

Nouveaux filtres

Les filtres sont des aides essentiels dans les modules Weboob, ils permettent notamment de simplifier l’extraction des données en utilisant une syntaxe très déclarative (il y a beaucoup de magie dedans). De nouveaux filtres spécialisés font leur apparition dans cette version :

  • AbsoluteLink : construit une adresse URL absolue à partir d’un lien HTML (contrairement au filtre Link qui retourne la valeur brute) ;
  • FormValue : permet d’obtenir la valeur courante d’un élément de formulaire (par exemple dans un tag select) ;
  • HasElement : retourne une valeur suivant la présence ou non d’un élément HTML ;
  • QueryValue : retourne la valeur d’un paramètre contenu dans la partie query d’une URL (par exemple, value pour url?param=value).

Outils de débogage

Deux nouveaux mécanismes ont été ajoutés pour aider à trouver les problèmes quand on écrit un module.

Dans une session de débogage avec pdb (ou temporairement dans le code d’un module) :

>>> import weboob
>>> weboob.browser.elements.magic_highlight(self.el.xpath('.//div[has-class("foo")]'))

Cela ouvrira la page courante dans un navigateur pour déboguer, avec tous les éléments correspondants à l’expression XPath, mis en surbrillance. Il est possible de mettre également en surbrillance toutes les zones d’une page qui sont extraites par le module. Pour cela, il faut ajouter _highlight_el = 1 à la configuration du module que l’on veut déboguer.

Un autre outil très pratique est l’exportation de sessions et son chargement via une extension Web dans Firefox ou chrome. Dans le dossier contrib, un dossier complet nommé webextension-session-importer permet cette performance (voir le fichier README pour plus de détails).

Liste exhaustive des nouveaux modules

  • bibliothequesparis (CapBook) ;
  • billetreduc (CapCalendarEvent) ;
  • blogspot (CapMessages) ;
  • bnppere (CapBank) ;
  • btpbanque (CapBank) ;
  • capeasi (CapBank) ;
  • cices (CapBank) ;
  • cityscoot (CapDocument) ;
  • cmes (CapBank) ;
  • cmmc (CapBank, CapContact) ;
  • ensap (CapDocument) ;
  • erehsbc (CapBank) ;
  • esalia (CapBank) ;
  • foncia (CapHousing) ;
  • lameteoagricole (CapWeather) ;
  • lampiris (CapDocument) ;
  • larousse (CapTranslate) ;
  • linebourse (CapBank) ;
  • myfoncia (CapDocument) ;
  • pixabay (CapFile, CapImage) ;
  • pradoepargne (CapBank) ;
  • tumblr (CapGallery) ;
  • zerobin (CapPaste).

Communauté

Dernière assemblée générale

Le projet Weboob est protégé par une association qui a pour but de soutenir le développement et de permettre l’indépendance du projet par rapport à des entreprises qui peuvent être très contributrices (on les en remercie beaucoup). Si cette association n’est pas toujours très active, nous avons réuni une assemblée générale le 10 juillet 2017 à Paris. Le bureau de l’association (qui nomme notamment le release manager, ayant le pouvoir d’accepter ou refuser des contributions) a été entièrement reconduit.

Les membres du bureau sont cependant tous investis depuis longtemps dans le projet et seraient très volontiers prêts à céder leurs places à de nouveaux contributeurs ou contributrices.

PyConFr 2017

Les développeurs Weboob seront présents en force à cette édition de PyConFr ! L’ensemble des membres du bureau de l’association sera notamment présent.

Un atelier sera animé le samedi 23 septembre 2017 de 14 h à 16 h, ce sera l’occasion de développer votre premier module. Deux conférences seront présentées le dimanche 24 septembre 2017 de 15 h à 16 h :

N’hésitez pas à passer nous voir, poser des questions, faire vos premières contributions, discuter de l’avenir du projet, etc.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Baptiste Delpey ;
  • Barthélemy Gouby ;
  • Benjamin Bouvier ;
  • Benjamin Carton ;
  • Benjamin Tampigny ;
  • Christophe Lampin ;
  • David Kremer ;
  • Edouard Lambert ;
  • Florent Fourcot ;
  • Florian ;
  • Florian Duguet ;
  • François Revol ;
  • Frédéric Lépy ;
  • Guillaume Lundy ;
  • Guillaume Seznec ;
  • James Galt ;
  • Jean Walrave ;
  • Jonathan Schmidt ;
  • Juliette Fourcot ;
  • Laurent Bachelier ;
  • Louis Debeve ;
  • Matthieu Weber ;
  • Nicolas Cornu ;
  • P4ncake ;
  • Phyks (Lucas Verney) ;
  • Raymonde Philibert ;
  • Roger Philibert ;
  • Romain Bignon ;
  • Sébastien Jean ;
  • Simon Lipp ;
  • Théo Dorée ;
  • Vincent Ardisson ;
  • Vincent Paredes ;
  • ZeHiro.

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python (ou pas, des besoins sur la documentation et la qualité des icônes se font sentir), n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob, la suite logicielle interagissant avec des sites Web, vient de faire l’objet d’une acquisition par l’éditeur Microsoft à la suite d’une OPA agressive sur l’Association Weboob, qui valorise cette dernière près de 500 millions d’euros.

Fort de ce rachat, l’éditeur de Redmond, en perte de puissance, attribuée selon certains à son âge et à son « obésité », a vu le cours de ses actions se redresser fortement.

« J’ai immédiatement repéré le potentiel de ce jeune projet, et lui ai tout naturellement fait une proposition, avec des avances (sur les bénéfices) », confie Mark Du True, le consultant à l’origine de la décision.

L’objectif affiché par la société, selon le communiqué de presse publié en début de soirée, est d’en faire la référence du data scrapping auprès des professionnels au sein du pôle Data Interface for Cyberspace Knowledge & Synergies, nouvellement créé.

Afin de mettre en conformité la solution avec les standards de l’industrie, l’acquéreur a décidé de changer le nom du produit en Website Extractor Professional, qui se déclinera en trois éditions : Starter (entrée de gamme), Enterprise (pour les amateurs), et Ultimate (pour pasBillpasGates).

« Nous nous réjouissons des retombées potentielles que Website Extractor Professional va permettre en termes de synergies entre les partenaires stratégiques de Microsoft dans une logique win‐win. », explique Roger Philibert, Directeur Financier de Microsoft France.

L’ensemble des composants va subir une refonte, tels boobank qui devient Bank Integration Flexibility For Loyal Experts ou radioob métamorphosé en Preview Online Radios Now.

« C’est quoi ce langage chelou sans accolades ? » a pour sa part réagi Pierre Tramo, chef de projet.

Il a depuis fait son objectif de rendre Website Extractor Professional le logiciel avec le plus de classes du monde.

« C’est pas mal, il faudrait en faire une version Web » a proposé Henry pendant un brainstorming agile.

L’éditeur serait d’ailleurs en train de tabler sur un pont .NET afin de pouvoir écrire des modules en F#. Le premier viserait Office 350, dans l’optique de faciliter son intégration avec OneDrive.

Si les adeptes des solutions Microsoft se réjouissent du support multi‐plate‐forme (Windows 7, Windows 8 et Windows 10) de Website Extractor Professional, certains irréductibles développeurs prétendent que le bureau de l’association aurait été « enfumé par le nuage ».

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est un ensemble d’applications interagissant avec des sites web.

Pour fêter la nouvelle année, l’équipe de développeurs de Weboob a mis les bouchées doubles pour réussir la sortie d’une nouvelle version. Cette version 1.2 est l’aboutissement d’un travail très actif durant tout le cycle de développement, avec plus de 1 400 commits en onze mois, écrits par 29 contributeurs différents.

En plus de fournir une bibliothèque permettant de grandement simplifier l’extraction de données des sites, Weboob compte aujourd’hui 220 modules prêts à l’emploi pour accéder à de nombreux sites Web sans passer par un navigateur standard.

Sans être exhaustive, la suite de la dépêche vous propose de découvrir quelques nouveautés de cette version, que ce soit pour les utilisatrices et utilisateurs, ou les développeuses et développeurs.

Sommaire

Applications graphiques et passage à Qt 5

Si au niveau des fonctionnalités les applications graphiques n’ont pas toutes évolué, on peut noter, en revanche, le passage de toutes les applications de Qt 4 vers Qt 5.

Au niveau des améliorations notables, on peut citer les applications QCineoob et QCookboob qui sont désormais plus claires en affichant les résultats de recherches, gagnent en clarté au niveau des différents onglets et s’enrichissent d’un nouveau raccourci clavier (Alt + ) pour revenir en arrière.

Enfin, la nouvelle application QBoobLyrics fait son apparition. Elle permet de chercher et afficher des retranscriptions de textes de chansons.

Banques, factures, que du bon

Budget Insight (BI), avec plus de 60 % des changements de cette version, est le plus gros contributeur de Weboob, principalement sur les connecteurs bancaires et de factures.

Le projet a bénéficié d’une refonte de la gestion des virements, qui sont proposés professionnellement par BI à travers leur API, et le portage d’une partie des connecteurs bancaires vers la nouvelle capability CapBankTransfer.

Il est donc aisé, à partir de l’application boobank, d’initier des virements SEPA vers les bénéficiaires internes et externes.

Cela se retrouve également dans l’application mobile (propriétaire) Budgea : capture d’écran de Budgea

Dans les autres nouveautés, les informations concernant votre conseiller bancaire sont également récupérées, à travers la commande advisor : une raison de moins de vous connecter au site de votre banque !

Logements

Weboob suit les grandes tendances, y compris le boom de l’immobilier et les difficultés pour trouver une location dans certaines régions de France. Les applications QFlatBoob et flatboob affichent désormais le prix au mètre carré des logements, et gagnent un peu en ergonomie quand des champs sont manquants (oui, il existe des annonces immobilières sans la surface).

GitLab CI

Buildbot était utilisé jusqu’à présent pour faire tourner les tests unitaires des modules de Weboob. Les outils existants étaient devenus obsolètes et peu utilisés, et les builders n’étaient plus tous maintenus et disponibles. Du coup, les tests unitaires étaient peu utilisés et peu surveillés.

Avec la migration depuis le Redmine sur symlink.me vers un tout nouveau GitLab, l’intégration continue a été repensée pour utiliser GitLab CI.

Dorénavant, un maximum de tests unitaires sera effectué à chaque commit. Ceci implique :

  • de vérifier que la dernière branche de développement compile ;
  • de vérifier que les modules passent un certain nombre de règles de codage et que les modules ont tous des icônes et des tests unitaires ;
  • enfin, de faire tourner le plus de tests unitaires possible sur Weboob et les modules, en générant un rapport de couverture de code.

Pour ce dernier point, un des gros changements apporté est la possibilité de faire tourner un maximum de tests sans identifiants pour le module à tester, en passant automatiquement les tests nécessitant des identifiants. Il est bien entendu possible de spécifier un fichier de back‐end à utiliser pour fournir des identifiants à certains modules et faire tourner encore plus de tests unitaires.

En plus de ces tests unitaires centralisés, chaque contributeur est invité à lancer sa propre instance de tests chez lui, pour les modules ne pouvant fonctionner sans identifiants spécifiques, afin d’envoyer le maximum de tests et de fournir une visualisation Web permettant de suivre en un coup d’œil l’évolution du statut des modules au cours du temps.

Du côté des développeuses

Héritage des modules, navigateurs et pages

Weboob, dans sa volonté de conquérir le monde, Minus, et de lui imposer sa vision sexiste de plus en plus d’utilisat[eur][rice]s, avait besoin dans certains cas de gagner en lisibilité quant au nommage de ses modules.

La question qui se posait était la suivante : comment gérer proprement les modules cic et credit mutuel qui partagent exactement le même moteur de site (et bien d'autres encore, mais il fallait bien choisir un exemple concret pour que la famille Michu dans son ensemble [père, mère et enfants de tous sexes et de tous âges] comprenne), dont les sites sont quasi-identiques, cela, sans dupliquer de code ?

Une réponse aurait pu être de regrouper l’analyse de ces deux sites dans un seul module, mais, malheureusement, cela posait d’autres questions. Il faut supprimer l’un des modules, lequel ? Comment indiquer aux utilisat[eur][rice]s de ce module (disons CIC) supprimé, d’utiliser l’autre ? Et, surtout, comment un[e] utilisat[eur][rice] lambda nommé[e] M[onsieur][adame] Michu, saura‐t‐[il][elle] qu’[il][elle] doit utiliser le module (disons CreditMutuel) pour regarder ses comptes domiciliés au CIC ?

La réponse que nous avons trouvée est de passer par l’héritage entre back‐ends, que ce soit au niveau des classes héritées de modules, browsers et pages.

Les classes AbstractModule, AbstractBrowser et AbstractPage ont ainsi vu le jour !

Par exemple, le fichier module.py du CIC ne contient maintenant plus que ça (commentaires et importations mis à parts) :

    class CICModule(AbstractModule, CapBankTransfer, CapContact):
    NAME = 'cic'
    MAINTAINER = u'Julien Veyssier'
    EMAIL = 'julien.veyssier@example.fr'
    VERSION = '1.2'
    DESCRIPTION = u'CIC'
    LICENSE = 'AGPLv3+'
    CONFIG = BackendConfig(ValueBackendPassword('login',    label='Identifiant', masked=False),
                           ValueBackendPassword('password', label='Mot de passe'))
    BROWSER = CICBrowser
    PARENT = 'creditmutuel'

    def create_default_browser(self):
        browser = self.create_browser(self.weboob, self.config['login'].get(), self.config['password'].get())
        browser.new_accounts.urls.insert(0, "/mabanque/fr/banque/comptes-et-contrats.html")
        return browser

L’introduction de ces nouveautés a aussi permis de gérer différemment les classes génériques qui permettaient de faciliter l’analyse de sites de journaux numériques. Jadis, ces facilitateurs étaient placés dans la partie core de Weboob, partie qui ne pouvait être mise à jour (en cas de bogue d’errance de développement dans les sites scrappés) qu’avec la publication d’une nouvelle version de (ne vous en cachez pas) votre outil préféré.

Dorénavant, il suffit d’étendre un nouveau module spécialement créé pour l’occasion et qui n’implémente aucune capability ; pour ne pas le nommer genericnewspaper, afin de profiter de ces facilitateurs. Ce dernier, comme tous les autres modules, peut être mis à jour, alléluia, via un simple weboob update.

Par exemple, le module minutes20 (pour gérer le journal 20 minutes), se contente d’hériter de GenericNewspaper, de configurer l’adresse URL d’un article, les expressions XPath des articles, et c’est à peu près tout.

Prise en charge des versions de Python

Comme annoncé lors de la dernière sortie, Weboob 1.1 était la dernière version à prendre en charge Python 2.6. Python 2.7 est donc la seule version prise en charge par Weboob 1.2.

Rappelons que ce sont les anciens modules utilisant la bibliothèque mechanize (à travers weboob.deprecated.browser) qui retiennent Weboob à Python 2.
Tous les nouveaux modules (depuis Weboob 1.0) sont écrits avec Browser 2 (qui utilise la bibliothèque requests, compatible avec Python 3). D’anciens modules sont également portés vers Browser 2 au fil de l’eau.

En vue d’un passage à Python 3, les modules utilisant toujours Browser 1 à l’été 2017 seront simplement supprimés (car ils ne sont de toute façon probablement plus maintenus), à l’occasion de la sortie du futur Weboob 1.3.

Le passage total de Weboob et ses modules à Python 3 pourra ensuite se faire, prévu pour Noël 2017. Dès lors, plus aucune version de Python 2 ne sera prise en charge.

Améliorations du navigateur

Le projet ne le met pas toujours en avant, mais il est tout à fait possible d’utiliser Weboob comme une bibliothèque de scraping. En termes de fonctionnalités, le navigateur (Browser) n’a rien à envier à des projets qui pourraient venir spontanément en tête d’un développeur ou d’une développeuse souhaitant réaliser rapidement un script pour lire le contenu d’un site.

Les (le plus souvent mauvaises) expériences dans le scraping du projet permettent d’avoir des fonctionnalités déjà intégrées pour un nouveau développeur. Exemple parmi d’autres, mais qui a été rencontré durant le cycle de cette version, certains serveurs ont mis en place des protections anti‐scraping se basant sur l’ordre des paramètres de la requête HTTP POST envoyée.

PartialHTMLPage

Certains sites retournent des réponses HTML partielles (au travers de requêtes XMLHttpRequest), à insérer au milieu de documents existants. Ces réponses peuvent contenir plusieurs balises racines, ce qui fait que la page retournée n’est pas du HTML.
Le type de page PartialHTMLPage a été ajouté pour gérer ces réponses automatiquement.

CacheMixin

L’APIBrowser est une classe de Browser (introduite dans Weboob 1.1) dédiée aux API Web JSON, plutôt qu’aux pages HTML crados.

Une nouvelle classe mixin a été ajoutée, CacheMixin, qui possède un cache (optionnel) pour éviter de refaire les mêmes requêtes. On peut configurer l’APIBrowser pour retourner la réponse mise en cache dès que la même requête est faite, sans aucune transmission réseau, ou bien on peut le configurer pour laisser le site décider, grâce à l’utilisation des en‐têtes ETag et If-Modified-Since.
Une fois qu’on a ajouté le mixin à l’héritage, pour l’utiliser, il suffit de remplacer les appels à open par open_with_cache.

Débogage simplifié

Si les applications Weboob fournissent déjà des options permettant le débogage fin pour un utilisateur ou un développeur, il n’était pas toujours simple de déboguer en production des erreurs aléatoires sur des pages. Afin de simplifier la vie des développeurs et développeuses, il est désormais possible de configurer l’enregistrement des pages HTML lues par le navigateur dans la configuration d’un back‐end, il suffit d’ajouter l’attribut _debug_dir.

Encodeur JSON

Un encodeur JSON a été ajouté (dans le module weboob.tools.json) pour pouvoir convertir les objets Weboob en JSON :

    json.dumps(objet_weboob, cls=weboob.tools.json.WeboobEncoder)

Il permet de simplifier la vie des développeurs souhaitant exporter les résultats obtenus par Weboob (notamment pour l’exposer sur des applications Web).

Petites nouvelles

À l’occasion de la rédaction d’un article tutoriel pour GNU/Linux Magazine France (date de parution encore inconnue), le site Linuxjobs a gagné son module Weboob. Il rejoint d’autres sites de recherche d’emploi, comme Apec, Lolix, Monster, Pôle Emploi

Si vous voulez en savoir plus sur le projet et que vous vous rendez au FOSDEM 2017, sachez qu’une conférence aura lieu sur Weboob le dimanche à midi en salle UD2.120 (Chavanne).

Enfin, dans la catégorie des utilisations externes de Weboob, nous vous avons souvent parlé dans les dépêches de KMyMoney. Le greffon Weboob (écrit par les développeurs de Weboob) est désormais officiel et intégré dans la dernière version.

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Adrien Clerc ;
  • Baptiste Delpey ;
  • Benjamin Bouvier ;
  • Benjamin Carton ;
  • Bernard Guyzmo Pratz ;
  • Cédric Félizard ;
  • Christophe Lampin ;
  • Edouard Lambert ;
  • Edouard Lefebvre du Prey ;
  • Florent Fourcot ;
  • François Revol ;
  • James Galt ;
  • Jean Walrave ;
  • Johann Broudin ;
  • Jonathan Schmidt ;
  • Julien Danjou ;
  • Julien Veyssier ;
  • Laurent Bachelier ;
  • Matthieu Weber ;
  • Neil Armstrong ;
  • Oleg Plakhotniuk ;
  • Phyks (Lucas Verney) ;
  • Roger Philibert ;
  • Roland Mas ;
  • Romain Bignon ;
  • Simon Lipp ;
  • Vincent Ardisson ;
  • Vincent Paredes ;
  • ZeHiro.

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python (ou pas, des besoins sur la documentation et la qualité des icônes se font sentir), n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Encore un journal de mécontent. Mais avec une solution, ou du moins un contournement.

Je suis un client plutôt satisfait de Boursorama Banque. Bon, tout n'est pas parfait, mais grosso modo, ça va. Et là, il y a une nouvelle interface web. Je l'avais essayé quand elle était encore en déploiement, et j'avais remonté des problèmes. Bien sûr, personne n'écoute, ils ont leur cahier des charges. Mais depuis quelques jours, cette interface est devenu obligatoire. Résultat direct : sur mon écran 1280x1024, je ne vois que 4 transactions sans faire défiler la page. Quand je veux faire un virement, je ne vois pas les comptes externes sans faire défiler, et après, je n'affiche que 9 destinataires à la fois seulement. C'est tellement aéré que c'est la maison des courants d'air.

Et puis j'ai compris. C'est une interface pour tablette. Pour les gros feignants vautrés dans le canapé qui tapotent avec leurs doigts grassouillets, et donc pas précis.

Je me suis lancé dans une CSS de hack, qui résout mon problème. Je partage : https://userstyles.org/styles/125628/boursorama-i-am-not-a-tablet

Maintenant, j'affiche plus de 19 transactions bancaires sans faire défiler. Et sur la page des virements, j'ai les 33 destinataires tous visibles en même temps. Je suis content de moi, parce que j'ai atteint mon but. Je ne suis pas content parce que j'ai du passer du temps à faire ce hack, et maintenant, mon Firefox a une extension de plus installée. Mais c'était ça ou se prendre le chou à chaque fois…

Oui, weboob n'est pas encore à jour. J'irai ptêt les aider si je suis motivé d'ailleurs

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est une bibliothèque et un ensemble d'applications interagissant avec des sites web.

Plus d'un an après la sortie de la première version stable de weboob, nous sommes heureux de vous annoncer la sortie de weboob 1.1.

Pour rappel, weboob est une bibliothèque permettant d’accéder à près de 200 sites web en ligne de commande ou avec des applications graphiques spécialisées.

Débuté par un simple script permettant d'automatiser certaines actions sur un célèbre site de rencontre, c'est désormais une communauté conséquente (plus de 100 contributeurs depuis le début du projet), qui maintient quotidiennement l'ensemble des modules.

Depuis toutes ces années, weboob est devenu un hub interopérable permettant à de multiples applications de récupérer, croiser et présenter des données issus de sites tiers. Tant et si bien, qu'il est fort possible que vous ayez déjà utilisé weboob sans le savoir au travers des entreprises suivantes : Cozycloud, Budget Insight, Winancial, ou d'autres projets libres : Skrooge, Kmymoney, GTranslate, Gnome Shell, un greffon pour XMBC/Kodi, Kresus, hinance.

La nouvelle version 1.1 est exceptionnelle pour le projet. Le cycle de développement a duré plus d'un an (contre une moyenne entre 3 et 4 mois habituellement), et cette version inclut donc plus de 1200 commits écrits par 35 contributeurs. S'il n'y a pas de fonctionnalité impressionnante à mettre en avant, les changements sont très nombreux et cette dépêche se propose d'en évoquer quelques-uns.

Sommaire

Nouveautés depuis la 1.0

Cap sur le patrimoine

La récupération d'informations bancaires est une des premières fonctionnalités de weboob, et probablement la plus populaire en France. Il s'agit également de la capability la plus stable, de part les contributions importantes de Budget Insight (qui représentent 58% des commits de cette version).

Si tous les modules permettent depuis longtemps la récupération des comptes simples (comptes courants, comptes sur livret), seuls quelques modules permettaient de récupérer des informations plus détaillés sur des comptes financiers plus complexes (comptes titres et PEA, assurance vie, etc.). Cette fonctionnalité est désormais présente sur plus d'une dizaine de modules, et cette diversification a permis également d'améliorer la qualité des outils l'utilisant (meilleur affichage dans l'application boobank, meilleure documentation des champs récupérés, etc).

Des modules permettant de gérer des cartes de crédits (surtout pour les USA, avec notamment les cartes Amazon Store et Victoria's Secret) ont également fait leur apparition. Ces modules ont conduit à l'ajout de nouveaux attributs pour les comptes, comme la date du prochain paiement pour la carte de crédit, le montant minimal de paiement et la limite de crédit.

Enfin, l'épargne salariale se retrouve renforcée dans weboob avec le module s2e qui permet d'accéder aux informations des sites Esalia, Capeasi, BNP Épargne entreprise et HSBC Épargne entreprise.

Une commande « weboob »

La diversité des interactions possibles avec les sites web a conduit au développement de nombreuses applications (44 actuellement) dans le cadre de weboob. Leurs noms ne sont pas toujours simples à retenir, et il est courant pour un nouvel utilisateur d'installer Weboob puis de se demander quoi faire pour l'utiliser.

Dans le but d'améliorer cette première approche, une commande « weboob » permet à présent d'accéder facilement aux applications disponibles pour exploiter une capability (un ensemble de fonctionnalités communes, respectant une interface définie). Par exemple, weboob bank lancera boobank, et weboob video offrira le choix entre qvideoob et videoob. De plus, l'application permet de lister les capabilities disponibles.

Shopoob

En parlant d'applications et de noms à retenir, une nouvelle application a été ajoutée : [shopoob], vous permettant de lister et extraire vos commandes de sites marchands. Vous pouvez ainsi accéder au site d'Amazon, d'ideel, de MyHabit et de Victoria's Secret.

Exemple d'utilisation de shopoob avec Amazon

Du côté des développeurs

Asynchrone

Le support des requêtes asynchrones a été ajouté au Browser.

Concrètement, cela permet de faire des requêtes HTTP sans bloquer l'exécution, dans le but d'en faire plusieurs en parallèle. Pour cela, on utilise le module concurrent.futures rétroporté de Python 3. Le nombre de requêtes exécutées en parallèle peut être limité afin de ne pas surcharger le serveur distant.

Plusieurs modules utilisent déjà la fonctionnalité, notamment pour aller sur toutes les pages de détail d'une liste (ce qui est d'autant plus facilité par le filtre AsyncLoad). Le parcours en est devenu significativement plus rapide.

L'utilisation est très simple, au lieu de :

    page = browser.open(...)

On peut faire :

    page_future = browser.async_open(...)
    page = page_future.result()

Seul l'appel à result() est bloquant. Il est aussi possible de fournir un callback.

Quand on utilise les filtres, on peut faire :

    class iter_list(ListElement):
        class item(ItemElement):
            load_details = Link(...) & AsyncLoad  # URL de la sous-page à charger
            obj_truc = Async('details') & CleanText('./p[@class="truc"]')  # le filtre CleanText sera appliqué sur la sous-page récupérée

Des outils pour les API

Avec l'avènement des frameworks JavaScript tels que backbone.js ou angular.js, de plus en plus de sites web sont construits sous une forme d'API renvoyant du JSON. De même, beaucoup disposent d'applications mobiles qui interagissent avec une API.

Même si ça constitue une avancée inconsciente en terme d'accès aux données, puisqu'elles sont récupérées sous forme structurée, cela n'enlève pas l'intérêt de weboob, qui est d'agréger les informations depuis plusieurs sources et de les renvoyer dans un modèle de données unifié.

De fait, une classe APIBrowser a été rajoutée, ainsi que des filtres permettant de parser le JSON de façon similaire aux filtres CSS ou XPath.

Persistance des sessions

Les modules peuvent désormais sauvegarder leur état (page courante, cookies, ou plus si le module décide d'étendre le mécanisme) afin d'éviter de repasser par l'étape de connexion à chaque lancement. La fonctionnalité est encore à un stade expérimental, les modules devant être vérifiés auparavant.

L'intérêt initial était de permettre au module Boursorama de conserver le cookie validant l'authentification à deux facteurs (par confirmation SMS) imposée lors d'une connexion depuis un nouveau lieu.

Futur

La version 1.1 est la dernière à supporter Python 2.6. En effet, cette version est de plus en plus rare et est rarement testée. Cela permettra aussi d'améliorer la compatibilité avec Python 3.

La prochaine version 1.2 devrait sortir dans deux ou trois mois, de beaux changements sont déjà intégrés dans la branche de développement, notamment le portage à Qt5 de toutes les applications graphiques.

Soirée Weboob

Cela fait maintenant six ans que Weboob existe, et nous organisons comme il se doit une soirée pour réunir les membres de la communauté. Elle aura lieu lundi 15 février 2016 au Hall's Beer Tavern, à Paris. Plus d'informations sur l'agenda du libre.

Gâteau des cinq ans de weboob

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Alexandre Morignot
  • Baptiste Delpey
  • Benjamin Bouvier
  • Benjamin Carton
  • Caram Dache
  • Cédric Félizard
  • Christophe Lampin
  • Florent Fourcot
  • Grant Tzabro
  • Guilhem Bonnefille
  • James Galt
  • Jean-Philippe Dutreve
  • Johann Broudin
  • juliaL03
  • Julien Veyssier
  • Laurent Bachelier
  • Loic Bontonou
  • Lucas Nussbaum
  • Matthieu Weber
  • Mickaël Thomas
  • Mr Tchuss
  • nojhan
  • Oleg Plakhotniuk
  • P4ncake
  • Pierre-Louis Bonicoli
  • Pierre Mazière
  • Raphaël Rigo
  • Roger Philibert
  • Romain Bignon
  • RouxRC
  • Samuel Loury
  • Simon Muraïl
  • Vincent A
  • Vincent Paredes
  • Vincent Texier

Weboob est un projet qui grossit et qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer, que vous connaissiez le Python ou pas, n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Bonjour chers lecteurs de LinuxFR

Lors d'un échange par mail il y a quelques mois avec Romain B. créateur de l'application de compta personnelle Budgea https://www.budgea.com/ (anciennement Budget Insight) je lui avais demandé s'il était possible d'héberger soi-même l'application pour s'assurer de la confidentialité des informations bancaires, un serveur d'entreprise regroupant autant d'informations étant toujours susceptible de devenir une cible d'attaques. Des serveurs personnels dispersés et normalement inaccessibles de l'extérieur le sont moins.

Et s'il était donc envisageable d'obtenir l'application moyennant finances, ponctuelles ou régulières pour avoir les mises à jour.

Il m'avait répondu que la question les intéressait voire qu'une libération partielle était envisagée et voulait savoir quelle contribution financière et/ou logicielle je pourrais y consacrer. N'étant pas un développeur expérimenté je ne pourrais que contribuer à corriger les coquilles, la doc, participer aux traductions et peut-être à des réflexions sur l'UI si besoin. En revanche pourquoi pas y participer financièrement puisqu'une entreprise en a fait son buisiness.

Cela fait quelques temps que je reporte la mise à jour de mes comptes bancaires (au départ avec HomeBank) et que je souhaite le faire, quitte à tout reprendre, sur une interface plus esthétique, pratique et moderne. Si en plus le soft peut télécharger automatiquement les opérations bancaires qu'il n'y aurait plus qu'à pointer c'est idéal :)

J'avoue que le prévisionnel m'intéresse aussi mais je comprendrais que les développeurs ne soient pas très chauds pour l'inclure.

Bref, je souhaitais savoir si d'autres personnes seraient intéressées et motivées par une telle application et si vous y consacreriez une certaine somme d'argent pour l'obtenir.
Avec plusieurs acheteurs potentiels peut-être que l'entreprise y verrait son intérêt :)

Commentaires : voir le flux atom ouvrir dans le navigateur

Weboob (Web Outside Of Browsers) est une bibliothèque et un ensemble d'applications interagissant avec des sites web. Plus de quatre ans après le premier commit, nous avons le plaisir d'annoncer la sortie de la première version stable de Weboob !

En plus de présenter les nouveautés, cette dépêche profite de cette version pour faire un rapide retour sur l'historique et l'évolution du projet.

Sommaire

Le nouveau browser

Comme nous l'expliquions dans la dépêche précédente, cette annonce de première version majeure est l'aboutissement de notre projet de refactorisation de code. Afin de rendre plus aisé le support de sites web par Weboob, le projet fournit de nombreux outils, dont une bibliothèque qui simule le fonctionnement d'un navigateur. Depuis quelques versions, cette bibliothèque a été réécrite sous le nom de "Browser2" puis tout simplement "le nouveau browser" (navigateur). Celui-ci est prêt à l'utilisation, et suffisamment abouti pour que son API reste stable durant la durée de vie de la branche 1.x. Nous nous autorisons des ajouts, mais l'existant ne sera pas modifié.

Ce nouveau Browser et les outils associés sont l'une des forces du projet : le scraping (extraction de contenu) est souvent une tâche répétitive, mais Weboob fait tout pour atténuer ce problème. Nous pensons que le projet a maintenant atteint un niveau de maturité lui permettant d'honorer cette promesse. Avec tous les outils du browser (ListElement, filtres, pagination, formulaires, etc.), un module peut ne prendre que quelques lignes de code.

Retour sur l'origine du projet

En 2008, un petit script Python utilisant mechanize et html5lib a vu le jour, écrit par un utilisateur d'un site de rencontres français bien connu, et dont l'objet était de remplacer l'interface web sur fond rose par son MUA pour échanger avec ses contacts. Très vite, il renouvela l'expérience avec un autre script pour récupérer automatiquement son solde et ses relevés depuis le site de sa banque.

Lorsque, début 2010, il lança le projet dlfp2mail, il se rendit compte de la possibilité d'appliquer la méthode à bon nombre d'autres sites web, et chercha à factoriser le code au sein d'un même et unique projet. Weboob était né.

Ainsi que ceux qui jasent sur le nom l'ignorent, il était initialement prévu de l'appeler woob. Ce n'est que lorsqu'on constata qu'il existait déjà un autre logiciel portait déjà ce nom qu'il fut décidé de le renommer weboob.

Les concepts fondateurs furent rapidement posés :

  • séparation entre les modules interagissant avec les sites et les applications ;
  • système de capacités que chaque module peut implémenter ;
  • bibliothèque utilisable par des applications tierces.

Le projet s'est depuis enrichi d'un navigateur puissant (remplaçant mechanize par requests) pour le parcours et l'analyse lexicale des pages, d'un système de dépôts pour les modules, de classes helper pour résoudre les claviers virtuels, etc.

37 capacités

Les capacités sont des interfaces permettant aux applications d'interagir avec les sites Web, de façon unifiée. Par exemple, la capacité bancaire offre la possibilité de lister les comptes, obtenir l'historique des transactions, faire des virements, etc. De leur côté, les modules implémentent une ou plusieurs de ces capacités (parfois partiellement uniquement, notamment si le site n'a pas la fonctionnalité). Les applications ont donc des interfaces unifiées et stables pour interagir avec tous les sites d'une catégorie, et non pas avec un seul site bien particulier.

C'est une grande différence avec les nombreux scripts d'extraction de contenu individuels pouvant se trouver sur Internet : on accède à tous les sites permettant de télécharger des vidéos d'une manière unique, à tous les sites bancaires en une seule requête, etc. La diversité des fonctionnalités des sites Web se retrouve en partie chez Weboob : nous proposons actuellement 37 capacités différentes, à comparer avec les 172 sites dont Weboob permet l'accès.

Utilisations tierces

Le projet Weboob fournit des applications basiques pour interagir avec les sites. Ces applications permettent d'effectuer des requêtes complexes (avec notamment un système de filtres sur les résultats), et permettent déjà de nombreuses interactions. Notre objectif n'est cependant pas de remplacer les applications existantes : nous n'allons pas créer un nouveau gestionnaire financier personnel dans Weboob. De très bons logiciels libres existent déjà pour celà. De même pour les lecteurs vidéos.

Nous mettons donc l'accent sur l'export des données en formats utilisables par tous, ainsi que sur l'utilisation de Weboob en tant que bibliothèque dans les projets. Cette méthode a particulièrement bien fonctionné pour les applications bancaires, mais aussi pour des usages plus inattendus. On peut citer à la fois des entreprises (Cozycloud, Budget Insight, Winancial) que des projets communautaires : Skrooge, Kmymoney (nous essayons de faire intégrer un patch upstream), GTranslate, Gnome Shell, un plugin pour XMBC/Kodi

Nouveautés depuis la 0.j

Pour revenir sur les actualités de la 1.0, le temps de développement de cette version a été assez court. Notre objectif (réussi) étant une migration de la version 1.0 dans Debian testing avant le gel. Il n'y a donc eu que six (intensives) semaines entre la 0.j et la version 1.0.

On peut cependant noter que la capacité permettant de consulter des annonces immobilières (CapHousing) a été améliorée. Les annonces immobilières du site Leboncoin ont notamment été ajoutées.

Du côté des applications, une nouvelle option de filtre (LIMIT) est disponible en ligne de commande. Elle permet de limiter la profondeur des recherches des requêtes utilisant le moteur de condition.

Concernant les modules, on peut noter un second module pour une banque américaine (Citibank). Du côté plus francophone, des modules pour suivre l'agenda du libre, pour suivre les marées et une nouvelle application de rencontres.

Enfin, sous le capot, nous avons profondément changé les API et les noms internes des objets. Nous voulions le faire pour présenter une interface cohérente pour la version 1.0. Dans ce cadre, l'utilisation de l'ancien Browser est désormais signalée comme obsolète. Un nouveau niveau de debug fait son apparition pour le nouveau Browser, permettant un suivi fin des appels sur les filtres.

Communauté

Depuis quatre ans, ce sont pas moins de 88 contributeurs qui ont participé à Weboob :

Adrien Kunysz, Ahmed Boussadia, Alexandre Bonhomme, Alexandre Flament, Alexandre Franke, Alexandre Lissy, Antoine, Arno Renevier, Benjamin Carton, Benjamin Drieu, BohwaZ, Camille Baldock, Camille Dehecq, Cedric Defortis, Christophe Benz, Christophe Gouiran, Christophe Lampin, Clément Schreiner, Clément Calmels, Damien Cassou, David Jeanneteau, Erwan Jahier, Etienne Carriere, Fabien Grumelard, Florent Fourcot, François D., François Revol, Gabriel Serme, Gabriel Kerneis, Gilles Quenot, Grmbl Frechneu, Hervé Werner, Jean-Benoist Leger, Jean-Christophe Dubacq, Jean-Philippe Dutrève, Jerem, Jeremy Monnet, Jérôme Poisson, Jocelyn Jaubert, Johann Broudin, John Morrow, Julia Leven, Julien Hebert, Julien Veyssier, Juliette Stehlé, Kevin Pouget, Laurent Bachelier, Laurent Dufréchou, Laurent George, Loic Bontonou, Luc Didry, Lucas Nussbaum, Lucien Loiseau, Mathieu Jourdan, Mathieu Lordon, Matthieu Rakotojaona, Michael Scherer, Nicolas Duhamel, Noé Rubinstein, Oleg Plakhotniuk, Olivier, Olivier Schwander, Philippe Fremy, Pierre Mazière, Raphaël Rigo, Richard Genoud, Roger Philibert, Romain Bignon, Romain Garbage, Ryan Nowakowski, Samuel Loury, Sébastien Monel, Simon Murail, Stefano Zacchiroli, Tanguy Ortolo, Tens San, Thomas Lecavelier, Vicnet, Vincent A, Vincent Paredes, Vincent Texier, Willy Villard, Xavier Guerrin, Yann Rouillard, ianux, leto, theocrite

Nous remercions également pour cette version les étudiants de l'Université de Lille 1, qui ont ajouté des tests dans le cadre d'un projet d'étude.

Weboob est un projet qui grossit et qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer, que vous connaissiez le Python ou pas, n’hésitez pas à contribuer.

Commentaires : voir le flux atom ouvrir dans le navigateur

Avant-propos : cet entretien peut sembler être une entorse à la série « vivre du logiciel libre » dans la mesure où la société Budget Insight ne « vit » pas du logiciel libre. C'est la raison pour laquelle cette dépêche n'est pas intitulée « Vivre du logiciel libre […] » mais « Création d'entreprise et logiciel libre […] »


La série d'entretiens sur le logiciel libre et la création d'entreprise continue. Mi-décembre, vous aviez pu lire les échanges avec Daniel Castronovo au sujet de la création et de la cessation d'activité de son entreprise Ikux. Cet entretien présentait la particularité de faire suite à un entretien 3 ans auparavant.

Pour démarrer l'année 2015, voici Romain Bignon, cofondateur de Budget Insight, un éditeur de logiciels. Bien que ne commercialisant pas une offre « open-source », Budget Insight est acteur du logiciel libre notamment à travers le controversé Weboob. Budget Insight était d'ailleurs cité dans la dépêche "Ces startups qui contribuent au libre" fin 2012.

Vous pourrez découvrir l'entretien avec Romain Bignon en deuxième partie de dépêche, suite à quoi vous êtes vivement invités à commenter et questionner :)

Nom et prénom Romain Bignon
Société Budget Insight
Activité de l'entreprise Éditeur de logiciels
Démarrage de l'activité Février 2012
Localisation de la clientèle France
Nombre de collaborateurs 6
Sites web https://www.budget-insight.com
https://www.budgea.com/

Sommaire

La création d'entreprise

Bonjour Romain, peux-tu présenter en quelques lignes qui tu es et ce que tu fais ?

Bonjour, je suis un développeur autodidacte de 26 ans, auteur de plusieurs logiciels libres, les plus connus étant minbif et weboob. J'ai travaillé plusieurs années dans deux entreprises du libre : INL/Edenwall, malheureusement aujourd'hui fermée, et Avencall.

Comment t'es venue l'idée de créer Budget Insight ?

Weboob est née en 2010 de l'union d'un « scraper » pour un site de rencontre, et d'un autre pour le site de la banque BNP Paribas. L'augmentation du nombre de contributeurs a apporté toute une palette de nouveaux modules bancaires, ainsi que des modules de récupération de factures (EDF, etc.).

Courant 2011, alors que j'étais à Avencall, j'ai eu l'envie avec un ami de monter une boite. Ayant fait une rupture conventionnelle pour glander sur mon canapé m'assurer un revenu le temps de monter le projet, nous avons cherché diverses idées et modèles économiques. L'une d'elle m'est venue à la lecture d'un article du Canard Enchaîné parlant de dématérialisation et de coffre-forts électroniques, en utilisant weboob pour l'automatisation de la récupération des factures. Très rapidement, s'est rajoutée l'idée de les associer aux données bancaires, et de fournir des indicateurs (camemberts, catégorisation automatique, etc.).

Malheureusement, l'absence de soutien de mes proches, et le fait que l'on avait tous deux des profils techniques menant à beaucoup d'incertitudes au niveau business, nous ont conduit à abandonner le projet.

Et alors que j'étais sur le point de rechercher du boulot, un centralien avec un projet d'entreprise similaire ayant entendu parler de weboob m'a proposé de picoler avec lui, et ça a débouché sur la création de Budget Insight.

Quelle a été votre démarche pour cette création ? Avez-vous été aidés ?

En février 2012, nous avons donc déposé les statuts de la SAS, puis nous avons été rapidement incubés à l'École Centrale Paris. Cette incubation nous a donné le privilège d'être suivi par un coach, fondateur d'Incwo (aujourd'hui client à nous), qui nous a énormément aidé tout au long de notre évolution.

Nous étions au départ trois associés, Clément (le centralien, qui s'occupe du business), Mathieu (développeur frontend) et moi (développeur backend).

Mathieu a fini par nous quitter, étant beaucoup moins investi que nous, travaillant à distance (il habite Lyon et nous sommes à Paris), et n'étant pas aligné sur l'évolution de la stratégie de la boite.

Avez-vous eu besoin de financements ? Où les avez-vous trouvés ?

Outre l'apport initial, nous avons effectivement sollicité deux types de financements. D'une part, des aides sous forme de subvention ou de prêts à taux zéro, publiques (PIA 1 et 2, AIMA) et privées (Réseau Entreprendre 92). D'autre part, nous avons également ouvert notre capital à un Business Angel.

Aujourd'hui, après 3 années d'activité, vous êtes 6 collaborateurs. Quelle a été la chronologie et la stratégie de vos recrutements ?

Nous avons embauché notre premier salarié (un contributeur weboob) début 2013 lorsque nous avons commencé à faire du service, qui a malheureusement dû nous quitter six mois plus tard pour des raisons de santé. Nous l'avons alors remplacé par quelqu'un d'autre sur cette partie, puis nous avons pris une seconde personne pour travailler sur l'intégration de Budgea en marque blanche, puis sur Budgea Pro.

Maintenant, puisque nous avons arrêté de faire du service, les deux développeurs sont sur Budgea Pro qui reste notre principal axe d'évolution.

Nous avons également fait appel par le passé à quelques amis pour des prestations ponctuelles (notamment sur les applications mobiles), et nous avons un étudiant de l'école 42 en stage chez nous dont nous sommes très contents (nous espérons l'embaucher à terme).

Côté commercial, nous avons assez peu investi (à tort, rétrospectivement), mon associé s'en occupant principalement. Nous avons eu quelques stagiaires (dont une qui a été géniale), mais cela devrait constituer notre première embauche en 2015 dès que nous aurons le budget pour ça.

Du B2C vers le B2B

Il me semble que votre activité originale était basée sur le service Budgea, ciblant le grand public via deux formules : une gratuite et une premium à 2,5€/mois. Cette stratégie impose l'acquisition de nombreux utilisateurs et clients. 3 ans après le lancement, où en êtes vous ?

Effectivement, notre positionnement initial était un service web et mobile pour les particuliers avec deux axes pour gagner de l'argent :

  • Une version Premium, donnant accès à des fonctionnalités avancées tels que le prévisionnel ;
  • Des recommandations personnalisées de produits bancaires et d'assurances via des partenaires.

Comme tu le dis, pour valider le modèle, il faut de nombreux utilisateurs, et cela a un coût. Nous avons fait plusieurs campagnes, nous ayant permis d'atteindre aujourd'hui plusieurs dizaines de milliers d'utilisateurs. Néanmoins, nous avions déjà des concurrents bien installés (Bankin et Linxo) ayant levé des fonds, et donc ayant une force de frappe plus importante.

Nous avons tenté de nous démarquer d'eux par la fonctionnalité du prévisionnel, basée sur des algorithmes statistiques pour détecter automatiquement les dépenses récurrentes et variables, et projetant l'évolution du solde à venir sur un mois. Mais nous avons constaté que cette « killer-feature » n'était pas suffisante pour faire la différence.

Enfin, faire du B2C impose d'avoir une approche marketing importante, or cette caractéristique ne fait pas partie de notre ADN, contrairement à Bankin qui sont très bons dans ce domaine.

Budgea est donc une jolie vitrine de nos technologies, mais nous n'investissons plus dans l'acquisition d'utilisateurs car elle nous rapporte aujourd'hui moins d'un millier d'euros par mois.

Du coup, comment gagnez vous de l'argent ?

Après avoir été lauréats du Réseau Entreprendre 92, nous y avons rencontré le patron d'une autre société qui, impressionné par Budgea, nous a proposé de faire du service pour lui. L'idée était de lui développer son outil interne de production, en utilisant notre agrégation bancaire, puisque son cœur d'activité est de produire des indicateurs aux PME.

Nous avons par la suite été également approchés par d'autres sociétés, notamment des cabinets d'expertise comptable. Cela a été un véritable tournant dans notre réflexion, puisque nous nous sommes rendus compte qu'il y avait un réel besoin sur le marché professionnel d'outils de gestion de trésorerie.

Ça a débouché sur le lancement de Budgea Pro fin 2014, adressé aux TPE et aux experts comptables, en tant que plateforme collaborative, et qui constitue notre principal axe de développement sur 2015.

En parallèle, nous avons également répondu à divers appels d'offres de banques.

Qui sont vos clients ?

Aujourd'hui, nous avons trois typologies de clients :

  • des grands comptes (tels la Banque Accord et l'Express) qui intègrent Budgea en marque blanche pour le proposer à leurs clients ;
  • les éditeurs de logiciels (ERP, trésorerie, notes de frais, etc.) qui utilisent la Budgea API pour faire de l'agrégation bancaire ;
  • les experts-comptables et les TPE pour Budgea Pro.

Comptant des banques parmi vos clients, peux-tu nous en dire un peu plus sur la perception du logiciel libre dans ce domaine ?

Très mauvaise en général :). Cela dépend évidement de l'interlocuteur, mais les « décideurs » associent le logiciel libre à cheap, amateur, qui ne gère pas la montée en charge, etc.

Nous avons abandonné l'idée de les convaincre, nous préférons minimiser cet aspect lors des échanges commerciaux, insistant sur le fait que notre solution peut très bien fonctionner avec Oracle, par exemple.

Cela dit, Linux et Apache font exception, car eux sont relativement bien acceptés.

En revanche, un autre souci que nous avons rencontré, est la sécurité perçue.

Lorsque nous avons intégré Budgea en marque blanche pour une banque, un audit a été commandé par celle-ci auprès d'un prestataire, qui s'est contenté de fournir un rapport de scan automatisé, bourré de faux positifs (il était indiqué notamment qu'il y avait une version de mediawiki vulnérable, alors qu'on ne l'utilise évidemment pas). Ce rapport a été remonté tel quel par la DSI à la direction de la banque, ce qui nous a valu de batailler.

Il nous a été également demandé de mettre à jour Apache de 2.2 à 2.4, car la version utilisée serait vulnérable ! Ce ne fut pas simple de faire comprendre que le système d'exploitation utilisé (Debian) propose des mises à jour de sécurité, et qu'installer une version séparée, non seulement n'améliorait pas la sécurité, mais pire augmentait le risque, puisqu'on se passait du support sécurité de Debian !

Enfin, un scan réalisé avec ssllabs a donné une note de A-, ce qui a crispé, alors que le site de cette banque est lui-même noté… F.

Et le fait que vos solutions reposent sur Weboob (qui est déjà très controversé sur LinuxFR ;) ?

Dans la même logique, nous ne parlons pas (ou peu) de weboob, car outre le nom qui peut faire mauvaise impression, nous vendons un package complet et non pas un ensemble de briques.

Cela dit, ça nous a apporté des opportunités, une grosse banque nous ayant contacté pour un appel d'offre après nous avoir connu via weboob !

En tout cas, le fait qu'il y ait beaucoup d'éditeurs de logiciels qui sont clients de la Budgea API, l'offre commerciale d'agrégation bancaire autour de weboob, montrent que ce dernier répond à une véritable problématique professionnelle, contrairement à ce que peuvent penser quelques trolleurs sur linuxfr :).

J'ai constaté que pas mal de banques proposent des solutions de gestion intégrée à leur portail. Ces solutions reposent-elles sur vos technologies ?

Nous équipons la Banque Accord et avons travaillé avec le Crédit Agricole. Nous avons des concurrents qui ont fourni des parties de leurs technologies (agrégation ou catégorisation automatique) à certaines banques, et d'autres (à l'instar de la Société Générale) développent leurs solutions de gestion en interne.

Je me souviens avoir découvert ces fonctionnalités sur les portails des banques après que Budgea se soit lancé. Est-ce votre service qui a poussé les banques à proposer ces fonctionnalités ?

Ce sont les services similaires au nôtre qui ont effectivement incité les banques à se mettre à la page, car elles se sont rendu compte que nous captions leurs utilisateurs. C'est grâce à l'agrégation bancaire avec des outils tels que weboob que les PFM ont pu émerger, les banques étant très frileuses à l'idée d'ouvrir leurs données à des éditeurs tiers.

Plusieurs d'entre elles, dont la « Direction de l'innovation » est représentée par le stéréotype du banquier du troisième âge, ont tenté (sans succès) de mettre en place des mesures pour empêcher le scraping. Heureusement, d'autres (tels le Crédit Agricole ou AXA Banque) sont plus innovantes et proposent des APIs.

Ceci est en tout cas la preuve que l'ouverture est le meilleur moyen de favoriser l'innovation.

Contribution au libre

Budgea est parfois présenté comme la version "graphique" des modules bancaires de Weboob. Il n'en est néanmoins pas pour autant libre. Puisque vous ne gagnez pas d'argent avec, pourquoi ne pas le libérer ?

C'est une option à laquelle nous avons plusieurs fois réfléchi et qui nous tente bien. Cela permettrait potentiellement de fédérer une communauté de développeurs autour de l'application, qui serait du coup profitable à notre déclinaison professionnelle.

Néanmoins, cela nécessite un certain travail, puisqu'il faut d'une part mettre en place la logistique (packaging, documentation d'installation, documentation développeur, bug tracker public, etc.) et d'autre part soigner la communication pour favoriser la création de cet écosystème. La quantité de travail que nous avons aujourd'hui ne nous permet pas d'investir du temps là-dedans à court terme, mais j'espère qu'on pourra faire ça d'ici fin 2015, car je pense que ça pourrait réellement être bénéfique si nous faisons les choses correctement.

À suivre donc, DLFP sera le premier informé :).

Tu cumules les rôles de directeur général de Budget Insight, président de l'association Weboob et lead développeur Weboob. N'y a-t-il pas un conflit d'intérêts entre ces différentes casquettes ?

L'Association Weboob a justement été créée dans l'optique de limiter le conflit d'intérêt. Il a été décidé à sa constitution de me nommer président car j'étais alors le plus actif contributeur (non seulement en code mais dans la communauté), mais dans l'optique de laisser ma place une fois que la machine sera lancée.

Nous atteignons bientôt ce but puisque lors de la prochaine AG je devrais laisser ma place à Florent Fourcot.

Note que je ne suis déjà plus Release Manager, Florent occupant ce poste depuis plus d'un an.

D'ailleurs la société Budget Insight finance-t-elle des contributions à Weboob ? À d'autres logiciels ou technos libres ?

Budget Insight est bien sûr le premier contributeur sur la partie bancaire, et apporte de nombreuses améliorations au core. Nous avons créé plus d'une quinzaine de modules et assurons une maintenance quasi quotidienne de l'ensemble des modules bancaires, via le buildbot humain que représentent les utilisateurs de Budgea.

La plupart des collaborateurs actuels ou passés de Budget Insight ont payé leur patch (Simon Muraïl, Vincent Paredes, Laurent Bachelier, Noé Rubinstein).

Conclusion

Des projets dans les cartons ? Des innovations à venir ?

Comme tu l'auras compris, le gros de notre activité en 2015 concernera avant tout les professionnels.

Les prochaines innovations qui devraient arriver très vite, sont l'intégration d'un système d'OCR pour la reconnaissance des méta-données des factures, et le lettrage automatisé entre celles-ci et les mouvements bancaires.

Nous allons également mettre en place une interface de gestion de budgets de trésorerie, basée sur le système de prévisionnel de Budgea, adaptée pour les pros.

Un dernier mot ? Un retour d'expérience à partager ?

Je ne regrette absolument pas de m'être lancé, car outre la satisfaction personnelle qu'il y a à gérer une activité et le plaisir que j'ai d'arriver le matin au bureau et de voir l'équipe et l'ambiance qui s'est créée, et même si c'est pas facile tous les jours, c'est extrêmement formateur sur un large panel de sujets : le business, la comptabilité, la gestion de projets clients (qui est au final très différente de la gestion d'un logiciel libre), le management, les RH, la relation client, la gestion des merdes, etc.

Ma courte expérience m'a également appris l'importance du réseau et son entretien, ainsi que le fait qu'il faut être en permanence à l'écoute du marché pour être prêt à pivoter (comme on l'a fait), car il est facile d'aller dans le mur en étant persuadé de détenir une idée révolutionnaire qui n'est pas adaptée.

Enfin, il ne faut pas avoir peur de faire des erreurs, car on en fait de toute façon, et ce qui compte est d'arriver à en tirer le meilleur pour avancer.

Merci Romain pour le temps que tu as pris pour répondre à ces questions (et pour le temps que tu vas prendre pour répondre aux commentaires;) Bonne continuation.

Commentaires : voir le flux atom ouvrir dans le navigateur

There are often good-willed people around open-source software that while they do not know programming or the specific technologies used, can greatly help the project.

So, what are we looking for? We do not have any translation support for now, so that is out. However, there are a few things you can already do:

  • Provide new website support ideas. To be helpful, you can provide us with everything you know like available APIs and workarounds, existing tools (Python preferred), etc.
  • Provide better logos. Many logos have been hastily done and could be better; the only requirement is that it has to have a parodic or humorous aspect, for legal reasons. I would consider replacing logos that are vulgar a priority.
  • Write packages for your distribution of choice, or simply lobby them to package Weboob and keep it up to date. Since websites break all the time, old versions can become useless quickly.

The simplest way to do that is to create new issues on our tracker. Accepted contributions will get mentioned, unless of course you do not want to.

We often get complaints around Weboob‘s name, and the various application names.

There’s no denying they’re childish. What they are not, however, is sexist.

There is “boob” in the main name, and “boob” is a friendly name referring to (mostly female) breasts. We would, for example, avoid using “tits” or “cunt”, because they are often demeaning1. Though it is a happy accident (our earlier ideas like “woob” and “webob” were taken), we certainly like playing with that.

The idea is the same with application names; it’s all about friendly jokes (like wetboobs the weather tool, which manages to be related to weather and boobs).

If you’re offended, just ask yourself “how is it sexist?”.

As it appears, Weboob is a formidable tool to detect people that are part of the “be offended first, think later” crowd. Interestingly, the crusaders2 are to date all male, and often assert that women can’t like jokes about breasts or sex in general3. How fucked up is that?

They will always make a scene4 on how they’re never going to use Weboob because of names. Guys, here’s the thing: we don’t need you and we certainly don’t want you. I for one am glad we created an Asshole Detector, albeit by accident.

  1. We however are mostly not native English speakers. Mistakes can happen.
  2. This is not an euphemism. They act like they are fighting for a good cause, but it’s only pretend.
  3. And who the hell are they to talk in place of others? That is actual sexism.
  4. So that it is abundantly clear, this is purely about making a scene; I do not care about their opinions or how many penises they may have. All our contributors do not and do not have to like the branding.

From the start, creating a new weboob module was a pain, as you had a lot of repetitive copy-paste-alter tasks to do.
Since I can’t stand anything repetitive, I created a tool to speed up module creation, which was inspired from the now retired tools/gen_comic_reader.sh.

Now, when I see code generation, I usually think something must be wrong. In our case, what we are really doing is filling automatically some fields like author, class name, etc. A lot of web frameworks also do that kind of base code generation with success.

It’s a very simple tool, which provides “recipes”, those recipes being a set of templates. Though you can override them, it tries to guess as much details as possible, like your name and e-mail.

Here is an example session:

$ ./tools/boilerplate.py
usage: boilerplate.py [-h] [-a AUTHOR] [-e EMAIL] {base,comic,comic.test} ...
boilerplate.py: error: too few arguments

$ ./tools/boilerplate.py base "foo bar"
Created modules/foobar/__init__.py
Created modules/foobar/backend.py
Created modules/foobar/browser.py
Created modules/foobar/pages.py

The backend.py should look like:

# -*- coding: utf-8 -*-

# Copyright(C) 2013      Laurent Bachelier
#
# [...]

from weboob.tools.backend import BaseBackend

from .browser import FooBarBrowser


__all__ = ['FooBarBackend']


class FooBarBackend(BaseBackend):
    NAME = 'foobar'
    DESCRIPTION = u'foobar website'
    MAINTAINER = u'Laurent Bachelier'
    EMAIL = 'laurent@bachelier.name'
    VERSION = '0.f'

    BROWSER = FooBarBrowser

You can jump into the code right now!

As of now, there is only a minimal “base” recipe and the two “comic” recipes taken from the previous tool; however as boilerplate.py is intended to be highly extensible and maintainable, I hope it will support more specialized recipes soon (for example, “newspaper” or “pastebin”). You know what to do.

I am now working for Budget Insight.

My work should be mostly Python, and for some part contributions to the weboob project.

Even though I’m not looking at all in that branch, I still get at least an e-mail a week for symfony-related work! I guess this is good for Symfony developers, though.