DatosPublicos.org.es

He creado un sitio web con un visor para analizar los datos de los Presupuestos Generales del Estado.

Llevaba tiempo queriendo encontrar esa información y hacer algo así. La verdad es que es dificilísimo encontrar datos en formatos legible por máquinas. La mayoría de los datos publicados son PDFs o páginas web, imposibles de procesar. Resulta que hay fundaciones como OKFN que velan por que los datos públicos sean de fácil acceso, y resulta ¡oh sorpresa! que España queda bastante mal en el ranking de apertura y accesibilidad a datos públicos. La parte más interesante, el gasto, sigue siendo difícil de localizar. Sería estupendo poder ver a quién se adjudican qué contratos con facilidad, cosa que sí sucede en otros países como Eslovaquia.

Gasto per cápita en cada comunidad autónoma, 2006-2012. ¿Cómo es que Navarra tiene una barra tan grande? ¡¿Nos cuesta el doble un navarro que un murciano?!

Finalmente encontré que la gente de Civio ya habían hecho algo muy parecido procesando los PDFs de los presupuestos en ¿Dónde van mis impuestos?, y publicaron sus datos. Gracias a ellos pude preparar esta web. Me pregunto... ¿qué podríamos ver analizando el BOE y los diferentes boletines autonomicos y provinciales?

Al sitio aún le quedaría mucho por mejorar, pero es un comienzo :D. La herramienta usada para el análisis de datos de DatosPublicos.org.es es un proyecto llamado CubesViewer, escrito por un servidor. Espero que resulte de interés a alguien.

Agradecimientos a Mateo y Pablo, que han apoyado la idea y colaboran proporcionando el hosting y el dominio.

Hooverphonic (Cover) - Mad about you

Hemos grabado una versión cortita de "Mad about you", de Hooverphonic. Éste es el segundo tema que produzco:




Voz: Xiana Teimoy
Instrumentos y Producción: J Montes

Desde mi perfil en SoundCloud se puede descargar el audio y navegar por los temas.

De paso recuerdo el anterior tema que publiqué: J - Nowadays .

Wikipedia Facts

What can we find if we download and generate some statistics about Wikipedia?

1) Overview: Wikipedia on January 2nd 2013 has 13 057 082 entries (the Encyclopaedia Britannica sums 228 274 entries according to Wikipedia itself). There are almost as many redirections as actual articles:

Wikipedia Articles (blue: articles, green: redirections)

2) Articles: Let's look at the real articles contents only (no redirections). This is more than 7,1 million articles:

The average article belongs to 2.6 categories, links to 2.31 pages outside the site and 33.86 links internal to Wikipedia. Thousands of articles feature thousands links. In total, there are 16 413 888 external links and 240 751 315 internal links. Enough to get lost for a while!

The average size is 4 634 characters (roughly about 110 words per article), but the total size of article text is 32 GB. And this is only raw text, images are not included.

3) Content

This is one of the most striking result of all. I have searched for certain words within the text of the articles, and assigning a score. The follownig diagram shows how many articles are defined by a particular word (the word with most occurrences). This has been shown before, but the results still seem astonishing to me:

Perhaps we should start thinking of how airily we use the term "war".


4) Geography

I can only report for the articles last updated by anonymous users. But for the sake of it, this is how real article updates (by anonymous users) were distributed among the different continents. This population includes 490 080 articles:

 

5) Updates:  This is a result I am pretty surprised of. The following graph shows the year and quarter was the time that articles were last updated (separating redirections, in yellow, from articles, in blue). Apparently, a huge percentage of articles have been updated during the last quarter of 2012, which could mean that Wikipedia is very lively and is being updated frequently, although this value seems to high to me, and so I wonder if this may be some automatic process updating wikipedia articles.

Unfortunately, I can't get the "creation date" of articles as the normal Wikipedia dump doesn't include that information.

6) Titles

The average title entry is 26.9 characters long. There are entries starting with every character you can think of: €, Ɣ, ¢, £, § ... We can also see how entries are distributed along letters. Surprisingly, numbers 1 and 2 have got more entries than letters Q, X, Y or Z. Even also more than U and V.

7) Processing

I have done the analysis and charts with CubesViewer OLAP Data Explorer, an open source data explorer that I published a couple of weeks ago.

Processing the Wikipedia export file (a 39,6 GB XML file) took my computer more than 18 hours, although using 1 core only and I didn't spend any time optimizing this.

source: 8,95GB 18:35:54 [ 140kB/s]
bzcat: 39,6GB 18:35:57 [ 621kB/s] 
articles: 13,1M 18:35:57 [ 195/s]    

New open source application: CubesViewer

I have recently been working on a data exploration and visualization tool, and I am very happy to announce the release of this new project to the public domain.

It is called CubesViewer, and it is an Online Analytical Processing (OLAP) exploration tool. In everyday words, it allows people to design and produce reports and charts about many kinds of data that can be extracted from a database (like contracts, invoices, climate, demography, scientific production, wikipedia articles, public spending, logistics...).

I wanted to use a simple Online Analytical Processing (OLAP) server and I found the Cubes project, a fantastic lightweight OLAP server which includes everything I needed.

It's always nice to publish Open Source software. I hope this is of use to people.

Features:

• User Interface allowing for multiple views on-screen.
• Cube explorer providing drilldown and cut operations.
• Supports dimension hierarchies and date filtering.
• Different types of charts and diagrams.
• View management, sharing and saving.
• Modular and extensible.

Cubesviewer Project: https://github.com/jjmontesl/cubesviewer

"Información" sobre la "censura" de Youtube

Hoy Youtube! me ha escrito. Dicen que uno de mis vídeos quizá contenga contenido "inapropiado". De hecho, ha sido prohibido en Alemania.

Parece que alguien o algo (supongo que más bien algún programa) ha detectado que de fondo una canción comercial.

No entiendo cómo esto puede ser considerado un agravio :(, está totalmente fuera de lugar, como cualquiera puede juzgar por sí mismo viendo el vídeo: "Levitron".

Menos mal que, como me dice Youtube!, gracias al dios esto no penaliza mi cuenta. Cualquier día subo un vídeo y por sabe Dios qué motivo me quedo sin la cuenta de Youtube, y por qué no, sin la de Google, y ya de paso sin acceso a mi propio teléfono. Parece imposible, pero hay a quien Amazon le ha condenado sin acceso a sus libros... 

Reproduzco el texto del email de Youtube (en la página de información sobre copyright dan algún dato más):

Your video "Levitron", may have content that is owned or licensed by UMG, but it’s still available on YouTube! In some cases, it may be blocked, or ads may appear next to it.

This claim is not penalizing your account status. Visit your Copyright Notice page for more details on the policy applied to your video.

Nowadays

I play guitar (self-taught). A few months ago I wrote this song... I later got myself a sound card and tried to record something. This is what I came up with.

Edit: A version with better audio quality and download link can be found at  http://soundcloud.com/jjmontes.

La conjura de los necios

"La conjura de los necios" trata de las peripecias de Ignatius J. Reilly, un ser tan inadaptado e inmaduro como cultivado. El protagonista, mordaz y ultra crítico con la sociedad en la que vive (la Nueva Orleans de mediados del siglo pasado), tiene un discurso irónico y pedante capaz de arrancar carcajadas. Pero lo cierto es que Ignatius es todo lo que ningún hombre querría ser. Los personajes son de auténtica locura.

Esta obra es genial. Se regodea en multitud de aspectos que en España nos resultan más cercanos: los treintaañeros que no se van de casa, la sociedad y tribus urbanas, la sexualidad, el racismo... Algunos pasajes hasta asustan, por ser tan actuales y tan transgresores, a pesar de haber sido escritos hace 50 años. O quizá esto sea un indicio de que los yankis empezaron a degenerar mucho antes que nosotros. Teología y geometría, es la respuesta de Ignatius para los males del mundo. No digo más.

"La conjura de los necios" ("A confederacy of dunces") es la obra maestra de John Kennedy Toole, un profesor de inglés de Nueva Orleans. Escrita en 1962, es una novela controvertida ya desde antes de su publicación. Su autor,  se suicidó a los 31 años tras no conseguir publicarla (siempre he pensado que un buen suicidio a los treinta es una forma genial de potenciar un best-seller). Su madre consiguió publicar la novela mucho después, en 1980. Poco más tarde, Toole recibía un Pulitzer póstumo por ella. Inquietantemente, las similitudes entre la biografía del autor y algunos de sus personajes no son desdeñables.

- Ignatius, contrólate.
- Me niego a "mirar hacia arriba": El optimismo me da náuseas. Es perverso. La posición propia del hombre en el universo, desde la Caída, ha sido la de la miseria y el dolor.
- Yo no me siento mísera.
- Lo eres.
- No, no lo soy.
- Sí, lo eres.
- No lo soy Ignatius. No me siento triste, si me sintiese triste, te lo diría.
- Si yo hubiera demolido propiedad privada en estado de embriaguez y con ello hubiera arrojado a mi hijo a los lobos, estaría dándome golpes de pecho y gimiendo. Estaría arrodillada hasta que me sangradan las rodillas, como penitencia. Por cierto, ¿qué penitencia te puso el sacerdote por tu pecado?
- Tres avemarías y un padrenuestro.
- ¿Nada más? -aulló Ignatius-. ¿Le explicaste lo que hiciste, que interrumpiste una obra crítica de gran importancia?
- Fui a confesarme, Ignatius. Se lo expliqué todo al padre. Y él me dice "No me parece culpa suya, querida. Creo que lo único que pasó fue que el coche patinó un poquito porque la calle estaba mojada". Así que le expliqué lo tuyo. Le dije "Mi hijo dice que soy la que le impide escribir en sus cuadernos. Lleva casi cinco años escribiendo esa historia". Y el padre va y dice "¿Sí? Bueno no me parece tan importante. Dígale que salga de casa y vaya a trabajar".
- Cómo voy a apoyar yo a la iglesia moderna, es imposible -exclamó Ignatius-. Deberían haberte azotado allí mismo, en el confesionario.

• La conjura de los necios
• John Kennedy Toole

(Gracias Pat por dejármela, no te equivocabas :).