Kuvassa 1 illan 2008 kuuntelut.
 |
| Vuosi 2008. Klikkaa suuremmaksi. (Kuva 1) |
 |
| Vuosi 2009. Klikkaa suuremmaksi. (Kuva 2) |
 |
| Vuosi 2010. Klikkaa suuremmaksi. (Kuva 3) |
 |
| Vuosi 2011. Klikkaa suuremmaksi. (Kuva 4) |
 |
| Vuosi 2012. Klikkaa suuremmaksi. (Kuva 5) |
maanantai 30. huhtikuuta 2012
Wappumusiikkien visualisointi
Tässä nopea päähänpistovisualisointi albumeista, jotka ovat olleet kuuntelussa viime Wappuina (2008 - 2012). Kuvissa näkyvät kuunneltujen albumien nimet, mahdollinen kuunteluformaatti sekä tieto onko albumista tykätty. Se, että albumi on kuunneltu tarkoittaa, että albumi on kuunneltu illan aikana alusta loppuun. Tiedot on kerätty Statster.info-verkkopalvelusta, joka tallentaa käyttäjän kuuntelemat albumit.
Kuvassa 1 illan 2008 kuuntelut.
Kuvassa 2 vuoden 2009 kuuntelut.
Kuvassa 3 vuoden 2010 kuuntelut.
Kuvassa 4 vuoden 2011 kuuntelut.
Ja kuvassa 5 tämän illan kuuntelut tähän asti.
Näillä tunnelmilla Hyvää ja iloista Wappua kaikille blogia seuraaville!
Kuvassa 1 illan 2008 kuuntelut.
perjantai 13. huhtikuuta 2012
Verotietojen visualisointi
On taas aika vuodesta kun posti tuo koteihin veroilmoitukset. Sain omani tällä viikolla ja ajauduin visualisoimaan elämäni verotiedot.
Tähän asti tässä blogissa on käsitelty ensisijaisesti erilaisia verkostovisualisointeja. Ne ovatkin mielenkiintoisia ja teknologiaseksikkäitä. On kuitenkin hyvä muistaa, että usein perinteinen viiva-, pylväs- tai piirakkadiagrammi on visualisointikeinona hyvin tehokas. Niiden etu on laaja tunnistettavuus ja siten niitä on lähtökohtaisesti helppoa lukea ja ymmärtää. Verkostovisualisointien tulkinta ja tiedon omaksuminen on usein jopa kaltaiselleni "ammattilaiselle" ongelmallista.
Toki visualisointimenetelmä ja käytetyt -komponentit tulee ensisijaisesti valita käyttötarkoituksen ja datan ehdoilla, mutta nyt itse asiaan.
Olen saanut veroilmoituksen vuodesta 2003 lähtien eli dataa on kertynyt vuoden 2011 veroilmoitus mukaan lukien yhdeksältä verovuodelta. Keräsin datan käsin paperisista veroilmoituksista, jotka olen kuuliaisena kansalaisena mappiin säilönyt. Totesin myös jälkikäteen, että näin oli tehtävä, koska vero.fi-verkkopalvelu pitää ilmeisesti sisällään vain viimeisimmän verovuoden tiedot. Datan kerääminen tuotti yllättävän paljon työtä, koska veroilmoitukset ovat vuosien saatossa muuttaneet muotoaan ja tämä teki datan siistimisestä ja yhtenäistämisestä vaivalloista.
Keräsin veroilmoituksista jokaiselle vuodelle seuraavat neljä lukuarvoa:
Arvot syötin siis taulukkomuodossa ja ne kuvaavat tässä tapauksessa vuosikohtaisesti saatua palkkaa ja etuuksia euromääräisinä *.
Visulisointikomponentiksi valitsin Highcharts-kirjaston. Highcharts on monipuolinen JavaScript-kirjasto, jolla on mahdollista tehdä monipuolisesti selaimessa toimivia diagrammeja. Etenkin kaksiulotteisten viiva- ja pylväsdiagrammien piirtäminen ovat Highchartsin vahvuus. Highchartsin vahvuus on myös, että se on riittävästi dokumentoitu ja etenkin, että käyttäjälle annetaan paljon valmiita esimerkkejä siitä miten kirjastoa voidaan käyttää. Oman toteutukseni pohjana käytin tätä loistavaa esimerkkiä, joten tehtäväkseni jäi pääasiassa pelkästään lukuarvojen muuttaminen halutuiksi.
Highcharts osoittautui siis tehokkaaksi työkaluksi. Kirjaston sisäänrakennetut toiminnallisuudet tietojen osoittamiselle ja näytettävien tietojen valitsemiselle toimivat tehokkaana apuvälineenä tulosten tulkinnassa. Kuvassa 1 nähdään kaksi esimerkki kuvankaappausta, josta ylemmässä näkyvillä ovat kaikki tiedot ja alemmassa tiedoista esillä vain osa. On siis helppoa tarkastalla arvoja, jotka muuten peittyvät hallitsevimpien arvojen taakse. Koko visualisointi on saatavilla täällä *.
Lopputulos ei toki datajournalisesti ole kovin "skuuppaava", koska kyse on vain yksittäisen henkilön verotiedoista, mutta se on erittäin kiinnostava näin egosentrisestä näkökulmasta. Esimerkiksi opintotuesta ja kesätöistä saatavien tulojen ero kokopäivätöistä saataviin tuloihin tulee tämän visualisoinnin kautta esille hyvin selkeästi (tulot näkyvät kuvassa 1 sinisellä viivalla). Lisäksi visualisoinnista nähdään miten kaltaiseni normaalin palkkatyöläisen veroprosentti on saavuttanut pääomatuloista maksettavan 28%:n suuruuden.
Voisin kuvitella kuitenkin, että tämänkaltainen visualisointi voisi olla monelle kiinnostava omien verotietojensa kannalta ja mieleen tulisi, että olisi hienoa jos jokaiselle suomalaisella olisi käytössään samankaltainen visualisointi esimerkiksi vero.fi-palvelussa *vink*.
* En tällä kertaa tohtinut jakaa yksityiskohtaisia verotietojani kaiken kansan pällisteltäväksi, joten arvot on suolattu sattumanvaraisella korjauskertoimella.
Alkuun pieni disclaimer...
Tähän asti tässä blogissa on käsitelty ensisijaisesti erilaisia verkostovisualisointeja. Ne ovatkin mielenkiintoisia ja teknologiaseksikkäitä. On kuitenkin hyvä muistaa, että usein perinteinen viiva-, pylväs- tai piirakkadiagrammi on visualisointikeinona hyvin tehokas. Niiden etu on laaja tunnistettavuus ja siten niitä on lähtökohtaisesti helppoa lukea ja ymmärtää. Verkostovisualisointien tulkinta ja tiedon omaksuminen on usein jopa kaltaiselleni "ammattilaiselle" ongelmallista.
Toki visualisointimenetelmä ja käytetyt -komponentit tulee ensisijaisesti valita käyttötarkoituksen ja datan ehdoilla, mutta nyt itse asiaan.
Datan hankinta
Olen saanut veroilmoituksen vuodesta 2003 lähtien eli dataa on kertynyt vuoden 2011 veroilmoitus mukaan lukien yhdeksältä verovuodelta. Keräsin datan käsin paperisista veroilmoituksista, jotka olen kuuliaisena kansalaisena mappiin säilönyt. Totesin myös jälkikäteen, että näin oli tehtävä, koska vero.fi-verkkopalvelu pitää ilmeisesti sisällään vain viimeisimmän verovuoden tiedot. Datan kerääminen tuotti yllättävän paljon työtä, koska veroilmoitukset ovat vuosien saatossa muuttaneet muotoaan ja tämä teki datan siistimisestä ja yhtenäistämisestä vaivalloista.
Keräsin veroilmoituksista jokaiselle vuodelle seuraavat neljä lukuarvoa:
- Palkkatulot
- Etuudet
- Ennakonpidätys
- Pakolliset Eläke- ja työttömyysvakuutusmaksu
series: [{
type: 'column',
name: 'Palkka',
data: [2473.38,96.9,0,0,2136.01,1034.99,21620.83,25169.36,29790.87]
}, {
type: 'column',
name: 'Etuudet',
data: [774.92,984.24,2214.54,2214.54,2214.54,2362.7,0,0,0]
}]Arvot syötin siis taulukkomuodossa ja ne kuvaavat tässä tapauksessa vuosikohtaisesti saatua palkkaa ja etuuksia euromääräisinä *.
Visualisointityökalun valinta
Visulisointikomponentiksi valitsin Highcharts-kirjaston. Highcharts on monipuolinen JavaScript-kirjasto, jolla on mahdollista tehdä monipuolisesti selaimessa toimivia diagrammeja. Etenkin kaksiulotteisten viiva- ja pylväsdiagrammien piirtäminen ovat Highchartsin vahvuus. Highchartsin vahvuus on myös, että se on riittävästi dokumentoitu ja etenkin, että käyttäjälle annetaan paljon valmiita esimerkkejä siitä miten kirjastoa voidaan käyttää. Oman toteutukseni pohjana käytin tätä loistavaa esimerkkiä, joten tehtäväkseni jäi pääasiassa pelkästään lukuarvojen muuttaminen halutuiksi.
Lopputulos ja yhteenveto
Highcharts osoittautui siis tehokkaaksi työkaluksi. Kirjaston sisäänrakennetut toiminnallisuudet tietojen osoittamiselle ja näytettävien tietojen valitsemiselle toimivat tehokkaana apuvälineenä tulosten tulkinnassa. Kuvassa 1 nähdään kaksi esimerkki kuvankaappausta, josta ylemmässä näkyvillä ovat kaikki tiedot ja alemmassa tiedoista esillä vain osa. On siis helppoa tarkastalla arvoja, jotka muuten peittyvät hallitsevimpien arvojen taakse. Koko visualisointi on saatavilla täällä *.
 |
| Highcharts-kirjasto tuottaa selainympäristössä toimivan visualisoinnin, joka reakoi käyttäjän toimiin. Käyttäjä voi mm. osoittaa haluamaansa datapistettä ja valita visualisointiin piirrettävät datajoukot. (Kuva 1) |
Lopputulos ei toki datajournalisesti ole kovin "skuuppaava", koska kyse on vain yksittäisen henkilön verotiedoista, mutta se on erittäin kiinnostava näin egosentrisestä näkökulmasta. Esimerkiksi opintotuesta ja kesätöistä saatavien tulojen ero kokopäivätöistä saataviin tuloihin tulee tämän visualisoinnin kautta esille hyvin selkeästi (tulot näkyvät kuvassa 1 sinisellä viivalla). Lisäksi visualisoinnista nähdään miten kaltaiseni normaalin palkkatyöläisen veroprosentti on saavuttanut pääomatuloista maksettavan 28%:n suuruuden.
Voisin kuvitella kuitenkin, että tämänkaltainen visualisointi voisi olla monelle kiinnostava omien verotietojensa kannalta ja mieleen tulisi, että olisi hienoa jos jokaiselle suomalaisella olisi käytössään samankaltainen visualisointi esimerkiksi vero.fi-palvelussa *vink*.
* En tällä kertaa tohtinut jakaa yksityiskohtaisia verotietojani kaiken kansan pällisteltäväksi, joten arvot on suolattu sattumanvaraisella korjauskertoimella.
lauantai 31. maaliskuuta 2012
Facebook-verkostojen visualisointi
SPOILER: tämä postaus käsittelee teknistä sanastoa.
Innostuin tällä viikolla tutkimaan miten Facebook-verkostoja olisi mahdollista kerätä ja visualisoida vastaavalla tavalla kuten olen aikaisemmin visualisoinut Twitter-verkostoja sekä keitä @TuomasEnbuske seuraa. Enemmän tai vähemmän tunnetusti Facebook on kitsaampi jakamaan tietojaan Graph-rajapintansa kautta kuin mitä Twitter oman rajapintansa kautta, mutta rohkaistuin kuitenkin yrittämään tehtyäni ensin Olli Parviaisen kanssa kansanedustajien kaveruusverkoston sekä nähtyäni miten Jens Finnäs oli onnistunut tekemään vastaavanlaisen toteutuksen Ruotsin parlamentista.
Facebook:lla on siis olemassa Graph-niminen rajapinta, joka mahdollistaa Facebook-datan käsittelyn koneellisesti. Lähinnä rajapinta on varmasti tarkoitettu erilaisille Facebook-applikaatioille, mutta sitä on mahdollista käyttää myös muuten. Yksinkertainen Graph-rajapintakysely, joka palauttaa halutun käyttäjän (tässä tapauksessa allekirjoittaneen) tiedot (kuten ID, sukupuoli, nimi, jne.) voidaan suorittaa syöttämällä seuraava osoite selaimeen:
Rajapintaa voidaan kutsua yhtälailla käyttäjän käyttäjänimellä kuin Facebook:n käyttäjä-ID-arvolla. Toisin sanoen kysely:
tuottaa saman vastauksen. Tiedot ovat haettavissa Graph-rajapinnan kautta kenestä tahansa Facebook-profiilista huolimatta siitä miten suljettu tai avoin profiili on. Rajapinnalta on mahdollista kysyä myös monia muita asioita, mutta esimerkiksi satunnaisen käyttäjän Facebook-kavereiden hakeminen ei ole mahdollista edes vaikka olisit kyseisen käyttäjän kaveri. Muiden kuin itsensä kavereiden hakeminen onnistuu rajapinnan kautta jos käyttäjä on sallinut tietojensa jakamisen applikaatiolle, jonka ylläpitäjä olet. Omat Facebook-kaverit rajapinnan kautta saa haettua.
Kuten edellä näytettiin on Graph-rajapintaa mahdollista selata käsipelillä selaimen avulla, mutta käsiteltäessä suurempia datajoukkoja tulee tiedon keräämisestä tällä tavoin raskasta. Näin ollen erinäiset ohjelmointikielet ja niillä rakennetut scriptit eli lyhyet kertaalleen ajettavat ohjelmakoodit tulevat apuun. Käytetyllä ohjelmointikielellä ei ole suurta merkitystä vaan valinta kannattaa tehdä sen pohjalta, joka on itselle tutuin ja luontevin. Hyviä vaihtoehtoja kuitenkin ovat ainakin Python, Ruby ja Facebook:n tapauksessa etenkin PHP, koska suurin osa Facebook:n koodiesimerkeistä on kirjoitettu sillä. Itse valitsin kuitenkin Pythonin, koska halusin jatkojalostaa omaa Python osaamistani.
Pythonille löytyy useampia Facebook Graph API -kirjastoja, mutta ainakin pyFaceGraph-nimisen kirjaston avulla Graph-rajapinnan käyttö on todella yksinkertaista. Tässä yksinkertainen koodin pätkä, joka hakee käyttäjän tiedot kirjaston avulla jos käyttäjän tietoja ei ole jo aikaisemmin haettu ja tallennettu tietokantaan.
Tietojen tallentamisessa hyödynsin MongoDB:tä, joka on NoSQL-tietokanta. MongoDB soveltuu käytettäväksi tämänkaltaisissa scripteissä, jotka hakevat tietoa netistä, koska tiedon eheydestä eikä rakenteesta tarvitse välittää samalla tavalla kuin käytettäessä esimerkiksi MySQL:ää tai muuta SQL-pohjaista tietokannanhallintajärjestelmää. MongoDB hyödyntää tiedon tallentamisessa JSON-formaattia, joka on myös formaatti, jossa Graph-rajapinta palauttaa hakutulokset.
Kuvassa 1 nähdään miten scripti hakee annettujen käyttäjien tietoja Graph-rajapinnalta. Tässä tapauksessa suurin osa haettavista käyttäjistä on jo aikaisemmin noudettu lokaaliin tietokantaan, mutta yhden käyttäjän osalta tiedot haetaan Graph-rajapinnasta.
Facebook:n Graph API ei rajoita tietojen hakemista samalla tavalla kuin Twitter (150 pyyntöä tunnissa), mutta satunnaisesti joitain virheitä esiintyy. Ongelmatilanteissa auttaa kun tiedot tallennetaan lokaalisti MongoDB:hen eikä tietojen hakemista tarvitse siten aloittaa ongelmatilanteissa alusta.
Graph-rajapinnan tarjoamat toiminnallisuudet on listattu täällä. Rajapinnan avulla saadaan siis kysyttyä suoraan mm. käyttäjien, tapahtumien ja sivujen tietoja. Käyttäjien välisiä yhteyksiä, tapahtumaan osallistujia tai sivujen tykkääjiä ei rajapinnan perustoiminnallisuuksilla kuitenkaan saa haettua.
Apuun tulee kuitenkin Graph-rajapintaa laajentava Facebook Query Language (FQL). FQL mahdollistaa Graph-rajapinnan kautta saatavien tietojen hakemisen SQL:n kaltaisella kyselykielellä. Esimerkiksi Facebook:n käyttäjä-ID:tä vastaava käyttäjänimi on mahdollista hakea seuraavalla kyselyllä:
Käyttäjien välisten kaveruussuhteiden kyseleminen on mahdollista friend-taulusta. On huomioitavaa, että kaveruussuhteita on mahdollista kysyä myös sellaisten käyttäjien välillä, jotka muuten ovat piilottaneet profiilinsa. FQL:ää on mahdollista kokeilla erityisellä Graph API Explorer -työkalulla. FQL:n käyttäminen edellyttää OAuth-tunnistautumista ja ns. "Access token" täytyy välittää kyselyiden mukana.
Toteutin myös yhteyksien hakemisen Python-scriptillä. Apuna käytin Pythonille löytyvää requests-kirjastoa. Tässä yksinkertaisuudessaan ja lyhykäisyydessään FQL-kyselyn toteuttava koodinpätkä:
FQL-kysely palauttaa ne käyttäjä-ID-arvot, jotka täsmäävät annettuun hakuun. Eli hakiessani olenko kaveri käyttäjien A, B ja C kanssa palauttaa Facebook niiden käyttäjien ID:t, joiden kanssa haetuista olen kaveri.
Tulokset kirjoitin .gexf-muodossa ja visualisoinnin tein Gephi-nimisellä verkostojen visualisointiohjelmalla. Gephi:n käyttöön en mene tässä sen syvällisemmin, koska olen käsitellyt sitä jo aiemmin tässä blogissa ja tyydynkin vain viittaamaan Olli Parviaiseen luomiin ohjeistuksiin.
Yhteenvetona voitaneen todeta, että Facebook:sta on mahdollista muodostaa kaveruusverkostoja vastaavasti kuin aikaisemmin olen näyttänyt Twitter:stä. Facebook:n kohdalla joutuu hieman enemmän tekemään käsityötä datan keräämisessä, mutta lopputulos on täysin vastaava. Erona Twitter-verkostoihin on, että Facebook:sta kerätyistä kaveruusverkostoista muodostuu paljon rypästeisempiä (Kuva 2). Eri ryhmät kuten lapsuuden ystävät, koulukaverit, työkaverit ja sukulaiset ovat hyvin vähän tekemisissä toistensa kanssa, mutta ovat linkittyneet keskenään hyvin paljon.
Twitter:ssä taas ihmiset ovat enemmän verkostoituneet keskenään yli sosiaalisten tai fyysisten rajojen (Kuva 3). Twitter:n demografia poikkeaa toki hyvin paljon Facebook:sta, mutta mielestäni tämä kertoo, että Twitter:ssä seurataan kiinnostavia henkilöitä ja itse asiaa, joka johtaa samoista asioista kiinnostuneiden ihmisten tiheisiin verkostoihin. Toisaalta voidaan vetää myös se johtopäätös, että julistan Twitter:ssä vain yhden aihealueen ilosanomaa ja jos aihealueita olisi useampia nähtäisiin näistä eri aihealueista kiinnostuneet ihmiset omina ryppäinään.
Voidaan kuitenkin tehdä sivistynyt arvaus, että Facebook:ssa seurataan ihmisiä, jotka ovat tuttuja fyysisestä maailmasta kun taas Twitter:ssä seurataan ihmisiä, jotka ovat kiinnostavia. Tässä toki kyseessä vain yhden ihmisen Facebook-kaverit ja Twitter-seuraajat, joten kovin pitkälle meneviä johtopäätöksiä ei voida tehdä, mutta olen havainnut samankaltaisen trendin esiintymisen myös muissa testitapauksissa.
Stay tuned!
"Ryömin juuri kaikkia @TuomasEnbuske:n seuraajia Keitä me kaikki ollaan Seuraavaksi @alexstubb Siinä taitaakin olla kaikki suom. Twitteristit" - https://twitter.com/#!/teelmo/status/185680267548168192
Innostuin tällä viikolla tutkimaan miten Facebook-verkostoja olisi mahdollista kerätä ja visualisoida vastaavalla tavalla kuten olen aikaisemmin visualisoinut Twitter-verkostoja sekä keitä @TuomasEnbuske seuraa. Enemmän tai vähemmän tunnetusti Facebook on kitsaampi jakamaan tietojaan Graph-rajapintansa kautta kuin mitä Twitter oman rajapintansa kautta, mutta rohkaistuin kuitenkin yrittämään tehtyäni ensin Olli Parviaisen kanssa kansanedustajien kaveruusverkoston sekä nähtyäni miten Jens Finnäs oli onnistunut tekemään vastaavanlaisen toteutuksen Ruotsin parlamentista.
Graph-rajapinta
Facebook:lla on siis olemassa Graph-niminen rajapinta, joka mahdollistaa Facebook-datan käsittelyn koneellisesti. Lähinnä rajapinta on varmasti tarkoitettu erilaisille Facebook-applikaatioille, mutta sitä on mahdollista käyttää myös muuten. Yksinkertainen Graph-rajapintakysely, joka palauttaa halutun käyttäjän (tässä tapauksessa allekirjoittaneen) tiedot (kuten ID, sukupuoli, nimi, jne.) voidaan suorittaa syöttämällä seuraava osoite selaimeen:
graph.facebook.com/teelmo.Rajapintaa voidaan kutsua yhtälailla käyttäjän käyttäjänimellä kuin Facebook:n käyttäjä-ID-arvolla. Toisin sanoen kysely:
graph.facebook.com/635279474,tuottaa saman vastauksen. Tiedot ovat haettavissa Graph-rajapinnan kautta kenestä tahansa Facebook-profiilista huolimatta siitä miten suljettu tai avoin profiili on. Rajapinnalta on mahdollista kysyä myös monia muita asioita, mutta esimerkiksi satunnaisen käyttäjän Facebook-kavereiden hakeminen ei ole mahdollista edes vaikka olisit kyseisen käyttäjän kaveri. Muiden kuin itsensä kavereiden hakeminen onnistuu rajapinnan kautta jos käyttäjä on sallinut tietojensa jakamisen applikaatiolle, jonka ylläpitäjä olet. Omat Facebook-kaverit rajapinnan kautta saa haettua.
Python + MongoDB = voitto
Kuten edellä näytettiin on Graph-rajapintaa mahdollista selata käsipelillä selaimen avulla, mutta käsiteltäessä suurempia datajoukkoja tulee tiedon keräämisestä tällä tavoin raskasta. Näin ollen erinäiset ohjelmointikielet ja niillä rakennetut scriptit eli lyhyet kertaalleen ajettavat ohjelmakoodit tulevat apuun. Käytetyllä ohjelmointikielellä ei ole suurta merkitystä vaan valinta kannattaa tehdä sen pohjalta, joka on itselle tutuin ja luontevin. Hyviä vaihtoehtoja kuitenkin ovat ainakin Python, Ruby ja Facebook:n tapauksessa etenkin PHP, koska suurin osa Facebook:n koodiesimerkeistä on kirjoitettu sillä. Itse valitsin kuitenkin Pythonin, koska halusin jatkojalostaa omaa Python osaamistani.
Pythonille löytyy useampia Facebook Graph API -kirjastoja, mutta ainakin pyFaceGraph-nimisen kirjaston avulla Graph-rajapinnan käyttö on todella yksinkertaista. Tässä yksinkertainen koodin pätkä, joka hakee käyttäjän tiedot kirjaston avulla jos käyttäjän tietoja ei ole jo aikaisemmin haettu ja tallennettu tietokantaan.
>>> from facegraph import Graph
>>> g = Graph()
>>> ...
>>> username = 'teelmo'
>>> # Check that username is not already in MongoDB
>>> if not users.find({"data.username": fusername}).count():
>>> user = g[username]()
>>> print user.id
'635279474'
Tietojen tallentamisessa hyödynsin MongoDB:tä, joka on NoSQL-tietokanta. MongoDB soveltuu käytettäväksi tämänkaltaisissa scripteissä, jotka hakevat tietoa netistä, koska tiedon eheydestä eikä rakenteesta tarvitse välittää samalla tavalla kuin käytettäessä esimerkiksi MySQL:ää tai muuta SQL-pohjaista tietokannanhallintajärjestelmää. MongoDB hyödyntää tiedon tallentamisessa JSON-formaattia, joka on myös formaatti, jossa Graph-rajapinta palauttaa hakutulokset.
Kuvassa 1 nähdään miten scripti hakee annettujen käyttäjien tietoja Graph-rajapinnalta. Tässä tapauksessa suurin osa haettavista käyttäjistä on jo aikaisemmin noudettu lokaaliin tietokantaan, mutta yhden käyttäjän osalta tiedot haetaan Graph-rajapinnasta.
 |
| Pythonilla ja MongoDB:llä toteutettu keräin, joka hakee annettujen käyttäjien tiedot Facebookin Graph-rajapinnasta. (Kuva 1) |
Käyttäjien tiedot kyllä, mutta miten yhteydet?
Graph-rajapinnan tarjoamat toiminnallisuudet on listattu täällä. Rajapinnan avulla saadaan siis kysyttyä suoraan mm. käyttäjien, tapahtumien ja sivujen tietoja. Käyttäjien välisiä yhteyksiä, tapahtumaan osallistujia tai sivujen tykkääjiä ei rajapinnan perustoiminnallisuuksilla kuitenkaan saa haettua.
Apuun tulee kuitenkin Graph-rajapintaa laajentava Facebook Query Language (FQL). FQL mahdollistaa Graph-rajapinnan kautta saatavien tietojen hakemisen SQL:n kaltaisella kyselykielellä. Esimerkiksi Facebook:n käyttäjä-ID:tä vastaava käyttäjänimi on mahdollista hakea seuraavalla kyselyllä:
SELECT username FROM user WHERE uid = 635279474Käyttäjien välisten kaveruussuhteiden kyseleminen on mahdollista friend-taulusta. On huomioitavaa, että kaveruussuhteita on mahdollista kysyä myös sellaisten käyttäjien välillä, jotka muuten ovat piilottaneet profiilinsa. FQL:ää on mahdollista kokeilla erityisellä Graph API Explorer -työkalulla. FQL:n käyttäminen edellyttää OAuth-tunnistautumista ja ns. "Access token" täytyy välittää kyselyiden mukana.
Toteutin myös yhteyksien hakemisen Python-scriptillä. Apuna käytin Pythonille löytyvää requests-kirjastoa. Tässä yksinkertaisuudessaan ja lyhykäisyydessään FQL-kyselyn toteuttava koodinpätkä:
>>> import requests
>>> ...
>>> fql_query = "SELECT uid2 FROM friend WHERE uid1 = 635279474 and uid2 = %d" % uid2
>>> fql = "/fql?q=%s&access_token=%s" % (fql_query, access_token)
>>> try:
>>> r = requests.get(domain + fql)
>>> except:
>>> print "Error occured"
FQL-kysely palauttaa ne käyttäjä-ID-arvot, jotka täsmäävät annettuun hakuun. Eli hakiessani olenko kaveri käyttäjien A, B ja C kanssa palauttaa Facebook niiden käyttäjien ID:t, joiden kanssa haetuista olen kaveri.
Tulokset kirjoitin .gexf-muodossa ja visualisoinnin tein Gephi-nimisellä verkostojen visualisointiohjelmalla. Gephi:n käyttöön en mene tässä sen syvällisemmin, koska olen käsitellyt sitä jo aiemmin tässä blogissa ja tyydynkin vain viittaamaan Olli Parviaiseen luomiin ohjeistuksiin.
Summa summarum
Yhteenvetona voitaneen todeta, että Facebook:sta on mahdollista muodostaa kaveruusverkostoja vastaavasti kuin aikaisemmin olen näyttänyt Twitter:stä. Facebook:n kohdalla joutuu hieman enemmän tekemään käsityötä datan keräämisessä, mutta lopputulos on täysin vastaava. Erona Twitter-verkostoihin on, että Facebook:sta kerätyistä kaveruusverkostoista muodostuu paljon rypästeisempiä (Kuva 2). Eri ryhmät kuten lapsuuden ystävät, koulukaverit, työkaverit ja sukulaiset ovat hyvin vähän tekemisissä toistensa kanssa, mutta ovat linkittyneet keskenään hyvin paljon.
 |
| Facebook-kaveriverkostoni. Eri ryhmät erottuvat toisistaan erittäin selkeästi. Solmuja verkostossa on 206 ja yhteyksiä 1878. (Kuva 2) |
 |
| Twitter-seuraajaverkostoni. Ihmiset ovat verkostoituneet keskenään hyvin tiheästi. Solmuja verkostossa 149 ja yhteyksiä 1209. (Kuva 3) |
Stay tuned!
"Ryömin juuri kaikkia @TuomasEnbuske:n seuraajia Keitä me kaikki ollaan Seuraavaksi @alexstubb Siinä taitaakin olla kaikki suom. Twitteristit" - https://twitter.com/#!/teelmo/status/185680267548168192
keskiviikko 22. helmikuuta 2012
Kuka minä olen? @TuomasEnbuske
Moro,
@TuomasEnbuske on Twitterin suurkuluttaja. Liittymisestään hän on ehtinyt kolmen kuukauden aikana vihastuttaa ja rakastuttaa seuraajiaan sekä hieman muitakin 2158 tweetin verran ja kerännyt näillä 7116 seuraajaa (tilanne 22.2.2012 klo 10:40). Lyhyellä matematiikalla tämä tekee päivässä ~20 tweettiä ja ~80 uutta seuraajaa. Suomalaisilla mittareilla määrät ovat jos eivät aivan ainutlaatuisia niin ainakin harvinaislaatuisia. Twitterin suosituimmaksi suomalaiseksi hänellä on vielä matkaa, mutta sanotaanko, että matka on alkanut.
Twitter-meemi @TuomasEnbuske:n rooli on ollut tarjota vaihtoehtoinen, provokatiivinen ja kärjistävä näkökulma maailman ja etenkin suomalaisiin tapahtumiin. Parhaimmillaan @TuomasEnbusken oivaltava logiikka toimii kuin Fingerpori (parhaimmillaan), mutta toisinaan eräät närkästyvät liian yksioikoisiksi mieltämistään sutkautuksista. Heitot uppoavat kuitenkin suomalaiseen Twitter-kansaan siinä määrin, että seuraajamäärä on marraskuusta lähtien kasvanut räjähdysmäisen tasaisesti.
@TuomasEnbuske pitää Twitterissä yllä väritettyä linjaa, jonka lähtökohtainen tarkoitus on enimmäkseen hämmentää ihmisiä ja herättää mielipiteitä puolesta ja vastaan. @TuomasEnbuske tweettaa kuin 50-vuotias hämeenkyröläismies ensireaktiossa: "minun mielipiteeni on oikea ja pidän siitä kiinni vaikka olisin väärässä". @TuomasEnbusken Twitter-agenda ei piile arvostuksen keräämisessä yksittäisillä viesteillä kuten asialinjaa ylläpitävillä tweettaajilla vaan kumpuaa enemmän yleisemmästä häiriön aiheuttamisen tarpeesta, jonka apuvälineeksi hän on Twitterin valjastanut. Yksinkertaisena analyysina voidaan heittää, että entinen rääväsuu, joka on sittemmin muokannut imagonsa asiallisempaan linjaan, on löytänyt vastikkeettoman kanavan ilmaista kapinankaipuista sielumaan.
Minua kiinnosti mitä @TuomasEnbuske sitten itse hakee Twitteristä. Lyhyessä ajassa yli 7000 tavallista Twitter-tallaajaa seuraajikseen haalinut @TuomasEnbuske on samassa ajassa itse klikannut seuraukseen ~300 tiliä. Keitä nämä ovat? Edustavatko he enemmän asialinjaa vai onko @TuomasEnbuske myös kiinnostunut provokaattoreista ja kansanmiehistä, jonkalaiseksi hän on itsensä Twitterissä lanseerannut.
Kuvassa 1 nähdään Twitter-tilien, joita @TuomasEnbuske seuraa, verkosto. Verkostosta voidaan lukea, että @TuomasEnbuske hakee Twitteristä täysin päinvastaista sanomaa kuin mitä hän itse tarjoaa vastineeksi. Hän haluaa selkeästi rinnastua seuraamisellaan valtaeliittiin ja päätöksentekijöihin. Seuratuista tileistä mainittakoon sellaiset anarkistit ja ihmiskunnan pahat pojat kuten Peter Vesterbacka, Mikael Jungner, Alexander Stubb, Bill Gates ja Stephen Elop. Ei todellakaan hahmoja, jotka voidaan mieltää kapinallisiksi rääväsuiksi vaan päinvastoin verkosto on pullollaan Twitter-tilejä, jotka edustavat menestystä ja valtaa joko suomalaisittain tai kansainvälisesti.
Huomionarvoista @TuomasEnbuske:n seuraamien henkilöiden verkostossa on myös verkoston tiheys. Mikään ryhmä ei erottaudu erilleen verkostossa esiintyvästä kansakunnan kermasta vaan kaikki seuraavat sopusointuisasti keskenään toisiaan. Tämä kertoo juuri siitä, että @TuomasEnbuske:n seuraamien henkilöiden joukossa ei esiinny sitä ns. vaihtoehtoista kapinalinjaa edustavia henkilöitä, jonkalaiseksi hän on itsensä Twitterissä profiloinut.
Kuka minä olen? Olen @TuomasEnbuske. Tarjoan seuraajilleni äänitorven itsenäisyyspäivän vastaanoton kuokkavierasjuhlista, mutta olen itse turvallisesti linnan seinien sisäpuolella katkarapulautasten ääressä.
Ps. olen tässä viestissä ottanut vapauden oikoa mutkia, koska näin on netissä tapana. Mielipiteet ja johtopäätökset ovat omiani, mutta en kanna niistä vastuuta vaan syytän sananvapautta ja Internettiä sen välineenä kaikesta. Lisäksi oma motivaationi on tietenkin vain saada lisää Twitter-seuraajia ja/tai päästä Tuomaksen kanssa seurapiireihin oluelle.
Ps2. Verkosto on toteutettu Gephillä ja verkostosta on rajattu pois solmut joiden astesumma on pienempi kuin 26. Värikoodaus on tehty Modularity-tunnusluvun perusteella. Verkoston ladonta on tehty ForceAtlas2 algoritmilla.
Olen @TuomasEnbuske, 3kk nuori, suomalainen Twitter-ilmiö. Synnyin 24. marraskuuta vuonna 2011. Olin synnyttyäni heti virkeä lapsi. Opin nopeasti puhumaan säästellen käyttäen maksimissaan 140 merkkiä per viesti. Jakamiani viestejä ryhdyttiin heti seuraamaan laajoin joukoin. Villitsin ihmisiä provokatiivisilla heitoillani, joissa panostin enemmän määrään kuin laatuun. Otin tarkoituksella kantaa herkkiinkin aiheisiin, joihin pyrin useimmiten löytämään mahdollisimman yksioikoisen ja kärjistetyn ratkaisun...kuten netissä on tapana.
Suurin paheeni on Twitter-seuraajamääräni seuraaminen.
@TuomasEnbuske on Twitterin suurkuluttaja. Liittymisestään hän on ehtinyt kolmen kuukauden aikana vihastuttaa ja rakastuttaa seuraajiaan sekä hieman muitakin 2158 tweetin verran ja kerännyt näillä 7116 seuraajaa (tilanne 22.2.2012 klo 10:40). Lyhyellä matematiikalla tämä tekee päivässä ~20 tweettiä ja ~80 uutta seuraajaa. Suomalaisilla mittareilla määrät ovat jos eivät aivan ainutlaatuisia niin ainakin harvinaislaatuisia. Twitterin suosituimmaksi suomalaiseksi hänellä on vielä matkaa, mutta sanotaanko, että matka on alkanut.
Twitter-meemi @TuomasEnbuske:n rooli on ollut tarjota vaihtoehtoinen, provokatiivinen ja kärjistävä näkökulma maailman ja etenkin suomalaisiin tapahtumiin. Parhaimmillaan @TuomasEnbusken oivaltava logiikka toimii kuin Fingerpori (parhaimmillaan), mutta toisinaan eräät närkästyvät liian yksioikoisiksi mieltämistään sutkautuksista. Heitot uppoavat kuitenkin suomalaiseen Twitter-kansaan siinä määrin, että seuraajamäärä on marraskuusta lähtien kasvanut räjähdysmäisen tasaisesti.
@TuomasEnbuske pitää Twitterissä yllä väritettyä linjaa, jonka lähtökohtainen tarkoitus on enimmäkseen hämmentää ihmisiä ja herättää mielipiteitä puolesta ja vastaan. @TuomasEnbuske tweettaa kuin 50-vuotias hämeenkyröläismies ensireaktiossa: "minun mielipiteeni on oikea ja pidän siitä kiinni vaikka olisin väärässä". @TuomasEnbusken Twitter-agenda ei piile arvostuksen keräämisessä yksittäisillä viesteillä kuten asialinjaa ylläpitävillä tweettaajilla vaan kumpuaa enemmän yleisemmästä häiriön aiheuttamisen tarpeesta, jonka apuvälineeksi hän on Twitterin valjastanut. Yksinkertaisena analyysina voidaan heittää, että entinen rääväsuu, joka on sittemmin muokannut imagonsa asiallisempaan linjaan, on löytänyt vastikkeettoman kanavan ilmaista kapinankaipuista sielumaan.
Minua kiinnosti mitä @TuomasEnbuske sitten itse hakee Twitteristä. Lyhyessä ajassa yli 7000 tavallista Twitter-tallaajaa seuraajikseen haalinut @TuomasEnbuske on samassa ajassa itse klikannut seuraukseen ~300 tiliä. Keitä nämä ovat? Edustavatko he enemmän asialinjaa vai onko @TuomasEnbuske myös kiinnostunut provokaattoreista ja kansanmiehistä, jonkalaiseksi hän on itsensä Twitterissä lanseerannut.
Kuvassa 1 nähdään Twitter-tilien, joita @TuomasEnbuske seuraa, verkosto. Verkostosta voidaan lukea, että @TuomasEnbuske hakee Twitteristä täysin päinvastaista sanomaa kuin mitä hän itse tarjoaa vastineeksi. Hän haluaa selkeästi rinnastua seuraamisellaan valtaeliittiin ja päätöksentekijöihin. Seuratuista tileistä mainittakoon sellaiset anarkistit ja ihmiskunnan pahat pojat kuten Peter Vesterbacka, Mikael Jungner, Alexander Stubb, Bill Gates ja Stephen Elop. Ei todellakaan hahmoja, jotka voidaan mieltää kapinallisiksi rääväsuiksi vaan päinvastoin verkosto on pullollaan Twitter-tilejä, jotka edustavat menestystä ja valtaa joko suomalaisittain tai kansainvälisesti.
 |
| @TuomasEnbuske seuraa Twitterissä lähinnä toistensa kanssa verkostonutta valtaeliittiä, joka ei tarjoa juurikaan vaihtoehtoa vallitsevalle Status Quo:lle. Klikkaa suuremmaksi. (Kuva 1) |
Kuka minä olen? Olen @TuomasEnbuske. Tarjoan seuraajilleni äänitorven itsenäisyyspäivän vastaanoton kuokkavierasjuhlista, mutta olen itse turvallisesti linnan seinien sisäpuolella katkarapulautasten ääressä.
Ps. olen tässä viestissä ottanut vapauden oikoa mutkia, koska näin on netissä tapana. Mielipiteet ja johtopäätökset ovat omiani, mutta en kanna niistä vastuuta vaan syytän sananvapautta ja Internettiä sen välineenä kaikesta. Lisäksi oma motivaationi on tietenkin vain saada lisää Twitter-seuraajia ja/tai päästä Tuomaksen kanssa seurapiireihin oluelle.
Ps2. Verkosto on toteutettu Gephillä ja verkostosta on rajattu pois solmut joiden astesumma on pienempi kuin 26. Värikoodaus on tehty Modularity-tunnusluvun perusteella. Verkoston ladonta on tehty ForceAtlas2 algoritmilla.
perjantai 17. helmikuuta 2012
Twitter-verkostoanalyysia Gephi:llä
Innostuin viime viikonloppuna kokeilemaan ensimmäistä kertaa omatoimisesti miten Twitter-dataa on mahdollista visualisoida. Olen aiemmin tutkinut ja työstänyt paljon erilaisia sosiaalisia verkostoja, mutta ennen en ole laittanut todella käsiä rasvaan Twitterin osalta. Osittain tähän on ollut syynä se, että olen mieltänyt Olli Parviaisen jo avanneen kaikki Twitterin salat tämän osalta eikä asiaan vihkiytyminen näin ollen ole tuntunut mielekkäältä. Pisteet tämän vaikutelman luomisesta Ollille :) Sisäinen devaajanluonteeni kuitenkin siis vei voiton ja lähdin kehittelemään jotain omaa.
Twitter tarjoaa monipuoliset mahdollisuudet datansa käsittelyyn rajapintansa kautta. API:lla (Application programming interface) on mahdollista hakea automaattisesti oikeastaan kaikki se tietosisältö, joka on käyttäjälle muutenkin nähtävissä. Tämä on poikkeuksellista esimerkiksi verrattuna Facebook:n Graph API:in, jonka kautta tietoa on mahdollista hakea rajoitetummin. Tästä syystä Facebook-datan hakeminen on omalta osaltani tapahtunut hyvin paljon käsityönä kuten "Kansanedustajat Facebookissa – kuka on kenenkin kaveri?" -tapauksen yhteydessä.
Päädyin rakentamaan Twitter-datan avulla verkoston käyttäjistä/Twitter-tileistä joita seuraan. Henkilökohtaisella Twitter-tilini seurannassa ~90:ntä tiliä, joten tästä seurasi suoraan verkoston solmujen lukumäärä. Yhteydet solmujen välille rakensin sen perusteella miten seuraamani henkilöt seuraavat keskenään toisiaan. Lopputuloksena syntyi sosiaalisen verkosto, joka havainnollistaa seuraamieni henkilöiden keskenäiset suhteet, suhteiden perusteella muodostuvat ryhmät ja näiden ryhmien asemoitumisen toisiinsa nähden.
Keräsin datan käyttäen Python-ohjelmointikieltä ja tein tulostuksen verkostodatalle soveltuvassa GraphML-muodossa, jota visualisointiin käyttämäni visualisointityökalu Gephi ymmärtää. Gephi:ssä käytin tulosten latomiseen ForceAtlas2-algoritmia, jonka olen todennut käytännön kokemusten kautta toimivan hyvin etenkin pienten sosiaalisten verkostojen visualisoimiseen. Värikoodauksen tein dataan käsin määrittelemällä jokaisen solmun sille olennaiseen kategoriaan. Solmun koko kuvastaa astesummaa eli solmuun suuntautuvien yhteyksien määrää. Toisin sanoen solmun koko kuvaa suoraan Twitter-tiliä seuraavien Twitter-tilien määrää verkostossa. Yhteydet solmujen välillä ovat suunnattuja. Annotoinnin ja jälkikäsittelyn tein Paintbrush-nimisellä ohjelmalla. (Kuva 1)
Visualisointi vahvistaa hyvin niiden eri ryhmien olemassaolon, jotka todellisuudessakin ovat olemassa verkostossani, mutta lisäksi visualisoinnista voidaan nähdä miten nämä ryhmät sijoittuvat suhteessa toisiinsa. Esimerkiksi TTYläiset erottuvat visualisoinnissa hyvin selkeästi muista ryhmistä erilleen. Tulkitsen tämän johtuvan toisaalta siitä, että seuraamani TTYläiset eivät ole kaikkein aktiivisimpia Twitter-käyttäjiä mutta toisaalta siitä, että heillä ei ole mitään syytä seurata Yleläisiä tai datajournalismi-ihmisiä. Myös Yleläiset erottuvat visualisoinnissa selkeästi omana joukkonaan, mutta he taas asettuvat selkeästi lähemmäksi datajournalismi-ryhmää kuin TTYläiset, jonka voidaan mieltää olevan ihan ammatillisestikin luontevaa. Nämä kolme ryhmää (1. TTY, 2. YLE ja 3. Datajournalismi) ovat verkostoni suurimmat ja selkeimmät, joten näen, että tällä erää on mielekästä tässä tulkita vain ne ja jättää muut pienemmät ryhmät tässä erää huomioimatta.
Kuvissa 2, 3 ja 4 nähdään eräiden muiden käyttäjien Twitter-verkostot. Verkostot on toteutettu samoilla periaatteilla kuin edellä kuvattu oma verkostoni sillä erotuksella, että solmujen väritys on tehty Gephi:n Modularity-luokittelun avulla. Lisäksi näissä verkostoissa esiintyvät Twitter-tilit on anonymisoitu, koska haluan esittää ne vain esimerkin omaisesti enkä pyrkiä sen tarkempaa tulkitsemiseen. Tarkempi tulkinta vaatisi tutustumista verkostoissa oleviin Twitter-tileihin, jotta voitaisiin ymmärtää miksi tietyt ryhmät ovat lähempänä toisiaan kuin toiset.
Kuvien 2, 3 ja 4 verkostoista nähdään miten verkoston ulostulo on hyvin erilainen eri käyttäjille. Toisilla käyttäjillä nähdään hyvin pitkälle keskenään verkostoituneet ryhmät kun taas toiset käyttäjät seuraavat toisistaan täysin riippumattomia Twitter-tileistä koostuvia ryhmittymiä.
Kuvassa 2 nähtävä verkosto on niin tiheä, että tarkkojen tulkintojen tekeminen yleisnäkymästä on vaikeaa. Verkostojen tulkinnassa onkin tärkeää, että analysoinnin yhteydessä dataa voidaan selata mm. "details on demand" -periaatteella.
Kuvassa 3 nähtävän verkoston erityispiirre on kahden sisäisesti tiiviin ryhmän heikko vuorovaikutus keskenään. Jos kyseessä tässä olisi yrityksen kahden eri osaston välinen kommunikaatio olisin hyvin huolestunut yrityksen sisäisen viestinnän toimivuudesta.
Kuvan 4 verkostossa osa ryhmistä on eriytynyt omaan lokeroonsa kun taas toiset ryhmät ovat verkostoituneet keskenään.
Kuten huomataan vaatii verkostoanalyysi aina rinnalleen tuntemusta visualisoitavana olevasta ilmiöstä. Pystyn tulkitsemaan omaa verkostoani melko luotettavasti, koska tunnen minkälainen ilmiö on kyseessä ja tiedän mitä verkostossa olevat solmut ovat. Tulkinnasta tulee kuitenkin heti hankalampaa kun verkostossa esiintyvät solmut ja yhteydet tai ylipäänsä verkostossa nähtävä ilmiö ei ole tuttu. Onkin väärin olettaa, että verkostoanalyysi olisi jonkinlainen Hopea Luoti, joka suoraan ratkaisisi monimutkaisia ongelmia ja vastaisi kysymyksiin. Verkostoanalyysi toimii ongelmien ratkaisun tukena ja toisaalta antaa suuntaa sille mistä ratkaisua voisi lähteä etsimään.
Seuraavat askeleet Twitter-analyysin osalta ajattelin ottaa siihen suuntaan, että kaivan verkoston ihmisten seuraajista sen sijaan, että katson keitä ihmiset seuraavat. Uskoisin tämän näkökulman tuottavan mielenkiintoisia tuloksia kun analyysi kohdistetaan yhteiskunnallisesti tärkeisiin ihmisiin kuten poliitikkoihin.
Keep on Tweeting...
Twitter tarjoaa monipuoliset mahdollisuudet datansa käsittelyyn rajapintansa kautta. API:lla (Application programming interface) on mahdollista hakea automaattisesti oikeastaan kaikki se tietosisältö, joka on käyttäjälle muutenkin nähtävissä. Tämä on poikkeuksellista esimerkiksi verrattuna Facebook:n Graph API:in, jonka kautta tietoa on mahdollista hakea rajoitetummin. Tästä syystä Facebook-datan hakeminen on omalta osaltani tapahtunut hyvin paljon käsityönä kuten "Kansanedustajat Facebookissa – kuka on kenenkin kaveri?" -tapauksen yhteydessä.
Päädyin rakentamaan Twitter-datan avulla verkoston käyttäjistä/Twitter-tileistä joita seuraan. Henkilökohtaisella Twitter-tilini seurannassa ~90:ntä tiliä, joten tästä seurasi suoraan verkoston solmujen lukumäärä. Yhteydet solmujen välille rakensin sen perusteella miten seuraamani henkilöt seuraavat keskenään toisiaan. Lopputuloksena syntyi sosiaalisen verkosto, joka havainnollistaa seuraamieni henkilöiden keskenäiset suhteet, suhteiden perusteella muodostuvat ryhmät ja näiden ryhmien asemoitumisen toisiinsa nähden.
Keräsin datan käyttäen Python-ohjelmointikieltä ja tein tulostuksen verkostodatalle soveltuvassa GraphML-muodossa, jota visualisointiin käyttämäni visualisointityökalu Gephi ymmärtää. Gephi:ssä käytin tulosten latomiseen ForceAtlas2-algoritmia, jonka olen todennut käytännön kokemusten kautta toimivan hyvin etenkin pienten sosiaalisten verkostojen visualisoimiseen. Värikoodauksen tein dataan käsin määrittelemällä jokaisen solmun sille olennaiseen kategoriaan. Solmun koko kuvastaa astesummaa eli solmuun suuntautuvien yhteyksien määrää. Toisin sanoen solmun koko kuvaa suoraan Twitter-tiliä seuraavien Twitter-tilien määrää verkostossa. Yhteydet solmujen välillä ovat suunnattuja. Annotoinnin ja jälkikäsittelyn tein Paintbrush-nimisellä ohjelmalla. (Kuva 1)
 |
| Sosiaalinen verkostoni Twitter:ssä visualisoituna Gephi:llä. (Kuva 1) |
Kuvissa 2, 3 ja 4 nähdään eräiden muiden käyttäjien Twitter-verkostot. Verkostot on toteutettu samoilla periaatteilla kuin edellä kuvattu oma verkostoni sillä erotuksella, että solmujen väritys on tehty Gephi:n Modularity-luokittelun avulla. Lisäksi näissä verkostoissa esiintyvät Twitter-tilit on anonymisoitu, koska haluan esittää ne vain esimerkin omaisesti enkä pyrkiä sen tarkempaa tulkitsemiseen. Tarkempi tulkinta vaatisi tutustumista verkostoissa oleviin Twitter-tileihin, jotta voitaisiin ymmärtää miksi tietyt ryhmät ovat lähempänä toisiaan kuin toiset.
Kuvien 2, 3 ja 4 verkostoista nähdään miten verkoston ulostulo on hyvin erilainen eri käyttäjille. Toisilla käyttäjillä nähdään hyvin pitkälle keskenään verkostoituneet ryhmät kun taas toiset käyttäjät seuraavat toisistaan täysin riippumattomia Twitter-tileistä koostuvia ryhmittymiä.
Kuvassa 2 nähtävä verkosto on niin tiheä, että tarkkojen tulkintojen tekeminen yleisnäkymästä on vaikeaa. Verkostojen tulkinnassa onkin tärkeää, että analysoinnin yhteydessä dataa voidaan selata mm. "details on demand" -periaatteella.
 |
| Tiheiden verkostojen tulkinta on usein vaikeaa jos verkostoa ei ole mahdollista rajata tai zoomata. Gephi mahdollistaa datan rajaamisen erilaisten filtereiden avulla ja verkostoa on mahdollista zoomata. Yleiskuvan merkitys on kuitenkin tärkeä, koska sen avulla nähdään ne alueet, jotka voisivat olla kiinnostavia jatkotutkimuksen kannalta. (Kuva 2) |
 |
| Twitteriä on mahdollista käyttää hyvin monella eri tavalla. Tämän kyseisen henkilö seuraa selkeästi kahta erillistä toisistaan riippumatonta ryhmää ihmisiä, jotka voivat poiketa toisistaan esimerkiksi kiinnostuksen tai spatiaalisesti. (Kuva 3) |
Kuvan 4 verkostossa osa ryhmistä on eriytynyt omaan lokeroonsa kun taas toiset ryhmät ovat verkostoituneet keskenään.
 |
| Tämän käyttäjän verkostossa tietyt ryhmät erottuvat hyvin selkeästi omiin lokeroihinsa, mutta oikealta löytyvä klusteri on taas hyvin vahvasti verkostoitunut keskenään. (Kuva 4) |
Seuraavat askeleet Twitter-analyysin osalta ajattelin ottaa siihen suuntaan, että kaivan verkoston ihmisten seuraajista sen sijaan, että katson keitä ihmiset seuraavat. Uskoisin tämän näkökulman tuottavan mielenkiintoisia tuloksia kun analyysi kohdistetaan yhteiskunnallisesti tärkeisiin ihmisiin kuten poliitikkoihin.
Keep on Tweeting...
maanantai 6. helmikuuta 2012
Norjan tuliaiset
Vierailin toissa viikon maanantaina Norjassa paikallisen yleisradioyhtiön NRK:n tiloissa. Vierailua alustava postaus on luettavissa täältä. Tapasin siis Norjassa tutkivaan journalismiin keskittyvän Brennpunk-ohjelman tekijöitä ja kävimme päivän aikana läpi miten olivat hyödyntäneet dataa omassa journalismissaan. Kiinnostavaa oli mitä datalähteitä he ovat käyttäneet ja miten dataa oli hyödynnetty niin netti- kuin tv-tuotannossa.
Alkuperäinen motivaatiomme lähteä opintomatkalle kumpusi Brennpunk-ohjelman tekemästä Broderskapet-jutusta, jossa he olivat tutkineet Facebookin ja sähköpostitietojen avulla Breivik:n mahdollista lähipiiriä ja yhteyksiä äärijärjestöihin tai mm. naapurimaihin kuten Suomeen (Kuva 1). Olin itse etenkin kiinnostunut mitä teknologisia ratkaisuja he olivat käyttäneet, koska olin myös itse yrittänyt kaivaa Facebook-dataa viime aikoina onnistumatta siinä kuitenkaan erityisen tehokkaasti. Toisaalta yleisesti olin kiinnostunut kuinka journalistien ja tekniikka-ihmisten välinen kommunikaatio oli saatu toimimaan ja miten tämä vuoropuhelu käytännössä hoidettiin.
Brennpunkt:ssa datajournalistinen vastuu on ollut pitkälti kahden aktiivisen toimittajan varassa. Heistä toinen oli enemmän orientoitunut tekemään teknistä toteutusta kun toisen vastuulla on ollut enemmän perinteisempi journalistinen työ, johon on kuulunut mm. datan hankkiminen eri fyysisistä lähteistä. Lisäksi ohjelmalla on toki muitakin tekijöitä, mutta datajournalisminen taustatyö on pääasiassa ollut näiden kahden ihmisen käsissä. Heillä oli kuitenkin tavoitteena kasvattaa erityisesti datajournalismiin keskittyvän osaston kokoa lähiaikoina ja suunnitelmat tähän olivat jo olemassa.
Brennpunk on siis tehnyt Norjassa useita juttuja erilaisiin datasisältöihin liittyen. Mukana on juttuja joissa data on hankittu perinteisempiä keinoja käyttäen ja juttuja joissa data on enemmän tai vähemmän automaattisesti ryömitty Internetistä. Oli mielestäni avartavaa tajuta, että datajournalismia on mahdollista tehdä myös niin, että aineisto kerätään ns. perinteisin keinoin. Käsitteenä datajournalismin ei tarvitse tarkoittaa, että kaikki työ tulee olla tehtävissä päätteellä istuen, kuten sen ehkä helposti näin teknistaustainen henkilö kuten minä ymmärtää.
Eräässä jutussa he olivat keränneet dataa museovirastosta, rakennusvirastosta ja palokunnan hälytystehtävistä. Näitä datakokoelmia yhdistelemällä he olivat pyrkineet selvittämään onko museoviraston suojelemien kohteiden tulipaloilla ja rakennusvirastoon tehtyjen purkuhakemusten välillä jonkinlaista ajallista korrelaatiota. He tutkivat oliko purkuhakemusta tekevällä taholla selkeää eturistiriitaa siitä, että kyseinen kohde tuhoutui ja voitiinko siten epäillä, että tulipaloa olisi mahdollisesti jollain tavalla edesautettu (Kuva 2).
Kun Brennpunkt oli tutkinut Breivikin mahdollisia yhteyksiä heillä oli ollut käytettävissään lista sähköpostiosoitteista, joihin Breivik oli lähettänyt manifestinsa. Tältä sähköpostilistalta löytyi siis mm. Perussuomalaisten poliitikko Jussi-Halla Aho, mutta myös muita suomalaisia poliitikkoja. He olivat verranneet näitä sähköpostiosoitteita Facebook:sta löytyviin profiileihin ja ryömineet näiden profiilien julkiset kaverilistat omaan tietokantaansa. Toteutuksellisesti Facebook-ryömintä oli tehty "screenscraping"-periaatteella yksittäinen profiili kerrallaan. Lisäksi he olivat samalla tavalla ryömineet myös erilaisten äärijärjestöjen Facebook-sivujen tykkääjälistaukset. Nämä datajoukot he olivat visualisoineet verkostona CrimeLink-nimisellä ohjelmistolla (Kuva 3). He olivat myös rakentaneet erilaisia automaattihakuja, joiden avulla pystyttiin selvittämään nopeasti yksittäisten ihmisten osallisuus kerätyssä datassa.
Isäntämme kertoivat myös avoimesti erilaisista haasteista, joita he olivat kohdanneet. Ongelmia olivat aiheuttaneet mm. datan eheyteen liittyvät ongelmat sekä miten eri ammattilaiset oli aluksi vaikea saada keskustelemaan keskenään. Journalistit tai insinöörit eivät siten poikkea muista ammattiryhmistä, että heidät on vaikea saada kiinnostumaan aihealueista, jotka eivät ole heidän osaamisensa keskiössä.
Yhteenvetona matka oli erittäin onnistunut ja sain kerättyä paljon perspektiiviä siihen mitä muualla näiden asioiden parissa tehdään. Oli myös itseni puolesta huojentavaa huomata, että teknisestä näkökulmasta ei naapurimaassa olla niin paljon edellä kuin mitä sisällöt ensin antavat ymmärtää.
Alkuperäinen motivaatiomme lähteä opintomatkalle kumpusi Brennpunk-ohjelman tekemästä Broderskapet-jutusta, jossa he olivat tutkineet Facebookin ja sähköpostitietojen avulla Breivik:n mahdollista lähipiiriä ja yhteyksiä äärijärjestöihin tai mm. naapurimaihin kuten Suomeen (Kuva 1). Olin itse etenkin kiinnostunut mitä teknologisia ratkaisuja he olivat käyttäneet, koska olin myös itse yrittänyt kaivaa Facebook-dataa viime aikoina onnistumatta siinä kuitenkaan erityisen tehokkaasti. Toisaalta yleisesti olin kiinnostunut kuinka journalistien ja tekniikka-ihmisten välinen kommunikaatio oli saatu toimimaan ja miten tämä vuoropuhelu käytännössä hoidettiin.
 |
| Brennpunkt on datalähteitä käyttäen mm. etsinyt äärijärjestöihin kuuluvia Norjalaisia. Lähde NRK. (Kuva 1) |
Brennpunk on siis tehnyt Norjassa useita juttuja erilaisiin datasisältöihin liittyen. Mukana on juttuja joissa data on hankittu perinteisempiä keinoja käyttäen ja juttuja joissa data on enemmän tai vähemmän automaattisesti ryömitty Internetistä. Oli mielestäni avartavaa tajuta, että datajournalismia on mahdollista tehdä myös niin, että aineisto kerätään ns. perinteisin keinoin. Käsitteenä datajournalismin ei tarvitse tarkoittaa, että kaikki työ tulee olla tehtävissä päätteellä istuen, kuten sen ehkä helposti näin teknistaustainen henkilö kuten minä ymmärtää.
Eräässä jutussa he olivat keränneet dataa museovirastosta, rakennusvirastosta ja palokunnan hälytystehtävistä. Näitä datakokoelmia yhdistelemällä he olivat pyrkineet selvittämään onko museoviraston suojelemien kohteiden tulipaloilla ja rakennusvirastoon tehtyjen purkuhakemusten välillä jonkinlaista ajallista korrelaatiota. He tutkivat oliko purkuhakemusta tekevällä taholla selkeää eturistiriitaa siitä, että kyseinen kohde tuhoutui ja voitiinko siten epäillä, että tulipaloa olisi mahdollisesti jollain tavalla edesautettu (Kuva 2).
 |
| Dataa voidaan kerätä hyvin erilaisista lähteistä ja eri lähteiden innovatiivinen yhdistely voi tuottaa mielenkiintoisia tuloksia. (Kuva 2) |
 |
| CrimeLink on rikollisten verkostojen visualisointiin keskittynyt kaupallinen sovellus. Lähde CrimeLink. (Kuva 3) |
Yhteenvetona matka oli erittäin onnistunut ja sain kerättyä paljon perspektiiviä siihen mitä muualla näiden asioiden parissa tehdään. Oli myös itseni puolesta huojentavaa huomata, että teknisestä näkökulmasta ei naapurimaassa olla niin paljon edellä kuin mitä sisällöt ensin antavat ymmärtää.
perjantai 27. tammikuuta 2012
MediaWiki tietosisällön visualisointi, Osa 1: Gephi
Tämä viesti ei sinällään käsittele sosiaalisen verkostojen analyysiä tai datajournalismia, jotka pyrin pitämään tämän blogin pääaiheina. Kuitenkin tekniikat ja välineet, joita hyödynnetään ovat samoja ja tässä esimerkissä datan rakenne on vastaavanlainen kuin usein SNA:n tapauksessa.
</spoiler>
Wiki on käsite tietosisällölle, joka on kaikkien lukijoittensa muokattavissa. Wikille on myös tunnusomaista, että kaikki tallennetut versiot tiedosta säilytetään. Tunnetuin yksittäinen wiki on varmasti Wikipedia, mutta erilaisia wikejä ja wiki-alustoja löytyy useita. Useilla yrityksillä on sisäisiä Wikejä kuten myös monilla yhdistyksillä ja muilla organisaatioilla. Tunnettuja Wiki-alustoja ovat mm. Confluence, MediaWiki ja esimerkiksi FosWiki.
Wikien suurin rikkaus on, että tieto on yhteisön hallittavissa. Tämä hajauttaa tiedon ylläpitämisen vastuun ylläpito-organisaatiolta, mutta ominaisuus tuo myös haasteita. Tieto rämettyy helposti ja tiedon löytäminen on laajoissa wiki-ympäristöissä vaikeaa kun tietoa ei hallinnoida keskitetysti. Usein on myös vaikeaa hahmottaa mitä tietoa esimerkiksi yrityksen sisäisestä wikistä löytyy. Tiedon löytymistä tukisi jos Wikien luokittelu- ja hierarkia-toimintoja käytettäisiin tehokkaasti ja ne tuotaisiin selkeästi käyttjien esille. Usein kuitenkin tiedon rakenteen tuottaminen on tavalliselle käyttäjälle liian haastavaa.
Tämä hyvin laveana ja yleisenä kuvauksena wikeistä. Tarkoitukseni oli antaa oikeutus seuraavalle esimerkilleni siitä miksi wikien rämettyneisyyttä kannattaa kuvata ja miten siitä voitaisiin mahdollisesti päästä eroon.
Olen ylläpitänyt itselläni henkilökohtaista, mutta avointa MediaWiki-alustaa muutaman vuoden ajan. Sivuja ympäristössä on vain alle 30. Kuitenkin huomaan, että osa tiedosta hukkuu Wikin uumeniin mm. koska tietoa ei ole linkitetty mihinkään muuhun olemassa olevaan tietoon. Henkilökohtaisen MediaWiki-asennukseni lisäksi minulla oli mahdollisuus kokeilla samoja periaatteita erään organisaation laajemmassa ympäristössä.
MediaWiki:ssä tiedon ryhmittely tehdään pääasiassa luokkien avulla. Yksittäiselle MediaWiki-sivulle on mahdollista määritellä rajoittamaton määrä luokkia, joihin sivu kuuluu. Yksittäisen luokan sivulta on nähtävissä mitkä sivut kuuluvat tähän luokkaan. Hierarkiasta on mahdollista tehdä myös syvempi liittämällä luokkia toisiin luokkiin.
Toteutin MediaWikin tietosisällöistä verkostovisualisoinnin käyttäen aiemmasta blogimerkinnästä tuttua Gource:a sekä Gephi:ä. Esittelen tässä kirjoituksessa Gephi:llä tekemäni tuotokset, koska Gource:a käsittelin jo aiemmin ja molempien läpikäynti olisi turhan raskasta. Käyn Gource:lla toteutetut versiot läpi myöhemmin.
Gephi on verkostoanalyysiin erikoistunut avoimeen lähdekoodiin perustuva työkalu, jolla on mahdollista visualisoida dataa, jolla on verkostorakenne. Gephi sisältää monipuoliset ladonta-algoritmit ja sen avulla on mahdollista laskea mm. laskea tunnuslukuja ja tehdä datan refaktorointia. Gephi lukee useita tiedostoformaatteja ja tuettuihin formaatteihin kuuluu mm. XML-pohjainen GEXF-tiedostoformaatti.
GEXF:llä on mahdollista kuvata monipuolisesti erilaisia verkostoja ja dataan on mahdollista vapaasti liittää haluamiaan attribuutteja. Yksinkertaisimmillaan GEXF käsittää <nodes>-elementin, joka kuvaa datassa olevat solmut sekä <edges>-elementin, joka kuvaa solmujen väliset yhteydet. Solmut ja yhteydet yksilöidään ID-arvojen avulla, jotka useimmitten omissa esimerkeissäni ovat olleet koneellisesti tuotettuja surrogaatti-avaimia.
Datan keräsin räätälöidyn SQL-kyselyn avulla suoraan MediaWikin MySQL-tietokannasta, jonka jälkeen tulostin datan PHP-scriptillä GEXF-muotoon, joka on siis suoraan mahdollista avata Gephi:llä. Vaihtoehtoisesti data oltaisiin voitu ryömiä asiakaspäässä, mutta koska tässä tapauksessa minulla oli suora pääsy tietokantaan tähän ei ollut tarvetta ryhtyä. Asiakaspään ryömintä olisi kuitenkin pakollista mikäli haluttaisiin tutkia sellaisia wiki-palveluja, joiden backendiin ei olisi pääsyä (tämä tilanne on varmasti normi kun puhutaan datajournalismista).
Mikäli haluat tutustua Gephi:n käyttöön laajemmin suosittelen katsomaan läpi esimerkiksi Olli Parviaisen tekemät kalvot aiheesta. SlideShare-palvelusta löytyy myös monia muita hyviä presentaatioita asiaan liittyen. En myöskään halua mennä liikaa yksityiskohtiin PHP:n tai SQL:n osalta, koska näen ne epäolennaisena, mutta jos haluat tietää näistä enemmän kerron kyllä mielelläni.
Kuvassa 1 nähdään MediaWiki-alustani nykytilanne visualisoituna Gephi:llä. Kuten sanottua wiki ei ole sivujen määrässä mitattuna suuri, mutta data soveltuu hyvin yksinkertaisuutensa vuoksi hyvin esimerkikiksi. Visualisoinnissa suurempi solmun koko kuvaa solmun astesummaa eli solmusta lähtevien yhteyksien määrää. Siniset solmut ovat wiki-sivuja ja punaiset solmut esittävät luokkia. Yhteydet luodaan sivujen ja luokkien välillä sillä perusteella, että sivu on merkitty kuuluvaksi luokkaan.
Visualisoinnista (Kuva 1) nähdään miten wikissä on selkeitä toisistaan riippumattomia aihealuekokonaisuuksia ja että suurin osa sivuista kuuluu (nykyään) ainakin yhteen luokkaan. Valitettavasti lähtötilanteesta, jossa suurempi osa sivuista oli "orpoja" minulle ei ole tallessa kuvankaappausta. Aikaisemmin kuitenkaan suuri osa sivuista ei kuulunut mihinkään luokkaan, jolloin (kuten edellä mainitsin) data katosi wikin uumeniin.
Verkostovisualisoinnin avulla pystyin osoittamaan helposti mitkä sivut olivat "luokattomia" ja käymään ne läpi lisäten niille, jonkin olemassa olevan luokan. Visualisoinnin avulla pystyin myös näkemään mahdollisia uusia luokkia. Lisäksi kun on mahdollista nähdä sivujen väliset yhteydet luokkien kautta voidaan havaita esimerkiksi, että miten tietyistä sivuista selkeästi puuttuu sille kuuluva luokka.
Minulla oli myös mahdollisuus käyttää erään laajemman wiki-ympäristön dataa suoraan tietokannasta. Tässä järjestelmässä wiki-sivuja ja luokkia oli huomattavasti enemmän kuin omassa ympäristössäni. Käytin datan keräämiseen ja käsittelyyn samoja menetelmiä kuin aiemmin, mutta Gephi:ssä käytin hieman eri piirtokäytäntöjä (Kuva 2).
Kuvasta 2 nähdään miten laajemman wiki-ympäristön visualisoinnin havainnointi ja käsittely on huomattavasti vaikeampaa kuin aikaisemman suppeamman ympäristön (Kuva 1). Mielenkiintoista on kuitenkin huomata miten tässäkin ympäristössä havaitaan selkeitä aihekokonaisuuksia, jotka eivät linkity luokkien kautta muuhun sisältöön vaan ovat "eristäytyneitä" kokonaisuuksia.
Kiinnostava jatkotukimuksen aihe olisi katsoa linkittyykö tieto paremmin muissa wiki-alustoissa, joissa tiedon luokitteluun käytetään muita mahdollisesti monipuolisempia tapoja, mutta tämä tästä tällä kertaa. Jatkoa seuraa asian tiimoilta myöhemmin Gource-visualisointien osalta.
</spoiler>
Wiki on käsite tietosisällölle, joka on kaikkien lukijoittensa muokattavissa. Wikille on myös tunnusomaista, että kaikki tallennetut versiot tiedosta säilytetään. Tunnetuin yksittäinen wiki on varmasti Wikipedia, mutta erilaisia wikejä ja wiki-alustoja löytyy useita. Useilla yrityksillä on sisäisiä Wikejä kuten myös monilla yhdistyksillä ja muilla organisaatioilla. Tunnettuja Wiki-alustoja ovat mm. Confluence, MediaWiki ja esimerkiksi FosWiki.
Tämä hyvin laveana ja yleisenä kuvauksena wikeistä. Tarkoitukseni oli antaa oikeutus seuraavalle esimerkilleni siitä miksi wikien rämettyneisyyttä kannattaa kuvata ja miten siitä voitaisiin mahdollisesti päästä eroon.
Olen ylläpitänyt itselläni henkilökohtaista, mutta avointa MediaWiki-alustaa muutaman vuoden ajan. Sivuja ympäristössä on vain alle 30. Kuitenkin huomaan, että osa tiedosta hukkuu Wikin uumeniin mm. koska tietoa ei ole linkitetty mihinkään muuhun olemassa olevaan tietoon. Henkilökohtaisen MediaWiki-asennukseni lisäksi minulla oli mahdollisuus kokeilla samoja periaatteita erään organisaation laajemmassa ympäristössä.
MediaWiki:ssä tiedon ryhmittely tehdään pääasiassa luokkien avulla. Yksittäiselle MediaWiki-sivulle on mahdollista määritellä rajoittamaton määrä luokkia, joihin sivu kuuluu. Yksittäisen luokan sivulta on nähtävissä mitkä sivut kuuluvat tähän luokkaan. Hierarkiasta on mahdollista tehdä myös syvempi liittämällä luokkia toisiin luokkiin.
Toteutin MediaWikin tietosisällöistä verkostovisualisoinnin käyttäen aiemmasta blogimerkinnästä tuttua Gource:a sekä Gephi:ä. Esittelen tässä kirjoituksessa Gephi:llä tekemäni tuotokset, koska Gource:a käsittelin jo aiemmin ja molempien läpikäynti olisi turhan raskasta. Käyn Gource:lla toteutetut versiot läpi myöhemmin.
Gephi on verkostoanalyysiin erikoistunut avoimeen lähdekoodiin perustuva työkalu, jolla on mahdollista visualisoida dataa, jolla on verkostorakenne. Gephi sisältää monipuoliset ladonta-algoritmit ja sen avulla on mahdollista laskea mm. laskea tunnuslukuja ja tehdä datan refaktorointia. Gephi lukee useita tiedostoformaatteja ja tuettuihin formaatteihin kuuluu mm. XML-pohjainen GEXF-tiedostoformaatti.
GEXF:llä on mahdollista kuvata monipuolisesti erilaisia verkostoja ja dataan on mahdollista vapaasti liittää haluamiaan attribuutteja. Yksinkertaisimmillaan GEXF käsittää <nodes>-elementin, joka kuvaa datassa olevat solmut sekä <edges>-elementin, joka kuvaa solmujen väliset yhteydet. Solmut ja yhteydet yksilöidään ID-arvojen avulla, jotka useimmitten omissa esimerkeissäni ovat olleet koneellisesti tuotettuja surrogaatti-avaimia.
Datan keräsin räätälöidyn SQL-kyselyn avulla suoraan MediaWikin MySQL-tietokannasta, jonka jälkeen tulostin datan PHP-scriptillä GEXF-muotoon, joka on siis suoraan mahdollista avata Gephi:llä. Vaihtoehtoisesti data oltaisiin voitu ryömiä asiakaspäässä, mutta koska tässä tapauksessa minulla oli suora pääsy tietokantaan tähän ei ollut tarvetta ryhtyä. Asiakaspään ryömintä olisi kuitenkin pakollista mikäli haluttaisiin tutkia sellaisia wiki-palveluja, joiden backendiin ei olisi pääsyä (tämä tilanne on varmasti normi kun puhutaan datajournalismista).
Mikäli haluat tutustua Gephi:n käyttöön laajemmin suosittelen katsomaan läpi esimerkiksi Olli Parviaisen tekemät kalvot aiheesta. SlideShare-palvelusta löytyy myös monia muita hyviä presentaatioita asiaan liittyen. En myöskään halua mennä liikaa yksityiskohtiin PHP:n tai SQL:n osalta, koska näen ne epäolennaisena, mutta jos haluat tietää näistä enemmän kerron kyllä mielelläni.
Kuvassa 1 nähdään MediaWiki-alustani nykytilanne visualisoituna Gephi:llä. Kuten sanottua wiki ei ole sivujen määrässä mitattuna suuri, mutta data soveltuu hyvin yksinkertaisuutensa vuoksi hyvin esimerkikiksi. Visualisoinnissa suurempi solmun koko kuvaa solmun astesummaa eli solmusta lähtevien yhteyksien määrää. Siniset solmut ovat wiki-sivuja ja punaiset solmut esittävät luokkia. Yhteydet luodaan sivujen ja luokkien välillä sillä perusteella, että sivu on merkitty kuuluvaksi luokkaan.
 |
| Esimerkkivisualisointi Gephi:llä MediaWiki:ni sivuista ja luokista. Tässä MediaWiki-ympäristössä ei ole hyödynnetty luokkien luokittelua, mutta suurin osa sivuista on liitetty vähintään yhteen luokkaan. Luokkien ja sivujen nimet on riisuttu yksityisyys syistä. (Kuva 1) |
Verkostovisualisoinnin avulla pystyin osoittamaan helposti mitkä sivut olivat "luokattomia" ja käymään ne läpi lisäten niille, jonkin olemassa olevan luokan. Visualisoinnin avulla pystyin myös näkemään mahdollisia uusia luokkia. Lisäksi kun on mahdollista nähdä sivujen väliset yhteydet luokkien kautta voidaan havaita esimerkiksi, että miten tietyistä sivuista selkeästi puuttuu sille kuuluva luokka.
Minulla oli myös mahdollisuus käyttää erään laajemman wiki-ympäristön dataa suoraan tietokannasta. Tässä järjestelmässä wiki-sivuja ja luokkia oli huomattavasti enemmän kuin omassa ympäristössäni. Käytin datan keräämiseen ja käsittelyyn samoja menetelmiä kuin aiemmin, mutta Gephi:ssä käytin hieman eri piirtokäytäntöjä (Kuva 2).
 |
| Laajemmat Wiki-ympäristöt tuottavat haasteita visualisoinnin luettavuudelle ja hahmotettavuudelle. Tässä väreillä ja solmun koolla on molemmilla kuvattu solmun astesummaa. Yksittäiset sivut on piirretty siten keltaisella ja tumman sininen kuvaa suosituimpia luokkia. Solmut ovat painovoimaohjattuja. Sivujen ja luokkien nimet on poistettu yksityisyys syistä. (Kuva 2) |
Kiinnostava jatkotukimuksen aihe olisi katsoa linkittyykö tieto paremmin muissa wiki-alustoissa, joissa tiedon luokitteluun käytetään muita mahdollisesti monipuolisempia tapoja, mutta tämä tästä tällä kertaa. Jatkoa seuraa asian tiimoilta myöhemmin Gource-visualisointien osalta.
Tilaa:
Blogitekstit (Atom)