Facebook-verkostojen visualisointi

SPOILER: tämä postaus käsittelee teknistä sanastoa.

Innostuin tällä viikolla tutkimaan miten Facebook-verkostoja olisi mahdollista kerätä ja visualisoida vastaavalla tavalla kuten olen aikaisemmin visualisoinut Twitter-verkostoja sekä keitä @TuomasEnbuske seuraa. Enemmän tai vähemmän tunnetusti Facebook on kitsaampi jakamaan tietojaan Graph-rajapintansa kautta kuin mitä Twitter oman rajapintansa kautta, mutta rohkaistuin kuitenkin yrittämään tehtyäni ensin Olli Parviaisen kanssa kansanedustajien kaveruusverkoston sekä nähtyäni miten Jens Finnäs oli onnistunut tekemään vastaavanlaisen toteutuksen Ruotsin parlamentista.

Graph-rajapinta

Facebook:lla on siis olemassa Graph-niminen rajapinta, joka mahdollistaa Facebook-datan käsittelyn koneellisesti. Lähinnä rajapinta on varmasti tarkoitettu erilaisille Facebook-applikaatioille, mutta sitä on mahdollista käyttää myös muuten. Yksinkertainen Graph-rajapintakysely, joka palauttaa halutun käyttäjän (tässä tapauksessa allekirjoittaneen) tiedot (kuten ID, sukupuoli, nimi, jne.) voidaan suorittaa syöttämällä seuraava osoite selaimeen:

graph.facebook.com/teelmo.

Rajapintaa voidaan kutsua yhtälailla käyttäjän käyttäjänimellä kuin Facebook:n käyttäjä-ID-arvolla. Toisin sanoen kysely:

graph.facebook.com/635279474,

tuottaa saman vastauksen. Tiedot ovat haettavissa Graph-rajapinnan kautta kenestä tahansa Facebook-profiilista huolimatta siitä miten suljettu tai avoin profiili on. Rajapinnalta on mahdollista kysyä myös monia muita asioita, mutta esimerkiksi satunnaisen käyttäjän Facebook-kavereiden hakeminen ei ole mahdollista edes vaikka olisit kyseisen käyttäjän kaveri. Muiden kuin itsensä kavereiden hakeminen onnistuu rajapinnan kautta jos käyttäjä on sallinut tietojensa jakamisen applikaatiolle, jonka ylläpitäjä olet. Omat Facebook-kaverit rajapinnan kautta saa haettua.

Python + MongoDB = voitto

Kuten edellä näytettiin on Graph-rajapintaa mahdollista selata käsipelillä selaimen avulla, mutta käsiteltäessä suurempia datajoukkoja tulee tiedon keräämisestä tällä tavoin raskasta. Näin ollen erinäiset ohjelmointikielet ja niillä rakennetut scriptit eli lyhyet kertaalleen ajettavat ohjelmakoodit tulevat apuun. Käytetyllä ohjelmointikielellä ei ole suurta merkitystä vaan valinta kannattaa tehdä sen pohjalta, joka on itselle tutuin ja luontevin. Hyviä vaihtoehtoja kuitenkin ovat ainakin Python, Ruby ja Facebook:n tapauksessa etenkin PHP, koska suurin osa Facebook:n koodiesimerkeistä on kirjoitettu sillä. Itse valitsin kuitenkin Pythonin, koska halusin jatkojalostaa omaa Python osaamistani.

Pythonille löytyy useampia Facebook Graph API -kirjastoja, mutta ainakin pyFaceGraph-nimisen kirjaston avulla Graph-rajapinnan käyttö on todella yksinkertaista. Tässä yksinkertainen koodin pätkä, joka hakee käyttäjän tiedot kirjaston avulla jos käyttäjän tietoja ei ole jo aikaisemmin haettu ja tallennettu tietokantaan.

>>> from facegraph import Graph
>>> g = Graph()
>>> ...
>>> username = 'teelmo'
>>> # Check that username is not already in MongoDB
>>> if not users.find({"data.username": fusername}).count():
>>>    user = g[username]()
>>>    print user.id
'635279474'

Tietojen tallentamisessa hyödynsin MongoDB:tä, joka on NoSQL-tietokanta. MongoDB soveltuu käytettäväksi tämänkaltaisissa scripteissä, jotka hakevat tietoa netistä, koska tiedon eheydestä eikä rakenteesta tarvitse välittää samalla tavalla kuin käytettäessä esimerkiksi MySQL:ää tai muuta SQL-pohjaista tietokannanhallintajärjestelmää. MongoDB hyödyntää tiedon tallentamisessa JSON-formaattia, joka on myös formaatti, jossa Graph-rajapinta palauttaa hakutulokset.

Kuvassa 1 nähdään miten scripti hakee annettujen käyttäjien tietoja Graph-rajapinnalta. Tässä tapauksessa suurin osa haettavista käyttäjistä on jo aikaisemmin noudettu lokaaliin tietokantaan, mutta yhden käyttäjän osalta tiedot haetaan Graph-rajapinnasta.

Pythonilla ja MongoDB:llä toteutettu keräin, joka hakee annettujen käyttäjien tiedot Facebookin Graph-rajapinnasta. (Kuva 1)

Facebook:n Graph API ei rajoita tietojen hakemista samalla tavalla kuin Twitter (150 pyyntöä tunnissa), mutta satunnaisesti joitain virheitä esiintyy. Ongelmatilanteissa auttaa kun tiedot tallennetaan lokaalisti MongoDB:hen eikä tietojen hakemista tarvitse siten aloittaa ongelmatilanteissa alusta.

Käyttäjien tiedot kyllä, mutta miten yhteydet?

Graph-rajapinnan tarjoamat toiminnallisuudet on listattu täällä. Rajapinnan avulla saadaan siis kysyttyä suoraan mm. käyttäjien, tapahtumien ja sivujen tietoja. Käyttäjien välisiä yhteyksiä, tapahtumaan osallistujia tai sivujen tykkääjiä ei rajapinnan perustoiminnallisuuksilla kuitenkaan saa haettua.

Apuun tulee kuitenkin Graph-rajapintaa laajentava Facebook Query Language (FQL). FQL mahdollistaa Graph-rajapinnan kautta saatavien tietojen hakemisen SQL:n kaltaisella kyselykielellä. Esimerkiksi Facebook:n käyttäjä-ID:tä vastaava käyttäjänimi on mahdollista hakea seuraavalla kyselyllä:

SELECT username FROM user WHERE uid = 635279474

Käyttäjien välisten kaveruussuhteiden kyseleminen on mahdollista friend-taulusta. On huomioitavaa, että kaveruussuhteita on mahdollista kysyä myös sellaisten käyttäjien välillä, jotka muuten ovat piilottaneet profiilinsa. FQL:ää on mahdollista kokeilla erityisellä Graph API Explorer -työkalulla. FQL:n käyttäminen edellyttää OAuth-tunnistautumista ja ns. "Access token" täytyy välittää kyselyiden mukana.

Toteutin myös yhteyksien hakemisen Python-scriptillä. Apuna käytin Pythonille löytyvää requests-kirjastoa. Tässä yksinkertaisuudessaan ja lyhykäisyydessään FQL-kyselyn toteuttava koodinpätkä:

>>> import requests
>>> ...
>>> fql_query = "SELECT uid2 FROM friend WHERE uid1 = 635279474 and uid2 = %d" % uid2
>>> fql = "/fql?q=%s&access_token=%s" % (fql_query, access_token)
>>> try:
>>>    r = requests.get(domain + fql)
>>> except:
>>>    print "Error occured"


FQL-kysely palauttaa ne käyttäjä-ID-arvot, jotka täsmäävät annettuun hakuun. Eli hakiessani olenko kaveri käyttäjien A, B ja C kanssa palauttaa Facebook niiden käyttäjien ID:t, joiden kanssa haetuista olen kaveri.

Tulokset kirjoitin .gexf-muodossa ja visualisoinnin tein Gephi-nimisellä verkostojen visualisointiohjelmalla. Gephi:n käyttöön en mene tässä sen syvällisemmin, koska olen käsitellyt sitä jo aiemmin tässä blogissa ja tyydynkin vain viittaamaan Olli Parviaiseen luomiin ohjeistuksiin.

Summa summarum

Yhteenvetona voitaneen todeta, että Facebook:sta on mahdollista muodostaa kaveruusverkostoja vastaavasti kuin aikaisemmin olen näyttänyt Twitter:stä. Facebook:n kohdalla joutuu hieman enemmän tekemään käsityötä datan keräämisessä, mutta lopputulos on täysin vastaava. Erona Twitter-verkostoihin on, että Facebook:sta kerätyistä kaveruusverkostoista muodostuu paljon rypästeisempiä (Kuva 2). Eri ryhmät kuten lapsuuden ystävät, koulukaverit, työkaverit ja sukulaiset ovat hyvin vähän tekemisissä toistensa kanssa, mutta ovat linkittyneet keskenään hyvin paljon.

Facebook-kaveriverkostoni. Eri ryhmät erottuvat toisistaan erittäin selkeästi. Solmuja verkostossa on 206 ja yhteyksiä 1878. (Kuva 2)

Twitter:ssä taas ihmiset ovat enemmän verkostoituneet keskenään yli sosiaalisten tai fyysisten rajojen (Kuva 3). Twitter:n demografia poikkeaa toki hyvin paljon Facebook:sta, mutta mielestäni tämä kertoo, että Twitter:ssä seurataan kiinnostavia henkilöitä ja itse asiaa, joka johtaa samoista asioista kiinnostuneiden ihmisten tiheisiin verkostoihin. Toisaalta voidaan vetää myös se johtopäätös, että julistan Twitter:ssä vain yhden aihealueen ilosanomaa ja jos aihealueita olisi useampia nähtäisiin näistä eri aihealueista kiinnostuneet ihmiset omina ryppäinään.

Twitter-seuraajaverkostoni. Ihmiset ovat verkostoituneet keskenään hyvin tiheästi. Solmuja verkostossa 149 ja yhteyksiä 1209. (Kuva 3)

Voidaan kuitenkin tehdä sivistynyt arvaus, että Facebook:ssa seurataan ihmisiä, jotka ovat tuttuja fyysisestä maailmasta kun taas Twitter:ssä seurataan ihmisiä, jotka ovat kiinnostavia. Tässä toki kyseessä vain yhden ihmisen Facebook-kaverit ja Twitter-seuraajat, joten kovin pitkälle meneviä johtopäätöksiä ei voida tehdä, mutta olen havainnut samankaltaisen trendin esiintymisen myös muissa testitapauksissa.

Stay tuned!

"Ryömin juuri kaikkia @TuomasEnbuske:n seuraajia Keitä me kaikki ollaan Seuraavaksi @alexstubb Siinä taitaakin olla kaikki suom. Twitteristit" - https://twitter.com/#!/teelmo/status/185680267548168192

Kuka minä olen? @TuomasEnbuske

Moro,

Olen @TuomasEnbuske, 3kk nuori, suomalainen Twitter-ilmiö. Synnyin 24. marraskuuta vuonna 2011. Olin synnyttyäni heti virkeä lapsi. Opin nopeasti puhumaan säästellen käyttäen maksimissaan 140 merkkiä per viesti. Jakamiani viestejä ryhdyttiin heti seuraamaan laajoin joukoin. Villitsin ihmisiä provokatiivisilla heitoillani, joissa panostin enemmän määrään kuin laatuun. Otin tarkoituksella kantaa herkkiinkin aiheisiin, joihin pyrin useimmiten löytämään mahdollisimman yksioikoisen ja kärjistetyn ratkaisun...kuten netissä on tapana.

Suurin paheeni on Twitter-seuraajamääräni seuraaminen.

@TuomasEnbuske on Twitterin suurkuluttaja. Liittymisestään hän on ehtinyt kolmen kuukauden aikana vihastuttaa ja rakastuttaa seuraajiaan sekä hieman muitakin 2158 tweetin verran ja kerännyt näillä 7116 seuraajaa (tilanne 22.2.2012 klo 10:40). Lyhyellä matematiikalla tämä tekee päivässä ~20 tweettiä ja ~80 uutta seuraajaa. Suomalaisilla mittareilla määrät ovat jos eivät aivan ainutlaatuisia niin ainakin harvinaislaatuisia. Twitterin suosituimmaksi suomalaiseksi hänellä on vielä matkaa, mutta sanotaanko, että matka on alkanut.

Twitter-meemi @TuomasEnbuske:n rooli on ollut tarjota vaihtoehtoinen, provokatiivinen ja kärjistävä näkökulma maailman ja etenkin suomalaisiin tapahtumiin. Parhaimmillaan @TuomasEnbusken oivaltava logiikka toimii kuin Fingerpori (parhaimmillaan), mutta toisinaan eräät närkästyvät liian yksioikoisiksi mieltämistään sutkautuksista. Heitot uppoavat kuitenkin suomalaiseen Twitter-kansaan siinä määrin, että seuraajamäärä on marraskuusta lähtien kasvanut räjähdysmäisen tasaisesti.

@TuomasEnbuske pitää Twitterissä yllä väritettyä linjaa, jonka lähtökohtainen tarkoitus on enimmäkseen hämmentää ihmisiä ja herättää mielipiteitä puolesta ja vastaan. @TuomasEnbuske tweettaa kuin 50-vuotias hämeenkyröläismies ensireaktiossa: "minun mielipiteeni on oikea ja pidän siitä kiinni vaikka olisin väärässä". @TuomasEnbusken Twitter-agenda ei piile arvostuksen keräämisessä yksittäisillä viesteillä kuten asialinjaa ylläpitävillä tweettaajilla vaan kumpuaa enemmän yleisemmästä häiriön aiheuttamisen tarpeesta, jonka apuvälineeksi hän on Twitterin valjastanut. Yksinkertaisena analyysina voidaan heittää, että entinen rääväsuu, joka on sittemmin muokannut imagonsa asiallisempaan linjaan, on löytänyt vastikkeettoman kanavan ilmaista kapinankaipuista sielumaan.

Minua kiinnosti mitä @TuomasEnbuske sitten itse hakee Twitteristä. Lyhyessä ajassa yli 7000 tavallista Twitter-tallaajaa seuraajikseen haalinut @TuomasEnbuske on samassa ajassa itse klikannut seuraukseen ~300 tiliä. Keitä nämä ovat? Edustavatko he enemmän asialinjaa vai onko @TuomasEnbuske myös kiinnostunut provokaattoreista ja kansanmiehistä, jonkalaiseksi hän on itsensä Twitterissä lanseerannut.

Kuvassa 1 nähdään Twitter-tilien, joita @TuomasEnbuske seuraa, verkosto. Verkostosta voidaan lukea, että @TuomasEnbuske hakee Twitteristä täysin päinvastaista sanomaa kuin mitä hän itse tarjoaa vastineeksi. Hän haluaa selkeästi rinnastua seuraamisellaan valtaeliittiin ja päätöksentekijöihin. Seuratuista tileistä mainittakoon sellaiset anarkistit ja ihmiskunnan pahat pojat kuten Peter Vesterbacka, Mikael Jungner, Alexander Stubb, Bill Gates ja Stephen Elop. Ei todellakaan hahmoja, jotka voidaan mieltää kapinallisiksi rääväsuiksi vaan päinvastoin verkosto on pullollaan Twitter-tilejä, jotka edustavat menestystä ja valtaa joko suomalaisittain tai kansainvälisesti.

@TuomasEnbuske seuraa Twitterissä lähinnä toistensa kanssa verkostonutta valtaeliittiä, joka ei tarjoa juurikaan vaihtoehtoa vallitsevalle Status Quo:lle. Klikkaa suuremmaksi. (Kuva 1)

Huomionarvoista @TuomasEnbuske:n seuraamien henkilöiden verkostossa on myös verkoston tiheys. Mikään ryhmä ei erottaudu erilleen verkostossa esiintyvästä kansakunnan kermasta vaan kaikki seuraavat sopusointuisasti keskenään toisiaan. Tämä kertoo juuri siitä, että @TuomasEnbuske:n seuraamien henkilöiden joukossa ei esiinny sitä ns. vaihtoehtoista kapinalinjaa edustavia henkilöitä, jonkalaiseksi hän on itsensä Twitterissä profiloinut.

Kuka minä olen? Olen @TuomasEnbuske. Tarjoan seuraajilleni äänitorven itsenäisyyspäivän vastaanoton kuokkavierasjuhlista, mutta olen itse turvallisesti linnan seinien sisäpuolella katkarapulautasten ääressä.

Ps. olen tässä viestissä ottanut vapauden oikoa mutkia, koska näin on netissä tapana. Mielipiteet ja johtopäätökset ovat omiani, mutta en kanna niistä vastuuta vaan syytän sananvapautta ja Internettiä sen välineenä kaikesta. Lisäksi oma motivaationi on tietenkin vain saada lisää Twitter-seuraajia ja/tai päästä Tuomaksen kanssa seurapiireihin oluelle.

Ps2. Verkosto on toteutettu Gephillä ja verkostosta on rajattu pois solmut joiden astesumma on pienempi kuin 26. Värikoodaus on tehty Modularity-tunnusluvun perusteella. Verkoston ladonta on tehty ForceAtlas2 algoritmilla.

Twitter-verkostoanalyysia Gephi:llä

Innostuin viime viikonloppuna kokeilemaan ensimmäistä kertaa omatoimisesti miten Twitter-dataa on mahdollista visualisoida. Olen aiemmin tutkinut ja työstänyt paljon erilaisia sosiaalisia verkostoja, mutta ennen en ole laittanut todella käsiä rasvaan Twitterin osalta. Osittain tähän on ollut syynä se, että olen mieltänyt Olli Parviaisen jo avanneen kaikki Twitterin salat tämän osalta eikä asiaan vihkiytyminen näin ollen ole tuntunut mielekkäältä. Pisteet tämän vaikutelman luomisesta Ollille :) Sisäinen devaajanluonteeni kuitenkin siis vei voiton ja lähdin kehittelemään jotain omaa.

Twitter tarjoaa monipuoliset mahdollisuudet datansa käsittelyyn rajapintansa kautta. API:lla (Application programming interface) on mahdollista hakea automaattisesti oikeastaan kaikki se tietosisältö, joka on käyttäjälle muutenkin nähtävissä. Tämä on poikkeuksellista esimerkiksi verrattuna Facebook:n Graph API:in, jonka kautta tietoa on mahdollista hakea rajoitetummin. Tästä syystä Facebook-datan hakeminen on omalta osaltani tapahtunut hyvin paljon käsityönä kuten "Kansanedustajat Facebookissa – kuka on kenenkin kaveri?" -tapauksen yhteydessä.

Päädyin rakentamaan Twitter-datan avulla verkoston käyttäjistä/Twitter-tileistä joita seuraan. Henkilökohtaisella Twitter-tilini seurannassa ~90:ntä tiliä, joten tästä seurasi suoraan verkoston solmujen lukumäärä. Yhteydet solmujen välille rakensin sen perusteella miten seuraamani henkilöt seuraavat keskenään toisiaan. Lopputuloksena syntyi sosiaalisen verkosto, joka havainnollistaa seuraamieni henkilöiden keskenäiset suhteet, suhteiden perusteella muodostuvat ryhmät ja näiden ryhmien asemoitumisen toisiinsa nähden.

Keräsin datan käyttäen Python-ohjelmointikieltä ja tein tulostuksen verkostodatalle soveltuvassa GraphML-muodossa, jota visualisointiin käyttämäni visualisointityökalu Gephi ymmärtää. Gephi:ssä käytin tulosten latomiseen ForceAtlas2-algoritmia, jonka olen todennut käytännön kokemusten kautta toimivan hyvin etenkin pienten sosiaalisten verkostojen visualisoimiseen. Värikoodauksen tein dataan käsin määrittelemällä jokaisen solmun sille olennaiseen kategoriaan. Solmun koko kuvastaa astesummaa eli solmuun suuntautuvien yhteyksien määrää. Toisin sanoen solmun koko kuvaa suoraan Twitter-tiliä seuraavien Twitter-tilien määrää verkostossa. Yhteydet solmujen välillä ovat suunnattuja. Annotoinnin ja jälkikäsittelyn tein Paintbrush-nimisellä ohjelmalla. (Kuva 1)

Sosiaalinen verkostoni Twitter:ssä visualisoituna Gephi:llä. (Kuva 1)

Visualisointi vahvistaa hyvin niiden eri ryhmien olemassaolon, jotka todellisuudessakin ovat olemassa verkostossani, mutta lisäksi visualisoinnista voidaan nähdä miten nämä ryhmät sijoittuvat suhteessa toisiinsa. Esimerkiksi TTYläiset erottuvat visualisoinnissa hyvin selkeästi muista ryhmistä erilleen. Tulkitsen tämän johtuvan toisaalta siitä, että seuraamani TTYläiset eivät ole kaikkein aktiivisimpia Twitter-käyttäjiä mutta toisaalta siitä, että heillä ei ole mitään syytä seurata Yleläisiä tai datajournalismi-ihmisiä. Myös Yleläiset erottuvat visualisoinnissa selkeästi omana joukkonaan, mutta he taas asettuvat selkeästi lähemmäksi datajournalismi-ryhmää kuin TTYläiset, jonka voidaan mieltää olevan ihan ammatillisestikin luontevaa. Nämä kolme ryhmää (1. TTY, 2. YLE ja 3. Datajournalismi) ovat verkostoni suurimmat ja selkeimmät, joten näen, että tällä erää on mielekästä tässä tulkita vain ne ja jättää muut pienemmät ryhmät tässä erää huomioimatta.

Kuvissa 2, 3 ja 4 nähdään eräiden muiden käyttäjien Twitter-verkostot. Verkostot on toteutettu samoilla periaatteilla kuin edellä kuvattu oma verkostoni sillä erotuksella, että solmujen väritys on tehty Gephi:n Modularity-luokittelun avulla. Lisäksi näissä verkostoissa esiintyvät Twitter-tilit on anonymisoitu, koska haluan esittää ne vain esimerkin omaisesti enkä pyrkiä sen tarkempaa tulkitsemiseen. Tarkempi tulkinta vaatisi tutustumista verkostoissa oleviin Twitter-tileihin, jotta voitaisiin ymmärtää miksi tietyt ryhmät ovat lähempänä toisiaan kuin toiset.

Kuvien 2, 3 ja 4 verkostoista nähdään miten verkoston ulostulo on hyvin erilainen eri käyttäjille. Toisilla käyttäjillä nähdään hyvin pitkälle keskenään verkostoituneet ryhmät kun taas toiset käyttäjät seuraavat toisistaan täysin riippumattomia Twitter-tileistä koostuvia ryhmittymiä.

Kuvassa 2 nähtävä verkosto on niin tiheä, että tarkkojen tulkintojen tekeminen yleisnäkymästä on vaikeaa. Verkostojen tulkinnassa onkin tärkeää, että analysoinnin yhteydessä dataa voidaan selata mm. "details on demand" -periaatteella.

Tiheiden verkostojen tulkinta on usein vaikeaa jos verkostoa ei ole mahdollista rajata tai zoomata. Gephi mahdollistaa datan rajaamisen erilaisten filtereiden avulla ja verkostoa on mahdollista zoomata. Yleiskuvan merkitys on kuitenkin tärkeä, koska sen avulla nähdään ne alueet, jotka voisivat olla kiinnostavia jatkotutkimuksen kannalta. (Kuva 2)

Kuvassa 3 nähtävän verkoston erityispiirre on kahden sisäisesti tiiviin ryhmän heikko vuorovaikutus keskenään. Jos kyseessä tässä olisi yrityksen kahden eri osaston välinen kommunikaatio olisin hyvin huolestunut yrityksen sisäisen viestinnän toimivuudesta.

Twitteriä on mahdollista käyttää hyvin monella eri tavalla. Tämän kyseisen henkilö seuraa selkeästi kahta erillistä toisistaan riippumatonta ryhmää ihmisiä, jotka voivat poiketa toisistaan esimerkiksi kiinnostuksen  tai spatiaalisesti. (Kuva 3)

Kuvan 4 verkostossa osa ryhmistä on eriytynyt omaan lokeroonsa kun taas toiset ryhmät ovat verkostoituneet keskenään.

Tämän käyttäjän verkostossa tietyt ryhmät erottuvat hyvin selkeästi omiin lokeroihinsa, mutta oikealta löytyvä klusteri on taas hyvin vahvasti verkostoitunut keskenään. (Kuva 4)

Kuten huomataan vaatii verkostoanalyysi aina rinnalleen tuntemusta visualisoitavana olevasta ilmiöstä. Pystyn tulkitsemaan omaa verkostoani melko luotettavasti, koska tunnen minkälainen ilmiö on kyseessä ja tiedän mitä verkostossa olevat solmut ovat. Tulkinnasta tulee kuitenkin heti hankalampaa kun verkostossa esiintyvät solmut ja yhteydet tai ylipäänsä verkostossa nähtävä ilmiö ei ole tuttu. Onkin väärin olettaa, että verkostoanalyysi olisi jonkinlainen Hopea Luoti, joka suoraan ratkaisisi monimutkaisia ongelmia ja vastaisi kysymyksiin. Verkostoanalyysi toimii ongelmien ratkaisun tukena ja toisaalta antaa suuntaa sille  mistä ratkaisua voisi lähteä etsimään.

Seuraavat askeleet Twitter-analyysin osalta ajattelin ottaa siihen suuntaan, että kaivan verkoston ihmisten seuraajista sen sijaan, että katson keitä ihmiset seuraavat. Uskoisin tämän näkökulman tuottavan mielenkiintoisia tuloksia kun analyysi kohdistetaan yhteiskunnallisesti tärkeisiin ihmisiin kuten poliitikkoihin.

Keep on Tweeting...

Norjan tuliaiset

Vierailin toissa viikon maanantaina Norjassa paikallisen yleisradioyhtiön NRK:n tiloissa. Vierailua alustava postaus on luettavissa täältä. Tapasin siis Norjassa tutkivaan journalismiin keskittyvän Brennpunk-ohjelman tekijöitä ja kävimme päivän aikana läpi miten olivat hyödyntäneet dataa omassa journalismissaan. Kiinnostavaa oli mitä datalähteitä he ovat käyttäneet ja miten dataa oli hyödynnetty niin netti- kuin tv-tuotannossa.

Alkuperäinen motivaatiomme lähteä opintomatkalle kumpusi Brennpunk-ohjelman tekemästä Broderskapet-jutusta, jossa he olivat tutkineet Facebookin ja sähköpostitietojen avulla Breivik:n mahdollista lähipiiriä ja yhteyksiä äärijärjestöihin tai mm. naapurimaihin kuten Suomeen (Kuva 1). Olin itse etenkin kiinnostunut mitä teknologisia ratkaisuja he olivat käyttäneet, koska olin myös itse yrittänyt kaivaa Facebook-dataa viime aikoina onnistumatta siinä kuitenkaan erityisen tehokkaasti. Toisaalta yleisesti olin kiinnostunut kuinka journalistien ja tekniikka-ihmisten välinen kommunikaatio oli saatu toimimaan ja miten tämä vuoropuhelu käytännössä hoidettiin.

Brennpunkt on datalähteitä käyttäen mm. etsinyt äärijärjestöihin kuuluvia Norjalaisia. Lähde NRK. (Kuva 1)

Brennpunkt:ssa datajournalistinen vastuu on ollut pitkälti kahden aktiivisen toimittajan varassa. Heistä toinen oli enemmän orientoitunut tekemään teknistä toteutusta kun toisen vastuulla on ollut enemmän perinteisempi journalistinen työ, johon on kuulunut mm. datan hankkiminen eri fyysisistä lähteistä. Lisäksi  ohjelmalla on toki muitakin tekijöitä, mutta datajournalisminen taustatyö on pääasiassa ollut näiden kahden ihmisen käsissä. Heillä oli kuitenkin tavoitteena kasvattaa erityisesti datajournalismiin keskittyvän osaston kokoa lähiaikoina ja suunnitelmat tähän olivat jo olemassa.

Brennpunk on siis tehnyt Norjassa useita juttuja erilaisiin datasisältöihin liittyen. Mukana on juttuja joissa data on hankittu perinteisempiä keinoja käyttäen ja juttuja joissa data on enemmän tai vähemmän automaattisesti ryömitty Internetistä. Oli mielestäni avartavaa tajuta, että datajournalismia on mahdollista tehdä myös niin, että aineisto kerätään ns. perinteisin keinoin. Käsitteenä datajournalismin ei tarvitse tarkoittaa, että kaikki työ tulee olla tehtävissä päätteellä istuen, kuten sen ehkä helposti näin teknistaustainen henkilö kuten minä ymmärtää.

Eräässä jutussa he olivat keränneet dataa museovirastosta, rakennusvirastosta ja palokunnan hälytystehtävistä. Näitä datakokoelmia yhdistelemällä he olivat pyrkineet selvittämään onko museoviraston suojelemien kohteiden tulipaloilla ja rakennusvirastoon tehtyjen purkuhakemusten välillä jonkinlaista ajallista korrelaatiota. He tutkivat oliko purkuhakemusta tekevällä taholla selkeää eturistiriitaa siitä, että kyseinen kohde tuhoutui ja voitiinko siten epäillä, että tulipaloa olisi mahdollisesti jollain tavalla edesautettu (Kuva 2).

Dataa voidaan kerätä hyvin erilaisista lähteistä ja eri lähteiden innovatiivinen yhdistely voi tuottaa mielenkiintoisia tuloksia. (Kuva 2)

Kun Brennpunkt oli tutkinut Breivikin mahdollisia yhteyksiä heillä oli ollut käytettävissään lista sähköpostiosoitteista, joihin Breivik oli lähettänyt manifestinsa. Tältä sähköpostilistalta löytyi siis mm. Perussuomalaisten poliitikko Jussi-Halla Aho, mutta myös muita suomalaisia poliitikkoja. He olivat verranneet näitä sähköpostiosoitteita Facebook:sta löytyviin profiileihin ja ryömineet näiden profiilien julkiset kaverilistat omaan tietokantaansa. Toteutuksellisesti Facebook-ryömintä oli tehty "screenscraping"-periaatteella yksittäinen profiili kerrallaan. Lisäksi he olivat samalla tavalla ryömineet myös erilaisten äärijärjestöjen Facebook-sivujen tykkääjälistaukset. Nämä datajoukot he olivat visualisoineet verkostona CrimeLink-nimisellä ohjelmistolla (Kuva 3). He olivat myös rakentaneet erilaisia automaattihakuja, joiden avulla pystyttiin selvittämään nopeasti yksittäisten ihmisten osallisuus kerätyssä datassa.

CrimeLink on rikollisten verkostojen visualisointiin keskittynyt kaupallinen sovellus.  Lähde CrimeLink. (Kuva 3)

Isäntämme kertoivat myös avoimesti erilaisista haasteista, joita he olivat kohdanneet. Ongelmia olivat aiheuttaneet mm. datan eheyteen liittyvät ongelmat sekä miten eri ammattilaiset oli aluksi vaikea saada keskustelemaan keskenään. Journalistit tai insinöörit eivät siten poikkea muista ammattiryhmistä, että heidät on vaikea saada kiinnostumaan aihealueista, jotka eivät ole heidän osaamisensa keskiössä.

Yhteenvetona matka oli erittäin onnistunut ja sain kerättyä paljon perspektiiviä siihen mitä muualla näiden asioiden parissa tehdään. Oli myös itseni puolesta huojentavaa huomata, että teknisestä näkökulmasta ei naapurimaassa olla niin paljon edellä kuin mitä sisällöt ensin antavat ymmärtää.

MediaWiki tietosisällön visualisointi, Osa 1: Gephi

Tämä viesti ei sinällään käsittele sosiaalisen verkostojen analyysiä tai datajournalismia, jotka pyrin pitämään tämän blogin pääaiheina. Kuitenkin tekniikat ja välineet, joita hyödynnetään ovat samoja ja tässä esimerkissä datan rakenne on vastaavanlainen kuin usein SNA:n tapauksessa.
</spoiler>

Wiki on käsite tietosisällölle, joka on kaikkien lukijoittensa muokattavissa. Wikille on myös tunnusomaista, että kaikki tallennetut versiot tiedosta säilytetään. Tunnetuin yksittäinen wiki on varmasti Wikipedia, mutta erilaisia wikejä ja wiki-alustoja löytyy useita. Useilla yrityksillä on sisäisiä Wikejä kuten myös monilla yhdistyksillä ja muilla organisaatioilla. Tunnettuja Wiki-alustoja ovat mm. Confluence, MediaWiki ja esimerkiksi FosWiki.

Wikien suurin rikkaus on, että tieto on yhteisön hallittavissa. Tämä hajauttaa tiedon ylläpitämisen vastuun ylläpito-organisaatiolta, mutta ominaisuus tuo myös haasteita. Tieto rämettyy helposti ja tiedon löytäminen on laajoissa wiki-ympäristöissä vaikeaa kun tietoa ei hallinnoida keskitetysti. Usein on myös vaikeaa hahmottaa mitä tietoa esimerkiksi yrityksen sisäisestä wikistä löytyy. Tiedon löytymistä tukisi jos Wikien luokittelu- ja hierarkia-toimintoja käytettäisiin tehokkaasti ja ne tuotaisiin selkeästi käyttjien esille. Usein kuitenkin tiedon rakenteen tuottaminen on tavalliselle käyttäjälle liian haastavaa.

Tämä hyvin laveana ja yleisenä kuvauksena wikeistä. Tarkoitukseni oli antaa oikeutus seuraavalle esimerkilleni siitä miksi wikien rämettyneisyyttä kannattaa kuvata ja miten siitä voitaisiin mahdollisesti päästä eroon.

---

Olen ylläpitänyt itselläni henkilökohtaista, mutta avointa MediaWiki-alustaa muutaman vuoden ajan. Sivuja ympäristössä on vain alle 30. Kuitenkin huomaan, että osa tiedosta hukkuu Wikin uumeniin mm. koska tietoa ei ole linkitetty mihinkään muuhun olemassa olevaan tietoon. Henkilökohtaisen MediaWiki-asennukseni lisäksi minulla oli mahdollisuus kokeilla samoja periaatteita erään organisaation laajemmassa ympäristössä.

MediaWiki:ssä tiedon ryhmittely tehdään pääasiassa luokkien avulla. Yksittäiselle MediaWiki-sivulle on mahdollista määritellä rajoittamaton määrä luokkia, joihin sivu kuuluu. Yksittäisen luokan sivulta on nähtävissä mitkä sivut kuuluvat tähän luokkaan. Hierarkiasta on mahdollista tehdä myös syvempi liittämällä luokkia toisiin luokkiin.

Toteutin MediaWikin tietosisällöistä verkostovisualisoinnin käyttäen aiemmasta blogimerkinnästä tuttua Gource:a sekä Gephi:ä. Esittelen tässä kirjoituksessa Gephi:llä tekemäni tuotokset, koska Gource:a käsittelin jo aiemmin ja molempien läpikäynti olisi turhan raskasta. Käyn Gource:lla toteutetut versiot läpi myöhemmin.

Gephi on verkostoanalyysiin erikoistunut avoimeen lähdekoodiin perustuva työkalu, jolla on mahdollista visualisoida dataa, jolla on verkostorakenne. Gephi sisältää monipuoliset ladonta-algoritmit ja sen avulla on mahdollista laskea mm. laskea tunnuslukuja ja tehdä datan refaktorointia. Gephi lukee useita tiedostoformaatteja ja tuettuihin formaatteihin kuuluu mm. XML-pohjainen GEXF-tiedostoformaatti.

GEXF:llä on mahdollista kuvata monipuolisesti erilaisia verkostoja ja dataan on mahdollista vapaasti liittää haluamiaan attribuutteja. Yksinkertaisimmillaan GEXF käsittää <nodes>-elementin, joka kuvaa datassa olevat solmut sekä <edges>-elementin, joka kuvaa solmujen väliset yhteydet. Solmut ja yhteydet yksilöidään ID-arvojen avulla, jotka useimmitten omissa esimerkeissäni ovat olleet koneellisesti tuotettuja surrogaatti-avaimia.

Datan keräsin räätälöidyn SQL-kyselyn avulla suoraan MediaWikin MySQL-tietokannasta, jonka jälkeen tulostin datan PHP-scriptillä GEXF-muotoon, joka on siis suoraan mahdollista avata Gephi:llä. Vaihtoehtoisesti data oltaisiin voitu ryömiä asiakaspäässä, mutta koska tässä tapauksessa minulla oli suora pääsy tietokantaan tähän ei ollut tarvetta ryhtyä. Asiakaspään ryömintä olisi kuitenkin pakollista mikäli haluttaisiin tutkia sellaisia wiki-palveluja, joiden backendiin ei olisi pääsyä (tämä tilanne on varmasti normi kun puhutaan datajournalismista).

Mikäli haluat tutustua Gephi:n käyttöön laajemmin suosittelen katsomaan läpi esimerkiksi Olli Parviaisen tekemät kalvot aiheesta. SlideShare-palvelusta löytyy myös monia muita hyviä presentaatioita asiaan liittyen. En myöskään halua mennä liikaa yksityiskohtiin PHP:n tai SQL:n osalta, koska näen ne epäolennaisena, mutta jos haluat tietää näistä enemmän kerron kyllä mielelläni.

Kuvassa 1 nähdään MediaWiki-alustani nykytilanne visualisoituna Gephi:llä. Kuten sanottua wiki ei ole sivujen määrässä mitattuna suuri, mutta data soveltuu hyvin yksinkertaisuutensa vuoksi hyvin esimerkikiksi. Visualisoinnissa suurempi solmun koko kuvaa solmun astesummaa eli solmusta lähtevien yhteyksien määrää. Siniset solmut ovat wiki-sivuja ja punaiset solmut esittävät luokkia. Yhteydet luodaan sivujen ja luokkien välillä sillä perusteella, että sivu on merkitty kuuluvaksi luokkaan.

Esimerkkivisualisointi Gephi:llä MediaWiki:ni sivuista ja luokista. Tässä MediaWiki-ympäristössä ei ole hyödynnetty luokkien luokittelua, mutta suurin osa sivuista on liitetty vähintään yhteen luokkaan. Luokkien ja sivujen nimet on riisuttu yksityisyys syistä. (Kuva 1)

Visualisoinnista (Kuva 1) nähdään miten wikissä on selkeitä toisistaan riippumattomia aihealuekokonaisuuksia ja että suurin osa sivuista kuuluu (nykyään) ainakin yhteen luokkaan. Valitettavasti lähtötilanteesta, jossa suurempi osa sivuista oli "orpoja" minulle ei ole tallessa kuvankaappausta. Aikaisemmin kuitenkaan suuri osa sivuista ei kuulunut mihinkään luokkaan, jolloin (kuten edellä mainitsin) data katosi wikin uumeniin.

Verkostovisualisoinnin avulla pystyin osoittamaan helposti mitkä sivut olivat "luokattomia" ja käymään ne läpi lisäten niille, jonkin olemassa olevan luokan. Visualisoinnin avulla pystyin myös näkemään mahdollisia uusia luokkia. Lisäksi kun on mahdollista nähdä sivujen väliset yhteydet luokkien kautta voidaan havaita esimerkiksi, että miten tietyistä sivuista selkeästi puuttuu sille kuuluva luokka.

Minulla oli myös mahdollisuus käyttää erään laajemman wiki-ympäristön dataa suoraan tietokannasta. Tässä järjestelmässä wiki-sivuja ja luokkia oli huomattavasti enemmän kuin omassa ympäristössäni. Käytin datan keräämiseen ja käsittelyyn samoja menetelmiä kuin aiemmin, mutta Gephi:ssä käytin hieman eri piirtokäytäntöjä (Kuva 2).

Laajemmat Wiki-ympäristöt tuottavat haasteita visualisoinnin luettavuudelle ja hahmotettavuudelle. Tässä väreillä ja solmun koolla on molemmilla kuvattu solmun astesummaa. Yksittäiset sivut on piirretty siten keltaisella ja tumman sininen kuvaa suosituimpia luokkia. Solmut ovat painovoimaohjattuja. Sivujen ja luokkien nimet on poistettu yksityisyys syistä. (Kuva 2)

Kuvasta 2 nähdään miten laajemman wiki-ympäristön visualisoinnin havainnointi ja käsittely on huomattavasti vaikeampaa kuin aikaisemman suppeamman ympäristön (Kuva 1). Mielenkiintoista on kuitenkin huomata miten tässäkin ympäristössä havaitaan selkeitä aihekokonaisuuksia, jotka eivät linkity luokkien kautta muuhun sisältöön vaan ovat "eristäytyneitä" kokonaisuuksia.

Kiinnostava jatkotukimuksen aihe olisi katsoa linkittyykö tieto paremmin muissa wiki-alustoissa, joissa tiedon luokitteluun käytetään muita mahdollisesti monipuolisempia tapoja, mutta tämä tästä tällä kertaa. Jatkoa seuraa asian tiimoilta myöhemmin Gource-visualisointien osalta.

Brennpunkt ja tapaus Breivik datajournalismin näkökulmasta

Norjan yleisradioyhtiön tutkivan journalismin ohjelma Brennpunkt (vrt. MOT) on tuottanut datajournalismin keinoja hyväksikäyttäen jutun Anders Breivikin yhteyksistä muihin radikaaleja ajatuksia omiiviin toimijoihin. Breivik nousi viime kesänä maailman tietoisuuteen Norjan terrori-iskujen yhteydessä, jotka hän toteutti Oslossa ja Utøyan saarella.

Breivik oli kuitenkin aktiivinen toimija radikaaleja ajatuksia omaavien piirien keskuudessa jo tätä aiemmin. Hän välitti mm. manifestiaan Internetissä ja yhteyksiä on käsittääkseni löydetty esimerkiksi Suomen Sisuun (Kuva 1). Ohjelman teossa on hyödynnetty erilaisia datajournalismin keinoja ja aineistona on käytetty mm. Breivikin lähettämiä sähköposteja sekä Facebook:sta ryömittyä tietoa koskien henkilöitä ja sivuja, joissa Breivik on toiminut. Jutun ympärille on myös luotu nettiin sisältöä kuten Broderskapet-sivusto, jossa on mahdollista mm. selata "veljeskuntaan" kuuluvia henkilöitä.

Verkostovisualisointien avulla on mahdollista löytää yhteyksiä toimijoiden välillä, jotka muuten jäisivät huomaamatta. Lähde NRK/YLE. (Kuva 1)

Olen matkaamassa tulevana maanantaina (23.1.) FST:n SpotLight-ohjelman tuotantotiimin kanssa Osloon NRK:n tiloihin tapaamaan ohjelman tekijöitä. Tarkoitus on muodostaa keskusteluyhteys heidän kanssaan ja ammentaa oppia kokemuksista sekä jos vain mahdollista tarjota heille jotain siitä mitä me teemme täällä Suomessa.

Erityisen kiinnostavaa on päästä keskustelemaan miten he ovat hyödyntäneet normaalien journalististen käytäntöjen mukaisesti kerättyä tietoa yhteen datajournalismin keinojen kanssa. Kiinnostavaa on myös miten datajournalismin avulla kerätty tieto ja siitä ammennettu informaatio on puettu TV-ohjelmalle ja journalismille yleensäkin vaadittavaan tarinan muotoon, joka on kuluttajalle ymmärrettävä. On hyvin tavallista, että ihmiset, jotka osaavat kaivaa tietoa esille eivät ole esimerkiksi journalistisesti riittävän osaavia, vaan jotta kerätty tieto näyttäytyy katsojalle kiinnostavana vaaditaan eri osaajien yhteistyötä. Edellä kuvattu on ilmeistä, mutta vakiintuneita käytäntöjä tämän toteutumiseen ei ole olemassa tai ainakaan niitä ei osata hyödyntää.

Odotan matkalta todella paljon. Esimerkiksi kiinnostavia keskusteluja ja ajatusten vaihtoa siitä missä kulkee raja datan visualisoinnin, datajournalismin, journalismin ja toisaalta sen välillä mikä on kuluttajalle lopulta mielenkiintoista. Tarinan kerronta, verkostovisualisoinnit ja datajournalismi; matkassa yhdistyvät monet kiinnostavat ja erittäin ajankohtaiset asiat, jotka tulevat mielestäni olemaan tulevaisuudessa enenevässä määrin arkipäivää journalistisessä työssä.

Pyrin raportoimaan matkan tapahtumista ja annista myöhemmin tässä blogissa.

Ps. Mikäli olet kiinnostunut datajournalismista katso Tampereen teknillisen yliopiston järjestämä opintojakso Datajournalismi 2012 tai Otavan Opiston järjestämä kurssi Datajournalismin verkkokurssi).
Ps2. Kiitos YLE:lle ja asiaankuuluville henkilöille tästä mahdollisuudesta!

Gource:n asentaminen: OS X Lion

Hyödynsin edellisessä viestissäni visualisointikomponenttia nimeltä Gource. Olen aikaisemmin käyttänyt Gource:a Windows-ympäristössä, jossa sen käyttöönottaminen on triviaalia, koska Gource tarjotaan .exe-tiedostona, jota voidaan käyttää ajamalla sille parametreja komentoriviltä.

OS X:llä Gource:n käyttöönottaminen ei ollut näin suoraviivaista, joten ajattelin, että voisi olla hyödyllistä kirjoittaa auki mitä kommervenkkeja kävin läpi saadakseni Gource:n toimimaan OS X Lionilla. Tämä ohje mukailee Matthew Hutchinson:n kirjoittamaa blogiviestiä.

1) Asenna MacPorts. .dmg-paketti on hyvä valinta jos et tiedä paremmasta. Tarvitset myös Xcode:n kuten asennusohjeissa mainitaan, joten asenna se ensin jos sinulla ei vielä ole sitä.

http://www.macports.org/install.php

2) Käytä MacPortsia asentaaksesi paketit, jotka Gource vaatii.

sudo port install pcre libsdl libsdl_image ftgl

Matthew:n blogissa mainittujen pakettien lisäksi tarvitset boost:n.

sudo port install boost

3) Asenna Git-versionhallintaohjelmisto mikäli sinulla ei sitä vielä ole asennettuna.

http://help.github.com/mac-set-up-git/

4) Kloonaa Gource:n viimeisin versio Git:stä.

git clone git://github.com/acaudwell/Gource.git Gource

5) Git:stä kloonatussa Gource:n versiossa ei ole mukana src/core-kansion tiedostoja, joten lataa Git:n .zip-paketti ja siirrä paketin src/core-kansion tiedostot Git:stä kloonattuun src/core-kansioon. Muussa tapauksessa kääntäminen hajoaa puuttuviin tiedostoriippuvuuksiin.

http://code.google.com/p/gource/downloads/list

6) Käännä Gource.

cd Gource
autoreconf -f -i
./configure && make && sudo make install

7) Aja Gource komentoriviltä. Ruudulle pitäisi ilmestyä esimerkki Gource-visualisointi.

8) Jos haluat tehdä Gource-visualisoinneista .avi-tiedostoja (esimerkiksi jotta voit ladata ne Youtubeen) asenna FFmpeg

sudo port install ffmpeg

---

Toivottavasti muistin oleelliset kohdat. Kaikki kommentit ja parannusehdotukset ovat tervetulleita.