maanantai 5. lokakuuta 2015

Wikidata ja Dali


lähde: openclipart.org

Wikidata on mahtava projekti. Jos et vielä tiedä mikä wikidata on, käy tutustumassa: wikidata.org

Miksi pitäisi innostua wikidatasta?

Tyhmää nörttipuuhaako vaan? Ehkä vähän nörttipuuhaa, mutta ei tyhmää. Wikidata auttaa ratkaisemaan yhden wikipedian perustavanlaatuisen ongelman eli sen inhimillishistoriallisen tiedon rakenteen.  Toisin sanoen wikipedia on tiedonhallinnallisesti sotkuinen, kuten me ihmisetkin olemme.

Wikipediassa kyllä on tietorakenteita kuten kategoriat ja infoboksit. Kategoriat ovat parhaimmillaan erinomaisia ja huonoimmillaan täysin absurdeja, kuten "List of people named Sean".

Lisäksi kategorioiden hierarkia ei ole aina looginen ja artikkeli kuuluu johonkin kategoriaan vain jos joku on sen sinne huomannut laittaa. Wikipedia tarjoaa siis jonkin verran säännöllisiä rakenteita tiedolle mutta niiden käyttö on epäsäännöllistä.

Siksi wikipedia sellaisenaan on konehaun painajainen.

Wikidata sen sijaan on tarkoitettu koneille. Toisin sanoen, se tarjoaa koneluettavaa ja konehaettavaa dataa.

Kerrohan Wikidata, missä museoissa on Dalin teoksia?

Tätä voi kysyä Wikidatalta sangen helposti *. Wikipediasta tällaisen tiedon kaivaminen olisi kyllä mahdollista, mutta myös hyvin työlästä ja epävarmaa.

Voit kokeilla kyseistä hakua seuraavan linkin kautta: Näytä kaikki museot, joissa on wikidatan mukaan Dalin teoksia. Klikkaa vain excute -painiketta aukeavalla sivulla.

Kyselykieli jolla haku on tehty on nimeltään SPARQL (lausutaan jotensakin kipinäksi,  "sparkle"). Sillä voi hakea tietoa tietyntyyppisistä tietoaineistoista.

Lisää kyselyjä:

Täältä löydät lisää hakuesimerkkejä: SPARQL query examples.
  
Wikidata ja SPARQL mahdollistavat yhden erittäin hyödyllisen kyselytyypin, nimittäin sen kysymisen mitä puuttuu. Voimme kysyä wikidatalta niitä Dalin teoksia, joilla ei ole paikkaa eikä kokoelmaa: Näytäpä ne, wikidata!



(*) sangen helposti on suhteellinen käsite. Minulle SPARQL oli entuudestaan tuntematon ja oikeanlaisen kyselyn aikaansaamiseen meni kyllä tovi aikaa.

PS. Jan Ainali piti erinomaisen esittelyn Wikidatasta Avoin kulttuuridata hyötykäyttöön työpajassa Isossa pajassa. Tästä innostuneena kirjoitin tämän. Joskus kannattaa vaan innostua.





keskiviikko 17. kesäkuuta 2015

Nautilus and stalled SFTP connection




After a long idle period my SFTP connection through Nautilus get stalled. Only cure I've found is to unmount and then connect again.

Unmount can be done from command line as follows:
 gvfs-mount -u sftp://you@you.net/


torstai 11. kesäkuuta 2015

Near Field Information in Museums

Near Field Information

I taught a module called "Near Field Information in Museums" in a CIDOC summer school in Jyväskylä. Near Field information is a term I invented for this class. It means wireless ways to trigger some information or action based on visitor's location. The module includes four technologies: QR codes, Near Field Communication (NFC), iBeacon and GPS.

It was an interesting experience. We concentrated to a situation where visitors would use their own devices without installing any museum specific application. And this is a challenge of its own.  

 

How did things work?

QR codes are widely used also in museum exhibitions and also most of the participant had a QR code reading software already installed in their mobile devices. No problems here.

NFC was much more challenging. In a group of 17 there wereonly  3 that could read NFC tags (i.e. had a NFC capable device). And that worked only if the tag had a URL stored in its memory. When I wrote a GPS coordinates to tag, then there was only 1 working device left.

Unfortunately iBeacon was introduced only by slides since my iBeacon, that I ordered form the net, never arrived. My self-made iBeacon (raspberry + BLE dongle) did not work since I could not find a DVI-cable for that so that I could start BLE advertising (sigh).

There was quite many iPhone users in the class, so iBeacon would have been worked well. However, iBeacon requires some application that links ID of the beacon to some content and this is the weak spot of that technology.

In order to test location services of mobile phones, I made a small browser-based GPS demo that we tried. The idea was that the location of the user was shown on the map by a blue dot in real time. By going to a certain marked points in the campus, you could see an old photograph taken from that point. Manual interaction was disabled so you couldn't see photograph by clicking or tapping.

Did it work? No. Well, there were 2 persons that managed to actually see a photograph. But in general, in real life this kind of outdoor museum application would make many visitors frustrated.

Why did this GPS thing fail? There are couple of reason. First, GPS is slow starter. It takes time and time depends on device and place. Secondly, mobile phones can use several methods for location (cell tower, WIFI) and it is not always clear what is enabled in the phone.

Cell tower locations are able to locate you very fast in a city level. That works if you would like to find a coffee bar next to you. But it might not work if there is a certain spot you must enter.

 

What did we learn?

One thing is clear when: Things can get messy. People want to use their devices but their device has no necessary application or hardware. Or, they have all the latest bells and whistles but they don't know how to enable them. Or, everything should be fine and working but things just *do not* work. In all cases, people get frustrated.

NFC is not mainstream, neither are QR codes, iBeacon or not even GPS. By mainstream I mean that they are not in a people's "default settings". There is always something extra needed.

But, there are always people that can use these and will use them.

 

How to proceed? 

By combining QR code, NFC tag and SHORT url, you will get a quite good coverage. NFC is handy and precise, QR code is less handy and written url is the last change to see what's behind this link.

How about frustration? I would use "educated eyes only" approach. It means that there is a possibility to use your own device but it is not actively advertised. In other words, there are QR codes or NFC tags lying around for those  who *already* know how to use them.

At this point it just might be a good approach.


torstai 21. toukokuuta 2015

We made this virtual reconstruction in 2006 about the Church of Oulainen. The animation was made for an exhibition. I'm not sure why I didn't publish this earlier. But anyway, here it is!


keskiviikko 5. marraskuuta 2014

Wikidata

I'm starting slowly to understand the possibilities of Wikidata. First time there is a possibility to really *use* the data stored in the Wikipedia and other Wikis.

I collected some links that were useful for me while I was/am finding my way to the sources of Wikidata.

What is it all about:
http://korrekt.org/page/Wikidata:_A_Free_Collaborative_Knowledge_Base

wikidata with pretty face:
http://tools.wmflabs.org/reasonator/

Search related

Wikidata Query (WDQ for short):
http://magnusmanske.de/wordpress/?p=72
http://wdq.wmflabs.org/api_documentation.html
http://wdq.wmflabs.org/wdq/

traditional Wikidata API:
https://www.wikidata.org/w/api.php

autolist:
http://tools.wmflabs.org/autolist/autolist1.html

Queries:

How to search by an article title in certain wikipedia:
http://www.wikidata.org/w/api.php?action=wbgetentities&sites=enwiki&titles=Alvar%20Aalto&props=sitelinks&format=xml

Search from items:
https://www.wikidata.org/w/api.php?action=wbsearchentities&search=Ky%C3%B6sti%20Kallio&language=en

Get sitelinks for a certain item:
https://www.wikidata.org/w/api.php?action=wbgetentities&ids=Q42&props=sitelinks&format=xml

More stuff:

http://notconfusing.com/3-ways-to-access-wikidata-data-until-it-can-be-done-properly/

http://stackoverflow.com/questions/tagged/wikidata

How to see a property in Wikidata:
www.wikidata.org/wiki/Property:P610

sunnuntai 14. syyskuuta 2014

Simberg, open data ja GlamWikiToolset

Kuva:Kansallisgalleria
PÄIVITETTY 22.9.2014
Kansallisgalleria on avannut hienon kokoelman Hugo Simbergin valokuvia osana Avoin Kulttuuridata -mestarikurssia.Metadata on saatavilla useassa eri formaatissa ja kuvat ovat saatavilla yhtenä zip-pakettina.

Tässä blogikirjoituksessa selvitän mitä tarvitaan Simberg-aineiston viemiseksi Wikimedia Commonssiin GWToolsetin avulla. GWToolsetin esittelin lyhyesti edellisessä kirjoituksessani. Kirjoitus on osa Wikimedia Suomen GLAM-yhteistyötä.

Simberg-aineisto

Simberg-aineiston muodostavat noin tuhat negatiivikuvaa, joista on digitaalisesti tehty positiivit. Lisäksi metadata on saatavilla usessa eri muodossa. Metadata on XML-muodossa seuraavan näköistä:



<photograph> 
  <author> Simberg, Hugo</author>
  <title> HS Familjeliv 1907 83</title> 
  <type> mustavalkonegatiivi, filmi</type> 
  <date> 1907</date> 
  <keeper> Kokoelmienhallinta, Kansallisgalleria</keeper> 
  <material> valokuvafilmi, selluloosanitraatti</material> 
  <keyword> Simberg</keyword> 
  <keyword> Hugo</keyword> 
  <keyword> taiteilija</keyword> 
  ...
  <image type="positive"> 130617Ha018</image> 
  <image type="negative"> 130617Ha019</image> 
</photograph> 


Mitä pitää muuttaa GWToolsettiä varten?

Aineistojen vieminen Wikimedia Commonssiin GWToolsetin avulla edellyttää kahta perusasiaa. Ensinnäkin aineistojen metadatan täytyy olla saatavilla jossain muodossa. Toiseksi, itse aineistoilla täytyy olla osoite, josta yksittäiset tiedostot voi ladata kuka tahansa.

URL

Ensimmäinen korjattava asia aineiston Simberg-metadatassa on siis URL:n ja tiedostopäätteen lisääminen tiedostonimeen (image-tagi). Eli rivi
<image type="positive">130617Ha018</image>
pitää muuttaa muotoon:
<image>http://esimerkkipalvelin.fi/kuvat/130617Ha018.jpg</image> 
Myös negatiivikuvat pitää poistaa, koska niiden lataamisessa Commonssiin ei ole tarvetta. Tällä kohtaa oletan, että kaikista kuvista on positiivit.

Instituution ja instituutiomallineen yhdistäminen

Aineistojen tarjoaja ja säilyttäjä on siis Kansallisgalleria. Siksi muutamme keeper -tagin sisällön muotoon, joka voidaan yhdistää suoraan Commonssissa jo olevaan Kansallisgallerian omaan instituutiomallineeseen.

Eli rivi:
<keeper> Kokoelmienhallinta, Kansallisgalleria</keeper> 
muutetaan muotoon
<keeper> Finnish National Gallery</keeper> 

GWToolsetissä voimme sitten ruksata option "Wrap institution in the institution template", jolloin Kansallisgallerian malline liitetään kaikkiin kuviin.

Photograph > record

Tämä on vain pieni mukavuuslisä. GWToolset oletusarvoisesti arvelee yksittäisten tietueiden olevan record -nimisiä. Siksi photograph tägi kannattaa muuttaa recordiksi, jotta tätä ei tarvitse muistaa muuttaa tuontivaiheessa.

Kuinka muunnos tehdään? vastaus:XSLT

XSLT on XML-pohjainen merkintäkieli XML-tiedostojen muunnoksiin. Sen avulla on helppo tehdä juuri edellä mainitun tapaisia muutoksia XML-tiedostoihin.Alla on selitetty miten hyvin yksinkertaisella XSLT-tiedostolla voidaan tehdä tarvittavat muutokset Simberg-aineiston XML-tiedostoon.

<!-- palvelimen osoite muuttujaan -->
<xsl:variable name="servername">http://esimerkkipalvelin.fi/kuvat/</xsl:variable>

<!-- kopioidaan kaikki -->
 <xsl:template match="node()|@*">
     <xsl:copy>
       <xsl:apply-templates select="node()|@*"/>
     </xsl:copy>
 </xsl:template>

<!-- poistetaan negatiivit -->
<xsl:template match="image[@type='negative']" />

<!-- lisätään kuvaan URL ja tiedostopääte -->
<xsl:template match="image[@type='positive']" >
    <image>
    <xsl:value-of select="concat($servername,.,'.jpg')" />
    </image>
</xsl:template>
</xsl:transform>


<!-- muutetaan Kansallisgallerian nimi vastaamaan instituutiomallinetta -->
<xsl:template match="keeper[.='Kokoelmienhallinta, Kansallisgalleria']" >
    <keeper>Finnish National Gallery</keeper>
</xsl:template>

<!-- lopuksi vielä vaihdetaan photograph recordiksi -->
<xsl:template match="photograph" >
    <record>
        <xsl:apply-templates select="@*|node()" />
    </record>
</xsl:template>

Tuloksena on GWToolset-ready XML-tiedosto. Hieman se vaati nypräämistä mutta ei mitään mahdottomia. Ainut puuttuva asia on palvelin, jossa kuvat olisivat saatavissa yksittäin sekä kyseisen palvelimen saaminen GWToolsetin latauslistalle.

DEMO:

Selaimessa toimiva demo löytyy tästä.

Voit käyttää XSLT-tiedostoa myös suoraan. Esimerkiksi Linuxissa konversion voi tehdä näin xsltproc-nimisen ohjelman asennuksen jälkeen:
 xsltproc --stringparam server 'http://jokupalvelin/kuvat/' xsl/simberg_clean.xsl xml/simberg_sample.xml

Lopputulos

Avoimen kulttuuridatan ja Wikimedia Commonssin ajatuksena on osallistuminen. Siksi lähtökohdan aineistolataukselle ei tarvitse olla täydellinen. Simberg -aineiston metatiedot voisivat olla *teknisesti* paremmin eroteltuja esimerkiksi kuvissa näkyvien henkilöiden osalta. Mutta niin ne voisivat AINA olla, täydellisyyttä tällä saralla ei voi saavuttaa.

Tärkeää kuitenkin on saada aineistot liikkeellä ja antaa ihmisille mahdollisuus täydentää ja käyttää aineistoja. Jos aineistojen pitäisi olla lähtötilanteessa täydellisesti luokiteltuja, virheettömiä ja täysin jonkin standardin mukaisia, niin silloin julkaisukynnys nousisi liian ylös, varsinkin kun resursseja ei monesti ainakaan liikaa ole. Tämä taas tarkoittaisi vähemmän avointa kulttuuridataa.

sunnuntai 31. elokuuta 2014

Aineistot Wikimedia Commonssiin


Uusi syksy, uudet kuviot 

Olen juuri aloittanut Wikimedia Suomen hommissa. Tarkoitus on dokumentoida GlamWikiToolset suomeksi ja auttaa organisaatioita sen käytössä. Lisäksi työskentelen Wikimapsin parissa.

Kirjoittelen tässä blogissa kokemuksista ja opetuksista pestini ajalta.

Mikä on GlamWikiToolset?

GlamWikiToolset (GWToolset) mahdollistaa aineistojen siirtämisen metatietoineen Wikimedia Commonssiin ns. massasiirtona (batch upload). Tämä on ainoa järkevä tapa tuoda suuria määriä tiedostoja Commonssiin.

Kuinka se toimii?

Alustavien kokeilujen jälkeen voin kertoa (Commons Betassa), että itse siirto on suhteellisen simppeli, kun sen on kerran tehnyt. Metatiedot kertova XML-tiedosto ladataan palveluun, sen jälkeen kerrotaan mitkä kentät lataajan tietomallissa vastaavat Wikimedian kenttiä (mappaus) ja lopuksi Toolset lataa kuvat tietoineen Commonssiin.

Haasteita

Suurin ongelma on XML-tiedoston luominen.Tiedoston pitää siis olla XML-tiedosto ja vaikka kenttien nimillä ei sinällään ole väliä, tiedostolla pitää kuitenkin olla tietynlainen rakenne. Tällaista tiedosto ei välttämättä saa "ulos" esimerkiksi kovin monesta museojärjestelmästä. Tämä on ehkä suurin yksittäinen haaste ratkaistavaksi.

Heräsikö kysymyksiä?

Minut tavoittaa sähköpostilla tai Twitterissä.
posti: ari.hayrinen@gmail.com
Twitterissä: https://twitter.com/opendimension