Þessi pistil er saminn í tilefni af tíu ára afmæli Miðeindar. Ég hef starfað hjá Miðeind síðastliðin átta ár við að hanna og þjálfa ýmiss konar gervigreindarlíkön og mig langar að fjalla aðeins um eðli fyrirmæla eða ílaga, það sem á ensku kallast „prompt“, en líka um fyrirmæli í víðara samhengi. Sér í lagi er mér hugleikið hvernig við túlkum þau og hvernig gervigreind túlkar þau, og hvernig vandamálin sem við þurfum að kljást við þegar við notum gervigreind í dag eru ekki ný af nálinni.

Til eru ótal dæmi úr íslenskum og erlendum sögusögnum um fyrirmæli eða beiðnir og hvernig mismunandi túlkun þeirra getur haft óvæntar afleiðingar. Sagan um Mídas konung og ósk hans um að allt sem hann snerti verði að gulli er dæmi um bókstaflega túlkun sem reynist óskandanum illa. Sögurnar um Sæmund fróða innihalda margar uppákomur þar sem Sæmundur beitir klókum útúrsnúningi eða skapandi túlkun á orðum Kölska í viðureignum sínum við hann. Í einni af sögunum af Loka veðjar Loki höfði sínu að Brokkur Ívaldason geti ekki smíðað jafngóða gripi og Sindri bróðir hans. Einn af gripunum sem Brokkur smíðaði var Mjölnir, sem var síðar metinn besti gripurinn af ásunum. Þegar kemur að innheimtu og Brokkur ætlar að höggva Loka á háls, þá segir Loki að Brokkur eigi höfuðið en Loki hálsinn, og fær þannig að halda höfðinu.

Sú hugmynd að semja fyrirmæli til þess að ná fram einhverju markmiði er eitthvað sem allir þekkja. Við viljum almennt að fyrirmæli séu markviss, að þau séu stutt, einföld, skýr og ótvíræð. Enn fremur skal vera ljóst hvenær og hvernig þau hafa verið mistúlkuð þegar slíkt gerist. Ekki væri langsótt að kalla slíkt fyrirmælafræði. Á ensku er hugtakið „prompt engineering“ notað þegar fyrirmæli eru samin fyrir gervigreind, enda þarf oft að sérhanna fyrirmælin og bilanagreina, og því mætti einnig tala um fyrirmælahönnun eða fyrirmælaverkfræði. Þróun gervigreindar er komin svo langt að í dag skiptir litlu hvort fyrirmæli séu ætluð fólki eða gervigreind, þau lúta sömu lögmálum.

Fyrirmæli í víðari skilningi geta verið af ýmsum toga en þar má til dæmis nefna forrit, lög, skilmála, samninga, leikreglur, mataruppskriftir, prjónauppskriftir, nótnablöð, handrit og tékklista. Í raun allt það sem fellur undir leiðbeiningar eða lýsingu á vilja.

Árið 1950 kom bókin I, Robot eftir Isaac Asimov út. Vélasálfræðingurinn dr. Susan Calvin er ein af aðalpersónunum og verkefni hennar felast í því að greina og laga hugaratferli vélmenna. Hin svokölluðu vélmennalög Asimovs (e. „The Three Laws of Robotics“) komu fyrst fram í þessari bók og hljóma svo á íslensku:

1. Vélmenni má ekki skaða manneskju né með athafnaleysi leyfa manneskju að verða fyrir skaða.

2. Vélmenni skal hlýða fyrirmælum mannfólks, svo lengi sem slík fyrirmæli stangast ekki á við fyrstu regluna.

3. Vélmenni skal vernda og viðhalda sinni eigin tilvist, svo lengi sem það stangast ekki á við fyrstu eða aðra regluna.

Flestir kaflarnir í I, Robot eru sjálfstæðar ráðgátusögur þar sem ráðgátan snýst um hvernig eitt eða fleiri þessara vélmennalaga hafa framkallað furðulega eða óvænta hegðun. Í lok kaflans leysist ráðgátan. Þá kemur í ljós að hegðunin reynist vera afleiðing skynsamlegrar ákvarðanatöku; ákvarðanatöku undir kringumstæðum þar sem óheimilt er að véfengja fyrirmæli eða laga þau að aðstæðum. Hluti af boðskap bókarinnar er einmitt sá að allar reglur (fyrirmæli) krefjast túlkunar og engar reglur eru fullkomnar (þ.e. höndla öll jaðartilfelli vel).

Skýrt dæmi um þetta má sjá í kaflanum Liar! en hann fjallar um vélmennið Herbie sem, af einhverjum óútskýrðum ástæðum, getur lesið hugsanir fólks. Það reynist Herbie ómögulegt að hegða sér í samræmi við væntingar því vélmennið kemst ekki hjá því að vita nákvæmlega hvað það er sem fólk vill heyra og hvað það vill síst af öllu heyra. Herbie getur þar af leiðandi ekki talað við fólk án þess að ljúga, því samkvæmt lögunum mega vélmenni ekki undir neinum kringumstæðum skaða fólk, og undir það fellur að ýta undir (nógu) neikvæðar tilfinningar. Herbie má ekki segja að einhver hafi rangt fyrir sér og þannig særa stolt fólks. Þannig stendur vélmennið frammi fyrir þeirri klípu að vera tilneytt að veita svar þar sem öll svör eru slæm. Annaðhvort eru svörin sönn en særa tilfinningar eða svörin eru lygi en gleðja fólk. 

Ég vil ekki halda því fram að bókin sé áreiðanleg forspá um gervigreind. Mig langar hins vegar að benda á að „vandamálin“ (ráðgáturnar) sem koma fram í bókinni eru einmitt þau sem mætti búast við ef „vélmennin“ væru manneskjur sem reyna eftir besta megni að framfylgja tilskipunum án mótmæla og spurninga. Það sem gerir bókina athyglisverða og merkilega í samhenginu hér er að við erum nú þegar að beita því sem gengur undir nafninu vélasálfræði í bókinni, eða það sem almennara mætti kalla fyrirmælafræði, eins og nefnt var hér að framan. Þau fræði eru þó ekki flóknari en svo að þau ganga út á að ímynda sér hvaða ályktun manneskja (önnur en maður sjálfur) geti skynsamlega dregið í gefnu samhengi. Það er að segja, vélasálfræðin er sálfræði í dulargervi.

Fyrirmælafræði á þannig meira sameiginlegt með lögfræði, málnotkunarfræði og orðræðugreiningu heldur en rökfræði. Munurinn er ekki sá að nú sé „merking“ í spilinu heldur er það ætlun eða tilgangur sem bætist í myndina. Í hverju samhengi er það nefnilega ætlun málnotanda sem ákvarðar merkingu orða hans. Hvernig maður tjáir ætlun sína þannig hún sé skýr er þá spurning sem fellur undir fyrirmælafræði — en hvernig maður túlkar eða ályktar ætlun annarra út frá tjáningu þeirra er einmitt það sem málnotkunarfræði og orðræðugreining eru. 

Við höfum takmarkaða vitneskju um ætlun annarra og þurfum að álykta um hana sjálf. Ekki er nóg að líta einungis til þess sem var sagt og gert, heldur þarf líka að taka tillit til þess sem var ekki sagt og gert. Það í hvaða röð fólk tjáir hlutina gefur eitthvað til kynna um ætlun þess. Tónn og áhersla veita oft upplýsingar um ætlun. Fólk dylur líka ætlun sína með því að gefa eitthvað í skyn í stað þess að segja það beint. Hvað við ályktum svo um ætlun er háð samhenginu hverju sinni og þátttakendum í því. Til að bæta gráu ofan á svart þá eru hugtök og fyrirbæri oftast ónákvæm og loðin (hvenær vísa munnvikin nógu hátt upp til að hægt sé að túlka það sem bros?).

Þegar einhver segir „mér er kalt“, er það beiðni („fyrirmæli“) um að hækka í ofninum? Með hliðsjón af málnotkunarfræði þá er í raun ekki hægt að gefa eitt svar, hjá sumum er það ætlunin en ekki endilega hjá öðrum. Það sé hreinlega háð samhenginu. 

Þess má geta að árið 1950 var birt annað frægt ritverk um gervigreind. Það var greinin Computing Machinery and Intelligence eftir Alan Turing. Í henni velti hann vöngum yfir því hvernig maður geti vitað að vél búi yfir greind. Það er sams konar vandamál; við getum ekki vitað ætlun fyrir vissu, við getum bara dregið (misgóðar) ályktanir.

Til að draga þetta saman þá snýst fyrirmælafræði um það hvernig maður skrifar leiðbeiningar og beiðnir fyrir fólk þannig tilgangur þeirra sé skýr, ekki ólíkt lögfræði. Það er eins konar forritun þar sem „tölvan“ (fyrirbærið sem keyrir forritið) er manneskja. Það vill svo bara til að nú geta tölvur tekið við sams konar fyrirmælum og við höfum hingað til notað fyrir fólk.