Þegar „gervigreind" er í raun bara fólk

Árið 2005 setti Amazon á markað Mechanical Turk — vettvang sem kenndur var við skák­vélmenni frá 18. öld sem reyndist hafa mann falinn inni. Kaldhæðnin var viljandi. Þjónustan leyfði fyrirtækjum að setja inn lítil verkefni sem tölvur áttu erfitt með — mynda­flokkun, tilfinningagreiningu texta, gagna­sannprófun — og greiddi mannlegum starfsmönnum smáaura fyrir að ljúka þeim. Allur tilgangurinn var að "gervigreindin" væru í raun manneskjur.

Tæpum tveimur áratugum síðar hefur ótrúlega lítið breyst í hluta iðnaðarins. Á bak við mörg vörumerki sem auglýsa gervigreind eru enn manneskjur að vinna þungann af verkinu.

Manneskjurnar bak við tjaldið

Efnisstjórnun er sýnilegasta dæmið. Allir helstu samfélagsmiðlar ráða þúsundir mannlegra efnisstjóra — oft útvistað til láglauna­landa — til að fara yfir efni sem sjálfvirk kerfi merkja en geta ekki flokkað með vissu. Gervigreindin sér um auðveldu málin; erfiðu, áfallsvaldandi ákvarðanirnar lenda á fólki.

Gagna­merking er önnur stórfelld mannleg aðgerð. Þjálfunar­gögnin sem knýja nútíma stór­tungumálalíkön merkja sig ekki sjálf. Fyrirtæki eins og Scale AI og Sama ráða hundruð þúsunda starfsmanna um allan heim til að merkja myndir, raða texta­úttökum og sannreyna svör líkana.

Þegar "gervigreind" þýðir "við erum með skrifstofu í Manila"

Sum sprotafyrirtæki hafa verið uppvíst að vera skapandi í þessum efnum. Árið 2019 greindi The Guardian frá því að nokkur bresk gervigreindarsprotafyrirtæki notuðu í hljóði manneskjur til að framkvæma verkefni sem þau auglýstu sem sjálfvirk. Eitt fyrirtæki í útgjaldastjórnun var talið hafa starfsfólk á Indlandi sem vann handvirkt úr kvittunum sem viðskiptavinir töldu að gervigreind skannaði.

Heiðarlegi millivegurinn

Þetta er ekki í eðli sínu slæmt. Kerfi með mann í lykkjunni eru oft ábyrgasta leiðin til að beita gervigreind. Gervigreind í læknis­myndgreiningu sem merkir grunsamlegar skannanir fyrir geisla­lækni til skoðunar er sannarlega betri en annað hvort hrein sjálfvirkni eða hrein mannleg skoðun.

Vandamálið er gagnsæi. Þegar fyrirtæki segir "gervigreindin okkar sér um þetta" gerir viðskiptavinurinn ráð fyrir að enginn maður sjái gögnin. Ef maður sér þau — hvort sem er fyrir gæða­eftirlit, jaðartilvik eða vegna þess að gervigreindin er bara þunnt lag — breytir það persónuverndar- og traustssamhengi verulega.

Hvað á að leita að

Ef þú ert að meta "gervigreindardrifið" verkfæri fyrir fyrirtækið þitt skera nokkrar spurningar í gegnum markaðssetninguna. Hvað gerist þegar líkanið er ekki öruggt? Hvernig eru jaðartilvik meðhöndluð? Hver er afgreiðslutíminn — rauntíma bendir til raunverulegrar sjálfvirkni en "innan 24 klukkustunda" gæti bent til mannlegrar biðraðar. Og mikilvægast: hver sér gögnin mín?

Ekkert er athugavert við að manneskjur séu hluti af ferlinu. Sum af bestu kerfunum sameina hvort tveggja. En að kalla það "gervigreind" þegar það er aðallega fólk er tækni­hliðstæðan við upprunalega skákvélina — snjallt blekkingarleikrit sem virkar þar til einhver opnar kassann.