Gagnsæi í reikniritum getur styrkt traust á stafrænum kerfum

Vaxandi eftirspurn eftir gagnsæi í gervigreindartækni hefur leitt til þess að fyrirtæki og stofnanir hafa rætt leiðir til að gera reiknirit endurskoðanleg. Samkvæmt IBMer hæfni til að skilja hvernig sjálfvirk kerfi taka ákvarðanir einn af meginstoðum þess að auka traust notenda og tryggja meiri ábyrgð í notkun gervigreindar. Í þessu samhengi hefur möguleikinn á því að X (áður Twitter) birti kóða ráðleggingareiknirits síns opinberlega blásið upp umræðuna um gagnsæi á stafrænum kerfum.

Að opna reikniritið myndi gera vísindamönnum og forriturum kleift að greina virkni þess, bera kennsl á hugsanlega skekkju og leggja sitt af mörkum til að bæta það. Sérfræðingar leggja þó áherslu á að þessi aðgerð sé aðeins hluti af ferlinu, þar sem þjálfunargögn, gervigreindarlíkön, innviðir og stjórnunarreglur eru yfirleitt lokuð.

Samkvæmt Boris Kuszka, tæknistjóra hjá Red Hat Brasilíu, er frumkvæðið í samræmi við meginreglur opins hugbúnaðar, sem áratugum saman hafa talað fyrir gagnsæi sem leið til að knýja áfram nýsköpun og traust. „Opinskáleiki reikniritsins er í samræmi við meginreglu sem opinn hugbúnaður hefur varið áratugum saman: gagnsæi skapar traust og traust skapar nýsköpun. Þegar kóðinn verður endurskoðanlegur öðlast vísindamenn, óháðir forritarar og samfélagið sjálft betri skilning á því hvernig ákvarðanir eru teknar, sem gerir þeim kleift að bera kennsl á skekkjur og leggja sitt af mörkum til þróunar kerfisins,“ útskýrir hann.

Sérfræðingar leggja áherslu á að þótt áhrifin á notandann komi fyrst og fremst fram á bak við tjöldin, geti meira gagnsæi gagnast forriturum, vísindamönnum og auglýsendum með því að bjóða upp á meiri fyrirsjáanleika um hvernig kerfið virkar. Ennfremur þarf þróun á opnum hugbúnaði að fylgja áframhaldandi ferlar til að fara yfir og taka á veikleikum.

„Opinn hugbúnaður, í sjálfu sér, ræður ekki öryggi kerfis. Munurinn liggur í viðbragðshæfni fyrirtækisins, með stöðugri kóðaendurskoðun, skjótum lagfæringum á veikleikum og virku samstarfi við samfélagið,“ segir Kuszka. 

Umræðan fylgir þróun sem sést hefur um allan markaðinn. Nýlega tilkynntu IBM og Red Hat um verkefnið Project Lightwell, sem miðar að því að styrkja öryggi vistkerfis opins hugbúnaðar með gervigreind og samstarfi fyrirtækja og frjálsra hugbúnaðarsamfélaga. Fyrir Kuszka sýna hreyfingar eins og þessi að gagnsæi, stjórnarhættir og endurskoðunarhæfni hafa tilhneigingu til að festast í sessi sem stefnumótandi aðgreiningarþættir fyrir stafræna palla og lausnir sem byggja á gervigreind.