Transparenca në algoritme mund të forcojë besimin në platformat dixhitale

Kërkesa në rritje për transparencë në teknologjitë e inteligjencës artificiale i ka shtyrë kompanitë dhe organizatat të diskutojnë mënyra për t'i bërë algoritmet më të auditueshme. Sipas IBM, aftësia për të kuptuar se si sistemet e automatizuara marrin vendime është një nga shtyllat për rritjen e besimit të përdoruesve dhe sigurimin e një llogaridhënie më të madhe në përdorimin e IA-së. Në këtë kontekst, mundësia që X (më parë Twitter) ta bëjë publik kodin e algoritmit të tij të rekomandimeve ka rindezur debatin rreth transparencës në platformat dixhitale.

Hapja e algoritmit do t'u lejonte studiuesve dhe zhvilluesve të analizonin funksionimin e tij, të identifikonin paragjykimet e mundshme dhe të kontribuonin në përmirësimin e tij. Megjithatë, ekspertët theksojnë se kjo masë përfaqëson vetëm një pjesë të procesit, pasi të dhënat e trajnimit, modelet e inteligjencës artificiale, infrastruktura dhe politikat e moderimit zakonisht mbeten të mbyllura.

Sipas Boris Kuszka, Drejtor i Teknologjisë në Red Hat Brazil, iniciativa përputhet me parimet e burimit të hapur, të cilat për dekada të tëra kanë mbrojtur transparencën si një mekanizëm për të nxitur inovacionin dhe besimin. “Transparenca e algoritmit është në përputhje me një parim që burimi i hapur e ka mbrojtur për dekada të tëra: transparenca gjeneron besim dhe besimi gjeneron inovacion. Kur kodi bëhet i auditueshëm, studiuesit, zhvilluesit e pavarur dhe vetë komuniteti fitojnë një kuptim më të mirë se si merren vendimet, duke i mundësuar atyre të identifikojnë paragjykimet dhe të kontribuojnë në evolucionin e platformës”, shpjegon ai.

Ekspertët theksojnë se, ndërsa ndikimi te përdoruesi përfundimtar do të ndodhë kryesisht prapa skenave, transparenca më e madhe mund t'u sjellë dobi zhvilluesve, studiuesve dhe reklamuesve duke ofruar më shumë parashikueshmëri në lidhje me mënyrën se si funksionon platforma. Për më tepër, zhvillimi me burim të hapur duhet të shoqërohet me procese të vazhdueshme për shqyrtimin dhe adresimin e dobësive.

“Burimi i hapur, në vetvete, nuk përcakton sigurinë e një sistemi. Dallimi qëndron në reagimin e organizatës, me rishikim të vazhdueshëm të kodit, rregullime të shpejta të dobësive dhe bashkëpunim aktiv me komunitetin”, thotë Kuszka. 

Debati ndjek një trend të vërejtur në të gjithë tregun. Kohët e fundit, IBM dhe Red Hat njoftuan Projektin Lightwell, një iniciativë që synon forcimin e sigurisë së ekosistemit me burim të hapur përmes inteligjencës artificiale dhe bashkëpunimit midis kompanive dhe komuniteteve të softuerit të lirë. Për Kuszka-n, lëvizje të tilla tregojnë se transparenca, qeverisja dhe auditueshmëria kanë tendencë të konsolidohen si dallues strategjikë për platformat dixhitale dhe zgjidhjet e bazuara në IA.