Alqoritmlərdə şəffaflıq rəqəmsal platformalara etimadı gücləndirə bilər

Süni intellekt texnologiyalarında şəffaflığa artan tələb şirkətləri və təşkilatları alqoritmləri daha audit edilə bilən hala gətirməyin yollarını müzakirə etməyə vadar edib. IBM-, avtomatlaşdırılmış sistemlərin necə qərar qəbul etdiyini anlamaq bacarığı istifadəçi etibarını artırmaq və süni intellektdən istifadədə daha çox hesabatlılığı təmin etmək üçün əsas amillərdən biridir. Bu kontekstdə X-in (əvvəllər Twitter) tövsiyə alqoritminin kodunu ictimaiyyətə açıqlaması ehtimalı rəqəmsal platformalarda şəffaflıqla bağlı müzakirələri yenidən alovlandırıb.

Alqoritmin açılması tədqiqatçılara və tərtibatçılara onun işini təhlil etməyə, potensial qərəzlilikləri müəyyən etməyə və təkmilləşdirilməsinə töhfə verməyə imkan verərdi. Bununla belə, mütəxəssislər vurğulayırlar ki, bu tədbir prosesin yalnız bir hissəsini təmsil edir, çünki təlim məlumatları, süni intellekt modelləri, infrastruktur və moderasiya siyasətləri adətən bağlı qalır.

Red Hat Brazil şirkətinin texnologiya direktoru Boris Kuskanın sözlərinə görə, təşəbbüs onilliklərdir şəffaflığı innovasiya və etibarı təşviq edən bir mexanizm kimi müdafiə edən açıq mənbə prinsipləri ilə uzlaşır. “Alqoritmin açıqlığı açıq mənbənin onilliklərdir müdafiə etdiyi bir prinsiplə uyğundur: şəffaflıq etibar yaradır, etibar isə innovasiya yaradır. Kod yoxlanıla bilən hala gəldikdə, tədqiqatçılar, müstəqil tərtibatçılar və icma özü qərarların necə qəbul edildiyini daha yaxşı başa düşür və bu da onlara qərəzli fikirləri müəyyən etməyə və platformanın təkamülünə töhfə verməyə imkan verir”, - deyə o izah edir.

Mütəxəssislər vurğulayırlar ki, son istifadəçiyə təsir əsasən pərdəarxası şəkildə baş versə də, daha böyük şəffaflıq platformanın necə işlədiyinə dair daha çox proqnozlaşdırma təklif etməklə tərtibatçılara, tədqiqatçılara və reklamçılara fayda verə bilər. Bundan əlavə, açıq mənbəli inkişaf zəifliklərin nəzərdən keçirilməsi və aradan qaldırılması üçün davamlı proseslərlə müşayiət olunmalıdır.

Kuşka deyir ki, “Açıq mənbə özlüyündə sistemin təhlükəsizliyini müəyyən etmir. Fərq təşkilatın davamlı kod nəzərdən keçirilməsi, sürətli zəifliklərin düzəldilməsi və icma ilə aktiv əməkdaşlıqla cavabdehliyindədir”. 

Müzakirələr bazarda müşahidə olunan bir tendensiyanı izləyir. Bu yaxınlarda IBM və Red Hat şirkətləri süni intellekt və şirkətlər və pulsuz proqram təminatı icmaları arasında əməkdaşlıq vasitəsilə açıq mənbəli ekosisteminin təhlükəsizliyini gücləndirməyə yönəlmiş bir təşəbbüs olan Project Lightwell-i elan etdilər. Kuşka üçün bu kimi hərəkatlar şəffaflığın, idarəetmənin və auditin rəqəmsal platformalar və süni intellekt əsaslı həllər üçün strateji fərqləndirici amillər kimi möhkəmlənməyə meylli olduğunu göstərir.