Mae'r galw cynyddol am dryloywder mewn technolegau deallusrwydd artiffisial wedi arwain cwmnïau a sefydliadau i drafod ffyrdd o wneud algorithmau'n fwy archwiliadwy. Yn ôl IBM, y gallu i ddeall sut mae systemau awtomataidd yn gwneud penderfyniadau yw un o'r pileri ar gyfer cynyddu ymddiriedaeth defnyddwyr a sicrhau mwy o atebolrwydd wrth ddefnyddio AI. Yn y cyd-destun hwn, mae'r posibilrwydd y bydd X (Twitter gynt) yn cyhoeddi cod ei algorithm argymhelliad wedi ailgynnau'r ddadl am dryloywder ar lwyfannau digidol.
Byddai agor yr algorithm yn caniatáu i ymchwilwyr a datblygwyr ddadansoddi ei weithrediadau, nodi rhagfarnau posibl, a chyfrannu at ei welliant. Fodd bynnag, mae arbenigwyr yn pwysleisio mai dim ond rhan o'r broses y mae'r mesur hwn yn ei gynrychioli, gan fod data hyfforddi, modelau AI, seilwaith, a pholisïau cymedroli fel arfer yn parhau ar gau.
Yn ôl Boris Kuszka, Cyfarwyddwr Technoleg yn Red Hat Brasil, mae'r fenter yn cyd-fynd ag egwyddorion ffynhonnell agored, sydd ers degawdau wedi dadlau dros dryloywder fel mecanwaith i ysgogi arloesedd ac ymddiriedaeth. “Mae agoredrwydd yr algorithm yn gyson ag egwyddor y mae ffynhonnell agored wedi'i hamddiffyn ers degawdau: mae tryloywder yn creu ymddiriedaeth, ac mae ymddiriedaeth yn creu arloesedd. Pan ddaw'r cod yn archwiliadwy, mae ymchwilwyr, datblygwyr annibynnol, a'r gymuned ei hun yn cael gwell dealltwriaeth o sut mae penderfyniadau'n cael eu gwneud, gan eu galluogi i nodi rhagfarnau a chyfrannu at esblygiad y platfform,” eglura.
Mae arbenigwyr yn pwysleisio, er y bydd yr effaith ar y defnyddiwr terfynol yn digwydd yn bennaf y tu ôl i'r llenni, y gall mwy o dryloywder fod o fudd i ddatblygwyr, ymchwilwyr a hysbysebwyr drwy gynnig mwy o ragweladwyedd ynghylch sut mae'r platfform yn gweithio. Ar ben hynny, mae angen i ddatblygiad ffynhonnell agored fynd law yn llaw â phrosesau parhaus ar gyfer adolygu a mynd i'r afael â gwendidau.
“Nid yw ffynhonnell agored, ynddi’i hun, yn pennu diogelwch system. Mae’r gwahaniaeth yn gorwedd yn ymatebolrwydd y sefydliad, gydag adolygiad cod parhaus, atgyweiriadau cyflym i wendidau, a chydweithio gweithredol â’r gymuned,” meddai Kuszka.
Mae'r ddadl yn dilyn tuedd a welwyd ledled y farchnad. Yn ddiweddar, cyhoeddodd IBM a Red Hat Brosiect Lightwell, menter sydd â'r nod o gryfhau diogelwch yr ecosystem ffynhonnell agored trwy ddeallusrwydd artiffisial a chydweithio rhwng cwmnïau a chymunedau meddalwedd rhydd. I Kuszka, mae symudiadau fel hyn yn dangos bod tryloywder, llywodraethu ac archwiliadwyedd yn tueddu i gydgrynhoi fel gwahaniaethwyr strategol ar gyfer llwyfannau digidol ac atebion sy'n seiliedig ar AI.
