จากห้องประชุมไปจนถึงหน้าต่างแชท ปัญญาประดิษฐ์ (AI) ได้กลายเป็นเครื่องมือสำคัญในกิจวัตรประจำวันของบริษัทต่างๆ ในบราซิล ผลสำรวจที่จัดทำโดยสมาคมทรัพยากรบุคคลแห่งบราซิลและเผยแพร่เมื่อเดือนตุลาคมที่ผ่านมา ระบุว่าอย่างน้อย 79% ของผู้เชี่ยวชาญในประเทศใช้เครื่องมือ AI ในงานประจำวันแล้ว แต่มีเพียง 23.7% เท่านั้นที่กล่าวว่าบริษัทของตนมีนโยบายที่ชัดเจนในเรื่องนี้.
ความไม่สอดคล้องกันนี้แสดงให้เห็นว่า ในขณะที่องค์กรต่างๆ เร่งรีบที่จะนำนวัตกรรม AI มาใช้ การกำกับดูแลข้อมูลกลับไม่ทันต่อการเปลี่ยนแปลงเสมอไป ในบราซิล ช่องว่างนี้ส่งผลให้เกิดความท้าทายในทางปฏิบัติที่ส่งผลกระทบโดยตรงต่อคุณภาพข้อมูล การปฏิบัติตามกฎหมาย และความเชื่อมั่นในการตัดสินใจอัตโนมัติ ในช่วงเวลาที่กฎระเบียบกำลังเริ่มเป็นรูปเป็นร่าง – สหภาพยุโรปได้อนุมัติกฎหมาย AI แล้ว และบราซิลกำลังหารือเกี่ยวกับกรอบกฎหมาย AI ของตน (PL 2338/2023) – บริษัทในบราซิลจำเป็นต้องสร้างสมดุลระหว่างความตื่นเต้นของการเปลี่ยนแปลงทางดิจิทัลกับการควบคุมที่แข็งแกร่ง.
ข้อมูลที่ "สกปรก" และล้าสมัย: เมื่อ AI เรียนรู้ผิดพลาด
เพื่อให้ AI สร้างคุณค่าที่แท้จริงได้ คุณภาพและการจัดระเบียบข้อมูลเป็นสิ่งสำคัญยิ่ง อย่างไรก็ตาม บริษัทในบราซิลหลายแห่งยังคงเผชิญกับสภาพแวดล้อมข้อมูลที่วุ่นวาย: ข้อมูลกระจัดกระจายอยู่ในระบบต่างๆ ซ้ำซ้อน ไม่สอดคล้องกัน และขาดมาตรฐานหรือการกำกับดูแล โมเดล AI ที่ฝึกฝนบนฐานข้อมูลที่กระจัดกระจายนี้จะดูดซับอคติและข้อผิดพลาด ทำให้ความน่าเชื่อถือของการคาดการณ์ลดลง.
อันตรายก็คือ การตัดสินใจอัตโนมัติที่ผิดพลาด – ตัวอย่างเช่น ในการวิเคราะห์สินเชื่อหรือการแนะนำลูกค้า – อาจหลุดรอดไปได้และก่อให้เกิดความเสียหายอย่างเป็นรูปธรรม หากปราศจากการกำกับดูแลข้อมูล คลังข้อมูลขนาดใหญ่จะกลายเป็น "บึง" ของข้อมูลคุณภาพต่ำ และ AI แทนที่จะเป็นสินทรัพย์เชิงกลยุทธ์ กลับกลายเป็นแหล่งที่มาของความเสี่ยงทางเทคนิคและชื่อเสียง.
นอกจากนี้ ข้อมูลที่ไม่ได้รับการจำแนกประเภทตามความละเอียดอ่อนอาจถูกป้อนเข้าสู่โมเดลโดยไม่ตั้งใจ หากไม่ทราบแน่ชัดว่าข้อมูลประเภทใดถูกนำไปใช้ บริษัทอาจฝึกฝนอัลกอริทึมการบริการลูกค้าด้วยข้อมูลที่ล้าสมัยหรือไม่สมบูรณ์ ส่งผลให้การตอบสนองไม่ถูกต้อง หรือที่แย่กว่านั้นคือ การนำข้อมูลส่วนบุคคลที่ละเอียดอ่อนมาใช้โดยไม่มีมาตรการป้องกันที่เหมาะสม ซึ่งเป็นการละเมิดกฎหมาย เช่น LGPD (กฎหมายคุ้มครองข้อมูลทั่วไปของบราซิล) ข้อมูลที่ไม่ได้รับการควบคุมจะ "ปนเปื้อน" ปัญญาประดิษฐ์ ทำให้เกิดผลกระทบต่อเนื่องของการตัดสินใจที่ผิดพลาดและข้อขัดแย้งทางจริยธรรมที่อาจเกิดขึ้น สถานการณ์นี้แสดงให้เห็นอย่างชัดเจนว่า AI ที่น่าเชื่อถือจะเกิดขึ้นได้ก็ต่อเมื่อมีข้อมูลที่น่าเชื่อถือเท่านั้น และความน่าเชื่อถือต้องอาศัยการจำแนกประเภท การอัปเดต และคุณภาพอย่างต่อเนื่อง ซึ่งเป็นเสาหลักของการกำกับดูแลข้อมูลที่ดี.
การขาดนโยบายและการจัดการสินค้าคงคลัง: สภาพแวดล้อมที่เอื้อต่อการกำเนิดของ AI แฝง
อีกประเด็นสำคัญคือ การขาดนโยบายองค์กรที่เป็นทางการและการจัดทำบัญชีข้อมูลที่ครอบคลุม ในทางปฏิบัติ หมายความว่าหลายบริษัทไม่ทราบแน่ชัดว่าตนเองมีข้อมูลอะไรบ้าง ข้อมูลเหล่านั้นอยู่ที่ไหน หรืออัลกอริทึมใช้ข้อมูลเหล่านั้นอย่างไร การศึกษาภาคส่วนที่จัดทำโดย Miti – Markets Innovation & Technology Institute และเผยแพร่เมื่อกว่าเดือนที่ผ่านมา แสดงให้เห็นว่ามีเพียง 27% ของบริษัทในบราซิลเท่านั้นที่มีนโยบายการกำกับดูแล AI อย่างเป็นทางการ ซึ่งเผยให้เห็นว่าบริษัทส่วนใหญ่ดำเนินงานโดยปราศจากกฎเกณฑ์ที่ชัดเจนสำหรับการใช้เทคโนโลยีนี้.
ในทำนองเดียวกัน ผลสำรวจของ IBM ระบุว่า 87% ขององค์กรในบราซิลไม่มีนโยบายการกำกับดูแล AI ที่ชัดเจน หากไม่มีแคตตาล็อกข้อมูลและนโยบายการใช้งานที่กำหนดไว้อย่างชัดเจน โครงการ AI ก็จะพัฒนาไปในความมืดมิด ข้อมูลถูกนำไปใช้โดยไม่มีการตรวจสอบแหล่งที่มาหรือการตรวจสอบความทันเวลา และการตัดสินใจที่สำคัญอาจเกิดขึ้นจากข้อมูลที่ไม่เป็นที่รู้จักแม้แต่ในฝ่ายไอที.
การขาดแนวทางที่ชัดเจนนี้เปิดทางให้เกิดปรากฏการณ์ "ปัญญาประดิษฐ์เงา" (Shadow AI) ซึ่งก็คือการแทรกซึมของปัญญาประดิษฐ์อย่างเงียบๆ โดยที่ฝ่ายไอทีไม่รู้ตัว พนักงานที่ถูกขับเคลื่อนด้วยความเร่งรีบหรือความกระตือรือร้น เริ่มใช้เครื่องมือปัญญาประดิษฐ์โดยไม่ได้รับอนุญาตหรือการกำกับดูแลจากฝ่ายไอที.
ตัวอย่างเช่น นักวิเคราะห์อาจป้อนข้อมูลลูกค้าที่เป็นความลับลงในแชทบอทสาธารณะเพื่อสร้างรายงาน หรือผู้จัดการอาจป้อนข้อมูลจากสเปรดชีตการวางแผนเชิงกลยุทธ์ลงในแพลตฟอร์ม AI ที่สร้างข้อมูลได้บนคลาวด์ โดยไม่คำนึงถึงนโยบายภายใน การใช้งานที่ไม่เป็นระบบเช่นนี้พบได้บ่อยกว่าที่หลายคนคิด: แม้ว่า 40% ของบริษัทจะอ้างว่ามีเครื่องมือ AI อย่างเป็นทางการ แต่จากการวิจัยของ MIT Tech Review Brazil พบว่า 90% ของพนักงานใช้เทคโนโลยีนี้ในลักษณะที่ไม่เป็นระบบอยู่แล้ว.
ปัญญาประดิษฐ์แฝง (Shadow AI) ทำให้บริษัทเสี่ยงต่อการรั่วไหลของข้อมูล ความล้มเหลวในการปฏิบัติตามกฎระเบียบ และการตัดสินใจที่อยู่นอกเหนือขอบเขตขององค์กร การอัปโหลดข้อมูลที่ละเอียดอ่อนไปยังบริการ AI บนคลาวด์เพียงครั้งเดียวก็อาจทำให้ความลับทางการค้าหรือการละเมิดกฎระเบียบถูกเปิดเผยโดยที่ผู้บริหารอาจไม่รู้ตัวในทันที หากไม่มีนโยบายและข้อมูลสินค้าคงคลัง การพัฒนา AI ก็จะไร้ระเบียบ และผู้จัดการจะมองไม่เห็นว่าใครใช้อะไร ใช้ข้อมูลอะไร และเพื่อวัตถุประสงค์อะไร.
การตัดสินใจที่ตรวจสอบไม่ได้: การตรวจสอบถูกจำกัด
เมื่อ AI มีบทบาทมากขึ้นในการตัดสินใจทางธุรกิจ ตั้งแต่การอนุมัติสินเชื่อไปจนถึงการคัดกรองประวัติการทำงาน ความท้าทายใหม่ก็เกิดขึ้น นั่นคือ การตรวจสอบและอธิบายการตัดสินใจอัตโนมัติเหล่านี้ อัลกอริทึมการเรียนรู้ของเครื่องจำนวนมากทำงานเหมือนกล่องดำที่แท้จริง ซึ่งคำแนะนำหรือการคาดการณ์เกิดขึ้นโดยที่มนุษย์ไม่เข้าใจว่าทำไม.
ในบริษัทต่างๆ ของบราซิล ความสามารถในการติดตามและตรวจสอบการทำงานภายในของโมเดล AI ยังอยู่ในช่วงเริ่มต้น แม้แต่ในองค์กรที่นำระบบการกำกับดูแล AI มาใช้แล้ว ก็มีเพียง 34% เท่านั้นที่ทำการตรวจสอบเป็นประจำเพื่อตรวจจับการใช้งานที่ไม่ได้รับอนุญาตหรือพฤติกรรมที่ผิดปกติในอัลกอริทึม กล่าวอีกนัยหนึ่ง ในหลายกรณี การตัดสินใจของ AI เกิดขึ้นโดยไม่มีบันทึกกระบวนการที่สามารถเข้าถึงได้: ไม่มีบันทึกโดยละเอียด หรือเอกสารเพียงพอที่จะสร้างใหม่ได้ว่าข้อมูลป้อนเข้าใดนำไปสู่ผลลัพธ์นั้น.
การตัดสินใจอัตโนมัติโดยปราศจากการตรวจสอบทำให้ยากต่อการระบุว่าแบบจำลองนั้นกำลังเลือกปฏิบัติกับลูกค้าบางรายหรือแนะนำการดำเนินการโดยอิงจากข้อมูลที่ผิดพลาดหรือไม่ เมื่อผลลัพธ์ที่ก่อให้เกิดข้อโต้แย้งปรากฏขึ้น เช่น การปฏิเสธสินเชื่อแก่โปรไฟล์ที่ควรจะได้รับสิทธิ์ตามทฤษฎี บริษัทอาจพบว่าตนเองไม่สามารถอธิบายเกณฑ์ที่อัลกอริทึมใช้ได้ ซึ่งเป็นปัญหาทั้งภายในองค์กรและในสายตาของหน่วยงานกำกับดูแล.
ความคล่องตัวกับการควบคุม: ทางเลือกเชิงกลยุทธ์ที่ผิดพลาด
เมื่อเผชิญกับความท้าทายทั้งหมดนี้ ผู้บริหารด้านไอทีหลายคนพบว่าตัวเองอยู่ในภาวะกลืนไม่เข้าคายไม่ออก: จะควบคุมและกำกับดูแลอย่างไรโดยไม่ขัดขวางความคล่องตัวที่ AI สัญญาว่าจะมอบให้? ในตลาดที่มีการแข่งขันสูง ความกดดันในการสร้างนวัตกรรมอย่างรวดเร็วนั้นเป็นเรื่องจริง การล่าช้าในการนำเทคโนโลยีมาใช้อาจหมายถึงการสูญเสียความได้เปรียบ สิ่งนี้ทำให้บางคนมองว่าการกำกับดูแลนั้นมีความหมายเหมือนกับระบบราชการหรือเป็นอุปสรรคต่อนวัตกรรม.
อย่างไรก็ตาม นี่เป็นความเข้าใจผิดที่ข้อมูลและผู้เชี่ยวชาญได้พิสูจน์แล้วว่าไม่ถูกต้อง การกำกับดูแลที่มีประสิทธิภาพไม่ได้ทำให้การสร้างสรรค์นวัตกรรมช้าลง ตรงกันข้าม มันช่วยลดอุปสรรคและความเสี่ยง ทำให้ความก้าวหน้าปลอดภัยและยั่งยืนมากขึ้น อันที่จริง บริษัทที่เติบโตเร็วที่สุดในด้าน AI คือบริษัทที่มองว่าการกำกับดูแลเป็นรากฐานของนวัตกรรม ไม่ใช่อุปสรรค.
ดังนั้น ความสมดุลระหว่างความเร็วและการควบคุมจึงไม่ใช่แค่เป็นไปได้ แต่เป็นสิ่งจำเป็น ความได้เปรียบในการแข่งขันในทศวรรษหน้าจะอยู่ที่การนำ AI มาใช้ด้วยความรวดเร็ว แต่เหนือสิ่งอื่นใดคือด้วยความรับผิดชอบ การดำเนินการเร็วเกินไปโดยไม่คำนึงถึงการกำกับดูแลอาจให้ผลประโยชน์ในทันที แต่มีความเสี่ยงแฝงที่ในที่สุดก็จะส่งผลเสีย (ไม่ว่าจะเป็นค่าปรับ การเสียชื่อเสียง หรือแม้กระทั่งความจำเป็นต้องทำโครงการใหม่ทั้งหมดหลังจากเกิดเหตุการณ์).
ในทางกลับกัน การผนวกกรอบการกำกับดูแลตั้งแต่เริ่มต้นจะช่วยให้สามารถขยายขีดความสามารถของปัญญาประดิษฐ์ได้อย่างสม่ำเสมอ โดยไม่มีเรื่องไม่คาดฝันเกิดขึ้นระหว่างทาง ซึ่งรวมถึงทุกอย่างตั้งแต่ นโยบายการเข้าถึงและการตรวจสอบสิทธิ์ที่รัดกุม การแยกสภาพแวดล้อม ไปจนถึงการบันทึกข้อมูลอย่างละเอียดและการตรวจสอบโมเดลอย่างต่อเนื่อง ซึ่งเป็นแนวทางปฏิบัติที่องค์กรชั้นนำบางแห่งได้นำมาใช้แล้ว เพื่อให้มั่นใจว่า AI ทำหน้าที่เป็นสินทรัพย์ทางธุรกิจ ไม่ใช่แหล่งที่มาของความไม่ปลอดภัย.
