Thuật toán vô hình: AI của tiếp thị kỹ thuật số và bất bình đẳng giới

Khi một người phụ nữ mở mạng xã hội, các thuật toán quyết định cho cô ấy thấy điều gì?Theo một nghiên cứu thạc sĩ từ Đại học MUST (Florida, Mỹ), câu trả lời cho thấy một mô hình đáng lo ngại: nội dung về sắc đẹp, thời trang và tiêu dùng thống trị nguồn cấp dữ liệu của phụ nữ, trong khi các chủ đề như nghề nghiệp, công nghệ và tài chính xuất hiện ít thường xuyên hơn nhiều so với nam giới.

Nghiên cứu “Việc sử dụng tiếp thị kỹ thuật số như một công cụ trao quyền cho phụ nữ”, được phát triển bởi nhà báo Monica Kulcsar như một Công trình hoàn thiện của Thạc sĩ Khoa học về Tiếp thị Kỹ thuật số, đã lắng nghe 134 phụ nữ và dữ liệu tham chiếu chéo về hành vi thuật toán, trí tuệ nhân tạo thành kiến và nhận thức của phụ nữ về môi trường kỹ thuật s.

Kết quả đặt ra một câu hỏi trọng tâm cho ngành: nếu các nền tảng kỹ thuật số củng cố một cách có hệ thống vai trò giới thông qua hệ thống tự động của họ, trách nhiệm của các thương hiệu và nhà tiếp thị khi sử dụng các công cụ này là gì?

Sự thiên vị mà dữ liệu tiết lộ

Trong số những người tham gia, 79.9% tin rằng các thuật toán nền tảng đối xử với nam giới và phụ nữ không bình đẳng.Thêm nói: chỉ có 3% hoàn toàn đồng ý rằng phụ nữ được thể hiện thực tế trong các chiến dịch, thường mang lại các khuyến nghị nội dung cho phụ nữ tập trung vào ngoại hình và tiêu dùng hơn là sự nghiệp và công nghệ (79.3%).

“Các thuật toán được đào tạo từ dữ liệu lịch sử, và dữ liệu này mang nhiều thập kỷ của các khuôn mẫu giới tính.Khi một hệ thống học hỏi từ quá khứ này, nó có xu hướng tái tạo nó và thường khuếch đại nó, cô giải thích.

Hiện tượng này, được mô tả trong tài liệu là thiên vị thuật toán, có ý nghĩa vượt ra ngoài mạng xã hội. Các nghiên cứu học thuật được trích dẫn trong nghiên cứu chỉ ra rằng hệ thống học máy có thể phạt một số từ nhất định trong quy trình tuyển dụng, làm giảm khả năng hiển thị của phụ nữ trong quảng cáo tuyển dụng lãnh đạo và nhắm mục tiêu tín dụng và cơ hội tài chính không đồng đều theo giới tính.

Quyền tự chủ rõ ràng: bẫy cá nhân hóa

Một trong những khái niệm trọng tâm của nghiên cứu là “quyền tự chủ rõ ràng”: cảm giác tự do lựa chọn mà người dùng trải nghiệm trên nền tảng kỹ thuật số, nhưng trong thực tế, điều kiện là các cấu trúc thuật toán vô hình hướng dẫn hành vi, mong muốn và nhận thức.

Áp dụng cho vũ trụ nữ, điều này có nghĩa là phụ nữ có thể tin rằng họ đang tự do lựa chọn nội dung họ tiêu thụ, trong khi trên thực tế, môi trường kỹ thuật số đã được hiệu chỉnh để hướng họ đến một số chủ đề nhất định và đưa họ ra khỏi những chủ đề khác.

“Trao quyền kỹ thuật số cần được kiểm tra cẩn thận.Các nền tảng cung cấp khả năng hiển thị nhưng cũng đóng khung những gì có thể nhìn thấy.Nếu thuật toán quyết định rằng phụ nữ nên xem nhiều nội dung hơn về chế độ ăn kiêng và ít hơn về đầu tư, nó đang lặng lẽ củng cố cấu trúc của sự bất bình đẳng”, cô nói.

Phụ nữ thấy thiếu đạo đức

Dữ liệu có lẽ thu hút sự chú ý nhất của các nhóm tiếp thị và công nghệ là mức độ nhận thức phê phán của những người tham gia. Hầu hết phụ nữ được nghe trong cuộc khảo sát, với trình độ học vấn cao và khả năng tiếp cận mạng xã hội hàng ngày mạnh mẽ, thể hiện nhận thức về sự trung gian thuật toán của trải nghiệm của h.

Trong khi chỉ ra các vấn đề, người trả lời không từ chối công nghệ: họ nhận ra lợi ích của việc cá nhân hóa kỹ thuật số và đánh giá cao các thương hiệu sử dụng nó theo cách quản trị dữ liệu có đạo đức, minh bạch và nhạy cảm về giới.

Đối với nhà nghiên cứu, đây là một dấu hiệu rõ ràng về cơ hội. “Có một đối tượng nữ có hiểu biết, quan trọng và sẵn sàng liên quan đến các thương hiệu sử dụng công nghệ một cách có trách nhiệm.Thách thức và cơ hội cho lĩnh vực này là phát triển các chiến lược hoạt động với các thuật toán, không chống lại phụ nữ.”

Điều này đòi hỏi gì từ các thương hiệu và nền tảng

Nghiên cứu chỉ ra những con đường cụ thể.Trong số các khuyến nghị xuất hiện từ dữ liệu, chúng tôi nhấn mạnh việc kiểm tra thường xuyên các hệ thống phân khúc để xác định thành kiến giới; sự đa dạng trong các nhóm phát triển AI và quản lý nội dung; việc áp dụng các tiêu chí đạo đức trong việc xác định đối tượng và trong việc lựa chọn định dạng; và minh bạch với người dùng về cách sử dụng dữ liệu của họ.

“Một chiến dịch đẹp vào tháng 3 là không đủ. cam kết trao quyền cho phụ nữ cần phải được nhúng vào các quyết định kỹ thuật, mô hình dữ liệu và văn hóa tổ chức. nếu không, công nghệ nên tăng quyền tự chủ của phụ nữ kết thúc là một trở ngại khác”, Monica kết luận.