Lập hồ sơ chủng tộc trong công nghệ nhận dạng khuôn mặt: Nhận dạng khuôn mặt có thể phân biệt chủng tộc không?

Công nghệ Nhận dạng khuôn mặt và khả năng của nó đã phát triển vượt xa trí tưởng tượng của chúng ta kể từ khi các thuật toán mới để củng cố công nghệ này trong việc thực thi pháp luật bắt đầu nổi tiếng. Hiện tại, công nghệ nhận dạng khuôn mặt được các lực lượng thực thi pháp luật sử dụng ở các cấp thấp nhất của quá trình thu thập dữ liệu để xác định tội phạm hình sự giữa các cuộc tụ tập đông người. Công nghệ này sử dụng cảnh quay từ camera CCTV ở những nơi công cộng và đường phố, sau đó chạy dữ liệu thu thập được dựa trên các kho lưu trữ của cơ quan để phát hiện một khuôn mặt đang bị truy nã về tội hình sự.

Công nghệ này đã tiếp tục được nhúng vào các thiết bị nhỏ nhất, bao gồm điện thoại di động và thiết bị đeo thông minh. Do đó, nó không chỉ bảo vệ bạn trên đường phố mà còn có ý định bảo vệ thông tin cá nhân của bạn được lưu trữ trên các thiết bị thông minh của bạn. Việc sử dụng “dấu vết” cho các hoạt động tiếp thị và quảng cáo đã trở nên phổ biến trong thời đại hiện đại của chiến dịch truyền thông xã hội. Và sau đó, có sự giám sát riêng trong các trung tâm mua sắm, cửa hàng bán lẻ, v.v.

Từ góc độ này, người ta có thể nhanh chóng chỉ ra những ưu điểm không thể phủ nhận của công nghệ nhận dạng khuôn mặt. Nhưng nó cũng đã được xem xét kỹ lưỡng về mối đe dọa mà nó gây ra đối với quyền riêng tư của người dùng, bảo vệ dữ liệu và tất nhiên, sự minh bạch giữa luật pháp và công chúng. Đó là một điều tốt khi nhận thức được cả ưu điểm và nhược điểm của một công nghệ xâm lấn như vậy. Tuy nhiên, có một nhược điểm nữa của công nghệ nhận dạng khuôn mặt mà mọi người dường như bỏ qua, đó là phân biệt chủng tộc và phân biệt chủng tộc .

Trong phần này, chúng tôi xem xét cách công nghệ này thúc đẩy thành kiến ​​và phân biệt chủng tộc cũng như hậu quả nghiêm trọng của công nghệ xâm lấn đó như thế nào.

Nhận dạng khuôn mặt hoạt động như thế nào?

Nguồn ảnh: National Post

Bước 1: Hình ảnh của bạn được chụp từ máy ảnh, tài khoản, email của bạn, v.v. Đó là ảnh đại diện trực tiếp hoặc ảnh chụp ngẫu nhiên trong một đám đông.

Bước 2: Phần mềm nhận dạng khuôn mặt sẽ chạy khuôn mặt của bạn thông qua cơ sở dữ liệu các khuôn mặt được lưu trữ. Dấu vết được thu thập thông qua theo dõi hình học của khuôn mặt của bạn.

Bước 3: Tỷ lệ phần trăm đối sánh của hình ảnh của bạn với bất kỳ khuôn mặt đã biết nào được tạo ra bằng cách sử dụng một thuật toán để xác định được thực hiện.

Thiên hướng tự động hóa: Một trong nhiều sai lầm của công nghệ nhận dạng khuôn mặt

Độ lệch tự động hóa hoặc Độ lệch máy đề cập đến tình huống trong đó thuật toán máy thể hiện một độ chệch nhất định trong việc hiệu chuẩn dữ liệu đầu vào, do đó đưa ra kết quả đầu ra không thuận lợi. Điều này xảy ra khi có lỗi trong mã thuật toán, thiếu bộ dữ liệu được lưu trữ để hiệu chuẩn, giá trị đầu vào không chính xác hoặc quá nhiều dữ liệu đầu vào vượt quá khả năng hiệu chuẩn của máy móc.

Hồ sơ chủng tộc diễn ra như thế nào với tất cả những điều này?

Nguồn ảnh: The Guardian

Hãy bắt đầu với một sự cố cổ xưa mà lúc đó được coi là không đáng kể. Năm 2001, thành phố Tampa đã sử dụng phần mềm nhận dạng khuôn mặt để giám sát thành phố đông đúc khi khách du lịch tràn ra đường trong thành phố do giải Super Bowl năm 2001. Theo báo cáo của New York Times , phần mềm đã xác định được 19 người được cho là có lệnh chống lại họ; tuy nhiên, không có vụ bắt giữ nào được thực hiện vì cơ sở hạ tầng của sân vận động khiến chúng ta không thể truy ra thủ phạm được xác định giữa một đám đông quá lớn.

Trong trường hợp cụ thể này, các dấu hiệu phân biệt chủng tộc không được nhìn thấy ở bất cứ đâu, đây là lần đầu tiên các kỹ thuật giám sát được đưa ra nhằm chống lại việc vi phạm quyền tự do dân sự và quyền riêng tư của các cá nhân. Trong những năm sắp tới, Cảnh sát Tampa đã từ bỏ các hệ thống giám sát này vì kết quả không đáng tin cậy.

Nguồn hình ảnh: ICO

Chuyển tiếp nhanh đến một kịch bản gần đây hơn, Ali Breland đã báo cáo cho The Guardian , về vụ bắt giữ Willie Lynch, một người đàn ông da đen bị cáo buộc là một tay buôn ma túy khét tiếng ở khu vực Brentwood, nơi chủ yếu là khu dân cư của người da màu. Bằng chứng duy nhất chống lại Lynch là những bức ảnh của anh ta trên điện thoại di động, được chạy dựa trên cơ sở dữ liệu của cảnh sát trước khi cảnh sát xác định anh ta là thủ phạm. Lynch đã bị kết án trong 8 năm, người hiện đã kháng cáo lại bản án. Cho dù anh ta có phải là người chia bài bị cáo buộc hay không, nó chắc chắn làm dấy lên mối quan tâm về việc liệu chỉ một kết quả dựa trên máy móc có đủ để duy trì sự kết tội của bất kỳ ai đang bị điều tra hay không?

Vào năm 2019, theo báo cáo của Tom Perkins cho The Guardian , cảnh sát Detroit đã bị phát hiện sử dụng nhận dạng khuôn mặt để thực hiện các vụ bắt giữ được cho là trong hai năm qua. Detroit là nơi có hơn 80% dân số là người da đen. Một tuyên bố từ một thành viên da đen từ Ủy ban Cảnh sát Detroit đã làm dấy lên những lo ngại chống lại hoạt động này. Ông nói rằng người da đen có một đặc điểm chung trên khuôn mặt gây nguy hiểm cho thuật toán của hệ thống, gọi điều này là “phân biệt chủng tộc công nghệ”.

Nguồn ảnh: Vox

Trong một nghiên cứu năm 2019 cho Tạp chí Truyền thông Thông tin và Xã hội Đạo đức, của Fabio Bacchini và Ludovica Lorusso, đã phát hiện ra rằng các hệ thống nhận dạng khuôn mặt và sinh trắc học này không đáng tin cậy 100% đối với cơ quan thực thi pháp luật. Hơn nữa, phân biệt chủng tộc là một tác động tiêu cực đối với tất cả các hệ thống như vậy, điều này có ý nghĩa ngược lại về mặt xã hội. Nghiên cứu nhắm mục tiêu cụ thể đến các xã hội phương Tây, nơi các hệ thống như vậy được sử dụng rộng rãi để giám sát.

Đây chỉ là ba trong số rất nhiều ví dụ mà các trường hợp chênh lệch chủng tộc do hệ thống nhận dạng khuôn mặt gây ra đã được đưa ra ánh sáng. Nhưng tại sao những hệ thống này lại kém năng lực đến vậy mặc dù độ chính xác ngày càng tăng trong việc nâng cấp mã hóa thuật toán trong công nghệ.

Quyền tối cao của người da trắng ở các bang phương Tây: Ngành công nghệ do người da trắng chiếm ưu thế

Vào năm 2014, phần lớn các công ty công nghệ, bao gồm cả tập đoàn khổng lồ Apple Inc., được phát hiện là đang thuê nhân viên chủ yếu là nam giới da trắng. Ở Apple, 55% nhân viên là người da trắng, và tương tự, ban lãnh đạo Apple bao gồm 63% nhân viên là người da trắng. Các công ty đã chia sẻ các báo cáo đa dạng tương tự bao gồm Facebook , Google và Twitter. Năm năm sau, một báo cáo trên Wired tiết lộ rằng đã có sự cải thiện tối thiểu về những con số này.

Trong khi Facebook cho thấy sự cải thiện đáng kể về số lượng, tỷ lệ công nhân kỹ thuật da đen của Apple không thay đổi, chỉ 6% trong tổng số lực lượng lao động. Amazon là tổ chức duy nhất đăng ký 42% công nhân là người da đen hoặc người Mỹ Latinh tại các văn phòng ở Mỹ.

What dies these stats signify? In the US, most of the coders, who are assigned to major projects such as designing algorithms for surveillance systems, are white. These are the people who make the most significant decisions regarding a product or service to be launched/unveiled by a company. And hence, it’s their perspectives, approach, and thought processes that go in the final creation. This is not to imply that white people are racists and have purposely designed such surveillance systems. NO!

Image Source: Forbes

When a white guy designs a face recognition algorithm and has only white colleagues consulting/assisting him, they do not consider people of other color’s facial traits before finalizing the code. Since white engineers dominate the tech industry, the data archives used to prepare the initial code are also created and calibrated by white technicians. Thus, the code itself is created with a bias in its core calculative algorithm, resulting in these racial disparities in surveillance results.

The code simply learns what white people embody in it. There is no perspective or contribution of any person of another color.

The Calibration Issues

Cơ quan thực thi pháp luật của Mỹ chủ yếu dựa vào giám sát và theo dõi dữ liệu. Đã có nhiều trường hợp những người thổi còi lật tẩy thông tin liên quan đến việc giám sát trái phép thường dân. Tiết lộ của Edward Snowden về việc giám sát bất hợp pháp của NSA là một trong những ví dụ như vậy.

Nguồn hình ảnh: CBS Local

Các chương trình giám sát này được hỗ trợ bởi dấu mặt và thông tin cá nhân khác của hàng triệu công dân. Nếu chúng ta chỉ xem xét các dấu hiệu trên khuôn mặt, thì có hàng triệu người Mỹ đang công khai chia sẻ hình ảnh trên các nền tảng truyền thông xã hội. Sau đó, có những camera CCTV ở mọi đường phố trên toàn quốc cung cấp cảnh quay trực tiếp của hàng trăm nghìn người qua lại. Hiện tại, có khoảng 117 triệu hình ảnh trong cơ sở dữ liệu của cảnh sát, trong khi FBI có hơn 400 triệu bộ dữ liệu để hiệu chỉnh trong các thuật toán nhận dạng khuôn mặt giám sát.

Bây giờ hãy tưởng tượng những tập dữ liệu này được so sánh với một hình ảnh duy nhất có thể có hoặc có thể không chụp được tất cả các đặc điểm trên khuôn mặt của một người cụ thể. Trong một tình huống như vậy, các lỗi có khả năng phát sinh. Chỉ có quá nhiều dữ liệu để hiểu và chạy nó trên một khuôn mặt. Không có thuật toán nào có thể đảm bảo một trăm phần trăm kết quả của nó khi hiệu chuẩn phức tạp như vậy. Điều này cuối cùng làm tăng thêm sự phân biệt chủng tộc do công nghệ nhận dạng khuôn mặt gây ra.

Độ tin cậy lớn về nhận dạng khuôn mặt

Nguồn hình ảnh: NY Post

Trường hợp của Willie Lynch là một lời nhắc nhở rằng nhận dạng khuôn mặt không nên là kỹ thuật đáng tin cậy duy nhất được đưa ra làm bằng chứng khi nói đến cơ quan thực thi pháp luật. Đây là lý do cảnh sát thành phố Tampa từ bỏ công nghệ này.

Đúng là nhận dạng khuôn mặt là một khu nghỉ dưỡng tuyệt vời và rất hữu ích cho cảnh sát. Thủ phạm của các vụ đánh bom Marathon ở Boston đã được phát hiện bằng cách sử dụng phân tích chi tiết và sâu rộng các bản ghi âm giám sát. Nhưng đây không thể là bằng chứng duy nhất để kết tội bất cứ ai. Phải có bằng chứng hỗ trợ để chứng minh kết quả của các thuật toán nhận dạng khuôn mặt và khái niệm thiên vị tự động hóa phải được xem xét trước khi đi đến quyết định cuối cùng.

Sự cố phần cứng: Nhận dạng khuôn mặt trong thiết bị di động và máy ảnh

Nguồn hình ảnh: TechCrunch

Hệ thống camera giám sát và phần cứng và phần mềm liên quan không được thiết kế bởi một công ty duy nhất. Đó là một ngành công nghiệp trị giá hàng tỷ đô la, trong đó hàng chục tập đoàn cạnh tranh để giành được hợp đồng từ các cơ quan thực thi pháp luật. Nhiều hệ thống trong số này là của các nhà sản xuất Trung Quốc. Đó là tất cả về việc nhận được công nghệ rẻ nhất với chất lượng tốt nhất. Đó là cách nó chủ yếu hoạt động. Và do đó, luôn có khả năng xảy ra sự khác biệt trong việc hiệu chuẩn các hệ thống khác nhau, cũng như sự khác biệt về chất lượng của kết quả giám sát. Nhiều thuật toán giám sát bằng camera không hiệu quả trong việc hiệu chỉnh hình ảnh của người da màu chỉ vì kỹ thuật kém cỏi, do đó tôn vinh sự phân biệt chủng tộc.

Các vấn đề công nghệ gây ra phân biệt chủng tộc thông qua nhận dạng khuôn mặt cũng đã được chú ý trong tính năng Apple Face Lock. Một trường hợp từ Trung Quốc đã lật tẩy rằng iPhone X khóa mặt không thể phân biệt giữa hai đồng nghiệp Trung Quốc khác nhau, khiến tính năng này trở nên vô dụng. Các báo cáo tương tự đã bị loại bỏ, viện dẫn các vấn đề trong tính năng này trong việc tách biệt hai người da đen với nhau. Như đã nói ở trên, Apple chỉ có 6% người da đen trong các đội kỹ thuật. Đó là một ví dụ rõ ràng về cách một công nghệ nhận dạng khuôn mặt có thể thúc đẩy phân biệt chủng tộc ngay cả trong các thiết bị cầm tay của chúng tôi.

Phần kết luận

Vâng, Nhận diện khuôn mặt là phân biệt chủng tộc và đó là kiến ​​thức phổ biến hiện nay. Trong khi công nghệ đang phát triển hàng ngày để khắc phục những vấn đề như vậy, các kết quả đều giống nhau. Công nghệ được cho là hợp nhất thế giới vì các mục tiêu chung của tiến bộ kỹ thuật và phát triển, nhưng một số kỹ thuật chỉ gây hại cho sự hòa hợp chủng tộc và cộng đồng.

Hiện tại, điều tốt nhất mà các quan chức thực thi pháp luật có thể làm là không hỗ trợ các trường hợp của họ dựa trên bằng chứng từ các hiệu chuẩn thuật toán, vốn thậm chí còn không đáng tin cậy. Hơn nữa, đã đến lúc sự đa dạng và hòa nhập trong nơi làm việc được coi trọng để mọi người thuộc mọi sắc tộc có thể cùng nhau tạo ra một sản phẩm không có sự khác biệt về chủng tộc. Có hàng ngàn chủng tộc trên thế giới, và con người đã phát triển để gạt sự khác biệt chủng tộc sang một bên, điều đã ám ảnh xã hội toàn cầu trong suốt thời gian dài. Nếu điều đó phải được duy trì, thì những cỗ máy mà chúng ta dựa vào chính mình rất nhiều cũng phải được dạy như vậy.