Profil Perkauman Dalam Pengecaman Wajah Teknologi: Bolehkah Pengecaman Muka Menjadi Perkauman?

Teknologi Pengecaman Muka dan kebolehannya telah berkembang jauh di luar imaginasi kami sejak algoritma baharu untuk memperkukuh teknologi ini dalam penguatkuasaan undang-undang telah menjadi terkenal. Pada masa ini, teknologi pengecaman muka digunakan oleh pasukan penguatkuasa undang-undang di peringkat terendah proses pengumpulan data untuk mengenal pasti pesalah jenayah di tengah-tengah perhimpunan ramai. Teknologi ini menggunakan rakaman daripada kamera CCTV di tempat awam dan jalan-jalan dan kemudian menjalankan data yang dikumpul terhadap arkib agensi untuk mengesan wajah yang dikehendaki untuk kesalahan jenayah.

Teknologi ini telah dibenamkan lagi ke dalam alat terkecil, termasuk telefon mudah alih dan peranti boleh pakai pintar. Oleh itu, ia bukan sahaja melindungi anda di jalanan tetapi juga berhasrat untuk melindungi maklumat peribadi anda yang disimpan pada peranti pintar anda. Menggunakan "cetak muka" untuk amalan pemasaran dan pengiklanan telah menjadi perkara biasa dalam zaman moden kempen media sosial. Dan kemudian, terdapat pengawasan peribadi di pusat membeli-belah, kedai runcit, dll.

Dari perspektif ini, seseorang boleh dengan cepat menunjukkan kelebihan teknologi pengecaman wajah yang tidak dapat dinafikan. Tetapi ia juga telah diteliti untuk ancaman yang ditimbulkannya terhadap privasi pengguna, perlindungan data, dan sudah tentu, ketelusan antara undang-undang dan orang ramai. Adalah satu perkara yang baik untuk mengetahui kedua-dua kelebihan dan kelemahan teknologi invasif sedemikian. Namun, terdapat satu lagi kelemahan teknologi pengecaman muka, yang orang ramai nampaknya diabaikan, iaitu pemprofilan kaum dan diskriminasi kaum .

Dalam bahagian ini, kita melihat bagaimana teknologi ini menggalakkan berat sebelah dan diskriminasi kaum dan betapa teruknya kesan teknologi invasif tersebut.

Bagaimana Pengecaman Wajah Berfungsi?

Sumber Gambar: National Post

Langkah 1: Gambar anda diambil daripada kamera, akaun anda, e-mel, dll. Ia sama ada gambar profil lurus atau snap rawak dalam khalayak ramai.

Langkah 2: Perisian pengecaman muka akan menjalankan muka anda melalui pangkalan data cetakan muka yang disimpan. Cap muka dikumpulkan melalui penjejakan geometri muka anda.

Langkah 3: Peratusan padanan gambar anda terhadap mana-mana cap muka yang diketahui dihasilkan menggunakan algoritma yang mana penentuan dibuat.

Bias Automasi: Salah satu daripada Banyak Kelemahan Teknologi Pengecaman Muka

Bias Automasi atau Bias Mesin merujuk kepada senario di mana algoritma mesin mempamerkan bias tertentu dalam penentukuran data input, lantas memberikan output yang tidak menguntungkan. Ini berlaku apabila terdapat ralat dalam kod algoritma, kekurangan set data yang disimpan untuk penentukuran, nilai input yang salah atau data input yang berlebihan, yang berada di luar kekuatan mesin untuk menentukur.

Bagaimana Profil Perkauman Berlaku Dengan semua ini?

Sumber Gambar: The Guardian

Mari kita mulakan dengan kejadian purba yang pada masa itu dianggap tidak penting. Pada tahun 2001, Tampa City menggunakan perisian pengecaman muka untuk pengawasan ke atas bandar yang sesak ketika pelancong membanjiri jalan-jalan bandar kerana Super Bowl 2001. Menurut laporan New York Times , perisian itu mengenal pasti 19 orang yang kononnya mempunyai waran tertunggak terhadap mereka; walau bagaimanapun, tiada tangkapan dibuat kerana infrastruktur stadium menjadikannya mustahil untuk menemui pesalah yang dikenal pasti di kalangan orang ramai.

Walaupun tanda-tanda pemprofilan kaum tidak dilihat di mana-mana dalam kes ini, ini adalah kali pertama teknik pengawasan dibuat terhadap pencabulan kebebasan sivil dan privasi individu. Pada tahun-tahun akan datang, Polis Tampa berhenti menggunakan sistem pengawasan ini kerana keputusan yang tidak boleh dipercayai.

Sumber Imej: ICO

Memajukan pantas kepada senario yang agak baru, Ali Breland melaporkan untuk The Guardian , mengenai penahanan Willie Lynch, seorang lelaki kulit hitam yang dituduh sebagai pengedar dadah terkenal di kawasan Brentwood, kebanyakannya kawasan kejiranan orang kulit berwarna. Satu-satunya bukti terhadap Lynch ialah gambarnya di telefon bimbit, yang dijalankan terhadap pangkalan data polis sebelum polis menentukan dia sebagai pelakunya. Lynch telah disabitkan selama lapan tahun, yang kini telah membuat rayuan terhadap sabitan tersebut. Sama ada dia adalah peniaga yang didakwa atau tidak, ia pasti menimbulkan kebimbangan sama ada hanya keputusan berasaskan mesin yang mencukupi untuk mengekalkan sabitan sesiapa yang disiasat?

Pada 2019, seperti yang dilaporkan oleh Tom Perkins untuk The Guardian , polis Detroit didapati menggunakan pengecaman muka untuk membuat tangkapan yang didakwa sejak dua tahun lalu. Detroit adalah tempat di mana lebih daripada 80% penduduk berkulit hitam. Kenyataan daripada anggota kulit hitam dari Suruhanjaya Polis Detroit menimbulkan kebimbangan terhadap amalan itu. Dia berkata bahawa orang kulit hitam mempunyai sifat muka biasa yang menjejaskan algoritma sistem, yang menyebutnya sebagai "perkauman teknologi."

Sumber Imej: Vox

Dalam penyelidikan 2019 untuk Journal of Information Communication and Ethics Society, oleh Fabio Bacchini dan Ludovica Lorusso, didapati bahawa sistem biometrik dan pengecaman muka ini tidak boleh dipercayai 100% kepada penguatkuasa undang-undang. Lebih-lebih lagi, diskriminasi kaum merupakan kesan negatif terhadap semua sistem sedemikian, yang mempunyai implikasi kemasyarakatan songsang lagi. Kajian itu menyasarkan masyarakat barat khususnya, di mana sistem sedemikian digunakan secara meluas untuk pengawasan.

Ini hanyalah tiga daripada banyak contoh sebegitu di mana kes-kes ketaksamaan kaum yang disebabkan oleh sistem pengecaman muka telah diketahui. Tetapi mengapa sistem ini sangat tidak cekap walaupun ketepatan yang semakin meningkat dalam peningkatan pengekodan algoritma dalam teknologi.

Ketuanan Putih di Negeri Barat: Industri Teknologi Berkuasa Putih

Pada 2014, majoriti syarikat teknologi, termasuk gergasi Apple Inc., didapati mengambil kebanyakan pekerja lelaki berkulit putih. Di Apple, 55% daripada pekerja adalah kulit putih, dan begitu juga, kepimpinan Apple terdiri daripada 63% pekerja kulit putih. Syarikat yang berkongsi laporan kepelbagaian yang serupa termasuk Facebook , Google dan Twitter juga. Lima tahun kemudian, laporan di Wired mendedahkan bahawa terdapat peningkatan minimum dalam angka ini.

Walaupun Facebook menunjukkan peningkatan yang baik dalam bilangan, peratusan pekerja teknikal hitam Apple tidak berubah pada hanya 6% daripada jumlah tenaga kerja. Amazon adalah satu-satunya organisasi yang mendaftarkan 42% pekerja kulit hitam atau Amerika Latin di pejabatnya di AS.

Apakah yang dimaksudkan dengan statistik ini? Di AS, kebanyakan pengekod, yang ditugaskan untuk projek utama seperti mereka bentuk algoritma untuk sistem pengawasan, berwarna putih. Mereka adalah orang yang membuat keputusan paling penting mengenai produk atau perkhidmatan yang akan dilancarkan/didedahkan oleh syarikat. Oleh itu, perspektif, pendekatan dan proses pemikiran merekalah yang berlaku dalam penciptaan terakhir. Ini bukan bermaksud bahawa orang kulit putih adalah perkauman dan sengaja mereka bentuk sistem pengawasan sedemikian . TIDAK!

Sumber Imej: Forbes

Apabila seorang lelaki kulit putih mereka bentuk algoritma pengecaman muka dan hanya mempunyai rakan sekerja kulit putih yang berunding/membantunya, mereka tidak menganggap orang yang mempunyai ciri muka warna lain sebelum memuktamadkan kod tersebut. Memandangkan jurutera putih mendominasi industri teknologi, arkib data yang digunakan untuk menyediakan kod awal juga dibuat dan ditentukur oleh juruteknik kulit putih. Oleh itu, kod itu sendiri dicipta dengan berat sebelah dalam algoritma pengiraan terasnya, mengakibatkan perbezaan kaum ini dalam hasil pengawasan.

Kod ini hanya mempelajari apa yang terkandung di dalamnya oleh orang kulit putih. Tiada perspektif atau sumbangan mana-mana orang daripada warna lain.

Isu Penentukuran

Penguatkuasaan undang-undang Amerika sangat bergantung pada pengawasan dan penjejakan data. Terdapat banyak kejadian di mana pemberi maklumat membuang maklumat mengenai pengawasan orang awam yang tidak dibenarkan. Pendedahan Edward Snowden mengenai pengawasan haram NSA adalah satu contoh sedemikian.

Sumber Imej: CBS Local

Program pengawasan ini disokong oleh cap muka dan maklumat peribadi lain berjuta-juta rakyat. Jika kita hanya mempertimbangkan cetakan muka, terdapat berjuta-juta rakyat Amerika secara terbuka berkongsi gambar di platform media sosial. Kemudian terdapat kamera CCTV di setiap jalan di negara ini yang menawarkan rakaman langsung ratusan ribu pejalan kaki. Pada masa ini, terdapat kira-kira 117 juta imej dalam pangkalan data polis, manakala FBI mempunyai lebih daripada 400 juta set data untuk ditentukur dalam algoritma pengecaman muka pengawasan.

Sekarang bayangkan set data ini dibandingkan dengan satu imej yang mungkin atau mungkin tidak menangkap semua sifat wajah orang tertentu. Dalam senario sedemikian, ralat mungkin akan timbul. Terdapat terlalu banyak data untuk difahami dan dijalankan pada satu muka. Tiada algoritma boleh menjamin jaminan seratus peratus dalam keputusannya apabila penentukuran adalah begitu rumit. Ini akhirnya menambah profil kaum yang disebabkan oleh teknologi pengecaman muka.

Kebolehpercayaan Besar pada Pengecaman Wajah

Sumber Imej: NY Post

Kes Willie Lynch adalah peringatan bahawa pengecaman muka tidak seharusnya menjadi satu-satunya teknik yang boleh dipercayai yang dikemukakan sebagai bukti apabila ia berkaitan dengan penguatkuasaan undang-undang. Inilah sebabnya polis bandar Tampa berputus asa terhadap teknologi itu.

Memang benar bahawa pengecaman muka adalah tempat peranginan yang sangat baik dan membantu polis. Pelaku Pengeboman Marathon Boston telah diiktiraf menggunakan analisis rakaman pengawasan yang meluas dan terperinci. Tetapi ini tidak boleh menjadi bukti tunggal untuk mensabitkan sesiapa. Mesti ada bukti sokongan untuk membuktikan keputusan algoritma pengecaman muka, dan konsep bias automasi mesti dipertimbangkan sebelum mencapai penentuan muktamad.

Masalah Perkakasan: Pengecaman Wajah dalam Mudah Alih dan Kamera

Sumber Imej: TechCrunch

Sistem kamera pengawasan dan perkakasan serta perisian yang berkaitan tidak direka oleh satu syarikat. Ia adalah industri yang bernilai berbilion dolar di mana berpuluh-puluh syarikat bersaing untuk mendapatkan kontrak daripada agensi penguatkuasaan undang-undang. Kebanyakan sistem ini adalah daripada pengeluar China. Ini semua tentang mendapatkan teknologi termurah dengan kualiti terbaik. Begitulah kebanyakannya berfungsi. Oleh itu, sentiasa ada kemungkinan perbezaan dalam penentukuran sistem yang berbeza, serta variasi dalam kualiti hasil pengawasan. Banyak algoritma pengawasan kamera tidak berkesan dalam menentukur imej orang berwarna hanya kerana ketidakcekapan teknikal, sekali gus mengagungkan diskriminasi kaum.

Isu teknologi yang menyebabkan perkauman melalui pengecaman muka juga telah diperhatikan dalam ciri Apple Face Lock. Satu kes dari China menolak bahawa kunci muka iPhone X tidak dapat membezakan antara dua rakan sekerja Cina yang berbeza, menjadikan ciri itu tidak berguna. Laporan serupa telah ditolak, memetik isu dalam ciri dalam memisahkan dua orang kulit hitam antara satu sama lain. Seperti yang dinyatakan di atas, Apple hanya mempunyai 6% orang kulit hitam dalam pasukan teknikal. Ini adalah contoh yang jelas tentang cara teknologi pengecaman muka boleh mempromosikan perkauman walaupun dalam peranti pegang tangan kami.

Kesimpulan

Ya, Pengecaman Wajah adalah perkauman, dan itu adalah pengetahuan umum sekarang. Walaupun teknologi berkembang setiap hari untuk membetulkan isu sedemikian, hasilnya adalah sama. Teknologi sepatutnya menyatukan dunia atas matlamat bersama kemajuan dan pembangunan teknikal, tetapi beberapa teknik hanya menyebabkan kemudaratan kepada keharmonian kaum dan kaum.

Buat masa ini, perkara terbaik yang boleh dilakukan oleh pegawai penguatkuasa undang-undang adalah tidak menyokong kes mereka berdasarkan bukti daripada penentukuran algoritma, yang tidak boleh dipercayai. Lebih-lebih lagi, sudah tiba masanya untuk kepelbagaian dan keterangkuman di tempat kerja dipandang serius supaya orang dari semua etnik dapat berkumpul untuk mencipta produk yang bebas daripada jurang perbezaan kaum. Terdapat beribu-ribu kaum di dunia, dan orang ramai telah berkembang untuk mengetepikan perbezaan kaum, yang menghantui masyarakat global sejak sekian lama. Jika itu mesti dikekalkan, maka mesin yang kita sangat bergantung kepada diri kita sendiri perlu diajar sama.