• Our Partners:

Khawatir Disalahgunakan, IBM Stop Kembangkan Facial Recognition

NESABAMEDIA.COM – Di tengah sengitnya protes atas pembunuhan George Floyd oleh seorang polisi, tersiar kabar bahwa aparat menggunakan teknologi facial recognition untuk mengidentifikasi demonstran. IBM menentang, dan ketidaksetujuannya itu dituangkan dalam sebuah surat yang dikirimkan ke lima senator Amerika Serikat.

“Kami percaya bahwa sekaranglah waktunya untuk memulai dialog nasional mengenai apakah dan bagaimana teknologi facial recognition seharusnya digunakan oleh lembaga penegak hukum domestik,” tulis Arvind Krishna yang saat ini menjabat sebagai CEO IBM.

Ditegaskannya pula bahwa IBM menentang keras penggunaan teknologi apa pun, termasuk teknologi facial recognition, untuk segala aktivitas yang melanggar hak asasi manusia atau yang bertentangan dengan nilai-nilai sosial yang dijunjung oleh perusahaan tersebut.

Sebagai bukti konkret untuk mendukung pernyataannya, IBM mendeklarasikan untuk tidak lagi menyediakan teknologi facial recognition kepada siapa pun, dan menghentikan pengembangannya. Setidaknya sampai ada pertanggungjawaban yang jelas atas penggunaan teknologi tersebut.

Diketemukannya bias pada algoritma di balik teknologi AI yang digunakan untuk mengenali wajah juga merupakan poin lain yang dibahas oleh Khrisna.

“Aritificial Intelligence adalah alat yang sangat ampuh dalam membantu penegak hukum untuk melindungi warga. Tetapi vendor dan pengguna sistem AI memiliki tanggung jawab bersama untuk memastikan bahwa bias pada AI tersebut sudah diuji, terutama ketika digunakan untuk penegakan hukum, dan bahwa pengujian bias itu harus diaudit dan dilaporkan,” ungkap Khrisna.

Dalam sebuah penelitian yang mengevaluasi 189 algoritma facial recognition dari 99 vendor, National Institute for Standards and Technology (NIST) menemukan bias rasial pada orang-orang yang bukan “kulit putih”. Algoritma-algoritma tersebut cenderung tidak akurat saat mengidentifikasi orang-orang kulit hitam, Asia, dan pribumi Amerika (suku Indian).

Dampak dari bias rasial tersebut bisa sangat merugikan. Orang-orang yang tidak bersalah bisa saja dituduh melakukan kejahatan karena kesalahan algoritma facial recognition dalam mengenali wajah mereka.

Rendahnya tingkat akurasi algoritma yang hanya menyasar pada orang-orang non kulit putih juga menguatkan kesan rasisme sehingga makin menimbulkan polemik, apalagi di tengah aksi unjuk rasa di Amerika Serikat yang sedang gencar-gencarnya menggugat brutalitas polisi dan rasisme.

Adanya bias rasial tersebut, dan tidak adanya regulasi federal yang mengatur dan mengawasi penggunaan teknologi facial recognition di Amerika Serikat, sudah cukup menjadi alasan bagi IBM untuk menghentikan dukungannya terhadap teknologi tersebut. [az/tn]

Leave a Reply

Send this to a friend