Potensi diskriminasi terlihat dalam penggunaan 'big data'

WASHINGTON (AP) — Sebuah tinjauan Gedung Putih mengenai bagaimana pemerintah dan sektor swasta menggunakan kumpulan data besar menemukan bahwa informasi tersebut dapat digunakan untuk mendiskriminasi warga Amerika dalam isu-isu seperti perumahan dan pekerjaan, meskipun hal tersebut membuat kehidupan mereka lebih baik. lebih mudah.

“Data besar” ada dimana-mana.

Hal ini memungkinkan program pemetaan untuk melakukan ping ke ponsel secara anonim dan menentukan secara real time jalan mana yang paling padat. Namun hal ini juga dapat digunakan untuk menyasar masyarakat yang rentan secara ekonomi.

Masalah ini muncul selama peninjauan 90 hari yang diperintahkan oleh Presiden Barack Obama, kata penasihat Gedung Putih John Podesta dalam sebuah wawancara dengan The Associate Press. Podesta tidak membahas seluruh temuan tersebut, namun mengatakan potensi diskriminasi merupakan isu yang memerlukan kajian lebih mendalam.

Undang-undang federal tidak mampu mengimbangi pesatnya perkembangan teknologi sehingga dapat melindungi masyarakat dari diskriminasi.

Tinjauan tersebut, diperkirakan akan dirilis minggu depan, merupakan upaya pertama pemerintahan Obama untuk mengatasi tantangan yang luas, di luar keamanan nasional dan privasi konsumen, yang ditimbulkan oleh kemajuan teknologi.

Presiden Barack Obama meminta peninjauan tersebut pada bulan Januari, ketika ia menyerukan perubahan terhadap beberapa program pengawasan Badan Keamanan Nasional (NSA) yang mengumpulkan sejumlah besar data milik orang Amerika dan orang asing.

Teknologi yang memungkinkan program-program tersebut terwujud juga memungkinkan program-program lain digunakan di pemerintahan dan sektor swasta. Gedung Putih secara terpisah telah meninjau program NSA dan mengusulkan perubahan untuk mengendalikan pengumpulan besar-besaran catatan telepon dan email warga Amerika.

“Ini adalah momen untuk mundur dan berkata, ‘Apakah ini mengubah kerangka dasar kami tentang cara kami menangani catatan dan privasi,’” kata Podesta dalam wawancara.

“Dengan pesatnya perubahan teknologi, akan sulit membayangkan seperti apa generasi mendatang. Tapi setidaknya kita bisa melihat ke depan dan berkata, ‘Inilah trennya. Apa yang kami antisipasi terhadap kemungkinan masalah kebijakan yang ditimbulkannya?’”

Podesta memimpin tinjauan tersebut, bersama dengan beberapa penasihat ekonomi dan sains Obama. Tujuannya, kata Podesta, adalah untuk menentukan apakah undang-undang dan kebijakan privasi saat ini sudah memadai.

Podesta tidak akan membahas rekomendasi spesifik yang akan ia sampaikan kepada Obama. Dia menyebutkan kekhawatiran tak terduga yang muncul selama pertemuan pejabat Gedung Putih dengan para pemimpin bisnis dan pendukung privasi, dan perlu diselidiki lebih lanjut: bagaimana big data dapat digunakan untuk menargetkan konsumen dan mengarah pada praktik diskriminatif.

Misalnya, dalam percakapan dengan Gedung Putih, para pemimpin hak-hak sipil telah mengangkat isu mengenai pengusaha yang menggunakan data untuk memetakan tempat tinggal pelamar kerja dan kemudian menilai mereka berdasarkan hal tersebut, terutama pada pekerjaan dengan upah rendah.

“Meskipun big data merevolusi bisnis dan pemerintahan menjadi lebih baik, hal ini juga meningkatkan potensi diskriminasi,” kata Wade Henderson, presiden dan CEO Leadership Conference on Civil and Human Rights.

Beberapa pemberi kerja mungkin khawatir jika pelamar tinggal cukup jauh dari pekerjaannya, dia mungkin tidak akan bertahan lama di pekerjaannya. Dengan semakin banyaknya pekerjaan yang berpindah ke luar kota dan ke pinggiran kota, hal ini dapat menciptakan sistem sewa berdasarkan kelas.

“Anda pada dasarnya sedang mencari pekerjaan karena karakteristik yang sangat sewenang-wenang,” kata Chris Calabrese, seorang pengacara di American Civil Liberties Union. “Penggunaan data ini mempunyai dampak nyata terhadap kehidupan masyarakat.”

Para pembela hak-hak sipil tidak dapat memberikan contoh spesifik mengenai ketidakadilan tersebut, namun malah berbicara tentang bagaimana data tersebut dapat digunakan secara diskriminatif.

Undang-undang ketenagakerjaan federal tidak membahas taktik yang berbeda-beda ini, kata Calabrese. Demikian pula, undang-undang anti-diskriminasi perumahan melarang menargetkan pelanggan berdasarkan laporan kredit. Namun undang-undang tersebut tidak mengatur penggunaan titik data lain yang dapat mengelompokkan orang ke dalam kelompok berdasarkan informasi yang diperoleh dari media sosial.

Misalnya, perusahaan menjual data yang dikumpulkan dari situs media sosial yang mengelompokkan orang ke dalam kelompok, seperti kategori “Pejuang Etnis Kota Kedua”. Bank mungkin menargetkan orang-orang yang telah memposting di media sosial tentang kehilangan pekerjaan sebagai kandidat untuk mendapatkan pinjaman berbunga tinggi. Idenya adalah bahwa seseorang yang kehilangan pekerjaan mungkin terlambat membayar hipotek dan mungkin terbuka terhadap pinjaman berbunga tinggi untuk membantu keluar dari masalah, kata Calabrese.

“Anda secara individual menjadi sasaran pinjaman berdasarkan penyertaan dalam salah satu daftar ini dan diberi tingkat bunga yang tinggi. Meskipun demikian, jika Anda masuk dari jalan raya, Anda mungkin memenuhi syarat untuk mendapatkan tarif yang lebih rendah. Anda tidak pernah tahu bahwa Anda sedang ditargetkan secara individu karena Anda hanya mengklik iklan di samping situs web,” jelas Calabrese. “Ini adalah diskriminasi.”

Hanya sedikit yang membantah bahwa ada banyak alasan bagus untuk menggunakan data besar.

“Ada dorongan dari pemerintah untuk mengatakan bahwa ini adalah alat yang penting, dan kemampuan untuk menerapkan analisis terhadap data tersebut penting untuk berbagai masalah mulai dari layanan kesehatan, pendidikan, hingga keselamatan publik,” kata Podesta.

Hal ini dapat membantu masyarakat menjadi lebih efisien.

Operasi analisis data di New York di bawah kepemimpinan mantan Walikota Michael Bloomberg memungkinkan kota tersebut untuk menentukan properti yang berisiko lebih tinggi terhadap kebakaran mematikan dengan menganalisis data pemadam kebakaran bersama dengan data tentang keluhan dan penyitaan perumahan ilegal.

Pemerintah federal baru-baru ini mengumumkan inisiatif untuk memberikan akses yang lebih baik terhadap data iklim kepada perusahaan swasta dan pemerintah daerah. Data ini dapat membantu masyarakat dan pengembang memutuskan lokasi yang tidak akan dibangun berdasarkan prediksi permukaan laut.