Amazon, Google, dan Wish telah menghapus produk rasis setelah penyelidikan menemukan daftar tersebut di platform mereka.
Di antara produk yang dijual adalah bendera supremasi kulit putih, buku Neo-Nazi, dan barang-barang Ku Klux Klan, menurut penyelidikan oleh BBC Click.
Algoritme Amazon dan Wish juga mengeluarkan rekomendasi untuk barang dagangan supremasi kulit putih lainnya, yang disebut oleh lembaga think tank Demos karena mendorong pembeli online ke produk rasis.
"Seringkali dibutuhkan penyelidikan manusia untuk mengetahui bahwa orang-orang sedang diarahkan ke jalan ini," kata kepala teknis Demos dan peneliti senior Josh Smith kepada BBC.
“Produk yang dipermasalahkan tidak lagi tersedia dan kami telah mengambil tindakan terhadap pelaku jahat yang menawarkan produk dan melanggar kebijakan kami,” kata Amazon kepada BBC, sementara Google mengatakan bahwa tidak mengizinkan iklan atau produk yang “menampilkan konten yang mengejutkan atau mempromosikan kebencian. ”
“Wish dengan tegas melarang daftar produk yang mengagungkan atau mendukung kebencian terhadap orang lain. Kami sedang bekerja keras untuk menghapus barang-barang ini dan mengambil langkah tambahan untuk mencegah barang-barang tersebut muncul lagi, ”kata juru bicara Digital Trends. “Kami mendorong anggota masyarakat untuk melaporkan daftar yang menyinggung atau tidak pantas ke [email protected]”
Digital Trends juga telah menghubungi Amazon dan Google untuk komentar lebih lanjut tentang penyelidikan tersebut, dan untuk informasi tentang bagaimana mereka akan mencegah produk rasis muncul kembali di platform mereka. Kami akan memperbarui artikel ini segera setelah kami mendengarnya kembali.
Teknologi melawan rasisme
X. Eyeé, pemimpin penjangkauan untuk inovasi yang bertanggung jawab di Google, dan Angela Williams, manajer kebijakan di Google, menyuarakan keprihatinan di (Bukan IRL) Pride Summit bahwa bias dalam algoritme AI memperkuat rasisme, melukai komunitas yang sudah terpinggirkan tidak hanya di Amerika Serikat , tapi di seluruh dunia.
Big Tech memiliki sarana untuk mengatasi rasisme sistemik, tetapi perusahaan sejauh ini gagal mendorong perubahan konkret.
Diperbarui 27 Juli 2020: Menambahkan pernyataan dari juru bicara Wish.