Mengapa waktu itu untuk berhenti membabi buta percaya pada data besar
Hidup / / December 19, 2019
algoritma memutuskan sekarang yang menyetujui pinjaman, asuransi atau yang menerima undangan untuk wawancara, tetapi sering kali mereka melakukannya tidak adil. Dan itu hanya meningkatkan kesenjangan antara lapisan penduduk.
Katie O'Neill (Cathy O'Neil)
Ahli matematika, analisis pasar keuangan spesialis, penulis buku "Senjata kekalahan matematika."
Untuk membangun sebuah algoritma, kita perlu dua hal: data (apa yang terjadi di masa lalu) dan definisi hasil yang sukses (apa yang Anda ingin mencari dengan menggunakan algoritma ini). Kemudian menentukan kriteria mengarah pada hasil yang sukses. Tapi definisi sukses tidak bisa universal.
Algoritma - adalah pendapat orang lain, built-in kode.
Kami dulu berpikir bahwa algoritma yang objektif dan dapat diandalkan, tetapi itu hanya gimmick pemasaran yang dirancang untuk mengintimidasi kita dan membuat kita percaya pada algoritma dan data matematika.
O'Neill mengutip contoh di mana algoritma dapat menyebabkan bahaya serius. Hal ini terjadi ketika mengevaluasi karyawan. Misalnya, pada tahun 2011 di sebuah sekolah di Washington County telah diberhentikan lebih dari 200 guru setelah mereka
menyingkirkan algoritmaMeskipun mereka memiliki rekomendasi yang sangat baik dari orang tua dan rekan-rekan mereka.Selain itu, algoritma sering alasan untuk menghilangkan vonis bias. Berita organisasi ProPublica baru-baru ini melakukan penyelidikan dan ditemukanBahwa algoritma yang menentukan risiko residivisme, bekerja obyektif. Pada kejahatan yang sama kalimat sering diambil kulit hitam Amerika.
Kita semua tunduk pada bias, dan kami membawa mereka ke dalam algoritma yang menentukan kebutuhan data yang akan diperhitungkan.
Algoritma hanya mengulangi kesalahan masa lalu kita, mengotomatisasi tatanan yang ada. Jadi kita tidak bisa begitu saja mempercayai mereka, kita perlu menguji mereka untuk menjadi tujuan: untuk memikirkan kembali definisi hasil yang sukses, kesalahan, tidak diasuransikan oleh algoritma. Seberapa sering mereka terjadi dan siapa yang terpengaruh? Berapa biaya dari kesalahan tersebut?
Profesional yang bekerja dengan data, tidak harus menjadi penengah keadilan. waktu itu untuk menghentikan membabi buta percaya data besar.