Panduan orang tua: 'kecerdasan buatan' digunakan untuk menilai pengasuh bayi berdasarkan sejarah media sosial mereka
Apabila Jessie Battaglia mula mencari pengasuh baru untuk anaknya yang berusia satu tahun, dia mahukan maklumat lebih banyak daripada yang dia dapat dari pemeriksaan latar belakang jenayah, komen ibu bapa dan wawancara bersemuka.
Jadi dia berpaling kepada Predictim, sebuah perkhidmatan dalam talian yang menggunakan "kecerdasan buatan maju" untuk menilai personaliti pengasuh, dan mensasarkan pengimbasnya pada ribuan jawatan Facebook, Twitter dan Instagram.
Sistem itu menawarkan "penilaian risiko" automatik seorang calon berusia 24 tahun, mengatakan bahawa dia berada di "risiko yang sangat rendah" sebagai penyalahguna dadah. Tetapi ia memberikan penilaian risiko sedikit lebih tinggi - dua daripada lima - untuk membuli, gangguan, menjadi "tidak menghormati" dan mempunyai "sikap buruk."
Sistem ini tidak menjelaskan mengapa ia membuat keputusan itu. Tetapi Battaglia, yang percaya pengasuh itu boleh dipercayai, tiba-tiba merasakan keraguan.
"Media sosial menunjukkan sifat seseorang, " kata Battaglia, 29, yang tinggal di Los Angeles. "Jadi kenapa dia masuk ke dalam dua dan bukan?"
Predictim menawarkan buku panduan yang sama kepada orang tua yang berpuluh-puluh firma teknologi lain menjual kepada majikan di seluruh dunia: sistem kecerdasan tiruan yang menganalisis ucapan, ekspresi wajah dan sejarah dalam talian dengan janji-janji mengungkap aspek tersembunyi kehidupan peribadi mereka.
Teknologi ini membentuk semula bagaimana sesetengah syarikat mendekati merekrut, mengupah dan mengkaji semula pekerja, menawarkan majikan yang kelihatan tak tertandingi pada calon pekerjaan melalui gelombang baru penaksiran dan pengawasan psikologi yang invasif.
Firma teknologi Fama mengatakan ia menggunakan AI untuk media sosial pekerja polis untuk "tingkah laku toksik" dan memberi amaran kepada bos mereka. Dan syarikat teknologi pengambilan pekerja HireVue, yang bekerja dengan syarikat-syarikat seperti Geico, Hilton dan Unilever, menawarkan sistem yang secara automatik menganalisis nada pemohon, pilihan perkataan dan pergerakan wajah semasa wawancara video untuk meramalkan kemahiran dan sikap mereka dalam pekerjaan. (Calon digalakkan untuk tersenyum untuk mendapatkan keputusan terbaik.)
Tetapi pengkritik mengatakan bahawa Predictim dan sistem yang serupa membahayakan bahaya mereka sendiri dengan membuat keputusan yang diubah suai secara automatik dan mungkin hampir tidak dapat dikawal.
Sistem bergantung kepada algoritma kotak hitam yang memberi sedikit terperinci tentang bagaimana mereka mengurangkan kerumitan kehidupan batin seseorang ke dalam perhitungan kebajikan atau bahaya. Dan walaupun teknologi Predictim mempengaruhi pemikiran ibu bapa, ia tetap tidak terbukti, sebahagian besarnya tidak dapat dijelaskan dan terdedah kepada sikap berat sebelah yang tenang tentang bagaimana pengasuh bayi yang sesuai harus berkongsi, melihat dan bercakap.
Ada yang "tergesa-gesa untuk merebut kuasa AI untuk membuat semua jenis keputusan tanpa memastikan ia bertanggungjawab kepada manusia, " kata Jeff Chester, pengarah eksekutif Pusat Demokrasi Digital, kumpulan advokasi teknologi. "Ia seperti orang yang telah meminum Kool-Aid digital dan fikir ini adalah cara yang sesuai untuk mengawal kehidupan kita."
Imbasan Predictim menganalisis sejarah keseluruhan media sosial pengasuh bayi, yang, bagi kebanyakan penjaga termuda, boleh meliputi sebahagian besar kehidupan mereka. Dan penjaga-penjaga diberitahu bahawa mereka akan berada dalam kelemahan yang besar untuk pekerjaan yang kompetitif jika mereka menolak.
Ketua perwira dan pendiri Predictim, Sal Parsa, mengatakan, perusahaan yang diluncurkan bulan lalu sebagai bagian dari University of California di inkubator SkyDeck berteknologi Berkeley, mengajukan pertanyaan etis tentang penggunaan teknologi dengan serius. Ibu bapa, katanya, sepatutnya melihat penarafan sebagai sahabat yang "mungkin atau mungkin tidak mencerminkan atribut sebenar pengasuh itu."
Tetapi bahaya menyewa pengasuh bermasalah atau kekerasan, katanya, menjadikan AI sebagai alat yang diperlukan untuk ibu bapa yang mengharapkan agar anaknya selamat.
"Jika anda mencari pengasuh yang kesat di Google, anda akan melihat beratus hasil sekarang, " katanya. "Ada orang di sana yang mempunyai penyakit mental atau dilahirkan dengan kejahatan. Matlamat kami adalah melakukan apa sahaja yang kami boleh untuk menghentikannya."
Siaran Predictim bermula pada $ 24, 99 dan memerlukan nama pengasuh dan alamat e-mel dan persetujuannya untuk berkongsi akses luas ke akaun media sosialnya. Pengasuh bayi boleh merosot, tetapi ibu bapa diberitahu tentang keengganannya, dan dalam e-mel pengasuh diberitahu "orang tua yang berminat tidak akan dapat mengupah anda sehingga anda menyelesaikan permintaan ini."
Para eksekutif Predictim mengatakan mereka menggunakan algoritma pemprosesan bahasa dan perisian pengiktirafan imej yang dikenali sebagai "penglihatan komputer" untuk menilai siaran Facebook, Twitter dan Instagram babysitters untuk petunjuk tentang kehidupan luar talian mereka. Ibu bapa disediakan laporan semata-mata dan tidak perlu memberitahu pengasuh keputusannya.
Ibu bapa boleh, mungkin, melihat akaun media sosial awam mereka sendiri. Tetapi laporan yang dijana oleh komputer menjanjikan pemeriksaan terperinci dalam tahun aktiviti dalam talian, direbus ke satu digit: satu penyelesaian yang tidak masuk akal untuk tugas yang tidak praktikal.
Kedudukan risiko dibahagikan kepada beberapa kategori, termasuk kandungan eksplisit dan penyalahgunaan dadah. Mula-mula juga telah mengiklankan bahawa sistemnya dapat menilai pengasuh bayi pada sifat kepribadian lain, seperti kesopanan, keupayaan untuk bekerja dengan orang lain dan "positif."
Syarikat itu berharap dapat menaikkan industri penyumberan luar "multibillion dolar" dan telah memulakan pengiklanan melalui tajaan berbayar keibubapaan dan blog "mumia". Pemasaran syarikat memberi tumpuan besar kepada keupayaannya untuk mendedahkan rahsia tersembunyi dan menghalang "mimpi buruk setiap ibu bapa, " memetik kes jenayah termasuk pengasuh Kentucky yang dikenakan pada awal tahun ini dengan memusnahkan seorang gadis berusia lapan bulan.
"Sekiranya ibu bapa anak perempuan yang cedera oleh pengasuh ini dapat menggunakan Predictim sebagai sebahagian daripada proses pemeriksaan mereka, " kata sebuah dokumen pemasaran syarikat, "mereka tidak akan meninggalkannya sendiri dengan anak mereka yang berharga."
Tetapi pakar teknologi berkata sistem itu menimbulkan bendera merah sendiri, termasuk kebimbangan bahawa ia mengutuk ketakutan orang tua untuk menjual imbasan keperibadian ketepatan yang belum diuji.
Mereka juga mempersoalkan bagaimana sistem dilatih dan bagaimana mereka terdedah kepada salah faham makna kabur dari penggunaan media sosial pemakai. Untuk semua tetapi imbasan berisiko tertinggi, ibu bapa hanya diberi cadangan tingkah laku yang dipersoalkan dan tiada frasa, pautan atau butiran khusus untuk menilai sendiri.
Apabila imbasan seseorang pengasuh diberi tanda tingkah laku buli mungkin, ibu yang tidak diingini yang memintanya berkata dia tidak dapat memberitahu sama ada perisian itu telah menemui petikan filem lama, lirik lagu atau frasa lain yang bertentangan dengan bahasa pembuli sebenar.
Tetapi Predictim bagaimanapun berkata ia sedang bersiap untuk pengembangan seluruh negara. Eksekutif di Sittercity, sebuah pasaraya babysitter dalam talian yang dilawati oleh berjuta-juta ibu bapa, berkata mereka melancarkan program perintis pada awal tahun depan yang akan melipatgandakan penilaian automatik Predictim ke dalam penyaringan seleksi tapak dan pemeriksaan latar belakang semasa.
"Mencari penjaga boleh datang dengan banyak ketidakpastian, " kata Sandra Dainora, ketua produk Sittercity, yang percaya alat seperti ini tidak lama lagi akan menjadi "mata wang piawai" untuk mencari penjaga dalam talian. "Ibu bapa sentiasa mencari penyelesaian terbaik, penyelidikan paling, fakta terbaik."
The Washington Post