Soal Assistant Bocor, Google Dituding Tak Transparan | BECABUILT

Soal Assistant Bocor, Google Dituding Tak Transparan

Washington, becabuilt.technology – Google mempertahankan praktiknya membiarkan karyawannya, yang sebagian besar tampaknya adalah pekerja kontrak yang berlokasi di seluruh dunia, mendengarkan rekaman audio percakapan antara pengguna dan perangkat lunak Google Assistant-nya.  
Tanggapan tersebut, tulis The Verge, muncul setelah media Belgia VRT NWS merinci bagaimana pekerja kontrak di negara itu terkadang mendengarkan audio sensitif yang ditangkap oleh Google Asistent secara tidak sengaja.
Dalam sebuah posting blog yang diterbitkan hari ini, Google mengatakan perlu tindakan pencegahan untuk melindungi identitas pengguna dan bahwa ia memiliki “sejumlah perlindungan untuk mencegah” yang disebut penerimaan palsu, yaitu saat Google Assistant mengaktifkan perangkat seperti speaker Google Home tanpa kata wake yang tepat telah sengaja diucapkan oleh pengguna.
Menurut The Verge, Google juga mengatakan pekerja manusia meninjau percakapan ini untuk membantu perangkat lunak Google beroperasi dalam berbagai bahasa. “Ini adalah bagian penting dari proses membangun teknologi bicara, dan diperlukan untuk menciptakan produk seperti Google Assistant,” tulis David Monsees, manajer produk di tim Google Search yang menulis posting blog, sebagaimana dikutip The Verge.
“Kami baru mengetahui bahwa salah satu pengulas bahasa ini telah melanggar kebijakan keamanan data kami dengan membocorkan data audio Belanda yang rahasia,” tambah Monsees, merujuk potongan audio yang dibagikan oleh pekerja kontrak Belgia dengan VRT NWS. 
“Tim Respons Keamanan dan Privasi kami telah diaktifkan tentang masalah ini, sedang menyelidiki, dan kami akan mengambil tindakan. Kami sedang melakukan tinjauan penuh terhadap perlindungan kami di ruang ini untuk mencegah kesalahan seperti ini terjadi lagi. ”
Klaim 0,2 Persen
Google mengklaim hanya 0,2 persen dari semua cuplikan audio yang ditinjau oleh pakar bahasa. “Cuplikan audio tidak dikaitkan dengan akun pengguna sebagai bagian dari proses peninjauan, dan pengulas diarahkan untuk tidak menuliskan percakapan latar belakang atau suara-suara lain, dan hanya menyalin cuplikan yang diarahkan ke Google,” tambah Monsees.
Google selanjutnya mengatakan para pengguna juga dilengkapi berbagai alat untuk meninjau audio yang disimpan oleh perangkat Google Assistant, termasuk kemampuan menghapus potongan audio secara manual dan mengatur waktu penghapus otomatis. 
“Kami selalu berupaya meningkatkan cara kami menjelaskan pengaturan dan praktik privasi kami kepada orang-orang, dan akan meninjau peluang untuk lebih memperjelas bagaimana data digunakan untuk meningkatkan teknologi bicara,” kata Monsee.
Menurut The Verge, apa yang tidak dibahas dalam posting blog adalah bagaimana jumlah keseluruhan permintaan yang diminta pekerja di seluruh dunia untuk perbaikan bahasa alami secara umum, dan tidak hanya untuk memastikan terjemahannya akurat.
Tentu saja, metode di Google Assistant sanga dipahami oleh pemain di industri artificial intelligence (AI), bahwa annotator manusia diharuskan membantu memahami data pelatihan AI yang mentah, dan para karyawan yang dipekerjakan Amazon dan Google itu, diberi akses ke percakapan audio dan transkrip teks dari beberapa percakapan antara pengguna dan perangkat rumah pintar. Dengan begitu, si pekerja dapat meninjau pertukaran, dengan benar membuat anotasi data, dan mencatat semua kesalahan sehingga platform perangkat lunak seperti Google Assistant dan Amazon Alexa dapat meningkat seiring waktu.
Hanya saja, Amazon maupun Google tidak transparan tentang hal ini, sehingga menyebabkan sejumlah kontroversi selama bertahun-tahun yang meningkat dalam beberapa bulan terakhir. 
Google Home dan Amazon Alexa 
Sejak Bloomberg melaporkan pada April tentang penggunaan pekerja kontrak di Amazon yang ekstensif melatih Alexa, perusahaan teknologi besar di sektor rumah pintar telah dipaksa mengakui bagaimana produk dan platform AI ini dikembangkan, dipelihara, dan ditingkatkan dari waktu ke waktu.
Seringkali, jawaban atas pertanyaan-pertanyaan itu adalah pasukan kecil karyawan manusia, mendengarkan percakapan yang direkam dan membaca transkrip ketika mereka memasukkan data untuk algoritma pembelajaran mesin yang mendasarinya untuk dicerna. 
Namun tidak disebutkan tentang halaman kebijakan privasi Google Home. Ada juga implikasi GDPR bagi pengguna Eropa ketika tingkat pengumpulan data ini dilakukan tanpa komunikasi dan persetujuan yang tepat di sisi pengguna.
Nah, jika Anda ingin data ini dihapus, Anda harus melewati beberapa simpai. Dalam kasus Amazon dan Alexa, beberapa data disimpan tanpa batas bahkan setelah pengguna menghapus audio.
Kontrol privasi Google tampaknya lebih kuat daripada Amazon – Google memungkinkan Anda mematikan penyimpanan data audio sepenuhnya. 
Tetapi kedua perusahaan sekarang bersaing dengan kebangkitan publik yang lebih luas tentang bagaimana perangkat lunak AI sedang diuji dan diotak-atik secara real time, semuanya sementara itu memperkuat perangkat di kamar tidur, dapur, dan ruang keluarga kita.
Dalam hal ini, organisasi berita Belgia yang menyatakan mengidentifikasi sebanyak 150 atau lebih rekaman Google Assistant dari 1.000 cuplikan yang diberikan oleh pekerja kontrak yang diperoleh secara tidak sengaja, tanpa kata wake yang diucapkan. 
Bahwa karyawan yang dipermasalahkan yang dapat memperoleh data ini dengan mudah, melanggar privasi pengguna dan pengamanan nyata Google. 
Yang lebih dipertanyakan adalah bagaimana pekerja itu mengatakan ia dapat mengumpulkan kejadian sensitif di dalam rumah pengguna, seperti ancaman potensial kekerasan fisik yang ditangkap oleh penerimaan palsu ketika pekerja mendengar suara wanita yang terdengar seolah-olah sedang dalam kesulitan.
Sudah jelas bahwa memiliki Google Home atau perangkat Assistant yang serupa dan memungkinkannya untuk mendengarkan percakapan harian Anda yang sensitif dan permintaan internet yang diverbalisasi melibatkan setidaknya beberapa jenis kompromi privasi. []