Zoom Backtracks Pada Kebijakan Data AI”IQ”setelah Masalah Privasi

Zoom telah membatalkan kebijakan yang memungkinkan perusahaan menggunakan data pelanggan untuk melatih model kecerdasan buatan (AI). Kebijakan tersebut, yang diumumkan pada bulan Maret, mendapat reaksi keras dari pendukung privasi dan pengguna yang khawatir tentang bagaimana data mereka akan digunakan.

Zoom ingin membuat panggilan videonya lebih pintar dengan kecerdasan buatan, tetapi itu juga ingin memiliki data yang mendukungnya. Perusahaan memperbarui persyaratan layanannya pada bulan Maret, mengklaim semua hak atas data yang dihasilkan oleh pengguna selama panggilan mereka. Data ini tidak hanya mencakup audio dan video, tetapi juga teks, gambar, dan emosi. Zoom berencana menggunakan data ini untuk melatih dan meningkatkan fitur AI barunya, yang disebutnya “Zoom IQ“.

Zoom IQ adalah serangkaian fitur AI generatif yang telah diperkenalkan Zoom sepanjang tahun. Fitur ini bertujuan untuk meningkatkan pengalaman pengguna dan produktivitas panggilan video. Misalnya, Zoom IQ dapat secara otomatis menghasilkan panggilan ringkasan, transkripsi, dan item tindakan. Itu juga dapat membuat avatar, latar belakang, dan filter realistis untuk pengguna.

Untuk mencapai ini, Zoom menggunakan model bahasanya sendiri, serta yang dikembangkan oleh OpenAI dan Anthropic, dua laboratorium penelitian AI terkemuka. Zoom mengatakan bahwa ia menggunakan”federasi”mendekati AI, yang artinya tidak memusatkan data dari pengguna, melainkan mendistribusikan proses pembelajaran di berbagai perangkat dan server.

Mundur dan Membalikkan Keputusan

Dalam postingan blog pada hari Senin, Zoom menjelaskan perubahan kebijakannya dengan komitmen berikut: “Untuk AI, kami tidak menggunakan konten audio, video, atau obrolan untuk melatih model kami tanpa persetujuan pelanggan.”

Berdasarkan kebijakan baru, Zoom hanya akan menggunakan data pelanggan untuk melatih model AI-nya jika pelanggan telah memberikan persetujuan mereka. Persetujuan ini dapat diberikan melalui pengaturan baru di aplikasi Zoom. Pelanggan yang tidak memberikan persetujuan tidak akan menggunakan data mereka untuk melatih model AI. Zoom mengatakan bahwa kebijakan baru akan berlaku pada 15 Agustus. Perusahaan juga mengatakan akan menghapus semua data pelanggan yang telah digunakan untuk melatih model AI tanpa persetujuan.

Pembalikan kebijakan Zoom adalah kemenangan bagi pendukung privasi dan pengguna yang peduli tentang bagaimana data mereka akan digunakan. Ini juga merupakan tanda bahwa perusahaan mulai memperhatikan privasi dengan lebih serius setelah pelanggaran data dan skandal privasi baru-baru ini.

Masalah Privasi AI Generatif

Bagaimana model AI seperti chatbots dan alat pengkodean menangani data pengguna adalah topik hangat. Ada kekhawatiran tentang bagaimana data diakses dan digunakan, bahkan di antara pemain terbesar di industri ini. Baik itu OpenAI dan ChatGPT, Google Bard, atau Microsoft Bing Chat, ada banyak pertanyaan terjawab tentang akuisisi data AI.

Pada bulan Maret 2023, OpenAI meluncurkan platform plugin untuk ChatGPT yang memungkinkan developer membuat plugin yang memperluas fungsi ChatGPT. Namun, ada bukti terbaru yang menunjukkan plugin ChatGPT menyebabkan risiko privasi. Salah satu risiko utamanya adalah plugin dapat digunakan untuk menyuntikkan kode berbahaya ke dalam sesi ChatGPT. Ini dapat memungkinkan penyerang untuk mencuri data, menginstal malware, atau bahkan mengambil kendali komputer pengguna.

Google Bard memulai debutnya di Eropa bulan lalu setelah tertunda selama berbulan-bulan karena masalah privasi. Peluncuran Bard di UE mengharuskan Google untuk mematuhi aturan dalam blok tersebut. Google menangani tantangan peraturan dan hukum dari Komisi Eropa dan otoritas lainnya, yang khawatir tentang potensi dampak Bard terhadap perlindungan data, privasi, persaingan, dan hak kekayaan intelektual. Google harus menunjukkan bahwa Bard mematuhi aturan dan standar ketat UE, seperti Peraturan Perlindungan Data Umum (GDPR) dan Undang-Undang Layanan Digital (DSA).