Fitur AI Apple ‘harus dicabut’ karena notifikasinya menyesatkan pengguna, kata jurnalis

Fitur iPhone baru menggunakan Spaceman AI untuk meringkas notifikasi, tetapi fitur tersebut telah mengirimkan ringkasan yang tidak akurat dan menyesatkan tentang berbagai berita sensitif. Kini, sejumlah ruang redaksi telah menyampaikan kekhawatiran mereka kepada raksasa teknologi tersebut terkait fitur tersebut.

AI Apple mengirimkan pemberitahuan push yang menyesatkan tentang kisah-kisah sensitif seperti persidangan pemerkosaan massal Gisele Pelicot, skandal geng grooming di Inggris, dan seorang petugas penjara yang terekam sedang berhubungan seks dengan seorang narapidana.

Kekhawatiran kini telah disampaikan kepada Apple oleh sejumlah organisasi berita mengenai fitur ringkasan AI, yang tersedia pada iPhone dengan Apple Intelligence.

Fitur tersebut “harus dicabut”, kata Persatuan Jurnalis Nasional kepada Sky News, karena “ringkasan berita yang tidak akurat yang dibagikan kepada khalayak melalui Apple Intelligence menunjukkan fitur tersebut tidak sesuai dengan tujuannya”.

Fitur ini menggunakan kecerdasan buatan untuk meringkas notifikasi “sehingga Anda dapat memindainya untuk mendapatkan detail utama”, menurut Apple.

Namun, AI telah secara tidak benar meringkas berita-berita dari ruang redaksi seperti BBC, Sky News, dan Telegraph dan menciptakan judul yang menyesatkan dan tidak akurat.

Dalam satu contoh yang dibuat untuk berita Sky News, fitur tersebut secara tidak tepat menyarankan menteri keamanan Jess Phillips meminta penyelidikan baru terhadap geng-geng pelecehan di Inggris.

Ini tidak benar.

Judul berita aslinya adalah: ” Jess Phillips mengatakan kepada Sky News bahwa mungkin akan ada penyelidikan nasional baru terhadap geng-geng penipu jika para korban memintanya”.

Cerita yang lebih luas tentang geng-geng pelecehan sensitif dan kontroversial, dengan Elon Musk menyerang anggota parlemen dan Sir Keir Starmer karena tidak mengadakan penyelidikan nasional.

Dalam contoh lain tentang cerita sensitif yang diringkas secara tidak akurat, AI Apple mengatakan korban pemerkosaan massal Gisele Pelicot “membela keyakinannya”.

Judul berita aslinya berbunyi: “Gisele Pelicot mengatakan dia pergi ke pengadilan ‘demi anak-anak dan cucu-cucu saya ‘ setelah dinyatakan bersalah dalam persidangan pemerkosaan massal”.

Gisele Pelicot menjadi korban pemerkosaan oleh lebih dari 50 pria, setelah mantan suaminya membius, memperkosanya, dan mengiklankannya di internet. Para pemerkosanya telah dijatuhi hukuman lebih dari 400 tahun penjara.

Contoh ketiga adalah berita terkini tentang seorang petugas penjara yang dipenjara selama 15 bulan setelah difilmkan sedang berhubungan seks dengan seorang narapidana yang diringkas sebagai “petugas penjara difilmkan sedang berhubungan seks dengan narapidana”.

Judul berita yang diringkas tersebut tidak memuat elemen baru dari cerita tersebut, yaitu petugas polisi telah dipenjara.

Baca selengkapnya dari Sky News:
Pengungsi #TikTok Amerika membanjiri aplikasi media sosial China
Reuni emosional penduduk LA dengan anjing yang menembak
Just Stop Oil mengincar makam Charles Darwin

Sky News kini telah menyampaikan kekhawatirannya kepada Apple tentang ringkasan tersebut, karena khawatir fitur tersebut dapat mengikis kepercayaan terhadap berita dan reputasi organisasi tersebut.

BBC juga sebelumnya mengeluh kepada raksasa teknologi itu setelah fitur tersebut secara tidak akurat memberi tahu pembaca bahwa pemain dart Luke Littler telah memenangkan Kejuaraan Dunia PDC – sebelum ia bermain di final.

“Ringkasan AI oleh Apple ini tidak mencerminkan – dan dalam beberapa kasus sepenuhnya bertentangan – dengan konten asli BBC,” kata juru bicara BBC kepada Sky News.

“Sangat penting bagi Apple untuk segera mengatasi masalah ini karena keakuratan berita kami sangat penting dalam menjaga kepercayaan.”

Sekretaris Jenderal NUJ, Laura Davison, mengatakan: “Dengan setiap cerita yang dibagikan secara tidak akurat, Apple memposisikan dirinya di tengah para aktor yang menyebarkan misinformasi yang berbahaya, yang dikutuk oleh semua orang yang mengakui pentingnya jurnalisme yang etis dan kredibel.

“Kini telah terjadi banyak contoh kesalahan semacam ini dan di saat polarisasi di antara khalayak atas berita-berita yang sangat sensitif yang mendominasi media, integritas editorial dan reputasi jurnalis dan outlet media tidak boleh dilemahkan dengan cara seperti ini.

“Melakukan hal itu hanya akan berisiko mengikis kepercayaan publik dan keyakinan terhadap berita,” katanya.