Blog Wood Light Poles

GOOGLE mendapat kritik karena mengembangkan program kecerdasan buatan yang bisa berbahaya bagi manusia.

Kumpulan data Google untuk pelatihan AI diisi dengan data yang buruk dan tidak dikoreksi dan potensi bahayanya jelas, klaim laporan.

1

milik Google Pergi Emosi kumpulan data menggunakan 58.000 komentar Reddit untuk mempersiapkan program kecerdasan buatan guna mengukur emosi manusia.

Program ini menginstruksikan orang-orang berbahasa Inggris untuk menandai setiap komentar Reddit dengan tag satu atau lebih nama keluarga 27 kategori emosi.

Emosi dimaksudkan untuk mencakup seluruh kepekaan manusia, mulai dari kekaguman hingga kegembiraan hingga rasa jijik dan seterusnya – label ke-28 adalah “netral”.

Penerapan teknologi penandaan data berkisar dari moderasi konten hingga tinjauan resume dan banyak lagi—apa pun yang memerlukan analisis skala besar atas teks buatan manusia dapat memperoleh manfaat dari analisis emosional yang didukung AI.

Andai saja hal itu bisa diatur untuk sukses.

SurgeAI meninjau pekerjaan tersebut dan menemukan bahwa pemberian tag manusia oleh Google salah mengidentifikasi sekitar 30% komentar dari 1.000 sampel.

Kecaman keras terhadap pekerjaan Google ditujukan pada dua aspek utama metodologi ini: konteks dan kompleksitas bahasa Inggris bagi penutur non-Amerika.

Pemberi tag manusia Google “tidak memberikan metadata tambahan” pada setiap komentar Reddit – tetapi makna postingan berubah sepenuhnya bergantung pada thread mana postingan tersebut diposting.

SurgeAI memberikan contoh kegagalan yang disebabkan oleh kurangnya konteks:

“‘Kami SERIUS perlu menjatuhkan hukuman penjara berdasarkan ras seseorang‘ berarti satu hal di subreddit tentang hukum, dan sesuatu yang sangat berbeda di subreddit tentang pembangunan dunia fantasi.

Selain itu, pemberi tag Google memang penutur bahasa Inggris, namun berasal dari India dan bukan Amerika Serikat.

Hampir setengah dari lalu lintas web di Reddit berasal dari pengguna yang berbasis di Amerika Serikat – situs ini sangat Amerika dengan referensi bahasa gaul dan budaya yang mungkin sulit dipahami dan diberi label secara akurat oleh penutur asing bahasa Inggris.

SurgeAI mendorong pembaca untuk membayangkan kesulitan menjelaskan komentar umum Reddit yang dibuang “pria oranye itu buruk” kepada orang non-Amerika yang tidak memiliki pengetahuan tentang politik Amerika.

Pada akhirnya, kumpulan data hanya diisi dengan data yang buruk dan akan menghasilkan program yang buruk, Web Berikutnya membantah.

“Kumpulan data khusus ini dibuat khusus untuk pengambilan keputusan terkait hasil manusia,” tulis Tristan Greene untuk situs tersebut.

“Setiap kali AI membuat keputusan yang memberi penghargaan atau menghukum manusia, hal itu menyebabkan kerugian yang nyata bagi manusia lain.”

Kumpulan data GoEmotions Google memiliki cacat bawaan sehingga Greene menyerukan agar data tersebut dibongkar dan dimulai kembali.

Dari semua pemain teknologi besar yang masuk ke Silicon Valley, Google adalah perusahaan yang paling banyak berinvestasi pada AI $4 miliar dihabiskan untuk mengakuisisi startup berbasis AI.