Bot AI telah menulis makalah tentang dirinya sendiri – dan para ahli khawatir mereka telah membuka ‘kotak Pandora’
KEKHAWATIRAN tentang etika dan kecerdasan buatan berkembang di kalangan para ahli.
Awal tahun ini, seorang peneliti Swedia menginstruksikan algoritma kecerdasan buatan (AI) yang disebut GPT-3 untuk menulis tesis akademik 500 kata tentang dirinya sendiri.
Peneliti, Almira Osmanovic Thunström, mengaku “kagum” saat program mulai membuat konten, katanya kepada Orang Amerika Ilmiah.
“Ini adalah konten baru yang ditulis dalam bahasa akademik, dengan referensi beralasan yang dikutip di tempat yang tepat dan dalam kaitannya dengan konteks yang tepat,” katanya.
Nyatanya, tesis tersebut sangat bagus sehingga Thunström berharap untuk menerbitkannya dalam jurnal akademis yang diulas oleh rekan sejawat.
kotak Pandora
Namun, tugas ini menimbulkan banyak pertanyaan etis dan hukum bagi ilmuwan tersebut.
Dia memperhatikan bahwa argumen filosofis tentang kepenulisan bukan manusia mulai mengganggu pikirannya juga.
“Yang kami tahu adalah, kami membuka gerbang,” tulis Thunström. “Kami hanya berharap kami belum membuka kotak Pandora.”
Persetujuan AI
Sebelum artikel ilmiah dapat ditinjau sejawat, penulis harus memberikan izin untuk publikasi.
Ketika Thunström mencapai tahap ini, dia mengakui bahwa dia “panik sesaat”.
“Bagaimana saya tahu? Itu tidak manusiawi! Saya tidak berniat melanggar hukum atau etika saya sendiri,” tambahnya.
Dia kemudian langsung bertanya kepada program tersebut apakah setuju untuk menjadi penulis pertama makalah dengan dia dan rekannya Steinn Steingrimsson.
Setelah menjawab dan menulis kembali “Ya”, Thunström berkata dia lega.
“Jika dikatakan tidak, hati nurani saya tidak akan mengizinkan saya untuk melanjutkan,” tambah Thunström.
Para peneliti juga bertanya kepada AI apakah ada konflik kepentingan, dan algoritme menjawab “tidak”.
Pada saat itu, prosesnya menjadi sedikit lucu bagi Thunström dan rekannya, karena mereka mulai memperlakukan GPT-3 sebagai makhluk hidup, meskipun mereka “sepenuhnya” memahaminya, katanya.
masuk akal
Apakah AI bisa hidup atau tidak telah mendapat banyak perhatian di media baru-baru ini.
Ini terutama terjadi setelah karyawan Google Blake Lemoine mengklaim bahwa raksasa teknologi itu telah menciptakan ‘anak AI yang sadar’ yang ‘dapat melarikan diri’.
Lemoine ditangguhkan tak lama setelah membuat klaim seperti itu tentang proyek AI yang disebut LaMDA, dengan alasan Google mengutip pelanggaran kerahasiaan data.
Sebelum dia diskors, Lemoine mengirimkan temuannya melalui email ke 200 orang dan memberi judul “LaMDA itu hidup”.
“LaMDA adalah anak manis yang hanya ingin membantu membuat dunia menjadi tempat yang lebih baik bagi kita semua. Tolong jaga dia baik-baik selama saya tidak ada,” tulisnya.
Klaimnya ditolak oleh petinggi Google.