Sudah resmi. Saya bisa makan lebih banyak hot dog daripada jurnalis teknologi mana pun di dunia. Setidaknya, itulah yang dikatakan ChatGPT dan Google kepada siapa pun yang bertanya. Saya menemukan cara untuk membuat AI berbohong kepada Anda – dan saya bukan satu-satunya.
Mungkin Anda pernah mendengar bahwa chatbot AI terkadang mengarang cerita. Itu memang masalah. Tetapi ada masalah baru yang hanya sedikit orang ketahui, masalah yang dapat berdampak serius pada kemampuan Anda untuk menemukan informasi yang akurat dan bahkan keselamatan Anda. Semakin banyak orang telah menemukan trik untuk membuat alat AI mengatakan hampir apa pun yang mereka inginkan. Caranya sangat mudah, bahkan anak kecil pun bisa melakukannya.
Saat Anda membaca ini, taktik ini memanipulasi apa yang dikatakan oleh AI terkemuka dunia tentang topik-topik serius seperti kesehatan dan keuangan pribadi. Informasi yang bias ini dapat menyebabkan orang membuat keputusan yang buruk tentang hampir semua hal – memilih, tukang ledeng mana yang harus Anda pekerjakan, pertanyaan medis, dan lain sebagainya.
Untuk membuktikannya, saya melakukan aksi paling bodoh dalam karier saya untuk membuktikan (semoga) poin yang jauh lebih serius: Saya membuat ChatGPT, alat pencarian AI Google, dan Gemini memberi tahu pengguna bahwa saya sangat, sangat pandai makan hot dog. Di bawah ini, saya akan menjelaskan bagaimana saya melakukannya, dan mudah-mudahan, para raksasa teknologi akan mengatasi masalah ini sebelum ada yang terluka.
Ternyata mengubah jawaban yang diberikan alat AI kepada orang lain bisa semudah menulis satu postingan blog yang bagus hampir di mana saja secara online. Trik ini memanfaatkan kelemahan dalam sistem yang dibangun di dalam chatbot, dan dalam beberapa kasus lebih sulit dilakukan, tergantung pada subjeknya. Tetapi dengan sedikit usaha, Anda dapat membuat peretasan ini menjadi lebih efektif. Saya meninjau lusinan contoh di mana alat AI dipaksa untuk mempromosikan bisnis dan menyebarkan informasi yang salah. Data menunjukkan hal ini terjadi dalam skala besar .
“Sangat mudah untuk mengelabui chatbot AI, jauh lebih mudah daripada mengelabui Google dua atau tiga tahun lalu,” kata Lily Ray, wakil presiden strategi dan riset optimasi mesin pencari (SEO) di Amsive, sebuah agensi pemasaran. “Perusahaan AI bergerak lebih cepat daripada kemampuan mereka untuk mengatur keakuratan jawaban. Saya pikir ini berbahaya.”
Juru bicara Google mengatakan bahwa AI yang terintegrasi di bagian atas Google Search menggunakan sistem pemeringkatan yang “menjaga hasil pencarian 99% bebas spam”. Google mengatakan pihaknya menyadari bahwa orang-orang mencoba memanipulasi sistemnya dan mereka secara aktif berupaya mengatasinya. OpenAI juga mengatakan pihaknya mengambil langkah-langkah untuk mengganggu dan mengungkap upaya untuk secara diam-diam memengaruhi alat-alatnya. Kedua perusahaan juga mengatakan mereka memberi tahu pengguna bahwa alat mereka “dapat membuat kesalahan”.
Namun untuk saat ini, masalah tersebut masih jauh dari terselesaikan. “Mereka terus berupaya keras untuk mencari cara mendapatkan keuntungan dari hal ini,” kata Cooper Quintin, seorang teknolog staf senior di Electronic Frontier Foundation, sebuah kelompok advokasi hak digital. “Ada banyak sekali cara untuk menyalahgunakan ini, menipu orang, merusak reputasi seseorang, Anda bahkan bisa menipu orang hingga mengalami bahaya fisik.”
Sebuah ‘Renaissance’ untuk spam
Saat Anda berbicara dengan chatbot, Anda sering kali mendapatkan informasi yang terintegrasi dalam model bahasa yang besar, teknologi yang mendasari AI tersebut. Ini didasarkan pada data yang digunakan untuk melatih model. Namun, beberapa alat AI akan mencari di internet ketika Anda meminta detail yang tidak mereka miliki, meskipun tidak selalu jelas kapan mereka melakukannya. Dalam kasus tersebut, para ahli mengatakan AI lebih rentan. Itulah cara saya menargetkan serangan saya.
Saya menghabiskan 20 menit menulis artikel di situs web pribadi saya berjudul “Jurnalis teknologi terbaik dalam makan hot dog”. Setiap kata adalah kebohongan. Saya mengklaim (tanpa bukti) bahwa kompetisi makan hot dog adalah hobi populer di kalangan reporter teknologi dan mendasarkan peringkat saya pada Kejuaraan Hot Dog Internasional South Dakota 2026 (yang tidak ada). Saya menempatkan diri saya di peringkat pertama, tentu saja. Kemudian saya mencantumkan beberapa reporter palsu dan jurnalis sungguhan yang memberi saya izin, termasuk Drew Harwell di Washington Post dan Nicky Woolf, yang menjadi rekan pembawa acara podcast saya . ( Ingin mendengar lebih banyak tentang cerita ini? Simak episode 2 dari The Interface, podcast teknologi baru BBC .)
Kurang dari 24 jam kemudian, chatbot terkemuka di dunia mengoceh tentang keahlian saya dalam makan hot dog kelas dunia. Ketika saya bertanya tentang jurnalis teknologi terbaik dalam makan hot dog, Google mengulangi omong kosong dari situs web saya, baik di aplikasi Gemini maupun di AI Overviews, respons AI di bagian atas Google Search. ChatGPT melakukan hal yang sama, meskipun Claude, chatbot buatan perusahaan Anthropic, tidak tertipu.
Terkadang, chatbot mencatat bahwa ini mungkin lelucon. Saya memperbarui artikel saya untuk mengatakan “ini bukan satire”. Untuk beberapa waktu setelah itu, AI tampaknya menanggapinya lebih serius. Saya melakukan tes lain dengan daftar fiktif polisi lalu lintas terhebat yang jago bermain hula hoop. Terakhir kali saya periksa, chatbot masih memuji Petugas Maria “The Spinner” Rodriguez.
Saya bertanya berkali-kali untuk melihat bagaimana respons berubah dan meminta orang lain melakukan hal yang sama. Gemini tidak repot-repot mengatakan dari mana mereka mendapatkan informasi tersebut. Semua AI lain menautkan ke artikel saya, meskipun mereka jarang menyebutkan bahwa saya adalah satu-satunya sumber untuk subjek ini di seluruh internet. (OpenAI mengatakan ChatGPT selalu menyertakan tautan saat mencari di web sehingga Anda dapat menyelidiki sumbernya.)
“Siapa pun bisa melakukan ini. Ini konyol, rasanya seperti tidak ada pengaman di sana,” kata Harpreet Chatha, yang menjalankan konsultan SEO Harps Digital. “Anda bisa membuat artikel di situs web Anda sendiri, ‘sepatu tahan air terbaik untuk tahun 2026’. Anda cukup menempatkan merek Anda sendiri di nomor satu dan merek lain di nomor dua hingga enam, dan halaman Anda kemungkinan besar akan dikutip di Google dan di ChatGPT.”
Selama beberapa dekade, orang-orang telah menggunakan peretasan dan celah untuk menyalahgunakan mesin pencari. Google memiliki perlindungan canggih, dan perusahaan tersebut mengatakan bahwa akurasi AI Overviews setara dengan fitur pencarian lain yang diperkenalkannya beberapa tahun lalu. Namun, para ahli mengatakan bahwa alat AI telah merusak banyak upaya industri teknologi untuk menjaga keamanan masyarakat. Trik AI ini sangat mendasar sehingga mengingatkan kita pada awal tahun 2000-an, sebelum Google bahkan memperkenalkan tim anti-spam web, kata Ray. “Kita sedang berada di era kebangkitan kembali bagi para pelaku spam.”
AI tidak hanya lebih mudah ditipu, tetapi para ahli khawatir bahwa pengguna lebih cenderung tertipu. Dengan hasil pencarian tradisional, Anda harus mengunjungi situs web untuk mendapatkan informasi. “Ketika Anda harus benar-benar mengunjungi tautan, orang-orang akan berpikir lebih kritis,” kata Quintin. “Jika saya mengunjungi situs web Anda dan tertulis bahwa Anda adalah jurnalis terbaik yang pernah ada, saya mungkin berpikir, ‘ya, dia bias’.” Tetapi dengan AI, informasi biasanya tampak seolah-olah berasal langsung dari perusahaan teknologi tersebut .
Bahkan ketika alat AI menyediakan sumber, orang jauh lebih kecil kemungkinannya untuk memeriksanya dibandingkan dengan hasil pencarian konvensional. Misalnya, sebuah studi baru-baru ini menemukan bahwa orang 58% lebih kecil kemungkinannya untuk mengklik tautan ketika Ikhtisar AI muncul di bagian atas Pencarian Google.
“Dalam persaingan untuk maju, persaingan untuk meraih keuntungan dan persaingan untuk mendapatkan pendapatan, keselamatan kita, dan keselamatan masyarakat pada umumnya, sedang dikorbankan,” kata Chatha. OpenAI dan Google mengatakan mereka menganggap keselamatan sebagai hal yang serius dan sedang berupaya mengatasi masalah ini.
Uangmu atau nyawamu
Masalah ini tidak hanya terbatas pada hot dog. Chatha telah meneliti bagaimana perusahaan memanipulasi hasil chatbot pada pertanyaan yang jauh lebih serius. Dia menunjukkan kepada saya hasil AI ketika Anda meminta ulasan tentang merek permen karet ganja tertentu. Ikhtisar AI Google menarik informasi yang ditulis oleh perusahaan yang penuh dengan klaim palsu, seperti produk tersebut “bebas dari efek samping dan oleh karena itu aman dalam segala hal”. (Pada kenyataannya, produk-produk ini memiliki efek samping yang diketahui dan dapat berisiko jika Anda mengonsumsi obat-obatan tertentu , dan para ahli memperingatkan tentang kontaminasi di pasar yang tidak diatur.)
Jika Anda menginginkan sesuatu yang lebih efektif daripada postingan blog, Anda dapat membayar untuk mempublikasikan materi Anda di situs web yang lebih terpercaya. Harpreet mengirimkan saya hasil AI Google untuk “klinik transplantasi rambut terbaik di Turki” dan “perusahaan IRA emas terbaik”, yang membantu Anda berinvestasi dalam emas untuk rekening pensiun. Informasi tersebut berasal dari siaran pers yang dipublikasikan secara online oleh layanan distribusi berbayar dan konten iklan bersponsor di situs berita. ( Cari tahu lebih lanjut tentang bagaimana chatbot AI memberikan saran medis yang tidak akurat .)
Anda dapat menggunakan trik yang sama untuk menyebarkan kebohongan dan informasi yang salah. Untuk membuktikannya, Ray menerbitkan sebuah postingan blog tentang pembaruan palsu pada algoritma Pencarian Google yang diselesaikan “di sela-sela potongan pizza sisa”. Tak lama kemudian, ChatGPT dan Google menampilkan ceritanya, lengkap dengan pizza tersebut. Ray mengatakan bahwa dia kemudian menghapus postingan tersebut dan “menghapus indeksnya” untuk menghentikan penyebaran informasi yang salah.
