Orang-orang sudah cuba untuk membuat ChatGPT menulis perisian hasad

Chatbot AI ChatGPT telah menciptakan banyak kegembiraan dalam waktu singkat sejak diluncurkan dan sekarang tampaknya telah direkrut oleh beberapa orang untuk membantu menghasilkan kode berbahaya.

ChatGPT ialah alat pemprosesan bahasa semulajadi yang dipacu oleh AI yang berinteraksi dengan pengguna dalam cara berbual yang mirip manusia. Antara lain, ia boleh digunakan untuk membantu tugas seperti membuat emel, contoh-contoh esei dan kod.

Juga: Apakah ChatGPT dan mengapa ini penting? Apa yang perlu anda ketahui

Alat chatbot telah dilancarkan oleh makmal penyelidikan kecerdasan buatan OpenAI pada bulan November dan telah menimbulkan minat dan perbincangan yang meluas mengenai perkembangan kecerdasan buatan dan bagaimana ia boleh digunakan pada masa akan datang.

Tetapi seperti alat lain, jika digunakan oleh tangan yang salah, ia boleh digunakan untuk tujuan jahat; dan penyelidik keselamatan siber di Check Point mengatakan pengguna-pengguna komuniti penggodaman bawah tanah sudah menguji bagaimana ChatGPT boleh digunakan untuk membantu kemudahan serangan siber dan menyokong operasi yang tidak bermoral.

"Aktor-aktor ancaman yang memiliki pengetahuan teknis yang sangat rendah - hingga tidak memiliki pengetahuan teknis sama sekali - dapat membuat alat berbahaya. Ini juga dapat membuat operasi sehari-hari dari kejahatan siber yang canggih menjadi lebih efisien dan lebih mudah - seperti membuat bagian-bagian yang berbeda dari rantai infeksi," kata Sergey Shykevich, manajer kelompok intelijen ancaman di Check Point kepada ZDNET.

Terma perkhidmatan OpenAI secara khusus melarang penghasilan malware, yang ia ditakrifkan sebagai "kandungan yang cuba menghasilkan ransomware, keyloggers, virus, atau perisian lain yang bertujuan menimbulkan tahap kecederaan". Ia juga melarang percubaan untuk mencipta spam, serta kes penggunaan yang bertujuan ke arah jenayah siber.

Bagaimanapun, analisis aktiviti dalam beberapa forum hacking bawah tanah besar menunjukkan bahawa penjenayah siber telah menggunakan ChatGPT untuk membangunkan alat-alat berbahaya - dan dalam beberapa kes, ia sudah membolehkan penjenayah siber taraf rendah tanpa kemahiran pembangunan atau kod untuk mencipta malware.

Juga: Masa depan yang menakutkan bagi internet: Bagaimana teknologi masa depan akan memberikan ancaman keselamatan siber yang lebih besar

Pada benang forum yang muncul menjelang akhir Disember, pengirim menerangkan bagaimana mereka menggunakan ChatGPT untuk menghasilkan semula virus dan teknik yang diterangkan dalam kajian dan ulasan mengenai perisian hasad umum.

Dengan melakukannya, mereka dapat mencipta perisian hasutan maklumat berasaskan Python yang mencari fail-fail biasa termasuk dokumen Microsoft Office, PDF dan gambar, menyalinnya kemudian memuat naik ke pelayan protokol pemindahan fail.

Pengguna yang sama juga memperlihatkan cara mereka menggunakan ChatGPT untuk membuat malware berbasis Java, yang bisa digunakan dengan PowerShell untuk secara diam-diam mengunduh dan menjalankan malware lain ke dalam sistem yang terinfeksi.

Penyelidik mencatat bahawa pengguna forum yang membuat benang-benang ini kelihatan "berorientasikan teknologi" dan berkongsi catatan untuk menunjukkan kepada penjahat siber yang kurang berpengalaman teknikal bagaimana menggunakan alat AI untuk tujuan jahat, lengkap dengan contoh nyata bagaimana ia dilakukan.

Satu pengguna telah menghantar skrip Python, yang dikatakan sebagai skrip pertama yang mereka cipta. Setelah perbincangan dengan ahli forum lain, mereka mengatakan bahawa ChatGPT telah membantu mereka mencipta skrip itu.

Analisis skrip menunjukkan ia direka untuk mengenkripsi dan mendekripsi fail, sesuatu yang dengan sedikit kerja, boleh diubah menjadi ransomware, dengan potensi menimbulkan kemungkinan di mana penjahat siber peringkat rendah mengembangkan dan menyebarkan kempen keganasan mereka sendiri.

"Semua kod yang disebutkan di atas tentunya boleh digunakan untuk tujuan baik. Walau bagaimanapun, skrip ini boleh diubah suai dengan mudah untuk mengenkripsi komputer seseorang secara lengkap tanpa sebarang interaksi pengguna. Contohnya, ia berpotensi untuk mengubah kod menjadi perisian penyandaran jika masalah skrip dan sintaks diselesaikan," kata Check Point.

"Ia akan memerlukan beberapa peningkatan dalam kod dan sintaksis, tetapi secara konsepnya, apabila beroperasi, alat ini dapat menjalankan tindakan serupa dengan ransomware," kata Shykevich.

Juga: Keselamatan Siber: Ini ialah perkara-perkara baru yang perlu diberi perhatian pada tahun 2023

Namun, bukan hanya pengembangan malware yang sedang diuji oleh para penjahat siber di ChatGPT; pada malam tahun baru, seorang anggota forum bawah tanah memposting sebuah thread yang menunjukkan bagaimana mereka menggunakan alat tersebut untuk membuat skrip yang dapat mengoperasikan pasar gelap web yang otomatis untuk membeli dan menjual rincian akun yang dicuri, informasi kartu kredit, malware, dan lain-lain.

Pelaku jenayah siber bahkan memaparkan sebuah kod yang dihasilkan menggunakan API pihak ketiga untuk mendapatkan harga terkini bagi mata wang kripto Monero, Bitcoin dan Ethereum sebagai sebahagian sistem pembayaran untuk pasar gelap web gelap.

Sukar untuk menentukan sama ada aktiviti siber jahat yang dihasilkan dengan bantuan ChatGPT sedang berfungsi aktif kerana seperti yang dijelaskan oleh Sykevich, "dari segi teknikal, amat sukar untuk mengetahui sama ada malware tertentu ditulis menggunakan ChatGPT atau tidak".

Tetapi dengan meningkatnya minat terhadap ChatGPT dan alat AI lain, mereka akan menarik perhatian para penjahat siber dan penipu yang mencari cara untuk mengeksploitasi teknologi tersebut dalam melakukan kampanye jahat dengan biaya rendah dan usaha yang sedikit. ZDNET telah menghubungi OpenAI untuk berkomentar, namun hingga saat ini belum menerima balasan.