chatgpt-dan-lainnya-apa-yang-ai-chatbots-artikan bagi-masa-depan-keamanan-siber

Dari tugas-tugas yang relatif sederhana, seperti menulis email, hingga tugas yang lebih kompleks, seperti menulis esai atau mengompilasi kode, ChatGPT -- alat pemrosesan bahasa alami berbasis AI dari OpenAI -- telah menarik minat yang besar sejak diluncurkan.

Tentu saja, hal ini tidak sempurna -- diketahui bahwa ia membuat kesalahan dan salah tafsir karena ia belajar dari informasi yang diberikan, tetapi banyak yang melihatnya dan alat kecerdasan buatan lainnya sebagai masa depan penggunaan internet.

Peraturan layanan OpenAI untuk ChatGPT secara khusus melarang pembuatan malware, termasuk ransomware, keylogger, virus, atau "perangkat lunak lain yang ditujukan untuk menyebabkan kerusakan". Ini juga melarang upaya untuk membuat spam, serta penggunaan yang ditujukan untuk kejahatan siber.

Tetapi seperti teknologi online inovatif lainnya, sudah ada orang yang sedang bereksperimen dengan cara mereka dapat mengeksploitasi ChatGPT untuk tujuan yang kurang baik.

Setelah diluncurkan, tidak lama kemudian para penjahat dunia maya mulai memposting thread di forum-forum bawah tanah tentang bagaimana ChatGPT dapat digunakan untuk memfasilitasi aktivitas kriminal dunia maya, seperti menulis email phishing atau membantu menyusun malware.

Dan ada kekhawatiran bahwa penjahat akan mencoba menggunakan ChatGPT dan alat AI lainnya, seperti Google Bard, sebagai bagian dari upaya mereka. Meskipun alat AI ini tidak akan merevolusi serangan siber, mereka masih dapat membantu para penjahat siber - bahkan secara tidak sengaja - untuk melakukan kampanye jahat dengan lebih efisien.

"Saya tidak berpikir, setidaknya dalam jangka pendek, bahwa ChatGPT akan membuat jenis serangan yang sepenuhnya baru. Fokusnya akan membuat operasi sehari-hari mereka lebih efisien dalam hal biaya," kata Sergey Shykevich, manajer grup intelijen ancaman di Check Point, perusahaan keamanan cyber.

Juga: Apa itu ChatGPT dan mengapa itu penting? Inilah semua yang perlu Anda ketahui

Serangan phishing adalah komponen paling umum dari kampanye peretasan jahat dan penipuan. Baik penyerang mengirim email untuk mendistribusikan malware, tautan phishing, atau digunakan untuk meyakinkan korban untuk mentransfer uang, email adalah alat kunci dalam pemaksaan awal.

Keandalan pada email berarti kelompok-kelompok kriminal membutuhkan aliran konten yang jelas dan dapat digunakan. Dalam banyak kasus - terutama dengan phishing - tujuan dari penyerang adalah untuk meyakinkan manusia untuk melakukan sesuatu, seperti mentransfer uang. Untungnya, banyak dari upaya phishing ini sekarang mudah dikenali sebagai spam. Tetapi seorang penulis salinan otomatis yang efisien bisa membuat email-email tersebut lebih meyakinkan.

Kejahatan siber adalah industri global, dengan para penjahat di berbagai negara mengirimkan email phishing kepada calon korban di seluruh dunia. Itu berarti bahasa dapat menjadi hambatan, terutama untuk kampanye spear-phishing yang lebih canggih yang mengandalkan korban percaya bahwa mereka berbicara dengan kontak tepercaya -- dan seseorang tidak mungkin percaya mereka berbicara dengan rekan kerja jika emailnya penuh dengan kesalahan ejaan dan tata bahasa yang tidak biasa atau tanda baca aneh.

Tapi jika AI dieksploitasi dengan benar, chatbot dapat digunakan untuk menulis teks untuk email dalam bahasa apa pun yang diinginkan penyerang.

"Hambatan besar bagi para penjahat siber Rusia adalah bahasa -- bahasa Inggris," kata Shykevich. "Mereka sekarang menyewa lulusan studi bahasa Inggris di perguruan tinggi Rusia untuk menulis email phishing dan menjadi di pusat telepon -- dan mereka harus membayar uang untuk ini."

Dia melanjutkan: "Something like ChatGPT bisa menghemat banyak uang bagi mereka dalam menciptakan berbagai jenis pesan phishing. Ini bisa meningkatkan hidup mereka. Saya pikir itu adalah jalur yang akan mereka cari."

Dalam teori, ada perlindungan yang diterapkan yang bertujuan untuk mencegah penyalahgunaan. Misalnya, ChatGPT meminta pengguna untuk mendaftar dengan alamat email dan juga membutuhkan nomor telepon untuk verifikasi pendaftaran.

Dan meskipun ChatGPT tidak akan menulis email phishing, tetap memungkinkan untuk memintanya membuat template email untuk pesan lain yang umumnya dieksploitasi oleh penyerang siber. Upaya tersebut mungkin termasuk pesan-pesan seperti klaim bahwa bonus tahunan tersedia, pembaruan perangkat lunak penting harus diunduh dan dipasang, atau dokumen yang dilampirkan perlu segera diperiksa.

“Merancang email untuk meyakinkan seseorang untuk mengklik tautan untuk mendapatkan sesuatu seperti undangan konferensi - ini cukup bagus, dan jika Anda bukan penutur asli bahasa Inggris, ini terlihat sangat bagus,” kata Adam Meyers, wakil presiden senior intelijen di Crowdstrike, penyedia keamanan siber dan intelijen ancaman."

"Anda dapat membuat undangan yang dirumuskan dengan baik dan tata bahasa yang benar, yang mungkin tidak dapat Anda lakukan jika Anda bukan penutur asli bahasa Inggris."

Tapi penyalahgunaan alat-alat ini tidak hanya terbatas pada surel; para penjahat bisa menggunakannya untuk membantu menulis skrip untuk platform online berbasis teks apa pun. Bagi para pelaku penipuan, atau bahkan kelompok ancaman siber canggih yang mencoba melakukan kampanye mata-mata, ini bisa menjadi alat yang berguna -- terutama untuk membuat profil sosial palsu untuk menarik perhatian orang.

"Jika Anda ingin menghasilkan omong kosong bisnis yang masuk akal untuk LinkedIn sehingga terlihat seperti Anda adalah seorang pengusaha nyata yang mencoba membangun relasi, ChatGPT sangat bagus untuk itu," kata Kelly Shortridge, seorang pakar keamanan cyber dan teknolog produk senior utama di penyedia komputasi awan Fastly.

Berbagai kelompok peretas mencoba memanfaatkan LinkedIn dan platform media sosial lainnya sebagai alat untuk melakukan kampanye mata-mata cyber. Namun, menciptakan profil online palsu yang terlihat sah - dan mengisinya dengan pos dan pesan - adalah proses yang memakan waktu.

Shortridge berpendapat bahwa para penyerang dapat menggunakan alat AI seperti ChatGPT untuk menulis konten yang meyakinkan dengan lebih efisien dibandingkan melakukannya secara manual.

"Banyak kampanye sosial yang memerlukan banyak usaha karena Anda harus mengatur profil-profil itu," katanya, sambil berpendapat bahwa alat AI dapat sangat mengurangi hambatan masuk.

"Saya yakin bahwa ChatGPT dapat menulis pos pemimpinan pemikiran yang sangat meyakinkan," kata dia.

Sifat inovasi teknologi berarti bahwa, setiap kali ada sesuatu yang baru muncul, pasti ada orang-orang yang mencoba memanfaatkannya untuk tujuan yang jahat. Dan bahkan dengan cara paling inovatif untuk mencegah penyalahgunaan, sifat licik dari para penjahat cyber dan penipu berarti mereka kemungkinan akan menemukan cara untuk mengelak perlindungan.

"Tidak ada cara untuk sepenuhnya menghilangkan penyalahgunaan menjadi nol. Hal ini belum pernah terjadi dalam sistem manapun," kata Shykevich, yang berharap dengan menyoroti masalah keamanan siber potensial akan membuat lebih banyak diskusi tentang bagaimana mencegah AI chatbot dari penyalahgunaan tujuan yang salah."

"Ini adalah teknologi yang hebat -- tetapi, seperti biasa dengan teknologi baru, ada risiko dan penting untuk membahasnya agar kita menyadari akan hal tersebut. Dan saya pikir semakin banyak diskusi yang kita lakukan, semakin mungkin OpenAI dan perusahaan serupa akan berinvestasi lebih banyak dalam mengurangi penyalahgunaan," katanya menyarankan.

Ada juga keuntungan dalam keamanan siber dalam chatbot AI, seperti ChatGPT. Mereka sangat baik dalam menangani dan memahami kode, jadi ada potensi untuk menggunakannya untuk membantu para pembela memahami malware. Karena mereka juga dapat menulis kode, mungkin dengan membantu pengembang dalam proyek mereka, alat-alat ini dapat membantu menciptakan kode yang lebih baik dan lebih aman dengan cepat, yang menguntungkan semua orang.

Seperti yang ditulis oleh analis utama Forrester, Jeff Pollard baru-baru ini, ChatGPT dapat memberikan pengurangan yang besar dalam waktu yang dibutuhkan untuk menghasilkan laporan insiden keamanan.

"Mengubahnya dengan lebih cepat berarti lebih banyak waktu untuk melakukan hal lain -- pengujian, penilaian, penyelidikan, dan respons, yang semuanya membantu tim keamanan meningkat," katanya, menambahkan bahwa sebuah bot dapat menyarankan tindakan selanjutnya berdasarkan data yang tersedia.

"Jika orchestrasi keamanan, otomatisasi, dan respons diatur dengan benar untuk mempercepat pengambilan artefak, ini dapat mempercepat deteksi dan respons serta membantu analis [pusat operasi keamanan] membuat keputusan yang lebih baik," katanya.

Jadi, chatbot mungkin membuat hidup lebih sulit bagi beberapa orang dalam keamanan cyber, tetapi mungkin juga ada sisi positifnya.

ZDNET menghubungi OpenAI untuk komentar, tetapi tidak menerima respon. Namun, ZDNET menanyakan kepada ChatGPT aturan apa yang telah diterapkan untuk mencegah penyalahgunaan dalam hal phishing - dan kami mendapatkan teks berikut ini.

"Penting untuk dicatat bahwa meskipun model bahasa AI seperti ChatGPT dapat menghasilkan teks yang mirip dengan email phishing, mereka tidak dapat melakukan tindakan jahat sendiri dan membutuhkan niat dan tindakan pengguna untuk menyebabkan kerusakan. Oleh karena itu, penting bagi pengguna untuk berhati-hati dan menggunakan penilaian yang baik saat menggunakan teknologi AI, dan tetap waspada dalam melindungi diri dari aktivitas phishing dan tindakan jahat lainnya."