ChatGPT dan kecerdasan buatan baru sedang menimbulkan kekacauan dalam bidang keamanan cyber dengan cara yang menarik dan menakutkan

Kecerdasan buatan generatif sedang mengubah keamanan cyber, membantu baik para penyerang maupun para pembela. Penjahat cyber menggunakan AI untuk meluncurkan serangan yang canggih dan baru dalam skala yang besar. Dan para pembela menggunakan teknologi yang sama untuk melindungi infrastruktur kritis, organisasi pemerintahan, dan jaringan perusahaan, kata Christopher Ahlberg, CEO platform intelijen ancaman Recorded Future.

Generative AI telah membantu pelaku yang tidak baik untuk berinovasi dan mengembangkan strategi serangan baru, memungkinkan mereka tetap berada satu langkah di depan pertahanan keamanan cyber. AI membantu penjahat cyber mengotomatisasi serangan, memindai permukaan serangan, dan menghasilkan konten yang resonan dengan berbagai wilayah geografis dan demografis, memungkinkan mereka untuk menargetkan lebih banyak calon korban di berbagai negara. Penjahat cyber mengadopsi teknologi ini untuk membuat email phishing yang meyakinkan. Teks AI yang dihasilkan membantu penyerang menghasilkan email dan pesan teks yang sangat dipersonalisasi yang lebih mungkin menipu target.

"Menurut saya, Anda tidak perlu berpikir sangat kreatif untuk menyadari bahwa ini sebenarnya bisa membantu [penjahat siber] menjadi penulis, yang merupakan masalah," kata Ahlberg.

Pelindung menggunakan AI untuk menangkal serangan. Organisasi menggunakan teknologi ini untuk mencegah bocoran dan menemukan kerentanan jaringan secara proaktif. AI juga secara dinamis melakukan otomatisasi tugas-tugas seperti mengatur peringatan untuk kata kunci tertentu dan mendeteksi informasi sensitif secara online. Penelusur ancaman menggunakan AI untuk mengidentifikasi pola-pola yang tidak biasa dan merangkum jumlah data yang besar, menghubungkan titik-titik di antara berbagai sumber informasi dan pola-pola tersembunyi.

Karya ini masih membutuhkan ahli manusia, tetapi Ahlberg mengatakan teknologi AI generatif yang kita lihat dalam proyek seperti ChatGPT dapat membantu.

"Kami ingin mempercepat siklus analisis [untuk] membantu kami menganalisis dengan kecepatan pikiran," ucapnya. "Itu adalah hal yang sangat sulit dilakukan, dan saya pikir kami melihat terobosan di sini, yang cukup menarik."

Ahlberg juga membahas ancaman potensial yang bisa dibawa oleh mesin yang sangat cerdas. Seiring dunia menjadi semakin digital dan saling terhubung, kemampuan untuk membengkokkan realitas dan membentuk persepsi bisa dimanfaatkan oleh pihak yang jahat. Ancaman-ancaman ini tidak terbatas pada negara-negara, membuat lanskap ini semakin kompleks dan asimetris.

AI memiliki potensi untuk membantu melindungi dari ancaman-ancaman baru ini, tetapi juga membawa risiko tersendiri. Misalnya, mesin dengan kemampuan pemrosesan tinggi dapat meretas sistem dengan lebih cepat dan efektif dibandingkan manusia. Untuk mengatasi ancaman-ancaman ini, kita perlu memastikan bahwa AI digunakan secara defensif dan dengan pemahaman yang jelas tentang siapa yang mengendalikannya.

Seiring dengan semakin terintegrasinya AI dalam masyarakat, penting bagi para pembuat undang-undang, hakim, dan pengambil keputusan lainnya untuk memahami teknologi ini dan implikasinya. Membangun aliansi yang kuat antara para ahli teknis dan pembuat kebijakan akan menjadi krusial dalam mengarungi masa depan AI dalam pemantauan ancaman dan di luar itu.

Peluang, tantangan, dan pertimbangan etis AI dalam keamanan cyber sangat kompleks dan terus berkembang. Memastikan model AI yang tidak memihak dan mempertahankan keterlibatan manusia dalam pengambilan keputusan akan membantu mengelola tantangan etis. Kewaspadaan, kolaborasi, dan pemahaman yang jelas tentang teknologi akan menjadi krusial dalam mengatasi potensi ancaman jangka panjang mesin-mesin yang sangat cerdas.

Ahlberg juga mengungkapkan kekhawatiran tentang China, Rusia, dan musuh-musuh ekonomi yang mendeploy mesin-mesin otonom. Negara-negara ini mungkin tidak akan melambatkan pengembangan kecerdasan buatan (AI) atau berbagi pertimbangan etis. Meskipun memiliki kemampuan untuk "memutuskan aliran" pada mesin-mesin tersebut adalah langkah pengamanan yang bijak, ia menyarankan bahwa integrasi teknologi ke dalam masyarakat dan ekonomi global kemungkinan sulit untuk dipisahkan. Ahlberg menekankan perlunya merancang produk dan mesin dengan kejelasan tentang siapa yang mengendalikannya.

"Hal besar yang dilakukan oleh internet dalam hal ini adalah bahwa internet secara bertahap menjadi tempat di mana semua informasi dunia bermigrasi," kata Ahlberg. "Model bahasa yang besar ini melakukan hal-hal yang cukup magis... untuk mempercepat siklus pemikiran tersebut."

Ia menambahkan, "Dalam 25 tahun ke depan, dunia akan menjadi cermin dari internet."