Tag: Dari penerapan hingga desain: Mandat baru untuk kepercayaan keamanan siber AI

Persaingan berikutnya dalam keamanan siber bukanlah apakah perusahaan akan menggunakan AI, namun apakah mereka dapat menggunakan AI percayalah pada apa yang mereka bangun dengannya. Itulah sebabnya diskusi mengenai kepercayaan keamanan siber AI menjadi agenda utama industri.

AI tidak lagi menjadi pembicaraan sampingan, namun AI menjadi landasan bagi cara kerja pertahanan siber modern, menurut para profesional risiko di Ernst & Young LLP. Pertanyaan terbesar yang kini ditanyakan organisasi adalah bagaimana menerapkannya dalam skala besar dan bagaimana membangun kepercayaan yang diperlukan untuk menggunakannya dengan percaya diri, menurut Kapish Vanvaria (gambar, kiri), EY Global dan Americas Risk Consulting Leader. Jalur tersebut kini mencakup segala hal mulai dari pengujian penetrasi hingga pusat operasi keamanan.

“Saya rasa Anda tidak bisa melewatkan satu stan tanpa melihat kata AI,” kata Vanvaria kepada theCUBE. “Sejujurnya, menurut saya ini adalah hal yang baik. Menurut saya ini adalah gambaran tentang arah masa depan dari sudut pandang keamanan. Saya menghabiskan banyak waktu dengan klien kami – kemarin, pagi ini, tepat sebelum ini – dan banyak pertanyaan yang mereka ajukan [are around] penyebaran skala. Dan yang kedua: Bagaimana mereka menjawab email atas dasar kepercayaan?”

Vanvaria dan Dan Mellen (kanan), EY Global dan US Cyber ​​Chief Technology Officer, berbicara dengan theCUBE Dave Vellante Dan Christophe Bertrand di Konferensi RSAC 2026selama siaran eksklusif di theCUBE, studio streaming langsung SiliconANGLE Media. Mereka membahas semakin besarnya kebutuhan untuk membangun kepercayaan keamanan siber AI ke dalam sistem sejak awal. (* Pengungkapan di bawah.)

Kepercayaan terhadap keamanan siber AI beralih dari konsep menjadi keharusan

Postur EY Consulting sendiri secara konsisten menyatakan bahwa para pemimpin dunia maya tidak dapat lagi memperlakukan AI sebagai tambahan pada model keamanan yang ada. Kecepatan penerapan mempersulit organisasi untuk mengimbanginya karena strategi dan ekspektasi terus berkembang, menurut Mellen.

“Saya kira siklus perubahan yang dulunya enam bulan, kini menjadi enam minggu,” ujarnya. “Saya bercanda dengan rekan-rekan saya di Eropa ketika mereka keluar pada bulan Agustus, mereka melewatkan satu siklus penuh. Anda harus mengejar semua itu.”

Menurut EY Consulting studi peta jalan penelitian cyber baru96% responden mengatakan AI adalah jawabannya sekarang menjadi bagian dari strategi pertahanan dunia maya mereka. Kata “strategi” sangat penting karena dapat menggambarkan berbagai tahap kematangan implementasi, terutama mengingat 95% organisasi mengatakan bahwa mereka sudah menerapkan AI di seluruh bisnis yang lebih luas, kata Mellen.

“Anda menghadapi situasi di mana AI sedang diterapkan [and] dunia maya mencoba untuk mengejar ketertinggalan,” katanya. “Kami melihat sedikit perilaku buruk yang berulang dari cloud, di mana keamanan hanya meningkatkan kemampuan untuk mencoba mengamankan hal-hal tersebut. [systems]. Namun bisnis ini melampaui tata kelola – melampaui kendali; ini melampaui kemampuan dunia maya untuk melatih orang.”

Survei tersebut menunjukkan bahwa banyak organisasi telah memasukkan AI ke dalam strategi mereka, namun pertanyaan yang lebih besar adalah di mana ambisi tersebut masih gagal dalam pelaksanaan sehari-hari. Seringkali strategi kepercayaan keamanan siber AI tersebut masih bersandar pada ide-ide yang sudah dikenal tanpa sepenuhnya menerjemahkannya ke dalam praktik operasional, tambah Vanvaria.

“Kami akan memiliki hal-hal seperti ketertelusuran [and] penjelasannya, tapi sungguh, itu adalah metode yang tepat karena Anda mengambil kepatuhan dan tata kelola dan menerapkannya pada sesuatu yang sudah ada, “katanya. “Saat kami mencoba mendorong pasar dan orang-orang — sekadar mengubah kerangka acuan mereka — adalah memikirkan kepercayaan pada desain.”

Posisi tersebut konsisten dengan pesan EY Consulting yang mempercayai keamanan siber AI harus diatur dengan kuatdengan kepatuhan yang tertanam dalam sistem sejak awal. Saat produk bergerak melalui desain dan pengembangan, pertanyaan penting adalah apakah tim keamanan siber, peraturan, hukum, dan kepatuhan dilibatkan sejak dini untuk membantu membentuknya, menurut Vanvaria. Hal ini penting terutama ketika perusahaan membangun agen AI dan alat lain yang dimaksudkan untuk meningkatkan pengalaman pelanggan dan karyawan. Sehubungan dengan itu, EY Consulting juga menekankan bahwa AI harus mendukung pengambilan keputusan tanpa menggantikan penilaian manusia, sebuah sikap yang menekankan penggunaan teknologi untuk membantu orang bergerak lebih efisien.

“Saya pikir ada pernyataan yang digunakan banyak organisasi tentang 'manusia dalam lingkaran'. Saya pikir organisasi yang paling diuntungkan di luar sana adalah organisasi yang memanfaatkan manusia dan memberdayakan mereka dengan kekuatan teknologi agar bisa berjalan lebih cepat,” kata Vanvaria.

Berikut video wawancara selengkapnya, bagian dari liputan SiliconANGLE dan theCUBE Konferensi RSAC 2026:

(* Pengungkapan: EY mensponsori segmen theCUBE ini. Baik EY maupun sponsor lain tidak memiliki kendali editorial atas konten di theCUBE atau SiliconANGLE.)

Foto: SiliconANGLE