Tag: Penulis Tamu

Saat ini sudah diterima secara luas bahwa kecerdasan buatan akan mempengaruhi hampir setiap aspek kehidupan kita. Hal ini menghadirkan tantangan baru terkait ancaman AI, manajemen AI perusahaan, dan penyesuaian program keamanan untuk dunia yang semakin didorong oleh AI.

Hal yang paling penting dalam menilai paparan risiko Anda adalah memahami jenis AI yang digunakan. Terdapat korelasi langsung: AI generatif dan agen yang lebih modern dapat membuat kita menghadapi ancaman yang lebih besar. Kurangnya transparansi pada aplikasi generasi AI mempersulit tim keamanan untuk mendapatkan visibilitas yang diperlukan mengenai kemana perginya data yang berpotensi sensitif.

Kenyamanan dan aksesibilitas alat AI seringkali melebihi risiko keamanan yang dirasakan pengguna, sehingga menciptakan siklus adopsi dan potensi paparan. Untuk secara efektif melawan ancaman yang terus berkembang ini, organisasi harus menyesuaikan program keamanan mereka. Dengan mengingat hal tersebut, mari kita jelajahi strategi untuk mencegah tantangan ini terjadi di berbagai bidang organisasi.

Menumbuhkan fleksibilitas

Area utama dalam transformasi adalah memikirkan kembali alur kerja persetujuan untuk penggunaan AI. Model keamanan tradisional, sering kali ditandai dengan keputusan biner ya/tidak atau izinkan/blokir, terlalu kaku untuk sifat dinamis AI. Sebaliknya, tim keamanan perlu menerapkan pendekatan yang lebih fleksibel, yang mungkin mencakup model opt-in/opt-out untuk fungsi AI tertentu, terutama ketika data pelanggan atau data yang diatur terlibat.

Salah satu strategi yang saya terapkan bersama tim saya adalah menetapkan parameter yang jelas tentang apa yang bisa dan tidak bisa digunakan pengguna. Tujuannya adalah untuk mengubah keamanan dari hambatan yang menghambat inovasi menjadi pendorong adopsi AI yang aman, dengan jalur yang jelas antara aktivitas di dalam dan di luar batas.

Ya, akan selalu ada lapisan AI bayangan dan AI agen yang harus diwaspadai seiring dengan meluasnya serangan Anda, namun ada juga kebutuhan untuk menanggapi permintaan sah dari unit bisnis. Penting untuk memiliki sistem yang mengurangi hambatan dalam memproses dan mengaudit permintaan alat baru yang datang dari tim lain dalam organisasi.

Saya memulai dengan mencari platform dan mitra tepercaya, serta menemukan cara untuk memproses dan menyetujui permintaan alat tersebut dengan lebih cepat. Saya menyebutnya proses “lampu kuning”, di mana Anda mempunyai keputusan untuk mempercepat atau menginjak rem. Ini berarti menemukan dua pertanyaan yang mutlak perlu dijawab tentang alat agar platform atau mitra tepercaya ini disetujui. Misalnya, kita mungkin bertanya, “Apakah Anda belajar dari data saya?” dan “Kontrol apa yang Anda miliki agar kami dapat mengaktifkan atau menonaktifkan alat ini jika diperlukan?”

Hal ini memungkinkan kami mempercepat peninjauan yang tadinya memakan waktu berhari-hari menjadi hanya 15 menit. Kini, tim memiliki tingkat fleksibilitas untuk menggunakan alat yang mereka inginkan tanpa mengorbankan lapisan keamanan yang diperlukan.

Kekuatan duta AI

Banyak di antara kita yang akrab dengan konsep “pemimpin keamanan” dalam suatu organisasi, namun saya juga merupakan pendukung besar “duta AI”. Program-program ini berupaya untuk melibatkan dan memberdayakan unit bisnis agar dapat mengambil tanggung jawab tata kelola AI yang lebih besar.

Duta AI adalah orang-orang dari berbagai tim dan departemen, yang mengetahui peraturan seputar alat AI, dan dapat mendorong tim mereka untuk mengikutinya. Pada dasarnya, mereka beroperasi sebagai perpanjangan tangan dari tim keamanan, memberikan lapisan akuntabilitas yang memastikan kolega mereka mengikuti prosedur yang benar dalam memilih dan menggunakan alat AI. Mereka dapat menginventarisasi aplikasi timnya dan meminta peninjauan terhadap proses persetujuan, sehingga memberi mereka lebih banyak investasi untuk memastikan cara tim mereka menggunakan AI aman dan sejalan dengan kebijakan keamanan yang lebih luas.

Dengan melatih dan membekali duta AI di berbagai departemen, organisasi dapat mendesentralisasikan beberapa proses tinjauan keamanan awal. Para duta besar bertanggung jawab untuk memahami dan mematuhi kebijakan tata kelola AI, memastikan bahwa pertimbangan keamanan terintegrasi sejak awal dengan alat baru apa pun yang dibawa ke dalam organisasi.

Juara Keamanan dan Duta AI tidaklah sama. Membedakan tim satu sama lain akan menumbuhkan budaya tanggung jawab bersama, memungkinkan penerapan solusi AI lebih cepat sambil mempertahankan tata kelola yang berfokus pada pelanggan dan postur keamanan yang kuat.

AI pada akhirnya tidak memerlukan perubahan besar, melainkan penyesuaian strategis yang lebih kecil terhadap strategi yang ada untuk mengurangi beberapa hambatan bagi pengguna akhir dan menumbuhkan budaya keamanan yang lebih baik.

Dengan memahami sifat sebenarnya dari ancaman yang dipicu oleh AI, mengatasi sifat unik pengelolaan AI, dan menumbuhkan budaya tanggung jawab keamanan bersama, organisasi tidak hanya memitigasi risiko tetapi juga memanfaatkan potensi teknologi secara penuh.

James Robinson adalah kepala petugas keamanan informasi di Netskope Inc. Dia menulis artikel ini untuk SiliconANGLE.

Gambar: SiliconANGLE/Ideogram