Yapay zeka aracısı güvenliği tanıdık bir olgunluk eğrisinden geçiyor: benimseme, ardından görünürlük ve son olarak kontrol. Ancak topluca keşfettiğimiz şey, yapay zeka temsilcilerine en az ayrıcalığın uygulanmasının hayal ettiğimizden daha zor olduğudur. Bu nedenle anlık filtrelemeden kimlik katmanı erişim kontrollerine kadar pek çok yaklaşım vardır. Toplu olarak ulaştığımız nokta, yapay zeka ajanlarının niyetini anlamanın, onları güvence altına almak için çok önemli olduğudur. Kolay değil ama ileriye giden tek yol bu.
Kuruluşlar bu zorluğa farklı düzeyde karmaşıklıkla yaklaşıyor. Çoğu kişi için mevcut hedef, halihazırda işletme genelinde faaliyet gösteren yapay zeka aracılarını bulmaktır. Bu gerekli bir ilk adımdır. Yapay zeka aracıları, SaaS platformlarında, geliştirici ortamlarında, bulut iş akışlarında, müşteri destek sistemlerinde, üretkenlik araçlarında ve dahili uygulamalarda karşımıza çıkıyor. Bazıları onaylanıyor, bazıları ise onaylanmıyor.
Ancak keşif tek başına yararlı değildir. Yapay zeka ajanları pasif değildir; döngüde bir insan olmadan akıl yürütür, plan yapar, araçları çağırır, API'leri çağırır, verilere erişir ve harekete geçerler. Risk, bir kuruluşun çok fazla aracıya sahip olması değildir. Risk, bu aracıların tutarlı kimlik, amaç, sahiplik ve yaptırım olmaksızın sistemler üzerinde çalışabilmesidir. Ayrıcafarklı türde yapay zeka aracılarıvardır ve bunların her biri, bunların güvenliğini sağlamak için farklı bir yaklaşım gerektirir.
Ajansal yapay zeka hizmetlerinindikkatle benimsenmesine ilişkin son kılavuzlarkonuyu açıklığa kavuşturuyor: Ajansal yapay zeka, güvenlik ekiplerinin bu sistemler kritik iş akışlarına yerleştirilmeden önce ele alması gereken ayrıcalık, kimlik doğrulama, hesap verebilirlik, tasarım ve davranışsal riskleri ortaya koyuyor. Görünürlük başlangıç çizgisidir, ancak önemli olan uygulamadır.
Görünürlük Tuzağı
Çoğu güvenlik programı şu soruyla başlar: "Elimizde ne var?" Bu, bulut, SaaS, uç noktalar, kimlikler ve güvenlik açıkları açısından mantıklıydı. Bu aynı zamanda AI ajanları için de anlamlıdır.
Ancak yapay zeka aracılarının yalnızca görünürlükte durma riski, yapay zeka aracılarının oluşturulma hızı, neye erişebildikleri ve nasıl paylaşılabilecekleri nedeniyle listedeki diğer tüm ortamlardan daha fazladır.
Yaptırımlara bağlanmayan bir AI aracı envanteri, başka bir statik varlık listesine dönüşür. Bir aracının var olduğunu gösterebilir ancak size aracının erişiminin uygun olup olmadığını, davranışının amacına uygun olup olmadığını, sahibinin sorumlu olup olmadığını veya koşullar değiştikçe izinlerinin ne zaman iptal edilmesi gerektiğini söyleyemez. Yapay zeka ajanları için yaptırımsız görünürlük, tehlikeli bir tür güven yaratır; gerçeklik çok farklı olduğunda kontrolün sizde olduğunu hissetmek kolaydır.
Yapay Zeka Aracıları Neden Statik Erişim Modellerini Kırıyor?
Geleneksel erişim kontrolü bir miktar öngörülebilirlik varsayar. İnsan Kimliği ve Erişim Yönetimi, her kişinin bir iş fonksiyonuna sahip olması nedeniyle bunu en kolay olanıdır. İnsan dışı veya makine kimlik yönetimi daha karmaşıktır ancak hizmet hesabı yine de tanımlanmış bir iş yükünü destekler. Bu varsayımlar kusurludur ancak güvenlik ekiplerine roller, yetkiler, onaylar, erişim incelemeleri ve periyodik temizlik için bir temel sağlamıştır.
Yapay zeka ajanları statik olmaktan uzaktır. Bir aracı, sabit bir iş akışından çok, bir hedefle tanımlanır. Talimatları yorumlayabilir, farklı araçları çağırabilir ve eylemlerini bağlama göre uyarlayabilir. Benzer izinlere sahip iki aracı, her birinin neyi başarmaya çalıştığına bağlı olarak çok farklı bir risk profiline sahip olabilir.
Statik erişim yeterli değildir çünkü yapay zeka aracılarının, erişim verildiğinde beklenmeyen şekillerde kullanılma olasılığı daha yüksektir. Sorun her zaman kötü niyetli davranışlar değil, orijinal amacının ötesine geçen bir görev gibi risk oluşturan belirsizliktir.
Güvenlik ekiplerinin sorması gereken soru yalnızca "bu ajan neye erişebilir?" değildir. Daha önemli soru şudur: Bu temsilcinin bu koşullar altında bu amaç için ne yapmasına izin verilmelidir? Bu bir yaptırım sorusudur.
Yaptırım Daha İyi Anlamayla Başlar
Etkili AI aracısı uygulaması, temel, bağlamsal olmayan bir envantere bağlanamaz. Güvenlik ekiplerinin, anlamlı kontrolleri tanımlamadan önce sahipler, tüketiciler, kimlikler, sistemler, izinler ve amaç arasındaki bilgileri ilişkilendirmesi gerekir.
Bu, bir aracıyı çeşitli boyutlarda anlamak anlamına gelir:
- Mülkiyet:Temsilcinin sahibi kim? (Bu düşündüğünüzden daha zor olabilir.)
- Tüketiciler:Aracıyı kim kullanıyor?
- Kimlik:Temsilci hangi kimlikleri, belirteçleri, sırları, OAuth izinlerini ve hizmet hesaplarını kullanıyor?
- Niyet:Temsilcinin neyi başarması gerekiyor?
- Erişim:Hangi sistemlere, uygulamalara, veri depolarına, API’lere ve altyapılara ulaşabilir?
- Kullanımı:Temsilci gerçekte ne yaptı ve ne sıklıkla?
- Menşei:Ajan nasıl oluşturuldu?
- Yaşam döngüsü:Aracı aktif mi, uykuda mı veya artık orijinal amacına bağlı değil mi?
Aracı bağlamının dağınık olması nedeniyle birçok kuruluşun mücadele ettiği nokta burasıdır. Kimlik verileri tek bir yerde bulunur. Bulut izinleri başka bir yerdedir. SaaS entegrasyonlarının kendi modelleri vardır. Kod olarak altyapı, amaçlanan dağıtım modellerini ortaya çıkarabilir ancak bu bağlam, geri kalanıyla nadiren ilişkilendirilir. Sahiplik, aracıyı oluşturan kişi için açık olabilir ve diğer herkes için görünmez olabilir.
Korelasyon olmadan uygulama tahmine dayalı hale gelir. Korelasyonla güvenlik ekipleri, aracıların gerçekte nasıl çalıştığını yansıtan kuralları tanımlamaya başlayabilir.
Düzeltmeden Kurallara
Birçok güvenlik aracı, yaptırımı iyileştirmeyle eş tutar. Riskli bir şey bulunur ve başucu kitabı bir bildirim açar, erişimi kaldırır, bir kimliği devre dışı bırakır veya sahibine bilgi verir. Bu faydalıdır ancak ajansal yapay zeka için yeterli değildir. Yapay zeka temsilcilerinin eyleme geçmeden önce, eylem sırasında ve sonrasında yaptırımlara ihtiyacı var.
Güvenlik ekiplerinin "Risk tespit edildikten sonra ne kaldırılmalıdır?" sorusunu sormaktan vazgeçmesi gerekiyor. "Bu ajanın ilk etapta ne yapmasına izin verilmeli?" Bu değişim, yaptırımı temizlemeden kontrole taşıyor. Kuruluşlar daha sonra aşağıdaki gibi kuralları tanımlayabilir:
- Bir müşteri destek temsilcisi bilet geçmişini okuyabilir ancak müşteri verilerini toplu olarak dışarı aktaramaz
- Kod asistanı değişiklik önerebilir ancak onaylı bir iş akışı olmadan üretime aktaramaz
- Bir bulut işlemleri aracısı, yapılandırma sapmasını inceleyebilir ancak ayrıcalıklı rolleri değiştiremez
- Bir finans temsilcisi rapor oluşturabilir ancak ödemeleri başlatamaz veya satıcı ayrıntılarını değiştiremez
- Bir güvenlik aracısı uyarıları önceliklendirebilir ancak günlükleri silemez veya algılamaları bastıramaz
Bu kurallar aynı anda tek bir yapay zeka platformunda etkili bir şekilde yönetilemez. Kuruluşlar birçok aracı platformunu, SaaS yerel aracılarını, dahili çerçeveleri, bulut hizmetlerini ve geliştirici araçlarını kullanacak. Her birinin kendi kontrolleri, günlükleri ve izin modelleri olabilir. Güvenlik ekiplerinin bu parçalanmış ortamdaki ajanları yönetmek için tutarlı bir yola ihtiyacı var. Bu nedenle yapay zeka aracıları için bir sonraki kontrol düzleminin kimlik merkezli, bağlama duyarlı ve platformdan bağımsız olması gerekiyor.
Uygulamada Niyetin Rolü
Kimlik, aracının kim olduğunu yanıtlar. İzinler hangi erişimin mevcut olduğunu yanıtlar. Niyet, bu erişimin neden aktif olması gerektiğine cevap verir.
Niyet boyutu çok önemli. Yapay zeka aracısı riski yalnızca bir API çağrısına teknik olarak izin verilip verilmediğine bakarak anlaşılamaz. Güvenlik ekiplerinin, bir eylemin temsilcinin onaylanan amacına uygun olup olmadığını değerlendirmesi gerekir.
Niyet temelli yaptırım, kuruluşlara daha kesin bir kontrol modeli sağlar. Güvenlik ekiplerinin geniş, statik izinlerden amaç ve bağlama dayalı koşullu erişime geçmesine olanak tanır. Bu, her eylemin manuel olarak onaylanması gerektiği anlamına gelmez. Bu, yüksek riskli eylemlerin aracının rolü, sahibi, görevi, ortamı ve beklenen sonucu ile sınırlandırılması gerektiği anlamına gelir.
The OWASP Aracılık Uygulamaları için İlk 10kimlik ve ayrıcalıkların kötüye kullanılması, araçların kötüye kullanılması, aracılar arası güvensiz iletişim, ardı ardına gelen hatalar ve hileli aracılar gibi riskleri vurgular. Bu risklerin hepsi aynı sonuca işaret ediyor: Güvenlik kontrolleri, aracının harekete geçme nedenini anlamalıdır.
Ajansal Yapay Zeka için Tekil Bir Kontrol Düzlemi
Yapay zeka ajanları tek bir platformda yaşamıyor. Kuruluşun her yerinde bulunurlar. "Geleneksel" makine kimlikleri BT, Geliştiriciler ve DevSecOps ekipleri tarafından oluşturulurken, yapay zeka aracıları kuruluştaki her roldeki kişiler tarafından oluşturulur. Bazı aracılar bulut ortamlarında çalışacak, diğerleri ise yerel olarak çalışacak. Bazıları güvenlik ekiplerinin doğrudan yönetmediği iş akışlarına yerleştirilecek.
Yapay zeka aracılarına yönelik platform bazında kontroller ölçeklenmeyecek. Her platform kendi aracılarını hazırlayabilir ancak hiçbir platform kimlik, erişim, sahiplik ve yaşam döngüsüne ilişkin kurumsal resmin tamamını göremez. Kuruluşların, ortamlar arasındaki aracıları anlayabilen ve tutarlı kurallar uygulayabilen birleşik bir kontrol düzlemine ihtiyacı var.
Bu kontrol düzlemi üç şey yapmalıdır:
- Keşfedin:Bulundukları her yerde aracıları bulun
- Anlayın:Aracıları kimlikler, sahipler, erişim, altyapı bağlamı, kullanım ve niyetle ilişkilendirin
- Zorunlu kılın:Aracıların ne yapabileceğini, bunu ne zaman yapabileceklerini ve bağlam değiştikçe erişimin nasıl değişmesi gerektiğini yöneten kuralları uygulayın
Nasıl olduğunu görünYapay zeka öncelikli güvenlik çözümleri gibi Token GüvenliğiAI temsilcilerinizin her platformda neler yapabileceğini keşfeder, anlar ve uygular.
Bu, aracı yayılımını yönetmek ile aracılı yapay zekayı yönetmek arasındaki farktır. Yayılma, her platformun, ekibin ve iş biriminin bağımsız olarak aracılar oluşturmasıyla gerçekleşir. Yönetişim, kuruluşun yeniliği engellemeden bu faaliyet genelinde tutarlı kontroller uygulayabildiği zaman ortaya çıkar.
Güvenlik Liderleri Şimdi Ne Yapmalı?
Güvenlik ekiplerinin harekete geçmeden önce mükemmel standartları veya tamamen olgunlaşmış araçları beklemesine gerek yok. Artık işletim modelini oluşturmaya başlayabilirler.
İlk adım, AI ajanının görünürlüğünü bitiş çizgisi olarak ele almayı bırakmaktır. Elbette temsilci envanterleri yaptırımın temelini oluşturur. Her aracının bir sahiple, bir amaçla, bir kimlikle, bir dizi izinle ve bir yaşam döngüsü durumuyla eşleştirilmesi gerekir. Sahipsiz ajanlar araştırılmalı, aşırı ayrıcalıklı ajanlar doğru büyüklükte olmalı, hareketsiz ajanlar emekliye ayrılmalı ve yüksek riskli eylemler daha güçlü kontroller gerektirmelidir.
Ama sonuçta önemli olan uygulamadır. Güvenlik liderleri, yapay zeka aracısı yönetişimini kimlik ve erişim yönetimi, bulut güvenliği, uygulama güvenliği ve DevOps iş akışlarıyla uyumlu hale getirmelidir. Ajan AI ayrı bir evren değildir. Erişimi, özerkliği ve iş etkisi olan bir yazılımdır. Kurumsal güvenlik modeline aittir ancak bu modelin gelişmesi gerekir.
NIST'inYapay Zeka Aracı Standartları Girişimistandartlara, protokollere, kimlik doğrulamaya, kimlik altyapısına ve güvenli insan-aracı ve çoklu aracı etkileşimlerine odaklanan çalışmalarla aynı yöne işaret ediyor. Piyasa da aynı sonuca doğru ilerliyor: Yapay zeka temsilcilerinin, chatbot arayüzüne sahip sıradan uygulamalar olarak değil, yetkili aktörler olarak yönetilmesi gerekiyor.
Görünürlük Başlangıçtır, Ancak Uygulama Hedeftir.
Yapay zeka ajan güvenliğinin ilk dalgası farkındalıkla ilgiliydi. Kuruluşların, aracıların kuruluşa girerek yeni kimlik riski yarattığını anlaması gerekiyordu. Bu mesaj ulaştı ve her güvenlik ve IAM ekibi görünürlüğe ihtiyaçları olduğunu biliyor. Bir sonraki dalga yaptırımdır.
Kuruluşların, aracıların neleri yapmasına izin verildiğini tanımlamaları ve platformlar arasında kuralları tutarlı bir şekilde uygulamaları gerekiyor. "Hangi ajanlar var?" bölümünden hareket etmeleri gerekiyor. "Hangi temsilciler, hangi koşullar altında, hangi eylemi gerçekleştirebilir ve kim sorumludur?"
Bu, ajan yapay zekanın ihtiyaç duyduğu kontrol düzlemidir. Başka bir kontrol paneli veya statik envanter değil. Yapay zeka aracıları kurumsal operasyonların aktif katılımcıları haline geliyor. Kod yazacak, altyapıyı yönetecek, verileri taşıyacak, sistemleri güncelleyecek ve iş akışlarını yürütecekler. Ajansal yapay zeka ile başarılı olan kuruluşlar, her temsilciyi kolayca bulan kuruluşlar olmayacak. Her temsilciyi, yapabileceklerini uygulayacak kadar iyi anlayanlar onlar olacak.
