“Patronum ne kadar kazanıyor?” Şirket yapay zekâsına yöneltilen rahatsız edici bir soru. Belirleyici karşı soru şudur: bu isteğin arkasındaki hesap gerçekte hangi belgeleri okuyabilir?
Olası bir hata yapay zekâdan çok önce başlar.
Hayalî bir şirket düşünelim. Eski bir personel klasöründe maaş tablosu vardır. Önceki bir taşıma sırasında klasör genel bir çalışan grubuyla paylaşılmıştır. Artık kimse bağlantıyı kullanmıyordur. Paylaşım ise sürmektedir.
Şimdi kurumsal bilgi araması devreye alınır. Bu kaynak bağlıysa, teknik olarak işlenebiliyorsa ve soru soran hesap tarafından erişilebiliyorsa ilgili alıntılar yanıta girebilir. Bunun için yeni bir güvenlik engelinin aşılması gerekmez. Yapay zekâ eski bir yetki hatasının fark edilmesini kolaylaştırır.
Bu, varsayımsal bir örnektir. Ne gerçek bir DAXS müşteri vakasını ne de belirli bir ürünün genel olarak garanti edilen davranışını anlatır. Uygun kaynak ve erişim olanağı olmadan yapay zekâ gerçek tutarı güvenilir biçimde bilemez; buna rağmen verdiği bir rakam uydurma olabilir.
Üç kişi, üç farklı başlangıç durumu.
Personel sorumlusu görevini yapmak için belgeyi okuyabilir. Başka bir kişinin bu hakkı yoktur; onun araması kaynağı dışlamalıdır. Üçüncü bir kişi yanlış grup paylaşımı nedeniyle teknik erişime sahiptir. Onun durumunda paylaşımın kendisi düzeltilmelidir. Model, kurumsal karardaki hatayı bir prompttan güvenilir biçimde çıkaramaz.
Doğru bir yanıt yanlış bir ifşa olabilir.
Birçok yapay zekâ testi, yanıtın doğru görünüp görünmediğini ve belgelerle desteklenip desteklenmediğini değerlendirir. Gizli bilgilerde ayrıca tam olarak bu kişinin kanıtı görme hakkı olup olmadığı kontrol edilmelidir. Gerçeğe uygun bir maaş yanıtı bile şirkette yalnızca dar bir çevrenin ihtiyaç duyduğu bilgiyi yetkisiz biçimde açığa çıkarabilir.
Tersine, yanıtın reddedilmesi de henüz etkili korumayı kanıtlamaz. Belki belge yalnızca bulunamamıştır. Bu nedenle erişim testleri kaynağı, arama dizinini, doğrudan sorguları ve dolaylı ifadeleri içermelidir. Tek bir nazik “Bu veriler gizlidir” uyarısı sağlam bir yetki kontrolü değildir.
Hesaplamalar da aynı özeni gerektirir.
Konu yalnızca maaşlarla sınırlı değildir. Bir çalışan, kendi işi için faturalanan saatlik ücreti, bir müşterinin koşullarını veya bir projenin iç marjını sorabilir. Bu bilgiler tekliflerde ve tablolarda bulunabilir. Faturalama ücreti, katkı payı ve şirket kârı farklı büyüklüklerdir; bulunan tek bir rakamdan bir saatlik işin kârı güvenilir biçimde çıkarılamaz.
Bu nedenle hem kaynak yetkileri hem de çıkarımların kalitesi doğru olmalıdır. Gizli depoların düzenlenmesi ve çıktıların konunun uzmanlarınca incelenmesi iki ayrı iştir.
Şirketlerin pilot öncesinde kontrol edebilecekleri.
- Personel, finans ve strateji belgelerini belirleyip sorumlular atayın.
- Gruplar, devralma ve paylaşım bağlantıları dâhil etkili yetkileri kontrol edin.
- İzinli, engelli ve yanlışlıkla fazla geniş erişim için test hesapları hazırlayın.
- Alıntılar modele aktarılmadan önce yetkilerin uygulandığını kontrol edin.
- Geri alınan paylaşımları dizinlerde, önbelleklerde, dışa aktarımlarda ve paylaşılan yanıtlarda da takip edin.
Üretici, Microsoft 365 verileriyle çalışan Microsoft Copilot için içeriğin kullanıcı yetkileri sınırında kullanıldığını açıklar. Tam da bu yüzden başlangıçtaki fazla geniş yetkiler devreye almadan önce düzeltilmelidir. Diğer sohbet ürünleri ve ek ajanlar kendi somut veri ve hesap modellerine göre kontrol edilmelidir.
Mantıklı bir sonraki adım.
DAXS; kaynak envanteri, yetki incelemesi ve belgelenmiş olumsuz testlerle sınırlı bir yapay zekâ güvenlik kontrolü planlayabilir. Amaç, anlaşılabilir bir devreye alma durumudur: hangi kaynaklar hangi kullanıcılara açık, hangi eksikler biliniyor ve bunları kim düzeltiyor?
İlgili yapay zekâ güvenliği ve AI Oversharing sayfası kontrolleri açıklar. Arama mimarisi için Kurumsal bilgi ve RAG bağlamı tamamlar.
Kaynaklar: Microsoft: veriler ve izinler · OWASP: hassas bilgilerin ifşası.