Büyük dil modelleri ile gelen beş önemli risk

Büyük lisan modelleri ile gelen beş değerli risk

 

Yapay zekayı kullananlar dikkat

 

Yapay zeka ve onun sağladığı imkanları herkes konuşuyor. Birinci günlerde duyulan heyecan yerini yavaş yavaş risklerin ve gerçekliğinin sorgulanmasına bırakmaya başladı. Siber güvenlik şirketi ESET yapay zeka araçlarını destekleyen büyük lisan modellerini (LLM) incelemeye aldı. 

 

İş dünyası ve BT başkanları, bir yandan teknolojinin müşteri hizmetleri ve yazılım geliştirme üzere alanlarda yaratacağı risk potansiyelini düşünüyor, öbür yandan da yeni gelişmelerin muhtemel dezavantajları ve dikkat edilmesi gereken risklerin de giderek daha fazla farkına varıyorlar. Kuruluşların büyük lisan modellerinin (LLM) potansiyelinden yararlanabilmeleri için, teknolojinin yapılan işe ziyan verebilecek saklı risklerini de hesaplamaları gerekiyor. 

 

Büyük lisan modelleri nasıl çalışıyor?

ChatGPT ve öteki üretken yapay zeka araçları, LLM’ler tarafından desteklenmektedir. Muazzam ölçüde metin verisini işlemek için yapay hudut ağlarını kullanarak çalışırlar. Sözler ortasındaki kalıpları ve bunların içeriğe nazaran nasıl kullanıldığını öğrendikten sonra model, kullanıcılarla doğal lisanda etkileşime girebiliyor. ChatGPT'nin göze çarpan muvaffakiyetinin ana nedenlerinden biri latife yapma, şiir yazma ve genel olarak gerçek bir beşerden ayırt edilmesi sıkıntı bir biçimde bağlantı kurma yeteneğidir. ChatGPT üzere sohbet robotlarında kullanılan LLM takviyeli üretken yapay zeka modelleri, üstün güçlü arama motorları üzere çalışıyor ve soruları yanıtlamak ve misyonları insan gibisi bir lisanla yerine getirmek için öğrendikleri dataları kullanıyor. İster kamuya açık modeller ister bir kuruluş içinde dahili olarak kullanılan tescilli modeller olsun, LLM tabanlı üretken yapay zeka, şirketleri makul güvenlik ve kapalılık risklerine maruz bırakabilir. 

 

Beş değerli büyük lisan modeli riski

Hassas dataların fazla paylaşımı LLM tabanlı sohbet robotları sır saklama ya da unutma konusunda pek yeterli değil. Bu, yazdığınız rastgele bir bilginin model tarafından benimsenebileceği ve diğerlerinin kullanımına sunulabileceği yahut en azından gelecekteki LLM modellerini eğitmek için kullanılabileceği manasına gelir.

Telif hakkı zorlukları  LLM’lere büyük ölçüde data öğretilir. Lakin bu bilgiler çoklukla içerik sahibinin açık müsaadesi olmadan web'den alınır. Kullanmaya devam ettiğinizde potansiyel telif hakkı sıkıntıları oluşabilir.

Güvensiz kod Geliştiriciler, pazara çıkış müddetlerini hızlandırmalarına yardımcı olması maksadıyla giderek daha fazla ChatGPT ve gibisi araçlara yöneliyor. Teorik olarak kod parçacıkları ve hatta tüm yazılım programlarını süratli ve verimli bir biçimde oluşturarak bu yardımı sağlayabilir. Fakat güvenlik uzmanları bunun birebir vakitte güvenlik açıkları da oluşturabileceği konusunda uyarıyor.

LLM’nin kendisini hackleme LLM'lere yetkisiz erişim ve bunlar üzerinde değişiklik yapmak, bilgisayar korsanlarına, modelin süratli enjeksiyon hücumları yoluyla hassas bilgileri ifşa etmesini sağlamak yahut engellenmesi gereken öteki hareketleri gerçekleştirmek üzere makûs niyetli faaliyetler gerçekleştirmeleri için bir dizi seçenek sunabilir.

Yapay zeka sağlayıcısında data ihlali  Yapay zeka modelleri geliştiren bir şirketin kendi bilgilerinin de ihlal edilmesi, örneğin bilgisayar korsanlarının hassas özel bilgiler içerebilecek eğitim bilgilerini çalması ihtimali her vakit vardır. Tıpkı durum data sızıntıları için de geçerlidir. 

 

Riskleri azaltmak için yapılması gerekenler:

• Veri şifreleme ve anonimleştirme: Bilgileri meraklı gözlerden saklamak için LLM'lerle paylaşmadan evvel şifreleyin ve data kümelerinde kimliği belirlenebilecek şahısların kapalılığını korumak için anonimleştirme tekniklerini değerlendirin. Data temizleme, modele girmeden evvel eğitim datalarından hassas detayları çıkararak birebir hedefe ulaşabilir.
• Gelişmiş erişim denetimleri: Güçlü parolalar, çok faktörlü kimlik doğrulama (MFA) ve asgarî ayrıcalık siyasetleri, üretken yapay zeka modeline ve art uç sistemlere sırf yetkili bireylerin erişebilmesini sağlamaya yardımcı olacaktır.
• Düzenli güvenlik kontrolü: Bu, LLM'yi ve üzerine inşa edildiği üretken yapay zeka modellerini etkileyebilecek, BT sistemlerinizdeki güvenlik açıklarının ortaya çıkarılmasına yardımcı olabilir.
• Olay müdahale planlarını uygulayın: Uygun prova edilmiş ve sağlam bir olay müdahale planı, kuruluşunuzun rastgele bir ihlali denetim altına almak, düzeltmek ve bu ihlalden kurtulmak için süratli bir biçimde cevap vermesine yardımcı olacaktır.
• LLM sağlayıcıların tüm ayrıntılarını inceleyin: Tüm tedarikçilerde olduğu üzere, LLM’yi sağlayan firmanın data güvenliği ve kapalılığı alanında kesimin en düzgün uygulamalarını kullandığını denetim edin. Kullanıcı datalarının nerede işlenip depolandığı ve modeli eğitmek için kullanılıp kullanılmadığı konusunda net açıklamalar olduğundan emin olun. Datalar ne kadar müddetliğine tutuluyor? Bilgiler üçüncü taraflarla paylaşılıyor mu? Datalarınızın eğitim hedefli kullanım tercihi değiştirebiliyor mu?
• Geliştiricilerin sıkı güvenlik tedbirleri uyguladığından emin olun: Geliştiricileriniz kod oluşturmak için LLM’leri kullanıyorsa yanılgıların üretime sızma riskini azaltmak için güvenlik testi ve meslektaş incelemesi üzere siyasetlere uyduklarından emin olun.

Kaynak: (BYZHA) Beyaz Haber Ajansı