OpenAI tarafınca geliştirilen ChatGPT, OpenAI’ın GPT-3.5 ve daha yakın tarihindeki GPT-4 modelleri üstünde kurgulanan bir suni zeka chatbotu. Aylık etken kullanıcısı 100 milyonu aşan ChatGPT bugün internette en oldukça konuşulan AI ürünü haline geldi. ChatGPT; naturel dil üretme, soruları yanıtlama, duygu analizi, tercüme ve içerik üretme benzer biçimde özelliklere haiz.
ChatGPT etkisi altına alan naturel dil işleme (NLP) kabiliyetine rağmen intihal, gizlilik ve veri sızıntısı benzer biçimde mevzularda pek oldukça endişeye de yol açıyor. Küresel siber güvenlik lideri Palo Alto Networks’ün haber alma birimi Unit 42 araştırmacılarının bir süre ilkin yayınladığı bir bilgiye nazaran ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda yüzde 910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde yüzde 17.818 oranında artış bulunduğunu tespit ettiler.
Palo Alto Networks çalışanları tarafınca dünyadaki ChatGPT trafiğinin potansiyel veri ihlali riskleri açısından değerlendirildiği Securing and Managing ChatGPT Traffic with Palo Alto Networks App-ID başlıklı blog yazısı mevzu hakkında detaylı analizler içeriyor.
Gizli saklı tutulması ihtiyaç duyulan bir sözleşme üstünde çalıştığınızı fakat yabancı dil ve yazım mevzusunda kararsız olduğunuzu düşünün. Sonrasında yazınızı muhteşem hale getirecek kuvvetli bir suni zeka (AI) aracı buluyorsunuz. Sözleşmenizi derhal suni zekaya gönderiyorsunuz, bu AI aracı da görevini yerine getiriyor. Fakat sonrasında gizli saklı belgenizin suni zeka modeline aktarıldığını ve suni zeka öğreticileri tarafınca incelenme olasılığı bulunduğunu fark ediyorsunuz. Daha da kötüsü, sözleşmeniz modeli eğitmek için kullanılabilecek ve öteki kullananların çıktılarında görünebilecek. Iyi mi tepki verirdiniz? AI araçlarının kullanılabilirliği ve güvenliği mevzusundaki ikilem, ChatGPT pazara sunulduğundan bu yana gerçek bir kaygı haline gelmiş bulunuyor.
ChatGPT ile İlgili Güvenlik Kaygıları
İtalya, suni zeka aracının ülkenin veri toplama politikalarını ihlal ettiğine ilişkin endişelerin artmasıyla beraber Mart ayında ChatGPT’yi geçici olarak yasakladı. Ayrıca Amazon ve Walmart benzer biçimde firmalar de aksiyon almaya başladı. “ChatGPT benzer biçimde AI sistemleriyle informasyon paylaşmayın, AI chatbot ile kod paylaşmayın” benzer biçimde mesajlarla çalışanlarını üretken AI hizmetlerini kullanırken dikkatli olmaları için uyardılar. Bu sırada Uzakdoğulu büyük bir üreticinin çalışanlarının ticari sır verilerini yanlışlıkla ChatGPT vesilesiyle sızdırdığı ortaya çıktı. Sözü edilen ChatGPT kabiliyetlerine bağlı olarak güvenlik endişeleri çeşitli şekillerde daha da artabilir. Mesela, gömülü çeşitli gizlemelerle saldırganların fena amaçlı kod yazmasına destek olabilir. Toplumsal mühendislik saldırılarına daha çok içerik sağlayarak saldırganların inandırıcı kimlik avı içinde ne olduğu üretmek için ChatGPT’den yararlanmasına yol açabilir. Dahası, insanların modele kırılgan veriler gönderebilme olasılığı ve bu bilgilerin hemen sonra ele geçirilebileceği düşünüldüğünde veri sızıntısı benzer biçimde güvenlik riskleri de söz mevzusu olabilecektir.
Unit 42 araştırmacılarının bir süre ilkin yayınladığı bir blog yazısına nazaran, ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda %910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde %17.818 oranında artış bulunduğunu tespit ettiler. Dolandırıcıların kullanıcıları fena amaçlı yazılım indirmeye yada kırılgan detayları paylaşmaya ikna etmek için yararlandığı çeşitli şekilleri göstermek için pek oldukça olay emek vermesi sundular. Yansılamak chatbot kullanmanın ihtimaller içinde tehlikelerini vurgulayan araştırmacılar ek olarak ChatGPT kullanıcılarını bu tür chatbotlara davranışlarında ölçülü yaklaşmaları için uyarıyor. Advanced URL Filtering, DNS Security ve WildFire abonelikleri bu soruna cevap veriyor.
OpenAI ile İlişkili App-IDler
Son olarak suni zeka trendlerini titizlikle takip eden Palo Alto Networks, bunlarla ilişkili potansiyel tehditleri etken olarak değerlendiriyor. Palo Alto Networks, OpenAI bağlantılı trafiğin görünürlüğünü çoğaltmak ve bununla birlikte müşterilerinin Gelecek Nesil Güvenlik Duvarlarıyla (NGFWlar) ChatGPT kullanımını yönetmelerine ve denetim altında tutmalarına yardım etmek için Nisan ayında openai-base, openai-chatgpt ve openai-api olmak suretiyle üç OpenAI bağlantılı App-ID sunduklarını açıklıyor.
openai-base: ChatGPT haricindeki genel OpenAI trafiğini kapsıyor. Bu App-ID, OpenAI araştırmasıyla ilgili ağ trafiğini, geliştiricilerin eğitim ve dokümanlarını, şirket bilgilerini ve ürünlerini (DALL·E benzer biçimde) kapsayacak. Ek olarak OpenAI internet sayfasındaki NGFWların trafik loglarında openai-base olarak gösterilecek.
openai-chatgpt: Basit ChatGPT kullanıcılarına daha genel bir kullanım yolu sunan web tabanlı bir ChatGPT ara yüzünün trafiğini kapsıyor.
openai-api: Yalnız ChatGPT’yi değil bununla birlikte OpenAI’ın görüntü üretme benzer biçimde öteki özelliklerini de içeren API bağlantılı tüm trafiği de kapsıyor. OpenAI, APIlerin programlı olarak AI modellerine erişebilmesini sağlıyor. Geliştiricilerin ChatGPT’yi kullanmasının daha genel bir yolu olan OpenAI APIleri vesilesiyle ChatGPT’yi destekleyen GPT-3 ve GPT-4 benzer biçimde AI modellerine erişilebiliyor.
Suni Zekanın Getirmiş olduğu Yeni Zorluklar
Popülerliği giderek artan ChatGPT AI uygulaması günümüzün dijital yaşamına yeni zorlukları ve tehditleri de bununla beraber getiriyor. Palo Alto Networks NGFW, haiz olduğu üç OpenAI App-ID ile müşterilerini ChatGPT kullanımını ve erişimini esneklikle denetim altında tutmaları ve yönetmeleri için güçlendiriyor. Bu App-IDler ek olarak enterprise ağ yöneticilerine ChatGPT kullanımını daha iyi görme imkanı sunuyor. Bu sayede enterprise ağ güvenliği artırılırken potansiyel veri ihlali riskleri azaltılıyor. Enterprise DLP de ChatGPT’ye veri sızmasını engellemeye destek oluyor.
