Sürekli ortaya çıkan sayısız güvenlik açığından da görebileceğimiz gibi modern teknoloji kusursuz olmaktan çok uzak. Tasarım açısından güvenli sistemler tasarlamak denenmiş ve doğrulanmış bir en iyi uygulama olsa da bunu yapmak kaynakları kullanıcı deneyimi (UX) tasarımı, performans optimizasyonu ve diğer çözümler ve hizmetlerle birlikte çalışabilirlik gibi diğer alanlardan uzaklaştırabilir. Bu nedenle, güvenlik genellikle arka planda kalır ve yalnızca asgari uyumluluk gerekliliklerini yerine getirir. Bu değiş tokuş özellikle hassas veriler söz konusu olduğunda endişe verici hale gelir çünkü bu tür veriler kritiklikleriyle orantılı korumalar gerektirir. Günümüzde, yetersiz güvenlik önlemlerinin riskleri, verilerin işlevselliklerinin temelini oluşturduğu yapay zekâ ve makine öğrenimi (AI/ML) sistemlerinde giderek daha belirgin hale gelmektedir. 

Veri zehirlenmesi nedir?

Yapay zekâ ve makine öğrenimi modelleri, denetimli ve denetimsiz öğrenme yoluyla sürekli olarak güncellenen temel eğitim veri kümeleri üzerine inşa edilir. Makine öğrenimi yapay zekânın gelişmesinde önemli rol oynar. Makine öğrenimi sayesinde gerçekleşen derin öğrenme, diğer etkenlerle birlikte yapay zekânın yeteneklerini ilerletmesini mümkün kılar. Veriler ne kadar çeşitli ve güvenilir olursa modelin çıktıları da o kadar doğru ve kullanışlı olacaktır. Bu nedenle, eğitim sırasında bu modellerin büyük miktarda veriye erişmesi gerekir. Öte yandan, doğrulanmamış veya iyi incelenmemiş veri kümeleri güvenilmez sonuçların ortaya çıkma olasılığını artırdığından veri yığınlarına güvenmek riskleri de beraberinde getirmektedir. Üretken yapay zekânın, özellikle de büyük dil modellerinin (LLM’ler) ve bunların yapay zekâ asistanları şeklindeki uzantılarının, modelleri kötü niyetli amaçlarla kurcalayan saldırılara karşı özellikle savunmasız olduğu bilinmektedir.  En sinsi tehditlerden biri, düşmanların modelin davranışını değiştirmeye çalıştığı ve yanlış, önyargılı ve hatta zararlı çıktılar üretmesine neden olduğu veri (veya veri tabanı) zehirlenmesidir. Bu tür tahrifatların sonuçları uygulamalar arasında dalgalanarak güveni sarsabilir ve hem insanlar hem de kuruluşlar için sistemik riskler doğurabilir.

Veri zehirlenmesi türleri

Veri zehirleme saldırılarının çeşitli türleri vardır, örneğin:

·       Veri enjeksiyonu: Saldırganlar, bir yapay zekâ modelinin davranışını değiştirmesini sağlamak için eğitim verilerine kötü amaçlı veri noktaları enjekte eder. Çevrimiçi kullanıcıların Tay Twitter botunu saldırgan tweetler atacak şekilde yavaşça değiştirmesi buna iyi bir örnektir.

·       İçeriden saldırılar: Normal içeriden tehditlerde olduğu gibi, çalışanlar erişimlerini kötüye kullanarak bir modelin eğitim setini değiştirebilir, davranışını değiştirmek için parça parça değiştirebilirler. İçeriden saldırılar özellikle sinsidir çünkü meşru erişimden faydalanırlar.

·       Tetikleyici enjeksiyonu: Bu saldırı, bir tetikleyici oluşturmak için yapay zekâ modelinin eğitim setine veri enjekte eder. Bu, saldırganların bir modelin güvenliğini aşmasına ve belirlenen tetikleyiciye göre durumlarda çıktısını manipüle etmesine olanak tanır. Bu saldırının tespit edilmesindeki zorluk, tetikleyicinin tespit edilmesinin zor olabilmesinin yanı sıra tetikleyici etkinleştirilene kadar tehdidin uykuda kalmasıdır.

·       Tedarik zinciri saldırısı: Bu saldırıların etkileri özellikle korkunç olabilir. Yapay zekâ modelleri genellikle üçüncü taraf bileşenleri kullandığından tedarik zinciri sürecinde ortaya çıkan güvenlik açıkları sonuçta modelin güvenliğini tehlikeye atabilir ve onu istismara açık hale getirebilir.

Yapay zekâ modelleri hem iş hem de tüketici sistemlerine derinlemesine gömüldükçe asistanlar veya verimlilik artırıcılar olarak hizmet verdikçe bu sistemleri hedef alan saldırılar önemli bir endişe kaynağı haline geliyor. Kurumsal yapay zekâ modelleri verileri üçüncü taraflarla paylaşmasa da çıktılarını iyileştirmek için şirket içi verileri silip süpürmeye devam ediyor. Bunu yapmak için hassas bilgi hazinesine erişmeleri gerekir, bu da onları yüksek değerli hedefler haline getirir. Genellikle hassas verilerle dolu olan kullanıcı komutlarını diğer taraflarla paylaşan tüketici modelleri için riskler daha da artmaktadır.

Makine öğrenimi ve yapay zekâ gelişimi nasıl güvence altına alınır?

ML/AI modelleri için önleyici stratejiler hem geliştiricilerin hem de kullanıcıların farkındalığını gerektirir. Temel stratejiler şunları içerir:

·       Sürekli kontroller ve denetimler: Kötü niyetli manipülasyon veya önyargılı verilerin onları tehlikeye atmasını önlemek için AI/ML modellerini besleyen veri kümelerinin bütünlüğünü sürekli olarak kontrol etmek ve doğrulamak önemlidir.

·       Güvenliğe odaklanın: Yapay zekâ geliştiricilerinin kendileri de saldırganların hedefinde olabilir, bu nedenle proaktif önleme, erken tespit ve sistemik güvenlik kontrolleri ile saldırı yüzeyini en aza indirmeye yönelik önleme öncelikli bir yaklaşım sağlayabilecek bir güvenlik kurulumuna sahip olmak, güvenli geliştirme için olmazsa olmazdır.

·       Çekişmeli eğitim: Daha önce de belirtildiği gibi, modeller genellikle öğrenmelerini yönlendirmek için profesyoneller tarafından denetlenir. Aynı yaklaşım, modellere kötü niyetli ve geçerli veri noktaları arasındaki farkı öğretmek için de kullanılabilir ve sonuçta zehirleme saldırılarının engellenmesine yardımcı olur.

·       Sıfır güven ve erişim yönetimi: Hem içeriden hem de dışarıdan gelen tehditlere karşı savunmak için bir modelin temel verilerine yetkisiz erişimi izleyebilen bir güvenlik çözümü kullanın. Bu şekilde şüpheli davranışlar daha kolay tespit edilebilir ve önlenebilir. Ek olarak, sıfır güven ile hiç kimseye varsayılan olarak güvenilmez ve erişim izni verilmeden önce birden fazla doğrulama yapılması gerekir.

Kaynak: (BYZHA) Beyaz Haber Ajansı

Bu amaçla ESET, IBM QRadar SIEM ile entegrasyon yolculuğuna devam ediyor. ESET PROTECT Platformu ve IBM QRadar SIEM arasındaki entegrasyon, ESET’in yapay zekâya dayalı siber güvenlik platformunu QRadar’ın güvenlik bilgileri ve olay yönetimi (SIEM) yetenekleriyle birleştiriyor. Bu, ESET’ten gelen tehdit verilerinin QRadar SIEM tarafından alınmasını sağlayarak kurumsal güvenliği geliştirmek için görünürlük ve eyleme geçirilebilir içgörüler sağlar. Tek bir hamlede, uç nokta faaliyetlerinin izlenmesi ve bir kuruluştaki birden fazla perimetrede tehditlerin tanımlanmasındaki zorlukların üstesinden geliniyor. 

Bu tür entegrasyonlar, karmaşıklığı azaltırken daha iyi siber hijyeni teşvik ediyor. Böylece bir kuruluşun güvenlik seviyesini önemli ölçüde artırabiliyor. Tehdit avlama ve olay müdahale yetenekleri yükseltilebiliyor. Bu, güvenlik analistlerinin hızlı ama tatmin edici güvenlik kararları almalarına yardımcı olmalı, süreçlerinin kalitesini ve verimliliğini artırmalıdır. ESET, Microsoft Sentinel ile de entegre olarak kurumların gelişmiş izleme, analiz ve olay müdahalesi için ESET tehdit algılama verilerini MS Sentinel’e almasını sağlıyor. ESET tarafından geliştirilen veri bağlayıcısı, algılama günlüklerinin alınmasını otomatikleştirmek için ForREST API kullanıyor. Merkezi bir platformda sürekli güvenlik içgörüleri sunuyor. Entegrasyon, veri aktarımını otomatikleştirerek, uç nokta verilerini bulut güvenliği ile ilişkilendirerek ve genellikle oldukça karmaşık olabilen olay yönetimini kolaylaştırarak manuel müdahaleyi azaltıyor. 

ESET İşletme Direktörü Pavol Balaj yaptığı açıklamada şunları söyledi: “Müşteriler siber güvenlik yığınlarını birleştirdikçe ve sorunsuz entegrasyonlar talep ettikçe ESET tam olarak ihtiyaç duydukları şeyi sunuyor. Yapay zekâya dayalı ESET PROTECT Platformumuz, güçlü tespit motoruyla büyük SIEM oyuncuları Microsoft Sentinel ve IBM QRadar SIEM ile sorunsuz bir şekilde entegre olarak ortamlarında kapsamlı görünürlük sağlıyor. Bu entegrasyonlar eyleme geçirilebilir hızlı tespit sunarak odağı, yavaş düzeltme ve karmaşıklıktan erken önleme ve gelişmiş güvenlik verimliliğine kaydırır. Sonuçta bu, müşterilerimizin daha düzenli, etkili ve proaktif bir siber güvenlik duruşu elde etmelerini sağlıyor.”

Kaynak: (BYZHA) Beyaz Haber Ajansı

Dünyanın lider telekomünikasyon şirketlerinden Vodafone Grubu ve Google, Google Cloud ve Google Gemini modelleriyle desteklenen yeni hizmetleri, cihazları ve TV deneyimlerini Avrupa ve Afrika’daki milyonlarca Vodafone müşterisine sunmak üzere, mevcut iş ortaklıklarını stratejik bir kararla 10 yıllık daha uzattıklarını belirtti. Vodafone’un 15 ülkedeki müşterilerinin yanı sıra dünya çapında 45 pazardaki iş ortaklarına, depolama, güvenlik ve yapay zekâ desteği sunacak anlaşma kapsamında, Google, işgücü verimliliğini artırmak için Vodafone’un sabit ve mobil bağlantı hizmetlerini kullanacak.

Anlaşmaya göre Vodafone, Avrupa’daki hızlı 5G ağı üzerinden Google’ın yapay zekâ destekli Pixel cihazlarına daha fazla erişilmesini sağlayacak ve Android ekosistemini desteklemeye devam edecek. Cihazlarında Google Cloud’un üretken yapay zekasını kullanan Vodafone TV, geliştirilmiş içerik arama ve öneriler sunma işlemlerini daha da kişiselleştirilmiş ve ilgi çekici hale getirmeyi hedefliyor. Ayrıca, gelecekte Google Ad Manager ile reklamcılık deneyimleri sunulması da planlanıyor. 

İş ortakları, Vodafone’un 2025 yılına kadar belirli bölgelerde devreye alacağı Gemini Advanced’i de içeren Google One AI Premium abonelik planları da önerecek. Vodafone, mevcut özel veri havuzunu kullanarak Google Cloud ile ortaklığını genişletecek. Şirket, müşterilerine yeni hizmetleri ve yenilikleri hızla sunmak için Google Cloud’un Vertex AI adlı kullanıma hazır kurumsal yapay zekâ platformunu kullanacak. Vodafone ayrıca siber güvenlik, veri analitiği ve yapay zekâ dahil olmak üzere, Google Cloud’un Güvenlik Operasyonları platformundan yararlanarak kurumsal müşterilerine yönelik yeni bir bulut tabanlı güvenlik hizmetleri dağıtma ve geliştirme taahhüdünü de güçlendirecek.

Amaç, gelişmiş tüketici deneyimlerine öncülük etmek

Tüketicilerin yapay zekâ ve bulut tabanlı uygulamalar da dahil olmak üzere en yeni donanım ve dijital teknolojilerden yararlanmasını desteklemek, Vodafone ve Google iş birliğinin temel odak noktalarından birini oluşturuyor. Bu sayede Vodafone ve Google hem mağazalarda hem de online olarak sunulan ve yapay zekâ desteğiyle yeni müşteri deneyimleri yaşatacak olan ürün ve hizmet yelpazesini geliştirip çeşitlendirmek için birlikte çalışacak. Bir dizi Pixel cihazı ve Android tabanlı farklı cihazlar tanıtacak olan iş birliği çerçevesinde Vodafone, YouTube aboneliğine dayalı ürünleri, depolama planlarını, AI Premium planlarını ve Google One abonelik planlarını tüketicilerle buluşturacak. 

Vodafone ve Google, ek içerikleri keşfetme özellikleri, ödül ve teklif hizmetleri sağlamak için Google Cloud’un gelişmiş üretken yapay zekâ yetenekleriyle donatılan Vodafone TV’yi geliştirmek için birlikte çalışacak; daha etkin reklam deneyimi için Google Ad Manager ile içeriklerden para kazanma imkânı sunmayı destekleyecek. İki teknoloji devi ayrıca, Vodafone TV cihazlarına daha iyi entegre edilmiş YouTube deneyimini de önümüzdeki dönemde kullanıcılarına sunacak.

İki teknoloji devi de endüstriyel verimlilik için ölçek ekonomilerini teşvik etmek, inovasyonu artırmak ve kamu hizmetlerini geniş ölçekte iyileştirmek için online ortamda güvenlik, sorumlu yapay zekâ geliştirme, ağ performansı iyileştirme ve birlikte çalışabilirlik gibi alanlarda evrensel endüstri standartlarının benimsenmesini teşvik edecek. İş birliği sayesinde Vodafone, yapay zekâ destekli bulut hizmetlerini, içerikleri ve bağlantı yeniliklerini daha fazla kullanıcıya ulaştıracak. 

Tüketiciler yapay zekâ ile güçlenecek

Tüm Avrupa’daki hızlı 5G şebekesiyle birlikte yapay zekâ destekli Google Pixel cihazlardan ve diğer Android telefonlar oluşan daha geniş bir ürün yelpazesi aracılığıyla tüketicilerin yapay zekânın gücünü deneyimlemesini daha kolay hale getirmeyi amaçlayan Vodafone, geliştirilmiş online kılavuzlar, özelleştirilmiş mağaza içi deneyimler ve güncel eğitim almış mağaza çalışanlarıyla müşterilerin yapay zekâ özellikleri hakkında bilgi edinmesine yardımcı olacak. 

Sınıfının en iyisi TV platformu 

Vodafone ve Google bununla beraber Vodafone TV müşterilerine kişiselleştirilmiş TV içerikleri, uygulamalar ve ödüller sunmak için yapay zekâ tarafından oluşturulan içerik arama ve önerilerde bulunma çözümleri geliştirecek. Böylece Vodafone’un şu anda yedi ülkede kullanılan ve 2023 yılında Android TV’yi benimseyen Vodafone TV ürünü, daha fazla tercih edilen bir platform haline gelecek. 

Bulut ve yapay zekâya daha fazla erim 

Google ve Vodafone ortaklığı bunun yanında Vodafone abonelerine bulut tabanlı gelişmiş yapay zekâ yetenekleriyle oluşturulmuş bir dizi hizmet sunmayı da hedefliyor. Bu hizmetler arasında Google One’da fotoğraf, video ve dosya depolama ile Google’ın en yetenekli yapay zekâ modellerinin ekstra gücünü isteyenler için Gemini Advanced ile Google One AI Premium’un yer alması beklenirken, abonelik tabanlı YouTube hizmetlerinin daha fazla Vodafone müşterisine sunulması için de çalışmalar yapıyor. Bu hizmetlerin tümü, Vodafone’un belirli bölgedeki güçlü sabit ve mobil ağlarıyla desteklenecek.

Kaynak: (BYZHA) Beyaz Haber Ajansı