Yapay zekanın hızla geliştiği günümüzde, bu teknolojinin potansiyel tehditlerini önlemek için küresel iş birliği ve etik standartların daha hızlı geliştirilmesi gerektiğini dile getiren Prof. Dr. Burhan Pektaş, “Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” dedi.

Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi (MDBF) Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zekanın insanlığı yok etme olasılığı konusunu değerlendirdi.

Yapay Genel Zeka ve riskleri neler?

Yapay zekanın babası olarak tanınan Geoffrey Hinton’un, yapay zeka teknolojisinin gelecek 30 yılda insanlığı yok etme olasılığının arttığına ilişkin sözlerini değerlendiren Prof. Dr. Burhan Pektaş, “Geoffrey Hinton’un uyarısı, yapay zekanın (YZ) gelişimi sırasında kontrol mekanizmalarının yetersiz kalabileceği endişesini yansıtıyor. Bu görüş, özellikle ‘yapay genel zeka’ (AGI) olarak adlandırılan, insana benzer öğrenme ve karar verme kapasitesine sahip sistemlerin ortaya çıkma ihtimaliyle ilgilidir. Riskler şunlar; Otonom kontrol: YZ’nin kendi hedeflerini belirleyip bu hedeflere ulaşmak için insan çıkarlarını göz ardı etmesi. Silahlanma riski: Otonom silahların geliştirilmesi ve YZ’nin yanlış ellerde tehlikeli bir şekilde kullanılması. Bilgi manipülasyonu: Sahte bilgi üretimi, seçimler ve toplumsal karar alma süreçlerini manipüle edebilir. Ekonomik kontrol: Büyük şirketlerin YZ’yi tekelleştirmesi ve gelir eşitsizliğini artırması.” şeklinde konuştu.

Fiziksel, ekonomik, sosyal ve kültürel tehditler 

YZ’nin tehditlerinin sadece fiziksel yıkımla sınırlı olmadığını, aynı zamanda sosyal, ekonomik ve kültürel dönüşümleri de içerdiğini dile getiren Prof. Dr. Burhan Pektaş, şu tehditleri şöyle sıraladı:

“Fiziksel tehditler: Otonom silah sistemleri, güvenlik açıklarına sahip YZ uygulamaları.

Ekonomik tehditler: YZ’nin iş gücünü ikame etmesi sonucu geniş çaplı işsizlik.

Sosyal tehditler: Dijital eşitsizlik, mahremiyetin yok edilmesi ve gözetim toplumlarının oluşumu.

Kültürel tehditler: İnsan değerlerinin ve özgün yaratıcılığın YZ sistemleriyle rekabetinde erozyon.”

Etik ve güvenlik standartları yeterli mi?

Yapay zeka teknolojilerinde etik kurallar ve güvenlik standartlarının geliştirilmesi konusuna ilişkin de Prof. Dr. Burhan Pektaş, şu bilgileri verdi:

“Günümüzde bu alanda bazı ilerlemeler kaydedilse de (örneğin Avrupa Birliği’nin AI Act’i gibi), küresel düzeyde standartların geliştirilmesi halen yavaş ilerliyor. Bunun başlıca nedenleri: Uluslararası iş birliği eksikliği: Farklı ülkeler arasında çıkar çatışmaları. Teknolojik hız: YZ’nin gelişme hızı, düzenlemelerin uygulanma hızını aşıyor. Şirketlerin etkisi: Büyük teknoloji şirketlerinin lobicilik faaliyetleri.”

Büyük teknoloji şirketlerinin lobicilik faaliyetlerinin süreci yavaşlattığını dile getiren Prof. Dr. Burhan Pektaş, “Küresel bağlayıcılığı olan kurallar oluşturulmalı. Bağımsız denetleme kurumları kurulmalı. Eğitim programlarıyla etik farkındalık artırılmalı.” dedi.

Çözüm önerileri neler?

Yapay zekanın kontrol dışına çıkmasını önlemek için atılması gereken adımlara da işaret eden Prof. Dr. Burhan Pektaş, kontrol dışına çıkmayı önlemek için önerilerini şöyle sıraladı:

“Şeffaflık: Tüm YZ modellerinin nasıl çalıştığı kamuoyuna açık olmalı.

Güvenlik testleri: YZ sistemlerinin insan zararına yol açmayacağını garanti eden bağımsız testler yapılmalı.

Uluslararası iş birliği: Tüm ülkeler arasında bağlayıcı anlaşmalar sağlanmalı.

Etik denetim: YZ geliştiren şirketler düzenli etik denetimlerden geçirilmeli.

Kill switch mekanizmaları: YZ’nin istenmeyen bir duruma yol açması halinde durdurulmasını sağlayan teknik çözümler uygulanmalı.”

Distopik senaryolar gerçek olabilir mi?

Prof. Dr. Burhan Pektaş, yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade ederek, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut YZ sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz. Buna rağmen; Riskli senaryolar: Otonom sistemlerin yanlış algoritmalarla çalışması veya kötü niyetli kişiler tarafından kötüye kullanılması tehlike oluşturabilir. Gerçeklik payı: Günümüzde bu risklerin büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” şeklinde sözlerini tamamladı.

Kaynak: (BYZHA) Beyaz Haber Ajansı

Çok sayıda yeni kullanıcının oluşturduğu yükün yanı sıra DeepSeek’e yapıldığı iddia edilen siber saldırı nedeniyle, DeepSeek uygulamasında ve web sitesindeki kayıt sürecinde aksaklıklar yaşanıyor. Birçok kayıt düzgün şekilde gerçekleşemiyor. Bu durum, siber suçlular tarafından sahte DeepSeek web sayfaları aracılığıyla kullanıcıların kimlik bilgilerini çalmak için zemin yaratıyor.

Saldırganlar bu tür sahte kayıt sayfaları aracılığıyla kullanıcıların e-postalarını ve şifrelerini topluyor. Bunlar, kullanıcıların DeepSeek’teki veya diğer hizmetlerdeki hesaplarına erişmek için kullanılabiliyor. Özellikle de şifrelerin birden fazla hesap için aynı olduğu durumlarda risk daha da büyük.

Ayrıca DeepSeek kandırmacasına dayanan birkaç yeni kripto token de satışa sunuldu. Bunlar resmi olarak DeepSeek markasıyla bağlantılı olmadığından, sermayeleri de tamamen spekülatif nitelikte.

Kimlik avı e-postaları oluşturmak gibi dolandırıcılık yöntemlerine popüler yapay zeka modellerinde oldukça yaygın olarak rastlanıyor. Siber suçlular kaçınılmaz olarak bu tür araçları kötü niyetli amaçları için her fırsat bulduklarında kullanmaya çalışıyor.

Kaspersky GReAT Güvenlik Araştırmacısı Leonid Bezvershenko, şunları söylüyor: “DeepSeek örneğinde öne çıkan husus açık kaynak kodlu olmasıdır. Açık kaynaklı ortamlar şeffaflığı, işbirliğini ve inovasyonu teşvik ederken, aynı zamanda önemli güvenlik ve etik riskleri de beraberinde getirir. Açık kaynaklı bir araç kullanırken verilerinizin nasıl işlendiğinden her zaman emin olamazsınız. Özellikle de başka birinin bu aracı kullandığı durumlarda. Açık kaynaklı yazılımların istismarı, siber suçluların kötü amaçlı yazılım yerleştirmek için karmaşık kampanyalar yürüttüğü geçtiğimiz yıl boyunca önemli bir trenddi. Açık kaynaklı tarayıcımız 2024 yılında açık kaynak depolarında 12 binden fazla kötü amaçlı paket tespit etti. Merkezi gözetim olmadığı taktirde, saldırganlar yazılımın güvenliği ihlal edilmiş sürümlerini oluşturmaya başlayabilirler veya DeepSeek’in API’sini kullanmak için geliştirilmiş araçlar görüntüsü altında arka kapılar sunarak kullanıcılar ve kuruluşlar için ciddi riskler oluşturabilirler.”

Kaspersky, bu gibi tehditlerden korunmak için aşağıdaki ipuçlarını öneriyor:

• Hesap kimlik bilgilerini isteyen sayfaların adreslerini dikkatlice kontrol edin. Bir web sitesinin sahte olduğuna dair en ufak bir şüphe bile varsa, şifrenizi girmeyin
• Tüm parolalarınızın hem güçlü hem de benzersiz olduğundan emin olun. Bunları oluşturmak ve saklamak için bir parola yöneticisi kullanmanız iyi olacaktır.
• Mümkün olan her yerde daima iki faktörlü kimlik doğrulama kullanın.
• Kimlik bilgisi kaybı ve kötü amaçlı yazılımlardan korunmak için masaüstü ve mobil tüm cihazlarınız için güvenilir koruma kullanın.

Kaynak: (BYZHA) Beyaz Haber Ajansı