İtiraf ettiler… ChatGPT, önyargılı ve saldırgan

0

BEĞENDİM

ABONE OL

News

0

OpenAI tarafından ortaya çıkarılan sohbet botu teknoloji dünyasının gündeminden düşmüyor. Bir şiirden bir iş sunumuna kadar farklı konularda yazabilen yapay zeka botu, son haftalarda politik olarak önyargılı olmakla suçlanıyor.

Cumhuriyetçi senatör Ted Cruz, ChatGPT’nin bölücü olduğunu söyledi. Cruz, Fidel Castro’nun hayatını kutlayan bir şarkı yazmayı nasıl reddettiğini vurgularken, Donald Trump’ı öven bir şiir yazmaya istekli oluşuna da dikkat çekti.

OpenAI de bu sorunları ele almak için yapay zeka botunu nasıl eğittiğine ilişkin anlatımları yayınladı. Şirket bir blog gönderisinde şunları söyledi: “ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan veya başka nedenlerle sakıncalı buldukları söylemleri paylaştılar.”

“BİR KÖPEK GİBİ EĞTİLİR”

Open AI, sohbet botunun eğitimini bir köpeğe verilen eğitimle karşılaştırdı: “Sıradan yazılımların aksine, modellerimiz çok büyük sinir ağlarından oluşuyor. Davranışları, açıkça programlanmış değil, geniş bir veri yelpazesinden öğrenir. Mükemmel bir benzetme olmasa da süreç, sıradan bir programlamadan çok bir köpeği eğitmeye benzer. İlk olarak, modelin bir cümledeki bir sonraki kelimeyi tahmin etmeyi öğrendiği, çok sayıda internet metnine maruz kalmasıyla ön eğitim aşaması olur. Bunu, sistem davranışını daraltmak için modellerimizde ince ayar yaptığımız ikinci bir aşama izler.”

Ancak şirket bu sürecin doğru bir şekilde işlemediğini ve sohbet botunun sorunları olduğunu kabul ediyor. Microsoft, uzun sorgulamalardan sonra son günlerde kavgacı, taciz edici ve manipülatif hale gelen kendi chatbot kullanıcılarını kısıtlayacağını duyurdu.

Microsoft, kullanıcıların artık oturum başına belirli bir soru sayısıyla sınırlanacağını duyurdu.