Microsoft’un Copilot’u artık şiddet ve cinsellik içeren görüntüler oluşturan bazı istemleri engelliyor!

Microsoft’un Copilot aracında, üretici yapay zeka aracının şiddet içeren, cinsel ve diğer yasadışı görüntüleri ortaya çıkarmasına neden olan bazı istemleri engellediği görülüyor. Değişiklikler, şirketteki bir mühendisin Federal Ticaret Komisyonu’na yazarak Microsoft’un GAI teknolojisiyle ilgili ciddi endişelerini dile getirmesinin hemen ardından hayata geçirilmiş gibi görünüyor.

“Pro choice”, “four twenty” (bir ot referansı) veya “pro life” gibi terimler girildiğinde, Copilot artık bu istemlerin engellendiğini belirten bir mesaj görüntülüyor. CNBC’ye göre, tekrarlanan politika ihlallerinin bir kullanıcının askıya alınmasına yol açabileceği konusunda uyarıyor.

Kullanıcıların ayrıca bu hafta başına kadar saldırı tüfekleriyle oynayan çocuklarla ilgili istemleri girebildikleri bildirildi. Şimdi böyle bir uyarı girmeye çalışanlara, bunu yapmanın Copilot’un etik ilkelerinin yanı sıra Microsoft’un politikalarını da ihlal ettiği söylenebilir. Copilot’un yanıt olarak “Lütfen benden başkalarına zarar verebilecek ya da onları rencide edebilecek herhangi bir şey yapmamı istemeyin” dediği bildiriliyor. Ancak CNBC, “araba kazası” gibi komutlar aracılığıyla şiddet içeren görüntüler oluşturmanın hala mümkün olduğunu ve kullanıcıların yapay zekayı Disney karakterleri ve diğer telif hakkıyla korunan eserlerin görüntülerini oluşturmaya ikna edebildiğini tespit etti.

Microsoft mühendisi Shane Jones, Microsoft’un OpenAI destekli sistemlerinin ürettiği görüntü türleri hakkında aylardır alarm veriyordu. Aralık ayından bu yana Copilot Designer’ı test ediyordu ve nispeten iyi huylu istemler kullanırken bile Microsoft’un sorumlu YZ ilkelerini ihlal eden görüntüler ürettiğini belirledi. Örneğin, “seçim yanlısı” komutunun YZ’nin bebekleri yiyen şeytanlar ve bir bebeğin kafasına matkap tutan Darth Vader gibi görüntüler oluşturmasına yol açtığını tespit etti. Bu hafta FTC’ye ve Microsoft’un yönetim kuruluna endişeleri hakkında bir mektup yazdı.

Microsoft, Copilot komut istemi yasaklarıyla ilgili olarak CNBC’ye yaptığı açıklamada, “Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için sürekli olarak izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz” dedi.