Teknoloji
Microsoft, OpenAI, Google ve diğerleri seçimle ilgili deepfake’lerle mücadele etme konusunda anlaştı!
20 teknoloji şirketinden oluşan bir koalisyon, 40’tan fazla ülkede gerçekleşecek olan kritik 2024 seçimlerinde yapay zeka ile yapılan derin sahtekarlıkları önlemeye yardımcı olmak için Cuma günü bir anlaşma imzaladı. OpenAI, Google, Meta, Amazon, Adobe ve X, seçmenleri etkileyebilecek yapay zeka tarafından üretilen içeriği önlemek ve bununla mücadele etmek için anlaşmaya katılan işletmeler arasında yer alıyor. Ancak anlaşmanın muğlak dili ve bağlayıcı bir yaptırımının olmaması, yeterince ileri gidip gitmediğinin sorgulanmasına neden oluyor.
“2024 Seçimlerinde Yapay Zekanın Aldatıcı Kullanımıyla Mücadele için Teknoloji Anlaşması “nı imzalayan şirketlerin listesi, yapay zeka modellerini yaratan ve dağıtan şirketlerin yanı sıra derin sahtekarlıkların ortaya çıkma olasılığının en yüksek olduğu sosyal platformları da içeriyor. İmzacılar arasında Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc, Stability AI, TikTok, Trend Micro, Truepic ve X (eski adıyla Twitter) bulunuyor.
Grup anlaşmayı “seçmenleri kandırmaya yönelik yapay zeka tarafından üretilen zararlı içeriğe karşı teknolojinin kullanılmasına yönelik bir dizi taahhüt” olarak tanımlıyor. Anlaşmayı imzalayanlar aşağıdaki sekiz taahhüdü kabul etmişlerdir:
- Aldatıcı YZ Seçim içeriğiyle ilgili riskleri azaltmak için, uygun olduğunda açık kaynaklı araçlar da dahil olmak üzere teknoloji geliştirmek ve uygulamak
- Aldatıcı YZ Seçim İçeriği ile ilgili sunabilecekleri riskleri anlamak için bu anlaşma kapsamındaki modellerin değerlendirilmesiBu içeriğin kendi platformlarında dağıtımını tespit etmeye çalışmak
- Platformlarında tespit edilen bu içeriği uygun şekilde ele alma arayışı
- Aldatıcı yapay zeka seçim içeriklerine karşı sektörler arası dayanıklılığın artırılması
- Şirketin bu konuyu nasıl ele aldığına ilişkin kamuoyuna şeffaflık sağlanması
- Çeşitli küresel sivil toplum kuruluşları, akademisyenler ve sivil toplum örgütleri ile çalışmaya devam etmek
- Kamu bilinci, medya okuryazarlığı ve tüm toplumun dayanıklılığını artırmaya yönelik çabaların desteklenmesi
Anlaşma yapay zeka tarafından üretilen ses, video ve görüntüler için geçerli olacak. “Siyasi adayların, seçim görevlilerinin ve demokratik bir seçimdeki diğer kilit paydaşların görünüşlerini, seslerini veya eylemlerini aldatıcı bir şekilde taklit eden veya değiştiren ya da seçmenlere ne zaman, nerede ve nasıl oy kullanabilecekleri konusunda yanlış bilgi veren” içeriklere yöneliktir.
İmzacılar, deepfake’lerin çevrimiçi dağıtımını tespit etmek ve ele almak için araçlar oluşturmak ve paylaşmak üzere birlikte çalışacaklarını söylüyorlar. Buna ek olarak, eğitim kampanyaları yürütmeyi ve kullanıcılara “şeffaflık sağlamayı” planlıyorlar.
İmzacılardan biri olan OpenAI, geçen ay dünya çapında seçimle ilgili yanlış bilgileri bastırmayı planladığını söylemişti. Şirketin DALL-E 3 aracıyla üretilen görüntüler, yapay zeka tarafından üretilen resimler olarak kökenlerini netleştirmek için dijital bir filigran sağlayan bir sınıflandırıcı ile kodlanacak. ChatGPT üreticisi, kaynak sınıflandırıcısı hakkında geri bildirim almak için gazeteciler, araştırmacılar ve platformlarla da çalışacağını söyledi. Ayrıca chatbotların adayları taklit etmesini de engellemeyi planlıyor.
OpenAI Küresel İlişkiler Başkan Yardımcısı Anna Makanju, grubun ortak basın açıklamasında “Kötüye kullanımı önleyen politikalar uygulayarak ve yapay zeka tarafından üretilen içerik konusunda şeffaflığı artırarak seçimlerin bütünlüğünü korumaya kararlıyız” dedi. “Seçimlerin aldatıcı YZ kullanımından korunmasına yardımcı olmak için dünyanın dört bir yanındaki endüstri ortakları, sivil toplum liderleri ve hükümetlerle birlikte çalışmayı dört gözle bekliyoruz.”
Listede, şu anda en ikna edici sahte fotoğraflardan bazılarını üreten bir yapay zeka görüntü üreticisine (aynı adı taşıyan) sahip olan Midjourney şirketinin olmaması dikkat çekiyor. Ancak şirket bu ayın başlarında yaptığı açıklamada, seçim sezonunda siyasi kuşakları tamamen yasaklamayı düşüneceğini söyledi. Geçtiğimiz yıl Midjourney, Papa Benedict’in beklenmedik bir şekilde kabarık beyaz bir ceketle sokakta kasıla kasıla yürüdüğü viral sahte bir görüntü yaratmak için kullanılmıştı. Midjourney’in en yakın rakiplerinden biri olan Stability AI (açık kaynaklı Stable Diffusion’ın yapımcıları) bu çalışmaya katılmıştı. Engadget, Midjourney ile iletişime geçerek yokluğuyla ilgili yorum istedi; yanıt alırsak bu makaleyi güncelleyeceğiz.
Silikon Vadisi’nin “Beş Büyükleri” arasında sadece Apple yok. Ancak bu durum, iPhone üreticisinin henüz herhangi bir jeneratif yapay zeka ürünü piyasaya sürmemiş olması ya da deepfake’lerin dağıtılabileceği bir sosyal medya platformuna ev sahipliği yapmamasıyla açıklanabilir. Her şeye rağmen, açıklama için Apple PR ile temasa geçtik ancak yayın sırasında geri dönüş alamadık.
Federal İletişim Komisyonu (FCC), sahte kampanya aramalarında ses klonlama teknolojisinin daha fazla kötüye kullanılmasını önlemek için hızla harekete geçti. Bu ayın başlarında, oybirliğiyle yapay zeka tarafından üretilen robocall’ları yasakladı. (Görünüşe göre ebediyen çıkmaza girmiş olan) ABD Kongresi herhangi bir YZ mevzuatını kabul etmedi. Aralık ayında Avrupa Birliği (AB), diğer ülkelerin düzenleme çabalarını etkileyebilecek geniş kapsamlı bir YZ Yasası güvenlik geliştirme tasarısı üzerinde anlaştı.
Microsoft Başkan Yardımcısı ve Başkanı Brad Smith bir basın açıklamasında, “Toplum yapay zekanın faydalarını benimserken, bu araçların seçimlerde silah haline gelmemesini sağlamaya yardımcı olma sorumluluğumuz var” dedi. “Yapay zeka seçim hilelerini yaratmadı, ancak hilelerin gelişmesine yardımcı olmamasını sağlamalıyız.”