Dünya genelindeki seçimlere yönelik yanıltıcı yapay zeka (DeepFafe) kullanımını engellemek için yirmi önde gelen teknoloji şirketi, Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic ve X gibi devlerin de aralarında bulunduğu platformlar bir araya geldi.
2024 yılında dünya çapında 40’tan fazla ülkede 4 milyar insanın oy kullanması bekleniyor. Uzmanlar, kötü niyetli kişilerin eline geçen kolayca erişilebilir üretken yapay zeka araçlarının bu seçimleri etkileyebileceğini ve oyları etkileyebileceğini belirtti.
Üretken yapay zeka araçları, kullanıcıların basit metin girdilerinden resimler, videolar veya sesler oluşturmasına olanak tanır. Bazılarında siyasetçilerin veya ünlülerin hiç söylemediği veya hiç yapmadığı şeyleri söyleme veya yapma içeren içerikler oluşturulmasını önlemek için gerekli güvenlik önlemleri bulunmamaktadır.
Geçen ay sadece, New Hampshire ön seçiminde Başkan Joe Biden’ın sesini taklit eden sahte bir robocall, insanları oy kullanmaktan caydırdı. 13 Ocak’taki Tayvan başkanlık seçimleri öncesinde, Tayvan da sosyal medyada dolaşan DeepFafe içeriklerin paylaşıldığı görüldü.
Münih Güvenlik Konferansı’nda, bu şirketler “2024 Seçimlerinde Yanıltıcı Yapay Zeka Kullanımıyla Mücadele Teknoloji Anlaşması”nı duyurdu. Bu anlaşma, zararlı AI içeriğine karşı teknoloji kullanımı için belirli sekiz taahhüt setinden oluşan gönüllü bir anlaşmadır.
Münih konferansında konuşan Google‘ın küresel işler başkanı Kent Walker “Demokrasi güvenli ve güvenilir seçimlere dayanır. Google yıllardır seçimlerde halkın iradesinin sandığa yansıtılmasında şeffaflığı destekliyor ve bugünün anlaşması, güveni erozyona uğratan AI (Yapay Zeka) tarafından üretilen, seçimlerde yanıltıcı bilgiye karşı endüstri tarafından yapılan bir taahhüdü yansıtıyor. Dijital kötüye kullanımın, ekonomilerimizi iyileştirmenin, yeni işler yaratmanın ve sağlık ve bilimde ilerlemeyi teşvik etmenin nesli aşan fırsatını tehlikeye atmasına izin veremeyiz.” diyor.
Bu taahhütlerden bazıları, platformlarında bu içeriğin dağıtımını tespit etmeyi ve yanıltıcı AI içeriği ile ilgili riskleri azaltmak için teknoloji geliştirmeyi ve uygulamayı içerir.
DeepFafe içeriklerin kullanılmasına yönelik Public Citizen‘ın icra başkanı Lisa Gilbert yaptığı basın açıklamasında “DeepFafe tehdidine karşı bir araya gelen bu şirketlerin muhtemelen en kötü kötüye kullanımlardan bazılarını kendi kendilerine sınırlamaya karar verdiklerini görmekten mutluluk duyuyoruz. Kendi kendini denetlemeye bağlı kalma, yardımcı olacaktır ancak yeterli değildir.” ifadelerini kullandı.
Lisa Gilbert “Yapay Zeka şirketleri, seçim riskleri oluşturan teknolojiyi (Özellikle metin komutlarından video oluşturan) önemli seçim riskleri sunan teknolojiyi geri tutmak için, potansiyel sorunların birçoğunu önlemeye yardımcı olacak yeterli ve yeterli güvenlik önlemleri olana kadar geri tutma taahhüdünde bulunmalıdır.” diye ekledi.
Bu, henüz genel kamuya açıklanmamış olan ve güvenlik uzmanları tarafından potansiyel risklere karşı test edilen Open AI‘ın metin komutlarından video oluşturma aracı Sora ile ilgili, kurumların tedirginliğini de ortaya koyan bir durum.
OpenAI, Yapay Zeka Modeli Sora’yı Duyurdu: Metinden Videoya Yaratıcılığın Yeni Boyutu
ABD Senatörleri Mark Warner (D-Va.) ve Lindsey Graham (R-S.C.), destek için bir araya geldikleri ortak bir açıklamada “Bu, yapıcı bir adım ileriye doğru. İlgili şirketlerin taahhüt etmelerinden dolayı memnuniyet duyuyoruz. Bu adımların ne kadar etkili olduğu ve daha fazla eyleme ihtiyaç olup olmadığı zaman gösterecek. Hepimizin seçimlerin bütünlüğünü korumak ve demokratik süreci sürdürmek için rolü var ve teknoloji şirketlerinin bu kritik adımını memnuniyetle karşılıyoruz.” diyorlar.
18 Şubat 2024 günü itibarıyla, 2024 Seçimlerinde Yanıltıcı Yapay Zeka Kullanımıyla Mücadele Teknoloji Anlaşması’nı imzalayanlar: Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic ve X.
