Neden önemlidir? Görüntü ve videonun makine öğrenimi kullanımı ile manipüle edildiği derinlik fenomeni hala ilk günlerinde ve insanlar bugüne kadar hepimiz gülüp eğlenebileceğimiz iyi huylu yaratımlar üretti. Ancak, diğer tüm yeni teknolojilerde olduğu gibi, çözdüğünden daha fazla sorun yaratma riski her zaman vardır. İlginç bir şekilde, Facebook, son zamanlarda gerçekleşen kötü tanıtımların bazılarını, çok gerçekçi derinliklerin dezenfekte etme kampanyalarını desteklemek gibi olumsuz bir etkiye sahip olabileceği durumlara hazırlanmak için yeni bir çaba ile yıkamak istiyor.

Deepfakes var oluyor inandırıcı orijinal fotoğraflar ve videolar ile algoritmalar kullanılarak üretilen içerik arasındaki farkın fark edilmesinin zorlaştığı. Facebook, platformunun çoğalmaları için ideal olduğunu biliyor, bu yüzden takım kurmak Microsoft, AI için Ortaklık ve ABD'deki birçok üniversite ile sahte ve otantik içerik arasında yüksek bir doğrulukla ayırt edebilen ve muhtemelen bunu ölçekli bir yazılım geliştirmeye teşvik etmek ve teşvik etmek.

Bu amaçla, sosyal dev, "Deepfake Tespit Mücadelesi" adlı bir yarışma yaratıyor ve burada, AI'nın videoları değiştirmek için kullanıldığını algılayabilen açık kaynak teknolojisini bulma umuduyla 10 milyon doların üzerinde bir taahhütte bulundu.

Facebook'un ücretli aktörlerle oluşturulmuş bir başlangıç ​​noktası olarak, bu soruna katkıda bulunmak için rızası istendiği bir veri kümesi kullanacağını belirtmek gerekir. Bu önemlidir, çünkü şirket sınıf eylem davası oluşturduktan sonra yüz tanıma modelleri izin istemeden kullanıcıları için.

İnsanlar, en azından şunu okuyana kadar, deepfakes oluşturabilecek uygulamalarla çok eğlenirler ince baskı gizlilik politikalarında. Oldukça gerçekçi olmasına rağmen, yakın bir incelemede tutarsız gölgeler ve çift kaşlar gibi küçük işaretler bulabilirsiniz. Facebook endişeli ünlüler ve politikacılar imajlarına zarar vermek ve yanlış bilgileri yaymak için kullanılabilir, bu yüzden platformda büyük bir sorun haline gelmeden önce iyi eğitimli bir algoritmaya ihtiyaç olduğuna inanır.

Facebook CTO'su Mike Schroepfer, şirketin aynı zamanda deepfakes için doğru politika değişiklikleri yapmaya odaklandığını söyledi. En zor karar, tüm derin yüzlerin derhal işaretlenip kaldırılması veya sadece yanlış bilgi oluşturanların belirlenmesi gerekip gerekmediğini belirlemek olacaktır. Her durumda, daha iyi tespit araçlarının geliştirilmesinin deepfakes oluşturmayı daha zor ve daha pahalı hale getirmesi gerektiğine inanıyor.