OkCupid'den Clarifai'ya 3 Milyon Fotoğraf: Silindi, Ama Geç mi Kalındı?

Bazen teknoloji haberlerini okurken "Eee, bekle bir dakika" diyorsunuz. Bu tam o haberlerden.

Clarifai diye bir yapay zeka şirketi var. Yüz tanıma teknolojileri geliştiriyorlar. 2014 yılında - dikkat, tam 12 yıl önce - OkCupid'e gitmişler ve "Bize kullanıcı fotoğrafları verin, AI'mızı eğitelim" demişler. Ve OkCupid vermiş. 3 milyon fotoğraf.

Evet, doğru okudunuz. Flört uygulamasında profil açmış, belki o gece buluşacağınız birini ararken yüklediğiniz fotoğraflarınız, bir yapay zeka şirketinin yüz tanıma sistemini eğitmek İçin kullanılmış olabilir.

Peki Bunun Neresi Skandal?

Şimdi, normal şartlarda "Veri paylaşımı yapılmış, tamam" diyebilirsiniz. Ama işin içine birkaç detay girince - gel gör ki - durum biraz karışıyor.

Birincisi: OkCupid'in yöneticileri Clarifai'ya yatırım yapmış. Yani bir çıkar ilişkisi var ortada. İkincisi (ve asıl önemlisi): Kullanıcılar fotoğraflarını yüklerken, bunların yüz tanıma AI'sı eğitmek için kullanılacağından muhtemelen habersizdiler.

Mahkeme belgelerine göre - ki bunlar TechCrunch'ın eline ulaşmış - Clarifai 2014'te bu veriyi talep etmiş. Arada tam 12 yıl geçmiş. Siz düşünün: 2014'te yüklediğiniz bir selfie, şu anda hâlâ bir yerlerdeki sunucularda AI modelini eğitiyor olabilirdi.

FTC Devreye Girdi, Ama Geç mi?

Federal Ticaret Komisyonu (FTC) sonunda bu işe el atmış. Clarifai ile bir anlaşma yapılmış ve şirket bu 3 milyon fotoğrafı silmek zorunda kalmış.

Tabii burada asıl soru şu: Veriler silindi, tamam. Peki ya bu verilerle eğitilen modeller? AI'nız bir kere öğrendikten sonra, ham veriyi silmeniz o bilgiyi gerçekten yok eder mi?

Bence - ve bunu sektörde yıllarca gözlemledikten sonra söylüyorum - hayır. Model zaten eğitilmiş. Ağırlıklar oturmuş, özellik çıkarımları yapılmış. Fotoğrafları silmek sembolik bir hareket gibi duruyor.

Startup Dünyasında Veri, Yeni Petrol mü, Yoksa Zehir mi?

Şunu anlamak lazım: Yapay zeka şirketleri için veri hayati önem taşıyor. Özellikle yüz tanıma gibi alanlarda kaliteli, çeşitli veri setleri olmadan iyi bir model eğitemezsiniz.

Ama - büyük bir ama var burada - bu veriler nereden geliyor? Kim izin veriyor? Kullanıcılar gerçekten rıza gösteriyor mu?

OkCupid örneğinde durum oldukça şeffaf değil. Kullanıcılar aşk arıyor, siz onların yüzlerini AI'ya yem ediyorsunuz. Etik mi? Tartışılır.

• 2014: Clarifai, OkCupid'den veri talep ediyor
• Aradan geçen süre: 12 yıl
• Silinen fotoğraf sayısı: 3 milyon
• FTC müdahalesi: 2026 başında sonuçlanıyor

Diğer Şirketler de Benzer Şeyler Yapıyor mu?

Şimdi asıl korkutucu soru bu. Clarifai yakalandı (veya anlaşmaya oturdu), tamam. Peki ya diğerleri?

Yapay zeka sektöründe "önce yap, sonra izin iste" mantığı hakim. Yani bu tür veri kullanımları muhtemelen sadece buzdağının görünen kısmı. Kaç tane benzer anlaşma var, bilmiyoruz. Kaç milyon fotoğraf, video, metin sessizce eğitim verisi olarak kullanılıyor, onu da bilmiyoruz.

Açıkçası, bu beni rahatsız ediyor. Çünkü düzenleme hep reaktif kalıyor. Önce skandal patlıyor, sonra FTC devreye giriyor. Ama o zamana kadar model çoktan eğitilmiş, ürün piyasaya sürülmüş oluyor.

Peki Ya Kullanıcılar Ne Yapabilir?

Bana sorarsan, şu noktada bireysel olarak yapabileceğiniz çok şey yok. Uygulamalara fotoğraf yüklemeyecek değilsiniz - hele de sosyal veya flört uygulamalarında bu imkansız.

Ama şunları yapabilirsiniz:

• Gizlilik politikalarını okuyun (evet, sıkıcı, biliyorum - ama en azından veri paylaşımı kısmına göz atın)
• Hangi uygulamaların hangi verilerinizi kullandığını takip edin
• Mümkünse, yüz tanıma özelliklerini devre dışı bırakın
• Şirketlerin nasıl para kazandığını anlayın - bedava bir şey yoktur, eğer ürün bedavaysa, ürün sizsiniz

Sonuç: Bardağı Taşıran Bir Damla Daha

Clarifai-OkCupid vakası, yapay zeka çağında veri etiği konusunda artan denetimin bir göstergesi. FTC ve diğer düzenleyici kurumlar artık daha dikkatli - bu iyi bir şey.

Ama yine de geç kalınmış gibi hissediyorum. 12 yıl sonra veri silmek, zararı Geri alır mı? Sanmıyorum.

Sektörde daha sıkı düzenlemelere, daha şeffaf veri kullanım politikalarına ve - belki de en önemlisi - gerçek kullanıcı rızasına ihtiyacımız var. Yoksa bu tür haberler çoğalmaya devam edecek.

Gel gor ki, yapay zeka treni o kadar hızlı ilerliyor ki, düzenlemeler hep bir adım geride kalıyor. Bakalım, belki bir gün yetişir.

Sık Sorulan Sorular

Clarifai neden bu fotoğrafları sildi?
FTC ile yapılan bir anlaşma sonucunda, şirket OkCupid'den aldığı 3 milyon kullanıcı fotoğrafını silmek zorunda kaldı. Anlaşmanın detayları tam olarak açıklanmadı, ancak veri gizliliği ihlali endişeleri olduğu belirtiliyor.

Kullanıcılar bu veri paylaşımından haberdar mıydı?
Mevcut bilgilere göre, OkCupid kullanıcılarının fotoğraflarının yüz tanıma AI'sı eğitmek için kullanılacağından haberdar olup olmadıkları net değil. Bu da zaten tartışmanın özünü oluşturuyor.

Veriler silindi ama model zaten eğitilmişse ne olacak?
İşte kritik nokta bu. Ham veriler silinse bile, bu verilerle eğitilmiş AI modelleri hâlâ var. Model ağırlıkları ve öğrenilen özellikler, veri silinse de kalıyor. Bu yüzden "silme" işlemi tartışmalı.

Kaynak: TechCrunch AI