Yapay zeki algoritmaların günlük hayatınızı etkileyen kararlar aldığı bir dünya düşünün. Şimdi, önyargılı olduklarını düşünün.
Veri bilimcisi Harvard PhD ve yazar Cathy O'Neil, zaten yaşadığımız dünya. (Dr O'Neil ile yaptığımız tartışmanın birinci bölümünü buradan okuyun). Büyük veri çağında önyargı hakkında neler yapabileceğimizi öğrenmek için Ulusal Kitap Ödülü adayı ile oturduk. CT: AI önyargılı mı?
CO: Açıkça adil olmayan her algoritmanın önyargılı olduğu varsayılmalıdır. Çünkü insanlar olarak önyargılıyız. Bunu kabul edersek ve bu algoritmaları değerlerimiz ve verilerimizle yaratıyorsak, şeyleri adil yapmak için sihirli bir şey olduğunu varsaymamalıyız. Orada sihir yok.
CT: Algoritmalar verilerini nereden alıyor?
CO: Algoritmaya bağlıdır. Bazen sosyal medya, politik pazar hedefleme veya reklamcılık veya kar amaçlı kolejler ve yırtıcı borç verme gibi şeyler için - ancak çoğu veri sosyal medyada veya hatta çevrimiçi olarak toplanmıyor.
Veri toplama, bir iş bulmak, işinizde çalışmak, üniversiteye gitmek ya da hapse girmek gibi gerçek hayatla giderek daha fazla ilişkilidir. Bunlar gizlilik yasalarıyla atlayabileceğimiz şeyler değil. Bunlar algoritmalar tarafından hedeflenen insanların hiçbir gücünün olmadığı ve bilgi toplayan ve algoritmaları oluşturan ve dağıtan insanların tüm güce sahip olduğu güç sorunlarıdır. Cezai bir davalıysanız gizlilik haklarınız yoktur, işinizde herhangi bir gizlilik hakkınız yoktur ve bir işe başvuruyorsanız gizlilik haklarının yolunda fazla bir şey yoktur çünkü gelecekteki işvereninizin size sorduğu soruları yanıtlamazsanız, muhtemelen işi alamazsınız.
Algoritmalar ve [neden olabilecekleri] söz konusu olduğunda gizlilik hakkında daha az, güç hakkında daha fazla düşünmeliyiz.
CT: Daha iyi hale getirmek için ne yapabiliriz?
CO: Bu algoritmaların doğal olarak mükemmel olmadığını kabul edebilir ve kusurları açısından test edebiliriz. Algoritmaların bir tür ayrımcı veya haksız bir şekilde değil, istediklerimiz gibi davrandıklarından emin olmak için - özellikle işe alma, cezai hüküm verme veya insanları işlerinde değerlendirme gibi önemli kararlar için - sürekli denetimler ve monitörler uygulamalıyız.
Ailsa Johnson / © Kültür Gezisi
CT: Veriye dayalı gelecek için en iyi ve en kötü durum senaryoları nelerdir?
CO: En kötü senaryo şu an sahip olduğumuz şey - şimdiye kadar daha iyi bilmemize rağmen algoritmaların hepimizin körü körüne mükemmel olmasını bekliyoruz. Ve geçmiş adaletsizlikleri ve haksızlıkları yayıyoruz. Ve bu algoritmaların kusurlarını görmezden gelmeye devam ediyoruz.
En iyi senaryo, bu algoritmaların doğal olarak insanlardan daha iyi olmadığını kabul etmektir. İnsanlar olarak ne istediğimize, ne için çabaladığımıza karar veriyoruz. Toplumun neye benzemesini istiyoruz ve bu değerleri öğretiyoruz. Bunu başarılı bir şekilde yaparsak, bu algoritmalar insanlardan daha iyi olabilir.
CT: Sıradan insanlar hangi rolü oynayabilir?
CO: Bireyin oynayabileceği en önemli rol, herhangi bir algoritmaya dolaylı olarak güvenmemek. Muazzam miktarda şüpheciliğe sahip olmak. Bir algoritma üzerinde değerlendiriliyorsanız, 'Bunun adil olduğunu nasıl bilebilirim, yararlı olduğunu nasıl bilebilirim, doğru olduğunu nasıl bilebilirim? Hata oranı nedir? Bu algoritma kimin için başarısız? Kadınlar veya azınlıklar başarısız mı? ' Bu tür bir soru sorun.
Şüpheciliğin ötesindeki ikinci şey, eğer bir algoritmanın size veya başkalarına haksızlık ettiğini düşünüyorsanız, bu diğer insanlarla organize olmaktır. Son bir örnek öğretmenlerdir. Katma değerli öğretmenlerle ilgili istatistiksel modeller korkunç, neredeyse rasgele sayı üreteçleridir. Fakat ABD'nin her yerinde hangi öğretmenlerin görev süresi ve öğretmenlerin işten çıkarılması gerektiğine karar vermek için kullanılıyorlardı.
Benim önerim onların sendikalarını geri itmelerini sağlamak. Ve bu bazı yerlerde oldu. Ancak puanlama sisteminin matematiksel doğası nedeniyle ne kadar az direniş olması şaşırtıcı.
CT: 'Büyük verilere' nasıl girdiniz?
CO: Wall Street'te çalıştım ve içeriden gelen mali krize tanık oldum. Matematiğin ya insanlardan yararlanmak ya da insanları kandırmak için kullanılmasından tiksinti. Matematiksel yalanlardan, 'matematiğin silahlandırılması' dediğim hasarı gördüm.
Bundan kaçmaya karar verdim, bu yüzden Occupy Wall Street'e katıldım ve veri bilimcisi olarak çalışmaya başladım. Yavaş yavaş Wall Street dışında da yanıltıcı veri algoritmaları etrafında kusurlu ve yanıltıcı hype gördüğümüzü fark ettim ve bu çok fazla hasara yol açacaktı. Aradaki fark, dünyanın dört bir yanındaki insanlar finansal krizi fark ederken, insanların bu büyük veri algoritmalarının başarısızlıklarını fark edeceklerini düşünmedim, çünkü genellikle bireysel düzeyde gerçekleşiyorlar.
Dr O'Neil ile yaptığımız tartışmanın birinci bölümünü buradan okuyun. Dr Cathy O'Neil'in Matematik Silahlarının Yıkımı: Büyük Verinin Eşitsizliği Nasıl Artırdığı ve Demokrasiyi Tehdit Ettiği adlı kitabı şu anda hazır.
