Mayıs ayında Londra’daki Future Combat Air & Space Capabilities Summit’te ABD Hava Kuvvetleri Albay Tucker Hamilton, suni zeka özellikli bir insansız hava aracının insan operatörünü yok etmesi durumunda görevini daha etkili bir halde tamamlayabileceğini “fark etmeye başladığı” simüle edilmiş bir testi söyledi. Yaratıcısını öldüren “haydut bir suni zeka”nın bu hikayesi, çoğunlukla toplumsal medya tarafınca yönlendirilen fakat hem de bazı ana akım haberlerde de gösterilen, İnternet’te hızla yayıldı.
Bununla beraber, artan araştırma altında, yanlış alıntı ve varsayımsal bir fikir deneyinin bir kombinasyonu olarak öykü hızla dağıldı. Hamilton ondan sonra, “Bu deneyi asla yapmadık ve bunun makul bir netice bulunduğunu idrak etmek için yapmamıza gerek kalmayacaktı” dedi. Geriye dönerek bakıldığında, oldukça açık görünüyor, şundan dolayı senaryonun ayrıntıları ve suni zekanın performansı, başlangıçta açıklanmış olduğu benzer biçimde, hakikaten pek bir anlam ifade etmiyor.
ne o yapmak make, ne kadar doğru olursa olsun, haydut suni zeka hakkında mükemmel bir öykü. Suni zeka bugün teknolojide ve toplumda giderek daha çok öne çıktıkça, bu hikayeleri daha çok görmemiz kaçınılmaz görünüyor. Bundan dolayı, çeşitli suni zeka uzmanlarının tavsiyeleri ve katkılarıyla, suni zekanın kötüye gittiğine dair okuyacağınız bir sonraki hikayeyi aklı başlangıcında bir halde denetim etmenize destek olacak bir sual sıralaması hazırladık.
1. Haber güvenilir bir kaynaktan mı geliyor?
Haber güvenilir bir haber kaynağından mı, direkt bir araştırmacı yada kullanıcıdan mı geliyor yoksa başka bir halde doğruluğu doğrulanmış mı? Başka ana akım haber siteleri yada gerçekleri denetim eden internet sayfaları hikayeye cevap verdi mi? Hikayenin kaynağının motivasyonunu da dikkate almak önemlidir; mesela, amaç bir şey satmak mı yoksa para toplamak mı? Ve kimi zaman bu motivasyonlar gizlenebilir, bu yüzden kaynağın size sunabileceği yüzeysel motivasyonlardan ziyade temel motivasyonları aramak önemlidir.
2. Mantıklı mı?
Bağlam, AI’nın makul ve gerçekçi bir kullanımı mı? Düzmece bir AI öyküsünü denetlemek için ne olursa olsun bir AI uzmanı olmanıza gerek yok; bir şeyler ters giderse, şüpheciliğinizi sürdürün.
3. Gelincik sözcükleri var mı?
Makine öğrenimi sistemleri, bir şeyi “anlamaz” yada “fark etmez” yada kendi alanlarının haricinde bir şeyler yapmayı “öğretmez” ve bunun benzer biçimde kelimeler ve deyimler çoğu zaman suni zekanın gerçekte iyi mi çalıştığına ilişkin mühim bağlamı karartmak için kullanılır. Bu kelimeler hem de bir terimi daha geniş bir kesime iletme çabasında fena seçimler olabilir, sadece gerçekte neler olup bittiğini öğrenmek için birazcık daha çok araştırma halletmeye kıymet.
4. AI iyi mi eğitildi?
Eğitim aşamasında hangi davranışlar ödüllendirildi ve bu ödüller uygun şekilde ağırlıklandırıldı ve sınırlandırıldı mı? Suni zeka hangi veriler üstünde eğitildi ve bu veriler gerçek dünyayı doğru bir halde temsil ediyor mu? Simülasyonda her türlü şey yapılabilir ve suni zeka, yalnızca koşullar dikkatli bir halde denetim edildiğinde (çoğu zaman gerçek dünyadaki kullanımı kapsamaz) tahmin edilebilir şekilde performans göstermeye bilhassa eğilimlidir. Rogue-AI hikayeleri neticeleri vurgular, sadece bu sonuçların elde edilmiş olduğu sürece ilişkin tehlikeli sonuç bağlam sağlayabilecek detaylı açıklamalar sunma eğiliminde değildir.
5. İnsan nerede?
Çoğu zaman beklenmedik suni zeka davranışı, suni zekanın kendisinin ortaya çıkan bir davranışından ziyade, suni zekayı tasarlama yada eğitme sürecine dahil olan bir insan tarafınca meydana getirilen bir seçimin direkt sonucudur. Bu, eğitim sürecinin bir parçası olabilir yada suni zeka sisteminin iyi mi kavramsallaştırıldığına yada uygulandığına ilişkin daha açık bir hata olabilir. Bu bir “haydut suni zeka” değildir; insan hatasıdır.
6. Uzmanlar ne düşünüyor?
Hikayeyle ilgili bağımsız AI uzmanlarından alıntılar var mı? Eğer öyleyse, uzmanların kim bulunduğunu ve kendi şüpheci içgüdülerinizin onlara güvendiğinizi düşündürüp göstermediğini anladığınızdan güvenli olun. Daha ilkin adını duymadığınız bir uzmanın güvenilir olup olmadığını kati olarak bilmek zor olabilir; bilgili şüpheciler arayın – ideal olarak genişletilmiş ağınızda. Sadece gene de, motivasyonlarının ne olabileceğine dikkat edin.
Bu soruların amacı, “haydut suni zeka” olarak adlandırılabilecek şeyin her bir örneğini çürütmek değildir. Tam olarak “haydut suni zeka” olarak sayılan şey yoruma açıktır ve suni zeka ile alakalı kendi endişeleriniz, suni zeka uzmanlarıyla yada medyayla örtüşmeyebilir. Suni zekaya bakış açınız ne olursa olsun, bu soruları sormak, kaygı verici suni zeka hikayelerini daha nesnel ve doğru bir bağlama oturtmanıza destek olacaktır.
Bir sonraki haydut AI hikayesi ne derse desin, suni zeka muhtemelen tüm insanları yok etmek için dışarıda değil. Ve büyük olasılıkla hepimizi ataç halletmeye çalışmıyor. Bu, AI için bazıları zararı dokunan olan ciddi sonuçların olmayacağı anlamına gelmez. Sadece en azından yakın vadede, hedeflenen suni zeka sistemleri sükunet içinde tam olarak yapmak için tasarlandıkları şeyi yaptığından, bu zararların oldukca daha ince olması olası görünüyor: bizlerden mümkün olduğunca verimli bir halde dikkat ve para çekmek için verilerimizden yararlanmak. Bundan dolayı, bir sonraki haydut suni zeka hikayesine birazcık şüpheyle yaklaşın ve suni zekanın iyi mi olduğundan oldukca fazla uzaklaşmasına izin vermeyin. Hakikaten şu an hayatınızı etkiliyor.
Bu yazı hakkında bizlere geri bildirimde bulunan suni zeka uzmanlarına bilhassa teşekkür ederiz.
Sitenizdeki Yazılardan
Web Çevresindeki İlgili Makaleler
Source: spectrum.ieee.org