Yapay zekanın gizemli “opak kutusunu” anlamak, açıklanabilir yapay zeka oluşturmak için çok önemlidir. Bu, diğer tüm teknolojiler gibi yapay zekanın da bir tedarik zincirine sahip olduğu düşünülerek basitleştirilebilir. Tedarik zincirini neyin oluşturduğunu bilmek, AI sisteminin güvenliğini sağlamak, AI çıktısının tüketicisiyle güven oluşturmak ve kuruluşunuzu aşırı riskten korumak için kritik öneme sahiptir.
Yapay zekanın tedarik zincirini parçalara ayırma yaklaşımınızı düşünürken, diş macunundan teknolojiye kadar kullandığınız her şey için üretim, nakliye, teslimat ve faturalamanın hemen hemen her tedarik zincirindeki adımlar olduğunu düşünün. AI modelleri ayrıca tedarik zincirleri aracılığıyla oluşturulur ve sunulur.
Daha hızlı öğrenin. Daha derin kaz. Daha uzağa bakın.
Yapay zekanın tedarik zinciri türündeki adımlardan bazılarını takip etmek zor olabilir; teknoloji şirketi ticari sırları, kapalı kod ve yapay zekanın kendini geliştirmek için kendi kodunu yazma süreci olan program sentezi gibi özel kazanımlar vardır. Sürekli makine öğrenimi döngüleri ve devreye almalar, incelemeler ve geri çağırmalarla birleştiğinde, opak kutuya şeffaflık getirmek için pek çok fırsat vardır.
Blockchain teknolojisi, Walmart gibi şirketler tarafından gıda üretimi ve teslimatı gibi tedarik zincirlerine şeffaflık getirmek için seçiliyor, çünkü kurcalanmaya açık ve dağıtılmış durumda. Blockchain teknolojisi, entegrasyonları daha güvenli hale getirmek ve tek bir denetim izi oluşturmak için diğer sistemlerin yanı sıra bir kurumsal yığında kullanılır. Bir blockchain ağındaki tüm katılımcıların kimlikleri de dahil olmak üzere doğrulama ve uyumluluk, iş akışı ve süreçler boyunca dokunmuştur.
Tipik olarak, bir kurumsal blok zinciri denetim izi, geleneksel veritabanlarında zincir dışında depolanan verilere hiper bağlantılara atıfta bulunan işlemleri içeren bağlantılı bloklardan oluşur. Bu sırada sistem, bu verilerin kriptografik bir doğrulamasını oluşturur ve doğrulamayı, bir dosya indirme işleminin bütünlüğünü sağlamak için bir sağlama toplamı sağlamanın geleneksel süreciyle karşılaştırılabilir olan blok zincirinde depolar. Blockchain ağındaki veriler herhangi bir şekilde kurcalanmaya maruz kalırsa, doğrulama olarak kullanılan kriptografik hash artık aynı değerde hesaplanmayacaktır.
Yapay zekanın tedarik zincirini incelediğinizde, kökte, algoritmalar bulacaksınız. Bunlar, AI programlamasının altında yatan beynin işlevlerini simüle etmek için yazılmış matematiksel formüllerdir. Algoritmalar kod kitaplıklarında derlenir ve ardından bunları özel yapay zeka modelleri yazmak için kullanan yapay zeka geliştiricilerine dağıtılır. Bu sırada bir veri bilimcisi, daha sonra yapay zeka modelini hayata geçirmek için kullanılan eğitim verilerini alır ve hazırlar.
Otomatik olarak reddedilen insanlara yardım etmek için savaşan Baltimore Üniversitesi Hukuk Profesörü Michelle Gillman, yakın zamanda NBC ile AI riskini yönetirken algoritmaların kökenini anlamanın önemi hakkında konuştu. Müşterileri genellikle yapay zeka tarafından kararlaştırılan ölüm kalım durumlarıyla karşı karşıya kalan Gillman’a göre, “Odadaki hiç kimsenin benim için tanımlayamadığı duruşmalarda bulundum, algoritma nasıl çalışıyor? Hangi faktörleri tartar? Bu faktörleri nasıl tartıyor? Ve böylece gerçekten bu koşullarda müvekkiliniz için bir dava açamazsınız.
Ardından, deney döngülerinin ve dağıtımların yürütüldüğü ve AI modelinin, verilerinin ve deneyin değişkenlerinin veya hiperparametrelerinin test edildiği, ayarlandığı bir AI mühendisliği ve makine öğrenimi operasyonları (MLOps) sürecini uygulayan bir iş akışı başlar. ve geliştirildi. Tedarik zincirinin bu kısmı, eğitim ve iyileştirme süreci genellikle sürekli olduğundan, tüketiciye ulaştıktan sonra bile bir döngü içinde devam eder. Tüketicinin incelemeler ve derecelendirmeler biçimindeki girdileri, modeli geliştirme sürecinin bir parçası haline gelir. AI modelini oluşturan kuruluşun yönetimi gibi projenin paydaşları da girdilerini ekleyebilir ve dikkate alındığından emin olmak için takip edebilir.
Bir kuruluş büyükse, yapay zeka modelinin tedarik zinciri genişletilmiş ekipleri ve hatta birden çok kuruluşu içerebilir. Veya bulut hizmetlerini ve yapay zeka pazaryerlerini kullanarak tek bir geliştiricinin tüm bu işlevleri tek başına gerçekleştirmesi tamamen mümkündür. Her durumda, Hyperledger Fabric gibi bir kurumsal blockchain teknolojisini yığına ekleyerek modelinizi izleyebilir, izleyebilir, denetleyebilir ve hatta geri çağırabilirsiniz.
Tedarik zincirine şeffaflık getirmek için bazen kurumsal bir blockchain ağı kullanılır. Bu, ağ katılımcılarının aynı blockchain ağının üyeleri oldukları için birbirlerine güvenmelerine yardımcı olur. Blockchain ağı, bir şeyler ters gittiğinde ve bir ürünün kaynağına kadar hızlı bir şekilde izlenmesi gerektiğinde gerçekten yardımcı olur.
Walmart söz konusu olduğunda, potansiyel olarak gıda kaynaklı bir hastalık taşıyan gıdaları izlemek ve takip etmek için kurumsal blockchain kullanımına öncülük ettiler. Örneğin, bir müşteri herhangi bir Walmart mağazasında dilimlenmiş mango paketinden hastalanırsa, etkilenen sevkiyatın izini sürmek 6 günden fazla sürdüğü için mangoların tüm mağazalarda atılması gerekiyordu. Yeni blockchain ağı bu süreyi 2,2 saniyeye indirerek Walmart’ı iyi mangoları atma masrafından kurtardı. Walmart, birçok tedarikçisi için otomatik ödeme sistemlerinin temeli haline gelen tedarik zinciri blockchain stratejisine bugün de devam ediyor.
Bu strateji yapay zekanın opak kutusuna uygulandığında, bir tedarik zinciri blok zinciri ağının rahatlığı, bir yapay zeka modelinin amacının veya etki alanının neden saptığının nedeni gibi önemli faktörleri izlemenize ve izlemenize veya ne tür bir tedavi verildiğini öğrenmenize yardımcı olacaktır. Belirli bir sonuca ulaşmak için kullanılan veriler. Birlikte yazdığım O’Reilly kitabında açıklandığı gibi, Blockchain Bağlı Yapay Zekayapay zeka için dört blockchain kontrolü vardır:
- Kişiler ve sistemler için kimlik ve iş akışı kriterlerini önceden belirleyen Kontrol 1, verilerin ve modellerin kurcalanma veya bozulmaya uğramadığını doğrulamak için yapay zeka ile birlikte kullanılabilir. Bu kontrol, insanları AI modellerinden ayırmaya yönelik kriterleri içerir.
- Kontrol 2, doğru yetkilendirmeye sahip doğru kişilerin, sistemlerin veya akıllı aracıların yapay zekanın yönetişimine veya yapay zekada yapılan değişikliğe katılan tek kişi olduğundan emin olmak için yapay zeka ile birlikte kullanılabilen kurcalamaya açık doğrulama dağıtan adresleri ele alır. Bu kontrol, ChatGPT’de olduğu gibi kullanıcılar tarafından sohbet geçmişi biçiminde sağlanmış olsa bile, eğitim verilerinin kurcalamaya açık bir denetim izi oluşturmak için kullanılabilir. Blok zincirinde, kullanıcının sohbet geçmişinin eğitim verisi olarak kullanılmasını kabul edip etmediğini gösteren bir kayıt saklanabilir ve bir sohbet eğitim verisi olarak kullanılıyorsa, içindeki istemler bir insan veya akıllı aracı tarafından sorunlar için incelenebilir. kullanılmadan önce etik ihlalleri, veri sabotajı veya diğer sorunlar gibi.
- Kontrol 3, akıllı aracıları yönetmeyi, talimat vermeyi ve engellemeyi içerir ve yapay zekanın izini sürmek veya tersine çevirmek ya da mahkemede yapay zekanın çıktısının belirli kişiler veya kuruluşlar tarafından izlenebilir olduğunu kanıtlamak istendiğinde çok önemli hale gelecektir. Bir modelin nasıl performans gösterdiğine ilişkin incelemeler ve derecelendirmeler, uygunsuz veya etik olmayan çıktıların yakalanmasına ve ele alınmasına yardımcı olabilir.
- Control 4, özellikle dağıtılmış pazar yerlerinden gelen temel bileşenlere sahip markalı yapay zeka kullanımında önemli olacak, kullanıcı tarafından görüntülenebilir kaynak yoluyla özgünlük gösteriyor. Menşei anlamak ve kanıtlamak, AI içeren yasal konularda bir faktördür.
Bu izleme ve izleme yeteneği, güven logolarının gösterilmesi yoluyla tüketiciye de genişletilebilir. E-ticaret güvenliğinin uzun süredir ayırt edici özelliği olan güven logoları kavramı, logoları temeldeki blockchain ağına bağlayarak ve AI modelinin tehlikeye girmesi durumunda tüketicileri uyarmak için programlayarak AI’ya uygulanabilir. Bir müşteri hizmetleri temsilcisinin yapay zeka mı yoksa insan mı olduğunu göstermek için benzer bir yöntem kullanılabilir.
Farklı rollerdeki kişilerin yapay zeka modellerine güvenmek için farklı türde bilgilere ihtiyaç duyabileceğini unutmayın. Bilgiyi talep eden kuruluşun bakış açısına bağlı olarak, farklı seviyelerde izlenebilirlik istenebilir. Örneğin, telefonuna cevap veren bir kişi, arayanın yapay zeka olup olmadığına ve yapay zekanın güvenilir bir kaynaktan gelip gelmediğine dair bir gösterge görebilmelidir. Yapay zeka bileşenlerini modellerine entegre edip etmemeye karar veren bir mühendis, tedarik zinciri hakkında çok daha derin bir anlayış isteyebilir ve bir paydaş, incelemelerin ve yorumların gerçek olup olmadığını görmek ve herhangi bir geri çağırmayı ele almak için ne yapıldığını öğrenmek isteyebilir. Bu aynı zamanda AI modellerinin birbirine güvenmesini ve sınırlar oluşturmasını sağlamak için özel bir el sıkışma sorusunu gündeme getiriyor.
AI modeliniz hakkında her şeyi bilmiyor olsanız bile, bildiğiniz gerçekleri blockchain’e aktarabilirsiniz. Bölüm 1’de açıklandığı gibi bir AI bilgi sayfası geliştirin. Blockchain Bağlı Yapay Zeka. Pazar yerlerinden indirdiğiniz modelleri kullandıysanız, genellikle kullandığınız malzemelerle ilgili temel bilgileri sağlayan bir AI model kartı ve veri kartları bulabilirsiniz. Ayrıca, modelin bir bölümünün gerçekten “opak” olduğunu her zaman belgeleyebilir ve ayrıntılar öğrenildikten sonra o bölümü tamamlayabilirsiniz.
Blockchain ağınızı, yapay zeka modelinizin tedarik zinciri için kurumsal blockchain ağlarının geliştiriciler tarafından başka amaçlar için kullanıldığı şekilde uygulayabilirsiniz. Yapay zekanın gerçek bileşenlerini zincir dışı depolarken yalnızca blok zincir ağınızda kriptografik doğrulamaları kaydetmeniz gerekir. Birlikte gelen kod Blockchain Bağlı Yapay Zeka bu mimariyi görselleştirmenize ve uygulamanıza yardımcı olabilir.
Bir dosyayı indirirken görebileceğiniz bir sağlama toplamına benzer şekilde çalışan bu blok zinciri doğrulaması, herhangi bir kurcalama geçirip geçirmediklerini görmek için herhangi bir noktada model ve bileşenlerine göre kontrol edilebilir. Bir blockchain ağının bu tür kullanımı, kripto para birimlerini veya madencileri içermez veya çalıştırmak için alışılmadık derecede yüksek miktarda enerji kullanmaz ve bunun yerine akıllı sözleşmelerle otomatikleştirilmiş, dağıtılmış metin tabanlı bir süper günlük olarak düşünülmelidir.
Ürünleri bu şekilde takip ve takip edebilmek, taklit ürünlerin satışını önlemeye yardımcı olur, gıda şirketlerinin her şeyi atmak zorunda kalmadan ürünleri hızlı bir şekilde geri çağırmasına ve sanatçılara, müzisyenlere ve içerik oluşturuculara çalışmaları için ödeme yapılmasına yardımcı olur. AI’nın opak kutusunu açıklanabilir hale getirmek için bu teknikleri ve kontrolleri uygularken, AI modelleriniz izlenebilir, izlenebilir, kontrol edilebilir ve hatta durdurulabilir olmanın rekabet avantajından yararlanacaktır.
Source: www.oreilly.com