Kuruluştaki üretken yapay zeka ve yüksek lisans (LLM) için veri riski nasıl en aza indirilir?

Kuruluşlar, üretken suni zekanın yeni fikirleri ortaya çıkarma ve hem geliştirici hem de geliştirici olmayan üretkenliği artırma mevzusundaki enerjisini hızla fark etti. Sadece duyarlı ve hususi verilerin halka açık olarak barındırılan büyük dil modellerine (LLM’ler) aktarılması güvenlik, gizlilik ve yönetişim açısından mühim riskler oluşturur. İşletmelerin bu kuvvetli yeni teknolojilerin herhangi bir yararını görmeye başlayabilmeleri için ilkin bu riskleri ele almaları gerekiyor.

IDC’nin belirttiği benzer biçimde işletmelerin, LLM’lerin kendi data istemlerinden “öğrenebilecekleri” ve hususi detayları benzer istemler giren öteki işletmelere ifşa edebilecekleri mevzusunda meşru endişeleri vardır. İşletmeler ek olarak paylaştıkları duyarlı verilerin çevrimiçi olarak saklanıp bilgisayar korsanlarının eline geçebileceğinden yada yanlışlıkla kamuya açıklanabileceğinden kaygı ediyor.

Bu, veri beslemeyi ve kamuya açık LLM’lere yönlendirmeleri bir çok işletme için, bilhassa de düzenlemeye doğal olarak alanlarda etkinlik gösterenler için başlangıç ​​noktası olmayan bir hale getiriyor. Peki firmalar riskleri yeterince azaltırken LLM’lerden iyi mi kıymet elde edebilirler?

Mevcut güvenlik ve yönetim çevreniz dahilinde çalışın

Verilerinizi bir Yüksek Lisans’a göndermek yerine Yüksek Lisans’ı verilerinize getirin. Bu, bir çok işletmenin inovasyon ihtiyacını satın alan kişisel bilgilerini ve öteki duyarlı verileri güvende tutmanın önemi ile dengelemek için kullanacağı modeldir. Bir çok büyük işletme, verileri çevresinde aslına bakarsanız kuvvetli bir güvenlik ve yönetim sınırına haizdir ve LLM’leri bu korumalı ortamda barındırmalı ve dağıtmalıdır. Bu, veri ekiplerinin LLM’yi daha da geliştirmesine ve özelleştirmesine ve çalışanların kuruluşun mevcut güvenlik alanı dahilinde onunla etkileşime girmesine olanak tanır.

Kuvvetli bir suni zeka stratejisi, başlangıçta kuvvetli bir veri stratejisi gerektirir. Bu, siloları ortadan kaldırmak ve ekiplerin gerekseme duydukları verilere kuvvetli bir güvenlik ve yönetim duruşuyla erişmelerine olanak tanıyan rahat, tutarlı politikalar oluşturmak anlamına gelir. Nihai hedef, güvenli ve yönetilen bir ortamda bir LLM ile kullanılmak suretiyle kolayca erişilebilen, eyleme geçirilebilir, güvenilir verilere haiz olmaktır.

Tesir alanına özgü Yüksek Lisans’lar oluşturun

Web’in tamamında eğitim alan Yüksek Lisans’lar, gizlilik problemlerinden daha fazlasını sunar. “Halüsinasyonlara” ve öteki yanlışlıklara eğilimlidirler ve önyargıları tekrardan üretebilirler ve işletmeler için daha çok risk oluşturan saldırgan tepkiler üretebilirler. Üstelik temel LLM’ler kuruluşunuzun dahili sistemlerine ve verilerine maruz kalmamıştır; bu da işinize, müşterilerinize ve hatta muhtemelen sektörünüze hususi soruları yanıtlayamayacakları anlamına gelir.

Yanıt, bir modeli kendi işiniz için akıllı hale getirecek şekilde genişletmek ve özelleştirmektir. ChatGPT benzer biçimde barındırılan modeller en oldukca ilgiyi çekmiş olsa da işletmelerin indirebileceği, özelleştirebileceği ve güvenlik duvarı arkasında kullanabileceği uzun ve giderek büyüyen bir LLM sıralaması var; bunlar içinde Hugging Face’ten StarCoder ve Stability AI’den StableLM benzer biçimde açık kaynaklı modeller de var. Web’in tamamında temel bir modelin ayarlanması büyük oranda veri ve data işlem gücü gerektirir, sadece IDC’nin belirttiği benzer biçimde, “üretken bir model bir kez eğitildikten sonrasında, oldukca daha azca veriyle belirli bir içerik alanı için ‘ince ayar’ yapılabilir.”

Bir LLM’nin yararlı olması için geniş olması gerekmez. “Çöp içeri, çöp dışarı” her suni zeka modeli için geçerlidir ve kuruluşlar, güvenebileceklerini bildikleri ve gerekseme duydukları detayları sağlayacak dahili verileri kullanarak modelleri özelleştirmelidir. Çalışanlarınızın muhtemelen LLM’nize iyi mi kiş yapılacağını yada Babalar Günü hediyesi fikirlerini sormalarına gerek kalmamıştır. Sadece Kuzeybatı bölgesindeki satışlar yada belirli bir müşterinin sözleşmesinin ihtiva ettiği avantajlar hakkında sual sormak isteyebilirler. Bu yanıtlar, LLM’nin güvenli ve yönetilen bir ortamda kendi verilerinize bakılırsa ayarlanmasıyla elde edilecektir.

Yüksek kaliteli sonuçlara ek olarak, kuruluşunuz için LLM’leri optimize etmek kaynak gereksinimlerini azaltmanıza destek olabilir. Kuruluştaki belirli kullanım durumlarını hedefleyen daha minik modeller, genel amaçlı kullanım durumları yada değişik sektörler ve endüstrilerdeki oldukca çeşitli kurumsal kullanım durumları için oluşturulan modellere bakılırsa daha azca data işlem gücü ve daha minik hafıza boyutları gerektirir. Yüksek Lisans’ları kuruluşunuzdaki kullanım örneklerine daha hedefli hale getirmek, Yüksek Lisans’ları daha uygun maliyetli ve verimli bir halde yürütmenize destek olacaktır.

Fazlaca modlu suni zeka için yapılandırılmamış verileri yüzeye çıkarın

Dahili sistemleriniz ve verileriniz üstünde bir model ayarlamak, bu amaç için yararlı olabilecek tüm bilgilere erişim gerektirir ve bunların bir çok, metnin yanı sıra formatlarda da depolanır. E-postalar, resimler, sözleşmeler ve eğitim videoları benzer biçimde şirket verileri de dahil olmak suretiyle dünyadaki verilerin ortalama %80’i yapısal değildir.

Bu, yapılandırılmamış kaynaklardan data çıkarmak ve bu tarz şeyleri veri bilimcilerinizin kullanımına sunmak için naturel dil işleme benzer biçimde teknolojiler gerektirir; böylece değişik veri türleri arasındaki ilişkileri tespit edebilen ve bu içgörüleri işletmeniz için ortaya çıkarabilen oldukca modlu suni zeka modelleri oluşturup eğitebilirler.

Kasıtlı fakat dikkatli bir halde ilerleyin

Bu hızla gelişen bir alan ve işletmelerin üretken suni zekaya yönelik yaklaşımları ne olursa olsun dikkatli olmaları gerekiyor. Bu, kullandıkları modeller ve hizmetler hakkında detaylı detayları okumak ve sağladıkları modeller hakkında açık garantiler sunan elit satıcılarla çalışmak anlamına gelir. Sadece bu, şirketlerin yerinde duramayacağı bir alan ve her işletmenin, suni zekanın kendi sektörünü iyi mi bozabileceğini keşfetmesi gerekiyor. Risk ve ödül içinde kurulması ihtiyaç duyulan bir denge vardır ve üretken suni zeka modellerini verilerinize yaklaştırarak ve mevcut güvenlik çerçeveniz dahilinde emek vererek bu yeni hızla gelişen teknolojinin getirmiş olduğu fırsatlardan yararlanma olasılığınız artar.

Torsten Grabs, Snowflake’in ürün yönetiminin kıdemli direktörüdür.