Şirketlere Yapay Zekâ Entegrasyonu Nasıl Yapılır? Adım Adım Uygulama Rehberi
Şirketinizde yapay zekâ entegrasyonu yaparken modelden değil, tek bir süreçten başlayın. Sık tekrarlanan, ağırlıklı olarak metne dayanan ve ölçülebilen bir iş seçin. O işin arkasındaki verinin kullanılabilir olup olmadığına, barındırılan bir modele gönderilip gönderilemeyeceğine ya da kendi sunucularınızda mı kalması gerektiğine bakın. Modeli sistemlerinize, mevcut oturum açma ve yetki düzeninizi kullanan tek bir kontrollü katman üzerinden bağlayın. Sonra gerçek kullanıcılarla pilot yapın, ölçün ve yaygınlaştırın.
Bir yapay zekâ projesi tıkandığında sebep nadiren modeldir. Çoğu zaman "daha iyi"nin ne demek olduğu baştan tanımlanmamıştır, modelin cevap vereceği belgeler eskidir ya da güvenlik ekibine son hafta sorulmuştur. Aşağıdaki yedi adım, "yapay zekâ entegrasyonu nasıl yapılır" sorusuna bu sorunları baştan önleyen sırayla cevap veriyor. Elli kişilik bir şirket için de, birkaç ERP sistemi olan bir grup için de sıra aynıdır; değişen yalnızca ölçektir.
1. Adım: Ölçülebilir sonucu olan tek bir kullanım senaryosu seçin
İyi bir ilk kullanım senaryosu sık tekrarlanır, büyük ölçüde dil işidir (okuma, sınıflandırma, taslak yazma, cevaplama) ve sonucu şirket dışına çıkmadan bir insan tarafından kontrol edilebilir.
- Yönetmelik, el kitabı ve prosedürlerden şirket içi sorulara cevap vermek
- Gelen e-postaları ya da destek taleplerini sınıflandırıp doğru ekibe yönlendirmek
- Fatura, sipariş ve irsaliyelerden alanları çıkarmak
- Stok, açık sipariş ya da vadesi geçmiş fatura gibi iş verilerine soru sormak (bkz. ERP ve yapay zekâ entegrasyonu)
Bir şey kurmadan önce başlangıç ölçümünü yazın: iş başına süre, haftalık iş sayısı, hata oranı. Bu olmadan pilotun işe yaradığını gösteremezsiniz. İşe alım ya da kredi gibi kişiler üzerinde hukuki sonucu olan kararları ilk proje olarak seçmeyin.
2. Adım: Veri hazırlığını kontrol edin
Model, kendisine verilen malzeme kadar iyidir. Seçtiğiniz senaryo için dört soruyu cevaplayın:
- Veri nerede duruyor? ERP, doküman yönetimi, ortak klasörler, posta kutuları, destek talepleri.
- Tek ve güncel bir sürümü var mı? Eski kopyalar, kendinden emin ama yanlış cevap üretir.
- Bugün kim görebiliyor? Bu yetkiler yapay zekâ sistemine de aynen taşınmalıdır.
- İçinde ne var? Kişisel veri, ticari sır, müşteri sözleşmeleri.
Ardından veriyi üç sınıfa ayırın: sözleşmeyle harici bir sağlayıcıda işlenebilir, yalnızca maskelenmiş hâliyle dışarı çıkabilir, ağınızdan hiç çıkamaz. Üçüncü adımı bu sınıflandırma belirler. İhtiyacınız olan şey şirket çapında bir veri projesi değil, bu tek senaryo için temiz veridir.
3. Adım: Modeli seçin: genel API mi, yerel model mi?
Barındırılan (genel) modeller, yani Anthropic Claude, OpenAI GPT ve Google Gemini gibi modeller, sağlayıcının kendi API'si ya da Amazon Bedrock, Azure OpenAI ve Vertex AI gibi bir bulut platformu üzerinden çağrılır. Donanım almadan çok yetenekli modellere ulaşır, kullandığınız kadar ödersiniz. Karşılığında veriniz bir sağlayıcıda işlenir; bu yüzden nerede işlendiğine, ne kadar süre saklandığına ve model eğitiminde kullanılıp kullanılmadığına bakın. Claude API entegrasyonu rehberimiz böyle bir entegrasyonun pratikte nasıl göründüğünü anlatıyor; AWS kullananlar için AWS Bedrock rehberi de var.
Yerel (özel) modeller, Qwen, Llama ve Mistral gibi açık ağırlıklı modellerin kendi sunucularınızda ya da kendi bulut hesabınızda çalıştırılmasıdır. İstemler ve belgeler ağınızın içinde kalır. Bedelini donanım ve işletimle ödersiniz; ayrıca yerel bir model en zor işlerde en güçlü barındırılan modellerin gerisinde kalabilir. Ayrıntı için yerel LLM kurulumu rehberine bakın.
Kararı tercih değil, ikinci adımdaki veri sınıfı versin. Birçok şirket ikisini birlikte kullanır: hassas veri için yerel model, geri kalanı için barındırılan model. Benchmark tablolarına bakmak yerine iki üç adayı kendi sürecinizden gerçek örneklerle deneyin. İşe göre karşılaştırma için hangi AI ne için daha iyi yazımıza göz atabilirsiniz.
4. Adım: AI entegrasyonu mimarisini tasarlayın
Her uygulamanın kendi anahtarıyla doğrudan modele gitmesine izin vermeyin. Araya tek bir katman koyun: oturum açmayı, model seçimini, kayıt tutmayı, limitleri ve maskelemeyi üstlenen bir iç AI ağ geçidi. Bu katman modelin sonradan değiştirilebilmesini de sağlar.
Üç entegrasyon kalıbından senaryoyu çözen en basit olanı kullanın:
- Tek çağrı: metin girer, metin ya da yapılandırılmış veri çıkar. Sınıflandırma ve veri çıkarma için yeterlidir.
- Belgeden cevaplama (RAG): sistem belgelerinizde arama yapar ve ilgili bölümleri soruyla birlikte modele verir; cevaplar kaynak gösterebilir.
- Araçlar ve ajanlar: model tanımlı fonksiyonları çağırabilir. Salt okunur başlayın. Veriyi değiştiren işlemler bir insanın onayını gerektirmelidir.
Sistemlerinize API'leri üzerinden, bu iş için açılmış bir servis hesabıyla bağlanın; birinin yönetici hesabıyla değil. Model çıktısını başka bir sisteme aktarmadan önce doğrulayın ve model erişilemez olduğunda sürecin elle devam edebileceği bir yol planlayın.
5. Adım: Güvenlik, kimlik ve veri sınırlarını belirleyin
- Kimlik: kullanıcılar mevcut kurumsal oturum açma (SSO) ile girer; asistan yalnızca o kullanıcının görebildiğini görür.
- En az yetki: varsayılan olarak salt okunur erişim, her entegrasyona ayrı kimlik bilgisi, sırlar bir kasada, kimin ne sorduğu kayıt altında.
- Veri sınırları: ağdan neyin çıkabileceğini yazılı olarak tanımlayın; işin gerektirmediği kişisel veriyi maskeleyin.
- İstem enjeksiyonu (prompt injection): modelin okuduğu e-postalar, web sayfaları ve belgeler talimat içerebilir. OWASP'ın LLM uygulamaları için hazırladığı ilk 10 risk listesinde bu risk birinci sıradadır. Model çıktısını güvenilmeyen girdi sayın ve araçların yapabileceklerini kısıtlayın.
- Hukuk: kişisel veri yurt dışındaki bir sağlayıcıda işlenecekse KVKK'nın yurt dışına aktarım kuralları (9. madde) devreye girer. AB'de faaliyetiniz varsa GDPR ve yükümlülükleri kullanım senaryosunun risk sınıfına bağlayan AB Yapay Zekâ Yasası da gündeme gelir. Veri koruma sorumlunuzu canlıya geçerken değil, ikinci adımda sürece katın. Ayrıntılar KVKK ve yapay zekâ yazısında.
Onaylı bir araç sunmazsanız çalışanlar kişisel AI hesaplarını kullanır. Sonucunu paylaşılan AI sohbetleri yazımız gösteriyor.
6. Adım: Gerçek kullanıcılarla pilot yapın
- Küçük grup, belirli süre: işi her gün yapan birkaç kişi, birkaç hafta.
- Değerlendirme seti: pilot başlamadan beklenen cevaplarıyla birlikte gerçek örnekler toplayın; istemde, modelde ya da veride yapılan her değişiklikten sonra yeniden çalıştırın.
- Başlangıç ölçümüyle karşılaştırın: iş başına süre, düzeltme yapılmadan kullanılan cevapların oranı, hata türleri, kullanıcı geri bildirimi.
- İnsan döngüde kalsın: asistan taslağı hazırlar, kararı insan verir.
- Başarı ve durdurma ölçütleri: ikisini de önceden kararlaştırın. Başarısız olması mümkün olmayan pilot, pilot değildir.
7. Adım: Üretimde işletim ve maliyet kontrolü
Pilottan sonra yapay zekâ sistemi bir üretim sistemidir. Bir sahibi, bir eskalasyon yolu ve izlemesi olmalıdır: yanıt süresi, hatalar, ekip bazında kullanım ve örneklemeyle cevap kalitesi.
Barındırılan modeller gönderilen ve dönen metin miktarına göre ücretlendirilir; yani maliyeti bağlam uzunluğu ve çağrı sayısı belirler. Elinizdeki kaldıraçlar: yalnızca ilgili bölümleri göndermek, basit işler için daha küçük bir model kullanmak ve ekip ile anahtar bazında bütçe, limit ve uyarı tanımlamak. Yerel modelde maliyet donanım, enerji ve insandır; bu yüzden kullanım oranını izleyin.
Sağlayıcılar model sürümlerini zamanla kullanımdan kaldırır. Kullandığınız sürümü sabitleyin ve geçiş yapmadan önce değerlendirme setini çalıştırın. Bir sonraki kullanım senaryosu daha ucuza gelir, çünkü ağ geçidi, kimlik ve kayıt altyapısı artık hazırdır.
Yapay zekâ entegrasyonunda sık yapılan hatalar
- Süreç yerine bir araçla ya da lisansla başlamak, aynı anda çok sayıda senaryo açmak
- Başlangıç ölçümü ve değerlendirme seti olmadığı için işe yarayıp yaramadığını kimsenin söyleyememesi
- Birden çok uygulamada tek bir ortak API anahtarı kullanmak; maliyet kime ait, belli olmaz
- Asistana kullanıcısından geniş yetki vermek ya da ilk günden yazma yetkisi tanımak
- Güvenliği ve veri korumayı canlıya geçişten hemen önce sürece katmak
Yapay zekâ entegrasyonu kontrol listesi
- Sahibi ve başlangıç ölçümü olan tek bir kullanım senaryosu
- Veri kaynakları listelendi, sınıflandırıldı, sahibi belirlendi
- Veri sınıfına göre barındırılan ya da yerel model kararı verildi, sağlayıcı koşulları incelendi
- SSO, en az yetki, kayıt ve limit içeren tek bir ağ geçidi katmanı
- Değerlendirme seti hazır ve her değişiklikte çalışıyor
- Başarı ve durdurma ölçütleri yazılı bir pilot
- İzleme, bütçe uyarıları ve elle çalışma yolu
- Kullanıcılar eğitildi, yapay zekâ kullanım politikası yayımlandı
Sık sorulan sorular
Yapay zekâ entegrasyonu nasıl yapılır?
Sık tekrarlanan, ölçülebilir tek bir süreç seçin ve verisini kontrol edin. Verinin hassasiyetine göre barındırılan ya da yerel bir model belirleyin, modeli mevcut oturum açma ve yetki düzeninizi kullanan tek bir kontrollü katman üzerinden bağlayın, gerçek kullanıcılarla pilot yapın, ardından izleme ve maliyet limitleriyle işletin.
Şirketlere yapay zekâ entegrasyonu ne kadar sürer?
Süre modelden çok veriye erişime ve onay süreçlerine bağlıdır. Verisi erişilebilir ve sahibi belli olan dar bir senaryo kısa sürede pilota ulaşır. Temiz olmayan veri ve geç başlayan veri koruma incelemesi projeleri yavaşlatır.
Şirketler genel bir AI API'si mi, yerel model mi kullanmalı?
Kararı veri versin. Veri sözleşmeyle bir sağlayıcıda işlenebiliyorsa barındırılan model daha hızlı yoldur. Mevzuat, sözleşmeler ya da şirket politikası buna izin vermiyorsa açık ağırlıklı bir modeli kendi altyapınızda çalıştırın. Birçok şirket ikisini birlikte kullanır.
Şirket verisini bir yapay zekâ modeline göndermek güvenli mi?
Sağlayıcıyla sözleşme yapılmışsa, verinin nerede işlendiği ve eğitimde kullanılıp kullanılmadığı biliniyorsa ve erişim SSO ile en az yetki ilkesine göre sınırlandırılmışsa güvenli olabilir. Ağdan çıkmaması gereken veri yerel bir modelde işlenmelidir.
AI entegrasyonu maliyeti neye bağlıdır?
Dört kaleme: entegrasyonun geliştirilmesi, model kullanımı ya da donanım, işletim ve sürece katılan kişilerin zamanı. Barındırılan modellerde kullanım maliyeti işlenen metin miktarına bağlıdır; bu yüzden başlıca kaldıraçlar bağlam uzunluğu ve model seçimidir.
Özet
Yapay zekâ entegrasyonu, iş tarafında sahibi olan bir mühendislik projesidir ve sıra modelden daha önemlidir: tek bir kullanım senaryosu, kullanılabilir veri, veriye uygun model, tek bir kontrollü katman, ölçülen bir pilot ve sahibi olan bir işletim düzeni.
Bu adımları mühendislerle birlikte yürümek ister misiniz? Graf Clouds bir AI Forwarder olarak çalışır: Anthropic Claude ve OpenAI GPT gibi barındırılan modelleri entegre ediyor, Qwen gibi açık ağırlıklı modelleri kendi altyapınızda çalıştırıyoruz. İkisinde de kurumsal oturum açma (SSO), en az yetkili erişim, veri sınırları ile kullanım ve maliyet limitleri işin parçasıdır; arkasında 20 yıllık bulut ve güvenlik mühendisliği var. Genel bakış için yapay zekâ entegrasyonu sayfamıza göz atın ya da bize yazın.