ASP.NET Core ile AI uygulaması: bilgi asistanı mimarisi
Yazı, tek bir LLM çağrısından üretime hazır bir AI uygulamasına nasıl geçileceğini ASP.NET Core ile gösteriyor. Kimlik doğrulama, RAG, güvenlik ve hata yönetimi ele alınıyor. Model bağlantısını uygulamanın sınırları içinde tutmak isteyen .NET geliştiricileri için pratik bir yol haritası sunuyor.
Kilit noktalar
- AI mantığını controller yerine arayüz arkasındaki bir uygulama servisinde tutun.
- IChatClient'ı dependency injection ile bir kez kaydedin; her istekte yeni istemci oluşturmayın.
- AI kimlik bilgilerini appsettings.json'a koymayın; geliştirmede user-secrets, Azure'da managed identity kullanın.
- Yetkilendirmeyi retrieval'dan önce uygulayın; model kullanıcının erişemediği içeriği hiç görmesin.
- Yalnızca zaman aşımı ve hız sınırı gibi geçici hataları yeniden deneyin; kimlik doğrulama hatalarını tekrarlamayın.
- RAG'a basit arama ile başlayın; vektör veritabanını yalnızca doküman kümesi gerektirdiğinde ekleyin.
Bir LLM'e prompt gönderip yanıtı ekrana yazdıran bir kutu kurmak kolay; kullanıcıların güvenerek kullanabileceği bir AI özelliği ise başka bir iştir. Yazı, destek ekipleri için bir bilgi asistanı olan SupportDesk AI örneğiyle ilerliyor ve tek bir model çağrısını katmanlı bir ASP.NET Core tasarımına dönüştürüyor. Temel fikir, kimlik doğrulama, yetkilendirme ve veri erişiminin uygulamada kalması, modelin ise yalnızca dil üretmesidir. Yazar, Microsoft.Extensions.AI içindeki IChatClient soyutlamasını, dependency injection ile kaydetmeyi, gizli bilgileri user-secrets ya da managed identity ile yönetmeyi ve konuşma geçmişini saklamayı da ele alıyor.
İkinci bölüm üretim ortamına odaklanıyor: onaylı dokümanlarla RAG, modele hiçbir veri ulaşmadan önce uygulanan yetkilendirme, geri getirilen içeriğin güvenilmeyen girdi sayılması ve araçların dar tutulması. Zaman aşımı, seçici yeniden deneme, hız sınırı, prompt'ların dikkatli loglanması ve canlı model çağırmayan birim testleri de önerilenler arasında. Yazara göre, doküman kümesi büyüyene kadar vektör veritabanına gerek olmayabilir.
Gerçek dünyada kullanımı
- Ürün dokümanları ve geçmiş destek kayıtlarından yanıt veren iç destek asistanı.
- Kullanıcının belge yetkilerine uyması gereken, çok kiracılı bir SaaS API'sine eklenen sohbet özelliği.
- Model bağlantısını önce kanıtlayıp sonra üretim için sertleştirmek isteyen bir ekip.
Neden önemli
AI bileşenini değiştirilebilir bir bağımlılık olarak görmek, yetkilendirme, güvenilirlik ve testi tanıdığınız ASP.NET Core kodunda tutar. Böylece model sağlayıcısı değişse bile uygulamanın sınırları korunur.