FAIRouter NuGet'te: birkaç satır C# ile göreve göre dil modeli seçimi

Her istek için dil modeli seçen ve yanıtı bir judge modeliyle doğrulayan açık kaynaklı C# router FAIRouter, FAI.Router adıyla NuGet'te yayınlandı (0.1.0, .NET 10). Birkaç satır kodla OpenRouter veya OpenAI uyumlu herhangi bir endpoint'e bağlanıp yanıtları puanlayabilir, geri bildirim toplayıp router'ın ağırlıklarını eğitebilirsiniz.

Kilit noktalar

• Kurulum tek komut: .NET 10 üzerinde dotnet add package FAI.Router; sürüm 0.1.0 ve Apache-2.0 lisanslı.
• AskAsync() Winner, Text, judge'ın 0-1 arası Score değeri ve istekten sapmaları gösteren Critic alanını döndürür.
• Adaylar açıkça listelenebilir veya boş bırakılıp paketle gelen 54 model arasından seçim yapılabilir.
• Feedback(roundId, score), Train(epochs) ve Save() öğrenilen ağırlıkları yerel SQLite dosyasına yazar.
• RouteWeights.Quality, Balance ve Price her istekte dengeyi belirler; 0.7 gibi bir bar yalnızca tatmin etme olasılığı yüksek yanıtları öne çıkarır.
• FromOpenAiCompatibleAsync() yerel veya kendi barındırdığınız modelleri bağlar; judgeModel sunucuda gerçekten bulunan bir model olmalı.

FAIRouter, her istek için dil modelini seçen ve yanıtı bir judge modeliyle puanlayan açık kaynaklı router, FAI.Router paketi olarak NuGet'te (sürüm 0.1.0, Apache-2.0, .NET 10 hedefli). Kaynaktan derlemek gerekmiyor: paketi ekleyip FaiRouter.FromOpenRouterAsync() çağrısına anahtarı, aday model kimliklerini (ya da hiç vermeyip paketle gelen 54 modele bırakmayı) ve veritabanı yolunu veriyorsunuz, ardından AskAsync() ile istek gönderiyorsunuz.

Dönen RouterAnswer; Winner, Text, judge'ın 0-1 arası Score değeri ve yanıtın istekten nerede saptığını madde madde gösteren Critic alanlarını taşıyor. Feedback() ile 0-1 arası puan verip Train(epochs) ve Save() ile router'ı eğitebilir, her çağrıda Quality, Balance veya Price ağırlıklarını seçebilir ya da bar: 0.7 gibi bir eşik koyarak yalnızca insanı tatmin etme olasılığı yüksek adayları devreye alabilirsiniz. OpenRouter, FractalRouter ve OpenAI chat completions konuşan her endpoint destekleniyor; kendi tool ve agent'larınızı da sahte fiyat/hız değerleri ve bir çalıştırma fonksiyonu vererek router'a aday yapabilirsiniz.

Gerçek dünyada kullanımı

• Kısa soruları ucuz modellerin, uzun analizleri pahalı modellerin yanıtladığı bir chat özelliği.
• Mümkün olan en düşük maliyetle sabit bir kalite çıtasını tutturmak zorunda olan toplu doküman özetleme işi.
• Tek bir AskAsync() çağrısı arkasında derin ve hızlı iki iç arama implementasyonu arasında yönlendirme.
• Yerel judge kullanıp dış sağlayıcı maliyeti ödemek istemediğiniz, kendi barındırdığınız model sunucusu.

Neden önemli

Birden fazla sağlayıcı istemcisi, puanlama prompt'ları ve ağırlık takibiyle uğraşmadan, istek başına maliyet ile yanıt kalitesini dengelemenin paketlenmiş bir yolunu sunuyor.}{

Benzer haberler

• C#'ta LLM token'ları: yapay zekâ "strawberry"deki r'leri neden sayamıyor?DVDEV Community: #csharp1 gün önce
• PostSharp 2027.0, AI kodlama ajanlarına derleme sonuçlarını ve API bilgisini veriyorPMMetalama / PostSharp Blog5 gün önce
• .NET'te podcast sesinden temiz altyazıya: Whisper ve s1-miniEBBruno Capuano (El Bruno)23 Eki