Tanık Dokümantasyon

Başlangıç

#Tanık nedir

Tanık, kurumunuzun yapay zekâ sağlayıcılarına (OpenAI, Anthropic, Azure OpenAI ve diğerleri) giden bütün trafiğin geçtiği bir ağ geçididir. Uygulamalarınız sağlayıcıya değil Tanık'a bağlanır; Tanık isteği inceler, gerekirse değiştirir ya da reddeder, sağlayıcıya iletir ve verdiği her kararı değiştirilemez bir kayda yazar.

İki işi vardır:

Ürünün ilkesi şudur: her kontrol bir kanıt üretir. Kanıt üretmeyen bir kontrol ya da kontrolü olmayan bir kanıt, tasarım hatasıdır.

#Nasıl çalışır

Uygulamanız ──▶ Tanık ──▶ Sağlayıcı (OpenAI, Anthropic, Azure…)
                 │
                 ├─ kimlik → kurallar → tarama ve maskeleme → yönlendirme
                 │
                 └─ denetim kaydı (değiştirilemez)

Uygulamanızda yalnız iki şey değişir: sağlayıcının adresi yerine Tanık'ın adresi, sağlayıcının anahtarı yerine Tanık'ın verdiği anahtar. İstek gövdesi, model adı ve akışlı cevap davranışı aynı kalır. Tanık sağlayıcıyı taklit etmez; isteği iletir ve kaydeder. Bir hata olduğunda cevabı sağlayıcının kendi hata biçiminde verir, böylece mevcut hata yönetiminiz çalışmaya devam eder.

#Bileşenler

Kurulum paketi beş servisten oluşur ve tek bir docker compose dosyasıyla ayağa kalkar:

ServisGörevi
gatewayUygulamaların bağlandığı ağ geçidi ve yönetim API'si
adminYönetim konsolu (tarayıcıda)
workerArka plan işleri: günlük imzalı checkpoint, aylık çapa, uyarılar, saklama süresi
mongoDenetim kaydı ve yapılandırma
redisZincir ucu ve sayaçlar (istek limiti, token bütçesi)

#Ne değildir

#Sonraki adım

Kurulum sayfasından başlayın. Bir sunucu ve yaklaşık yarım saat yeter.