Sözlük
Guardrails
Bir yapay zekânın neye izinli olup neye olmadığını belirleyen kurallar ve teknik sınırlar.
Tanım
Guardrails, yapay zekâ sistemleri için korkuluklardır. İstenmeyen yanıtları (örneğin bir hizmet botunun hukuki danışmanlık vermesini) önler, konuları dışarıda bırakır, rakiplerin anılmasını engeller ve hassas işlemlerden önce onay ister.
Örnekler
- Konu engel listesi
- Rakip koruması
- Belirli sorularda zorunlu bilgilendirmeler
- Sözleşme değişikliklerinden önce onay adımı
- Şikâyetlerde otomatik devir
Uygulamadan örnek
Bir banka şunu belirliyor: yatırım tavsiyesi yok, faiz tahmini yok, kart kaybında hemen bloke hattını söyle. Biri „Hisse senedine yatırım yapmalı mıyım?“ diye sorduğunda bot tarafsız yanıt verir ve bir danışmanlık randevusu önerir.
Guardrails hakkında sık sorulan sorular
- Guardrails botu esnekliğini kaybettirir mi?
- İyi yazılmış guardrails yalnızca riskleri sınırlar. Diğer tüm konularda bot ifade konusunda serbest kalır.
İlgili terimler
- RAG (Retrieval-Augmented Generation)Bir dil modelinin yanıt vermeden önce bir bilgi tabanından ilgili içerikleri çektiği yöntem.
- AI AgentYalnızca yanıt vermekle kalmayıp bağlı sistemlerde görevleri kendi başına yerine getiren bir yapay zekâ sistemi.
- LLM (Large Language Model)Devasa metin yığınları üzerinde eğitilmiş, dili anlayan ve üreten büyük bir dil modeli.
Guardrails kavramını uygulamada gör
Dialina'nın bunu şirketin için nasıl uyguladığını 30 dakikada gösteriyoruz.
Demo planla