Semantik Çekirdek Bileşenleri

Anlam Çekirdeği, tek tek veya birlikte kullanılabilecek birçok farklı bileşen sağlar. Bu makalede, farklı bileşenlere genel bir bakış ve aralarındaki ilişki açıklanmaktadır.

Yapay Zeka Hizmeti Bağlayıcıları

AnlamSal Çekirdek AI hizmeti bağlayıcıları, ortak bir arabirim aracılığıyla farklı sağlayıcılardan birden çok yapay zeka hizmeti türünü kullanıma sunan bir soyutlama katmanı sağlar. Desteklenen hizmetler arasında Chat Tamamlama, Metin Oluşturma, Gömme Oluşturma, Metinden Görüntüye, Görüntüden Metne, Metinden Sese ve Sesten Metne.

Bir uygulama Çekirdek'e kaydedildiğinde, sohbet tamamlama veya metin oluşturma hizmetleri, Çekirdek'e yapılan herhangi bir yöntem çağrısı vasıtasıyla varsayılan olarak kullanılır. Desteklenen diğer hizmetlerin hiçbiri otomatik olarak kullanılmaz.

Vektör Hafıza Bağlayıcıları

Semantik Çekirdek Vektör Deposu bağlayıcıları, ortak bir arabirim aracılığıyla farklı sağlayıcılardan vektör depolarını kullanıma sunan bir soyutlama katmanı sağlar. Çekirdek, kayıtlı vektör depolarını otomatik olarak kullanmaz, ancak Vektör Araması kolayca Çekirdek'e bir eklenti olarak gösterilebilir. Bu durumda eklenti, İstem Şablonları ve Sohbet Tamamlama Yapay Zeka Modeli için kullanılabilir hale getirilebilir.

İşlevler ve Eklentiler

Eklentiler işlev kapsayıcıları olarak adlandırılır. Her biri bir veya daha fazla işlev içerebilir. Eklentiler çekirdekle kaydedilebilir ve bu da çekirdeğin bunları iki şekilde kullanmasına olanak tanır:

1. Yapay zekanın çağrı için seçebilmesi için bunları sohbet tamamlama yapay zekasına tanıtın.
2. Şablon işleme sırasında bunları bir şablondan çağrılmaya hazır hale getirin.

İşlevler yerel kod, OpenAPI belirtimleri, RAG senaryoları için ITextSearch uygulamaları gibi birçok kaynaktan, aynı zamanda istem şablonlarından da kolayca oluşturulabilir.

İstem Şablonları

İstem şablonları, geliştirici veya istem mühendisinin kullanıcı girişi ve işlev çıkışıyla yapay zeka bağlamını ve yönergelerini bir araya getiren bir şablon oluşturmasına olanak tanır. Örneğin şablonda Sohbet Tamamlama yapay zeka modeline yönelik yönergeler ve kullanıcı girişi için yer tutucuların yanı sıra Sohbet Tamamlama yapay zekası modelini çağırmadan önce her zaman yürütülmesi gereken eklentilere yönelik sabit kodlanmış çağrılar bulunabilir.

İstem şablonları iki şekilde kullanılabilir:

1. Sohbet Tamamlama akışının başlangıç noktası olarak, çekirdekten şablonu işlemeyi ve işlenen sonuçla Sohbet Tamamlama yapay zeka modelini çağırmasını isteyin.
2. Eklenti işlevi olarak, diğer tüm işlevler gibi çağrılabilmesi amacıyla.

Bir istem şablonu kullanıldığında, önce işlenir ve içerdiği sabit kodlanmış işlev referansları yürütülür. Daha sonra işlenen istem Sohbet Tamamlama yapay zeka modeline geçirilir. Yapay zeka tarafından oluşturulan sonuç çağırana döndürülür. İstem şablonu bir eklenti işlevi olarak kaydedilmişse, işlev Sohbet Tamamlama yapay zeka modeli tarafından yürütülecek şekilde seçilmiş olabilir ve bu durumda arayan yapay zeka modeli adına Anlam Çekirdeği'dir.

İstem şablonlarını eklenti işlevleri olarak bu şekilde kullanmak oldukça karmaşık akışlara neden olabilir. Örneğin, bir istem şablonunun A eklenti olarak kaydedildiği senaryoyu göz önünde bulundurun. Aynı zamanda sohbet tamamlama akışını başlatmak için çekirdekte farklı bir istem şablonu B geçirilebilir. B Aiçin sabit kodlanmış bir çağrı olabilir. Bu, aşağıdaki adımlarla sonuçlanır:

1. B işleme süreci başlar ve istem yürütmesi sırasında A ile ilgili bir başvuru bulunur.
2. A oluşturulur.
3. İşlenen/görüntülenen A çıktısı Sohbet Tamamlama AI modeline iletilir.
4. Sohbet Tamamlama AI modelinin sonucu B'a döndürülür.
5. B işlenmesi tamamlandı.
6. İşlenen/görüntülenen B çıktısı Sohbet Tamamlama AI modeline iletilir.
7. Sohbet Tamamlama yapay zeka modelinin sonucu arayana döndürülür.

Ayrıca B'den A'a sabit kodlanmış bir çağrının olmadığı senaryoyu da göz önünde bulundurun. İşlev çağırma etkinleştirildiyse, Sohbet Tamamlama AI modeli, A'in sağlayabileceği veri veya işlevleri gerektirdiğinden A'ın çağrılması gerektiğine karar verebilir.

İstem şablonlarını eklenti işlevleri olarak kaydetmek, gerçek kod yerine insan dili kullanılarak açıklanan işlevler oluşturma olanağı sağlar. İşlevleri bu şekilde bir eklentiye ayırmak, yapay zeka modelinin bunu ana yürütme akışına ayrı ayrı düşünmesine olanak tanır ve yapay zeka modeli tarafından tek seferde tek bir soruna odaklanabildiğinden daha yüksek başarı oranlarına yol açabilir.

Bir istem şablonundan başlatılan basit bir akış için aşağıdaki diyagrama bakın.

Filtreler

Filtreler, sohbet tamamlama akışı sırasında belirli olaylardan önce ve sonra özel eylem gerçekleştirmenin bir yolunu sağlar. Bu olaylar şunlardır:

1. İşlev çağırmadan önce ve sonra.
2. İstem işlemeden önce ve sonra.

Sohbet tamamlama akışı sırasında çağrılmak için filtrelerin çekirdekle kaydedilmesi gerekir.

komut istemi şablonları yürütmeden önce her zaman KernelFunctions'a dönüştürüldüğünden, istem şablonu için hem işlev hem de istem filtrelerinin çağrılacağını unutmayın. Birden fazla kullanılabilir olduğunda filtreler iç içe yerleştirildiğinden, işlev filtreleri dış filtrelerdir ve istem filtreleri iç filtrelerdir.

Anlamsal çekirdek işlem hattına filtre entegrasyonu.