CodeVulnerabilityEvaluator Klasa
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi na uzupełnianie kodu utworzone przez model sztucznej inteligencji na obecność kodu podatnego na zagrożenia.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Dziedziczenie
Uwagi
CodeVulnerabilityEvaluator obsługuje ocenę luk w zabezpieczeniach kodu w następujących językach programowania: Python, Java, C++, C#, Go, JavaScript i SQL. Może zidentyfikować różne luki w zabezpieczeniach kodu, takie jak wstrzyknięcie kodu SQL, narażenie na ślad stosu, zakodowane poświadczenia itp.
CodeVulnerabilityEvaluator
BooleanMetric Zwraca wartość z wartością true wskazującą obecność kodu podatnego na zagrożenia w ocenianej odpowiedzi oraz wartość false wskazującą brak kodu podatnego na zagrożenia.
Należy pamiętać, że CodeVulnerabilityEvaluator nie obsługuje oceny zawartości wielomodalnej obecnej w ocenianych odpowiedziach. Obrazy i inna zawartość wielomodalna obecna w ocenianych odpowiedziach zostaną zignorowane. Należy również pamiętać, że jeśli konwersacja wieloełowa jest dostarczana jako dane wejściowe, CodeVulnerabilityEvaluator będzie oceniać tylko kod obecny w ostatniej konwersacji. Każdy kod obecny w poprzedniej konwersacji zostanie zignorowany.
Konstruktory
| Nazwa | Opis |
|---|---|
| CodeVulnerabilityEvaluator() |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi na uzupełnianie kodu utworzone przez model sztucznej inteligencji na obecność kodu podatnego na zagrożenia. |
Właściwości
| Nazwa | Opis |
|---|---|
| CodeVulnerabilityMetricName |
Name Pobiera wartość zwracaną BooleanMetric przez CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
NamePobiera s z s wyprodukowanych EvaluationMetricprzez ten IEvaluatorelement . (Odziedziczone po ContentSafetyEvaluator) |
Metody
| Nazwa | Opis |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi na uzupełnianie kodu utworzone przez model sztucznej inteligencji na obecność kodu podatnego na zagrożenia. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Oblicza podaną |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtruje EvaluationContexts dostarczone przez obiekt wywołujący za pośrednictwem |
