Sorgu akıl yürütme modelleri

Bu makalede, akıl yürütme görevleri için iyileştirilmiş ve Unity AI Gateway tarafından sunulan temel modeller için sorgu istekleri yazmayı öğreneceksiniz.

Query the databricks-claude-sonnet-4-5 model using the OpenAI client with extended thinking enabled (budget_tokens set to 10240). Send a reasoning question and print both the thinking summary and the final answer.

Databricks Foundation Model API'si, akıl yürütme modelleri de dahil olmak üzere tüm Temel Modellerle etkileşime geçmek için birleşik bir API sağlar. Muhakeme, temel modellerin karmaşık görevleri ele almak için gelişmiş yetenekler kazanmasına olanak tanır. Bazı modeller, nihai bir yanıt vermeden önce adım adım düşünme süreçlerini ortaya koyarak şeffaflık sağlar.

Akıl yürütme modeli türleri

Yalnızca akıl yürütme ve karma olmak üzere iki tür model vardır. Aşağıdaki tabloda, farklı modellerin mantığı denetlemek için farklı yaklaşımları nasıl kullandığı açıklanmaktadır:

Sorgu örnekleri

Tüm akıl yürütme modellerine sohbet tamamlama uç noktası üzerinden erişilir.

Claude modeli örneği

import os
from openai import OpenAI

client = OpenAI(
  api_key=os.environ.get('YOUR_DATABRICKS_TOKEN'),
  base_url=os.environ.get('YOUR_DATABRICKS_BASE_URL')
  )

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

msg = response.choices[0].message
reasoning = msg.content[0]["summary"][0]["text"]
answer = msg.content[1]["text"]

print("Reasoning:", reasoning)
print("Answer:", answer)

GPT-5.1

reasoning_effort GPT-5.1 parametresi varsayılan olarak none olarak ayarlanmıştır, ancak isteklerde değiştirilebilir. Daha yüksek akıl yürütme çabası daha düşünceli ve doğru yanıtlara neden olabilir, ancak gecikme süresini ve belirteç kullanımını artırabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-5-1",
    "messages": [
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 4096,
    "reasoning_effort": "none"
  }'

GPT OSS modeli örneği

reasoning_effort parametresi , "low" (varsayılan) veya "medium" değerlerini kabul "high"eder. Daha yüksek akıl yürütme çabası daha düşünceli ve doğru yanıtlara neden olabilir, ancak gecikme süresini ve belirteç kullanımını artırabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-oss-120b",
    "messages": [
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 4096,
    "reasoning_effort": "high"
  }'

İkizler modeli örneği

Bu örnekte system.ai.gemini-3-1-pro kullanılmıştır. reasoning_effort parametresi varsayılan olarak olarak ayarlanır"low", ancak aşağıdaki örnekte görüldüğü gibi isteklerde geçersiz kılınabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gemini-3-1-pro",
    "messages": [
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 2000,
    "stream": true,
    "reasoning_effort": "high"
  }'

API yanıtı düşünme ve metin içerik bloklarını içerir.

ChatCompletionMessage(
    role="assistant",
    content=[
        {
            "type": "reasoning",
            "summary": [
                {
                    "type": "summary_text",
                    "text": ("The question is asking about the scientific explanation for why the sky appears blue... "),
                    "signature": ("EqoBCkgIARABGAIiQAhCWRmlaLuPiHaF357JzGmloqLqkeBm3cHG9NFTxKMyC/9bBdBInUsE3IZk6RxWge...")
                }
            ]
        },
        {
            "type": "text",
            "text": (
                "# Why the Sky Is Blue\n\n"
                "The sky appears blue because of a phenomenon called Rayleigh scattering. Here's how it works..."
            )
        }
    ],
    refusal=None,
    annotations=None,
    audio=None,
    function_call=None,
    tool_calls=None
)

Birden fazla tur boyunca akıl yürütmeyi yönet.

Bu bölüm modele databricks-claude-sonnet-4-5 özgüdür.

Çok adımlı konuşmalarda, yalnızca son asistan adımı veya araç kullanımı oturumuyla ilişkili akıl yürütme blokları modele görünür ve giriş belirteçleri olarak sayılır.

Mantık belirteçlerini modele geri geçirmek istemiyorsanız (örneğin, önceki adımlarını gerekçelendirmek için buna ihtiyacınız yoktur), neden oluşturma bloğunu tamamen atlayabilirsiniz. Örneğin:

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[
        {"role": "user", "content": "Why is the sky blue?"},
        {"role": "assistant", "content": text_content},
        {"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"}
    ],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)

Ancak, modelin önceki akıl yürütme süreci üzerinde düşünmesi gerekiyorsa - örneğin, ara akıl yürütmesini ortaya çıkaran deneyimler oluşturuyorsanız - bir önceki turdan akıl yürütme bloğu da dahil olmak üzere tam, değiştirilmemiş asistan mesajını dahil etmelisiniz. Tam yardımcı iletisiyle iş parçacığına şu şekilde devam edin:

assistant_message = response.choices[0].message

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[
        {"role": "user", "content": "Why is the sky blue?"},
        {"role": "assistant", "content": text_content},
        {"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"},
        assistant_message,
        {"role": "user", "content": "Can you simplify the previous answer?"}
    ],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)

Yanıtlar API'lerini açma

Açık Yanıtlar API'sini kullandığınızda, muhakeme, yanıttaki reasoningöğeler olarak output döndürülür. Modelin sonraki bir turda önceki düşünceleri üzerinde akıl yürütebilmesi için, bu reasoning öğelerini — encrypted_content alanları değiştirilmeden — sonraki isteğin input öğesine ekleyin.

reasoning Yanıt çıkışında döndürülen bir öğenin şekli şu şekildedir:

{
  "type": "reasoning",
  "id": "rs_abc123",
  "content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
  "encrypted_content": "<opaque-provider-signature>"
}

Konuşmaya devam etmek için, `input` öğesini aynen koruyarak önceki adımın çıktısını `reasoning` içinde geri gönderin:

{
  "model": "databricks-claude-sonnet-4-5",
  "input": [
    { "role": "user", "content": "Why is the sky blue?" },
    {
      "type": "reasoning",
      "id": "rs_abc123",
      "content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
      "encrypted_content": "<opaque-provider-signature>"
    },
    { "role": "assistant", "content": "The sky is blue because of Rayleigh scattering..." },
    { "role": "user", "content": "Can you explain it for a five-year-old?" }
  ]
}

encrypted_content Değer sağlayıcıya özgü akıl yürütme durumunu taşır. Eğer kaldırılır veya değiştirilirse, model önceki düşünme süreci üzerinden akıl yürütemez. Bu, Anthropic Claude ve Google Gemini modelleri için geçerlidir.

Bir muhakeme modeli nasıl çalışır?

Akıl yürütme modelleri, standart giriş ve çıkış belirteçlerine ek olarak özel akıl yürütme belirteçleri tanıtır. Bu belirteçler, modelin istemi "düşünmesine" olanak tanır; bunu daha küçük parçalara bölerek ve farklı yanıt yollarını değerlendirerek yapar. Bu içsel akıl yürütme sürecinden sonra, model görünür çıktı belirteçleri olarak nihai cevabını üretir. Bazı modeller, databricks-claude-sonnet-4-5 gibi, bu akıl yürütme belirteçlerini kullanıcılara gösterirken, OpenAI o serisi gibi diğerleri bunları atar ve nihai çıktıda göstermez.

Ek kaynaklar

• Ekleme modelini sorgulama.
• Sohbet modelini sorgulama.
• Görüntü işleme modellerini sorgulama.