OpenAI Maliyetlerini %80 Azaltmak: TOON’dan Önce Bilmeniz Gerekenler

🎯 Giriş

TOON son dönemde popüler olsa da nested veri yapılarında her zaman en düşük maliyeti sağlamaz. Asıl tasarruf mimariyi değiştirmekten gelir.
Bu yazıda:

TOON değerlendirmesi,
%80 maliyet azaltan iki aşamalı mimari,
tamamen fake veriler içeren pipeline örnekleri
yer almaktadır.

🔍 TOON Kısa Değerlendirme

Düz veride iyi.
Nested yapılarda avantajı azalır.
JSON Compact çoğu zaman daha verimli.
En büyük tasarruf → LLM’e az veri göndermek.

⚡ İki Aşamalı Ekonomik Mimari

1️⃣ Minimal Extraction (LLM)

Sadece tender_id ve bids çıkarılır.

2️⃣ Local Enhancement (0 Token)

Adres, lisans, numeric para ayrıştırma local parsers ile yapılır.

📁 Fake Veri ile Örnek Pipeline

1️⃣ input.md

AGENCY: Example Transportation Authority
PROJECT ID: 00-X00001
COUNTY: NORTHFIELD

**Bidder 1:** Alpha Infrastructure Group
Address: 101 Example Road, Eastville, EX 90001
Phone: (555) 100-2000
License: FAKE12345
Total Bid: $1,234,567.89

2️⃣ minimal_schema.json

{
  "type": "object",
  "properties": {
    "tender_id": {"type": "string"},
    "bids": {
      "type": "array",
      "items": {
        "type": "object",
        "properties": {
          "firm": {"type": "string"},
          "amount": {"type": "string"}
        },
        "required": ["firm", "amount"]
      }
    }
  },
  "required": ["tender_id", "bids"]
}

3️⃣ llm_output.json

{
  "tender_id": "00-X00001",
  "bids": [
    {"firm": "Alpha Infrastructure Group", "amount": "$1,234,567.89"}
  ]
}

4️⃣ enhanced_output.json

{
  "tender_id": "00-X00001",
  "bids": [
    {
      "firm": "Alpha Infrastructure Group",
      "amount": {
        "raw": "$1,234,567.89",
        "numeric": 1234567.89,
        "currency": "USD"
      },
      "address": {
        "street": "101 Example Road",
        "city": "Eastville",
        "state": "EX",
        "zip": "90001"
      },
      "license": "FAKE12345",
      "phone": "(555) 100-2000"
    }
  ]
}

🧠 Sonuç

Bu mimari:

%80 ucuz
Daha hızlı
Daha ölçeklenebilir