Sposób działania i korzyści dla potoku wnioskowania
Włączenie Web Search API bezpośrednio do potoku wnioskowania tworzy dla agentów AI dynamiczną warstwę kontekstu. Zamiast polegać wyłącznie na wiedzy statycznej z momentu odcięcia danych treningowych modelu językowego, aplikacje zyskują bezpośredni dostęp do świeżych, ustrukturyzowanych fragmentów informacji z internetu.
Zamiast próbować zgadywać adresy URL, agent AI wysyła zapytanie wyszukiwania i odbiera uporządkowane dane obejmujące tytuły, adresy URL oraz opisy stron. Zwrócone struktury przekazywane są bez pośredników wprost do kontekstu modelu językowego, co podnosi precyzję generowanych odpowiedzi.
Dostawcy wyników wyszukiwania i wymogi techniczne
Nowe API umożliwia agentom AI pobieranie aktualnych wyników wyszukiwania z sieci od zewnętrznych dostawców, którymi są Ceramic.ai, Exa oraz Linkup. Rozwiązanie to pozwala na elastyczne dobieranie źródła danych w zależności od specyfiki realizowanego zadania.
Robot indeksujący używany przez dostawcę wyszukiwania internetowego musi spełniać publicznie określone wymagania dla zweryfikowanych botów opisane w dokumentacji programistycznej Cloudflare. Dodatkowo każda odpowiedź wyszukiwania musi zawierać bezpośredni odnośnik do lokalizacji pobranej zawartości.
Zarządzanie, opłaty i ochrona danych w AI Gateway
Korzystanie z Web Search API w AI Gateway jest rozliczane poprzez pobieranie środków bezpośrednio z salda kredytów AI Gateway użytkownika. Płatności za usługi wyszukiwania są realizowane według cen cennikowych dostawców, bez naliczania dodatkowej marży przez Cloudflare. Dodatkowo obsługa kluczy dostawców w modelu Bring-Your-Own-Provider umożliwia łatwe wykorzystanie własnych licencji.
Platforma AI Gateway stanowi centralny punkt kontrolny dla aplikacji. Umożliwia rejestrowanie logów i danych o zapytaniach oraz precyzyjne sterowanie prawami dostępu do poszczególnych dostawców wyszukiwania. Dla przedsiębiorstw dbających o ochronę danych Cloudflare wyraźnie wskazuje dostawców zapewniających gwarancję Zero Data Retention.
