lunary

Lunary to platforma do monitorowania i zarządzania aplikacjami opartymi na dużych modelach językowych. System pozwala zespołom śledzić interakcje użytkowników z chatbotami oraz kontrolować wydajność autonomicznych agentów w czasie rzeczywistym. Programiści mogą zintegrować go ze swoim kodem za pomocą gotowych bibliotek, co umożliwia automatyczne logowanie zapytań i odpowiedzi.

Przykładowe funkcje:

• Śledzenie kosztów i zużycia tokenów w podziale na konkretne modele i projekty.
• Zarządzanie szablonami promptów i ich wersjonowanie bez konieczności przeładowywania kodu aplikacji.
• Automatyczne maskowanie danych osobowych (PII) w celu zachowania zgodności z RODO.
• System powiadomień informujący o błędach lub nieprawidłowym działaniu agentów.
• Odtwarzanie historii rozmów (Chat Replays) i zbieranie opinii od użytkowników końcowych.
• Środowisko testowe (Playground) do eksperymentowania z różnymi modelami bez pisania kodu.

Przykładowe zastosowania:

• Monitorowanie wewnętrznych asystentów wiedzy firmowej i analiza najczęściej zadawanych pytań.
• Debugowanie złożonych procesów wykonywanych przez autonomiczne agenty AI w celu wykrycia błędów.
• Współpraca programistów z osobami nietechnicznymi przy edycji i testowaniu treści promptów.
• Klasyfikacja tematów rozmów w celu identyfikacji trendów i luk w odpowiedziach bota wsparcia klienta.