Перейти к основному содержанию

​
Короткий ответ

LLMEasy — это API gateway. Его основная задача — передать ваш запрос выбранной upstream-модели и записать данные, необходимые для billing, usage records и диагностики ошибок. При работе с API придерживайтесь принципа минимизации данных. Не добавляйте в prompts, файлы и tool output лишние персональные данные, секреты, платежную информацию и коммерчески чувствительные материалы. Храните API Keys в переменных окружения, secret managers или CI secrets. Не коммитьте их в публичные репозитории.

​
Граница безопасности данных

ТипЧто это значит
API KeyПодтверждает ваши запросы; храните его безопасно
Содержимое запросаPrompts, контекст, фрагменты файлов или результаты tools, отправленные модели
Содержимое ответаТекст, код или структурированный результат от модели
Usage informationМодель, tokens, стоимость, status code, время запроса и другие billing- или debug-метаданные
Upstream-модельСервис или provider, который обрабатывает inference request
LLMEasy помогает централизованно управлять API Keys, балансом и usage records. Он не заменяет вашу собственную маскировку данных, управление доступом и security-процессы проекта.

​
Защита передачи

Все API-вызовы должны идти через HTTPS. При настройке Base URL используйте адрес https://, указанный в документации. Не передавайте API Keys и содержимое запросов через plaintext HTTP. Если клиент, proxy или локальный инструмент просит отключить TLS verification, сначала проверьте причину. Не делайте такую настройку вариантом по умолчанию.

​
Logs и usage records

Для billing, списания баланса, диагностики ошибок и risk control API gateway обычно записывает request metadata:
  • Время запроса
  • Использованный API Key или key group
  • Запрошенную модель
  • Token usage
  • Успешность запроса
  • Error status
Эти данные нужны для биллинга, анализа usage и диагностики. При обращении в поддержку указывайте время запроса, модель, error code и request id. Не отправляйте полный API Key или чувствительный prompt.

​
Что делать на стороне пользователя

  1. Не храните API Keys в кодовых репозиториях.
  2. Не показывайте полный API Key на скриншотах, в logs и support tickets.
  3. Используйте разные API Keys для production и тестовой среды.
  4. Регулярно проверяйте usage records в dashboard.
  5. Отключайте старые keys после ухода сотрудника, завершения проекта или подозрения на утечку.
  6. Не отправляйте в prompts документы, банковские карты, пароли, private keys и другие чувствительные данные без необходимости.
  7. Если нужно обрабатывать чувствительные бизнес-данные, сначала маскируйте и сокращайте их на своей стороне.

​
Что делать при аномальном расходе

Если API Key показывает подозрительные вызовы:
  1. Отключите или удалите подозрительный API Key в консоли.
  2. Посмотрите последние call records: модель, время, источник запроса.
  3. Проверьте репозитории, CI logs, локальные конфиги и настройки сторонних инструментов на утечку key.
  4. Создайте новый API Key и передайте его только в нужные среды.
  5. Если причину найти не удалось, обратитесь в поддержку и укажите диапазон времени, модель и сумму аномального расхода.

​
О LLMEasy

LLMEasy отвечает за доступ к model requests, пересылку запросов, billing и отображение usage. Безопасность разделяется: платформа защищает сервисную часть доступа и биллинга, а вы храните API Keys, распределяете права, минимизируете данные в prompts и безопасно настраиваете инструменты.

​
Связанные материалы