Застосування бази даних для постійного кешування в fastAPI для асинхронних функцій

7 Березня 2024 в 20:12 27

У сучасних веб-додатках, особливо коли мова йде про асинхронне програмування, ефективне кешування є критично важливим для оптимізації швидкодії та масштабованості. Одним із популярних інструментів для створення веб-додатків з асинхронним API є fastAPI. Проте, при роботі з fastAPI та асинхронними функціями виникає потреба у постійному кешуванні результатів запитів, щоб уникнути повторного обчислення для однакових вхідних даних.

Однак, коли мова йде про застосування кешування в асинхронному середовищі fastAPI, з’являються певні складнощі, особливо коли потрібно кешувати дані між багатьма екземплярами додатку. Наприклад, якщо ми маємо кілька екземплярів fastAPI додатку, які працюють паралельно (наприклад, за допомогою контейнерізації), і нам потрібно кешувати результати запитів між цими екземплярами, традиційні методи кешування, такі як async_lru, можуть не бути ефективними.

Одним із можливих рішень цієї проблеми є використання бази даних для зберігання кешованих даних. Це дозволяє зберігати результати запитів між різними екземплярами додатку, забезпечуючи послідовність даних та масштабованість. У цій статті ми розглянемо детальніше процес використання бази даних для постійного кешування в fastAPI для асинхронних функцій.

Використання бази даних для зберігання кешуваних даних

Перш ніж перейти до реалізації, давайте розглянемо загальний підхід до використання бази даних для кешування в fastAPI. Ми будемо використовувати базу даних, яка підтримує асинхронні запити, таку як PostgreSQL або MongoDB, для збереження кешованих даних. Далі ми створимо таблицю або колекцію в цій базі даних для збереження результатів запитів до OpenAI або інших джерел даних.

Спочатку нам потрібно визначити структуру даних для зберігання кешованих результатів. Наприклад, ми можемо створити модель Result з полями, що відображають вхідні параметри запиту та результат відповіді. Після цього ми створимо таблицю або колекцію в базі даних для збереження цих даних.

Реалізація кешування в fastAPI

Тепер, коли ми маємо структуру даних та базу даних для збереження кешованих результатів, ми можемо перейти до реалізації кешування в нашому fastAPI додатку. Для цього ми використаємо асинхронні функції для збереження та отримання даних з бази даних.

Наприклад, ми можемо створити асинхронні функції для збереження результатів у базі даних та отримання результатів з неї:

async def save_result_to_database(params, result):
    # Код для збереження результату у базі даних
async def get_result_from_database(params):
    # Код для отримання результату з бази даних

async def save_result_to_database(params, result):

# Код для збереження результату у базі даних

async def get_result_from_database(params):

# Код для отримання результату з бази даних

Далі, ми можемо використовувати ці функції у наших асинхронних обробниках fastAPI для збереження та отримання кешованих результатів:

@app.get("/process")
async def process(params: dict):
    # Перевіряємо, чи є результат у кеші
    cached_result = await get_result_from_database(params)
    if cached_result:
        return cached_result
    # Викликаємо OpenAI та отримуємо результат
    result = await call_openai(params)
    # Зберігаємо результат у кеші
    await save_result_to_database(params, result)
    return result

@app.get("/process")

async def process(params: dict):

# Перевіряємо, чи є результат у кеші

cached_result = await get_result_from_database(params)

if cached_result:

return cached_result

# Викликаємо OpenAI та отримуємо результат

result = await call_openai(params)

# Зберігаємо результат у кеші

await save_result_to_database(params, result)

return result

Таким чином, ми можемо ефективно кешувати результати асинхронних викликів у fastAPI, використовуючи базу даних для зберігання кешованих даних. Це дозволяє нам підтримувати швидкодію та масштабованість нашого додатку, навіть коли ми маємо кілька екземплярів, які працюють паралельно.

Висновки

У цій статті ми розглянули, як можна використовувати базу даних для постійного кешування результатів у fastAPI для асинхронних функцій. Шляхом збереження кешованих даних у базі даних та використання асинхронних функцій для збереження та отримання даних, ми можемо досягти оптимальної швидкодії та масштабованості нашого додатку, навіть у випадку паралельної роботи кількох екземплярів додатку.