Какие существуют паттерны отказоустойчивости в микросервисах?

1️⃣ Как кратко ответить

В микросервисной архитектуре для обеспечения отказоустойчивости используются несколько ключевых паттернов: Circuit Breaker, Retry, Fallback, Bulkhead и Timeout. Circuit Breaker предотвращает повторные неудачные попытки вызова сервиса. Retry автоматически повторяет запросы в случае временных сбоев. Fallback предоставляет альтернативные решения при сбоях. Bulkhead изолирует ресурсы, чтобы сбой одного компонента не повлиял на другие. Timeout ограничивает время ожидания ответа от сервиса, предотвращая зависания.

2️⃣ Подробное объяснение темы

Отказоустойчивость в микросервисах — это способность системы продолжать функционировать, даже если некоторые её компоненты выходят из строя. В микросервисной архитектуре, где приложения состоят из множества независимых сервисов, отказоустойчивость особенно важна, так как сбой одного сервиса не должен приводить к сбою всей системы.

1. Circuit Breaker (Предохранитель)

Зачем нужен: Circuit Breaker предотвращает повторные неудачные попытки вызова сервиса, которые могут привести к перегрузке системы.

Как работает: Этот паттерн работает аналогично электрическому предохранителю. Если сервис начинает часто возвращать ошибки, Circuit Breaker "размыкается", и все последующие вызовы сразу же завершаются с ошибкой, не доходя до сервиса. Через некоторое время предохранитель "замыкается", и система проверяет, восстановился ли сервис.

Пример:

class CircuitBreaker:
    def __init__(self, failure_threshold, recovery_timeout):
        self.failure_threshold = failure_threshold
        self.recovery_timeout = recovery_timeout
        self.failure_count = 0
        self.state = 'CLOSED'
        self.last_failure_time = None
​
    def call(self, func, *args, **kwargs):
        if self.state == 'OPEN':
            if time.time() - self.last_failure_time > self.recovery_timeout:
                self.state = 'HALF-OPEN'
            else:
                raise Exception("Circuit is open")
​
        try:
            result = func(*args, **kwargs)
            self.failure_count = 0
            self.state = 'CLOSED'
            return result
        except Exception as e:
            self.failure_count += 1
            self.last_failure_time = time.time()
            if self.failure_count >= self.failure_threshold:
                self.state = 'OPEN'
            raise e

2. Retry (Повтор)

Зачем нужен: Retry позволяет автоматически повторять запросы в случае временных сбоев, таких как сетевые проблемы.

Как работает: Если вызов сервиса не удался, система автоматически повторяет его через определенные интервалы времени. Это полезно, когда сбои носят временный характер.

Пример:

import time
​
def retry(func, retries=3, delay=2):
    for attempt in range(retries):
        try:
            return func()
        except Exception as e:
            if attempt < retries - 1:
                time.sleep(delay)
            else:
                raise e

3. Fallback (Резервное решение)

Зачем нужен: Fallback предоставляет альтернативные решения при сбоях, чтобы минимизировать влияние на пользователя.

Как работает: Если основной сервис недоступен, система использует резервный план, например, возвращает кэшированные данные или предоставляет ограниченный функционал.

Пример:

def get_data_with_fallback():
    try:
        return get_data_from_service()
    except Exception:
        return get_cached_data()

4. Bulkhead (Переборка)

Зачем нужен: Bulkhead изолирует ресурсы, чтобы сбой одного компонента не повлиял на другие.

Как работает: Этот паттерн разделяет систему на независимые части, каждая из которых имеет свои ресурсы. Это похоже на переборки в корабле, которые предотвращают затопление всего судна при повреждении одного отсека.

Пример:

from concurrent.futures import ThreadPoolExecutor
​
executor = ThreadPoolExecutor(max_workers=5)
​
def process_request(request):
    # Обработка запроса
    pass
​
for request in requests:
    executor.submit(process_request, request)

5. Timeout (Тайм-аут)

Зачем нужен: Timeout ограничивает время ожидания ответа от сервиса, предотвращая зависания.

Как работает: Если сервис не отвечает в течение заданного времени, запрос прерывается, и система может предпринять другие действия, такие как повторный запрос или использование Fallback.

Пример:

import requests
​
def fetch_data_with_timeout(url, timeout=5):
    try:
        response = requests.get(url, timeout=timeout)
        return response.json()
    except requests.Timeout:
        return "Request timed out"