Перейти к содержанию

2.4   Пространственная сложность

Пространственная сложность (space complexity) используется для оценки того, как меняется объем памяти, занимаемой алгоритмом, по мере роста объема данных. Это понятие очень похоже на временную сложность, только вместо "времени выполнения" мы рассматриваем "объем используемой памяти".

2.4.1   Пространство, связанное с алгоритмом

Память, которую использует алгоритм во время работы, в основном включает несколько следующих частей.

  • Входное пространство: используется для хранения входных данных алгоритма.
  • Временное пространство: используется для хранения переменных, объектов, контекста функций и других данных, возникающих во время выполнения алгоритма.
  • Выходное пространство: используется для хранения выходных данных алгоритма.

В общем случае при анализе пространственной сложности в расчет включают "временное пространство" и "выходное пространство".

Временное пространство можно дополнительно разделить на три части.

  • Временные данные: используются для хранения различных констант, переменных, объектов и т.д., возникающих во время выполнения алгоритма.
  • Пространство кадров стека: используется для хранения контекстных данных вызываемых функций. Система при каждом вызове функции создает на вершине стека новый кадр; после возврата функции пространство этого кадра освобождается.
  • Пространство инструкций: используется для хранения скомпилированных инструкций программы и в реальном подсчете обычно не учитывается.

При анализе пространственной сложности программы мы обычно учитываем три части: временные данные, пространство кадров стека и выходные данные, как показано на рисунке 2-15.

Пространство, используемое алгоритмом

Рисунок 2-15   Пространство, используемое алгоритмом

Соответствующий код выглядит следующим образом:

class Node:
    """Класс"""
    def __init__(self, x: int):
        self.val: int = x              # Значение узла
        self.next: Node | None = None  # Ссылка на следующий узел

def function() -> int:
    """Функция"""
    # Выполнить некоторые операции...
    return 0

def algorithm(n) -> int:  # Входные данные
    A = 0                 # Временные данные (константа, обычно обозначается заглавной буквой)
    b = 0                 # Временные данные (переменная)
    node = Node(0)        # Временные данные (объект)
    c = function()        # Пространство кадра стека (вызов функции)
    return A + b + c      # Выходные данные

/* Структура */
struct Node {
    int val;
    Node *next;
    Node(int x) : val(x), next(nullptr) {}
};

/* Функция */
int func() {
    // Выполнить некоторые операции...
    return 0;
}

int algorithm(int n) {        // Входные данные
    const int a = 0;          // Временные данные (константа)
    int b = 0;                // Временные данные (переменная)
    Node* node = new Node(0); // Временные данные (объект)
    int c = func();           // Пространство кадра стека (вызов функции)
    return a + b + c;         // Выходные данные
}

/* Класс */
class Node {
    int val;
    Node next;
    Node(int x) { val = x; }
}

/* Функция */
int function() {
    // Выполнить некоторые операции...
    return 0;
}

int algorithm(int n) {        // Входные данные
    final int a = 0;          // Временные данные (константа)
    int b = 0;                // Временные данные (переменная)
    Node node = new Node(0);  // Временные данные (объект)
    int c = function();       // Пространство кадра стека (вызов функции)
    return a + b + c;         // Выходные данные
}

/* Класс */
class Node(int x) {
    int val = x;
    Node next;
}

/* Функция */
int Function() {
    // Выполнить некоторые операции...
    return 0;
}

int Algorithm(int n) {        // Входные данные
    const int a = 0;          // Временные данные (константа)
    int b = 0;                // Временные данные (переменная)
    Node node = new(0);       // Временные данные (объект)
    int c = Function();       // Пространство кадра стека (вызов функции)
    return a + b + c;         // Выходные данные
}

/* Структура */
type node struct {
    val  int
    next *node
}

/* Создать структуру node */
func newNode(val int) *node {
    return &node{val: val}
}

/* Функция */
func function() int {
    // Выполнить некоторые операции...
    return 0
}

func algorithm(n int) int { // Входные данные
    const a = 0             // Временные данные (константа)
    b := 0                  // Временные данные (переменная)
    newNode(0)              // Временные данные (объект)
    c := function()         // Пространство кадра стека (вызов функции)
    return a + b + c        // Выходные данные
}

/* Класс */
class Node {
    var val: Int
    var next: Node?

    init(x: Int) {
        val = x
    }
}

/* Функция */
func function() -> Int {
    // Выполнить некоторые операции...
    return 0
}

func algorithm(n: Int) -> Int { // Входные данные
    let a = 0             // Временные данные (константа)
    var b = 0             // Временные данные (переменная)
    let node = Node(x: 0) // Временные данные (объект)
    let c = function()    // Пространство кадра стека (вызов функции)
    return a + b + c      // Выходные данные
}

/* Класс */
class Node {
    val;
    next;
    constructor(val) {
        this.val = val === undefined ? 0 : val; // Значение узла
        this.next = null;                       // Ссылка на следующий узел
    }
}

/* Функция */
function constFunc() {
    // Выполнить некоторые операции
    return 0;
}

function algorithm(n) {       // Входные данные
    const a = 0;              // Временные данные (константа)
    let b = 0;                // Временные данные (переменная)
    const node = new Node(0); // Временные данные (объект)
    const c = constFunc();    // Пространство кадра стека (вызов функции)
    return a + b + c;         // Выходные данные
}

/* Класс */
class Node {
    val: number;
    next: Node | null;
    constructor(val?: number) {
        this.val = val === undefined ? 0 : val; // Значение узла
        this.next = null;                       // Ссылка на следующий узел
    }
}

/* Функция */
function constFunc(): number {
    // Выполнить некоторые операции
    return 0;
}

function algorithm(n: number): number { // Входные данные
    const a = 0;                        // Временные данные (константа)
    let b = 0;                          // Временные данные (переменная)
    const node = new Node(0);           // Временные данные (объект)
    const c = constFunc();              // Пространство кадра стека (вызов функции)
    return a + b + c;                   // Выходные данные
}

/* Класс */
class Node {
  int val;
  Node next;
  Node(this.val, [this.next]);
}

/* Функция */
int function() {
  // Выполнить некоторые операции...
  return 0;
}

int algorithm(int n) {  // Входные данные
  const int a = 0;      // Временные данные (константа)
  int b = 0;            // Временные данные (переменная)
  Node node = Node(0);  // Временные данные (объект)
  int c = function();   // Пространство кадра стека (вызов функции)
  return a + b + c;     // Выходные данные
}

use std::rc::Rc;
use std::cell::RefCell;

/* Структура */
struct Node {
    val: i32,
    next: Option<Rc<RefCell<Node>>>,
}

/* Создать структуру Node */
impl Node {
    fn new(val: i32) -> Self {
        Self { val: val, next: None }
    }
}

/* Функция */
fn function() -> i32 {      
    // Выполнить некоторые операции...
    return 0;
}

fn algorithm(n: i32) -> i32 {       // Входные данные
    const a: i32 = 0;               // Временные данные (константа)
    let mut b = 0;                  // Временные данные (переменная)
    let node = Node::new(0);        // Временные данные (объект)
    let c = function();             // Пространство кадра стека (вызов функции)
    return a + b + c;               // Выходные данные
}

/* Функция */
int func() {
    // Выполнить некоторые операции...
    return 0;
}

int algorithm(int n) { // Входные данные
    const int a = 0;   // Временные данные (константа)
    int b = 0;         // Временные данные (переменная)
    int c = func();    // Пространство кадра стека (вызов функции)
    return a + b + c;  // Выходные данные
}

/* Класс */
class Node(var _val: Int) {
    var next: Node? = null
}

/* Функция */
fun function(): Int {
    // Выполнить некоторые операции...
    return 0
}

fun algorithm(n: Int): Int { // Входные данные
    val a = 0                // Временные данные (константа)
    var b = 0                // Временные данные (переменная)
    val node = Node(0)       // Временные данные (объект)
    val c = function()       // Пространство кадра стека (вызов функции)
    return a + b + c         // Выходные данные
}

### Класс ###
class Node
    attr_accessor :val      # Значение узла
    attr_accessor :next     # Ссылка на следующий узел

    def initialize(x)
        @val = x
    end
end

### Функция ###
def function
    # Выполнить некоторые операции...
    0
end

### Алгоритм ###
def algorithm(n)        # Входные данные
    a = 0               # Временные данные (константа)
    b = 0               # Временные данные (переменная)
    node = Node.new(0)  # Временные данные (объект)
    c = function        # Пространство кадра стека (вызов функции)
    a + b + c           # Выходные данные
end

2.4.2   Метод вывода

Метод вывода пространственной сложности в целом аналогичен временному анализу: меняется только объект подсчета, с "количества операций" на "размер используемого пространства".

В отличие от временной сложности, обычно мы рассматриваем только худшую пространственную сложность. Это связано с тем, что память является жестким ограничением: нам нужно гарантировать, что для любых входных данных у программы будет достаточно памяти.

Рассмотрим следующий код. Слово "худшая" в "худшей пространственной сложности" имеет два значения.

  1. Ориентир на худшие входные данные: когда \(n < 10\) , пространственная сложность равна \(O(1)\) ; но когда \(n > 10\) , инициализированный массив nums занимает \(O(n)\) пространства, поэтому худшая пространственная сложность равна \(O(n)\) .
  2. Ориентир на пиковое потребление памяти во время выполнения алгоритма: например, до выполнения последней строки программа занимает \(O(1)\) пространства; при инициализации массива nums она занимает \(O(n)\) пространства, поэтому худшая пространственная сложность равна \(O(n)\) .
def algorithm(n: int):
    a = 0               # O(1)
    b = [0] * 10000     # O(1)
    if n > 10:
        nums = [0] * n  # O(n)

void algorithm(int n) {
    int a = 0;               // O(1)
    vector<int> b(10000);    // O(1)
    if (n > 10)
        vector<int> nums(n); // O(n)
}

void algorithm(int n) {
    int a = 0;                   // O(1)
    int[] b = new int[10000];    // O(1)
    if (n > 10)
        int[] nums = new int[n]; // O(n)
}

void Algorithm(int n) {
    int a = 0;                   // O(1)
    int[] b = new int[10000];    // O(1)
    if (n > 10) {
        int[] nums = new int[n]; // O(n)
    }
}

func algorithm(n int) {
    a := 0                      // O(1)
    b := make([]int, 10000)     // O(1)
    var nums []int
    if n > 10 {
        nums := make([]int, n)  // O(n)
    }
    fmt.Println(a, b, nums)
}

func algorithm(n: Int) {
    let a = 0 // O(1)
    let b = Array(repeating: 0, count: 10000) // O(1)
    if n > 10 {
        let nums = Array(repeating: 0, count: n) // O(n)
    }
}

function algorithm(n) {
    const a = 0;                   // O(1)
    const b = new Array(10000);    // O(1)
    if (n > 10) {
        const nums = new Array(n); // O(n)
    }
}

function algorithm(n: number): void {
    const a = 0;                   // O(1)
    const b = new Array(10000);    // O(1)
    if (n > 10) {
        const nums = new Array(n); // O(n)
    }
}

void algorithm(int n) {
  int a = 0;                            // O(1)
  List<int> b = List.filled(10000, 0);  // O(1)
  if (n > 10) {
    List<int> nums = List.filled(n, 0); // O(n)
  }
}

fn algorithm(n: i32) {
    let a = 0;                              // O(1)
    let b = [0; 10000];                     // O(1)
    if n > 10 {
        let nums = vec![0; n as usize];     // O(n)
    }
}

void algorithm(int n) {
    int a = 0;               // O(1)
    int b[10000];            // O(1)
    if (n > 10)
        int nums[n] = {0};   // O(n)
}

fun algorithm(n: Int) {
    val a = 0                    // O(1)
    val b = IntArray(10000)      // O(1)
    if (n > 10) {
        val nums = IntArray(n)   // O(n)
    }
}

def algorithm(n)
    a = 0                           # O(1)
    b = Array.new(10000)            # O(1)
    nums = Array.new(n) if n > 10   # O(n)
end

В рекурсивных функциях необходимо учитывать пространство кадров стека. Рассмотрим следующий код:

def function() -> int:
    # Выполнить некоторые операции
    return 0

def loop(n: int):
    """Пространственная сложность цикла равна O(1)"""
    for _ in range(n):
        function()

def recur(n: int):
    """Пространственная сложность рекурсии равна O(n)"""
    if n == 1:
        return
    return recur(n - 1)

int func() {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
void loop(int n) {
    for (int i = 0; i < n; i++) {
        func();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
void recur(int n) {
    if (n == 1) return;
    recur(n - 1);
}

int function() {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
void loop(int n) {
    for (int i = 0; i < n; i++) {
        function();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
void recur(int n) {
    if (n == 1) return;
    recur(n - 1);
}

int Function() {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
void Loop(int n) {
    for (int i = 0; i < n; i++) {
        Function();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
int Recur(int n) {
    if (n == 1) return 1;
    return Recur(n - 1);
}

func function() int {
    // Выполнить некоторые операции
    return 0
}

/* Пространственная сложность цикла равна O(1) */
func loop(n int) {
    for i := 0; i < n; i++ {
        function()
    }
}

/* Пространственная сложность рекурсии равна O(n) */
func recur(n int) {
    if n == 1 {
        return
    }
    recur(n - 1)
}

@discardableResult
func function() -> Int {
    // Выполнить некоторые операции
    return 0
}

/* Пространственная сложность цикла равна O(1) */
func loop(n: Int) {
    for _ in 0 ..< n {
        function()
    }
}

/* Пространственная сложность рекурсии равна O(n) */
func recur(n: Int) {
    if n == 1 {
        return
    }
    recur(n: n - 1)
}

function constFunc() {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
function loop(n) {
    for (let i = 0; i < n; i++) {
        constFunc();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
function recur(n) {
    if (n === 1) return;
    return recur(n - 1);
}

function constFunc(): number {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
function loop(n: number): void {
    for (let i = 0; i < n; i++) {
        constFunc();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
function recur(n: number): void {
    if (n === 1) return;
    return recur(n - 1);
}

int function() {
  // Выполнить некоторые операции
  return 0;
}
/* Пространственная сложность цикла равна O(1) */
void loop(int n) {
  for (int i = 0; i < n; i++) {
    function();
  }
}
/* Пространственная сложность рекурсии равна O(n) */
void recur(int n) {
  if (n == 1) return;
  recur(n - 1);
}

fn function() -> i32 {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
fn loop(n: i32) {
    for i in 0..n {
        function();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
fn recur(n: i32) {
    if n == 1 {
        return;
    }
    recur(n - 1);
}

int func() {
    // Выполнить некоторые операции
    return 0;
}
/* Пространственная сложность цикла равна O(1) */
void loop(int n) {
    for (int i = 0; i < n; i++) {
        func();
    }
}
/* Пространственная сложность рекурсии равна O(n) */
void recur(int n) {
    if (n == 1) return;
    recur(n - 1);
}

fun function(): Int {
    // Выполнить некоторые операции
    return 0
}
/* Пространственная сложность цикла равна O(1) */
fun loop(n: Int) {
    for (i in 0..<n) {
        function()
    }
}
/* Пространственная сложность рекурсии равна O(n) */
fun recur(n: Int) {
    if (n == 1) return
    return recur(n - 1)
}

def function
    # Выполнить некоторые операции
    0
end

### Пространственная сложность цикла равна O(1) ###
def loop(n)
    (0...n).each { function }
end

### Пространственная сложность рекурсии равна O(n) ###
def recur(n)
    return if n == 1
    recur(n - 1)
end

Функции loop() и recur() имеют временную сложность \(O(n)\) , но их пространственная сложность различается.

  • Функция loop() вызывает function() в цикле \(n\) раз; на каждой итерации function() возвращается и освобождает пространство своего кадра стека, поэтому пространственная сложность по-прежнему равна \(O(1)\) .
  • Рекурсивная функция recur() во время выполнения одновременно содержит \(n\) еще не завершившихся экземпляров recur() , поэтому занимает \(O(n)\) пространства кадров стека.

2.4.3   Распространенные типы

Пусть размер входных данных равен \(n\) . На рисунке 2-16 показаны распространенные типы пространственной сложности (в порядке от меньшей к большей).

\[ \begin{aligned} O(1) < O(\log n) < O(n) < O(n^2) < O(2^n) \newline \text{Постоянная} < \text{Логарифмическая} < \text{Линейная} < \text{Квадратичная} < \text{Экспоненциальная} \end{aligned} \]

Распространенные типы пространственной сложности

Рисунок 2-16   Распространенные типы пространственной сложности

1.   Постоянная сложность \(O(1)\)

Постоянная сложность часто встречается у констант, переменных и объектов, количество которых не зависит от размера входных данных \(n\) .

Следует заметить, что память, занятая инициализацией переменных или вызовом функций внутри цикла, освобождается при переходе к следующей итерации, поэтому она не накапливается, и пространственная сложность по-прежнему остается \(O(1)\) :

space_complexity.py
def function() -> int:
    """Функция"""
    # Выполнить некоторые операции
    return 0

def constant(n: int):
    """Постоянная сложность"""
    # Константы, переменные и объекты занимают O(1) памяти
    a = 0
    nums = [0] * 10000
    node = ListNode(0)
    # Переменные в цикле занимают O(1) памяти
    for _ in range(n):
        c = 0
    # Функции в цикле занимают O(1) памяти
    for _ in range(n):
        function()
space_complexity.cpp
/* Функция */
int func() {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
void constant(int n) {
    // Константы, переменные и объекты занимают O(1) памяти
    const int a = 0;
    int b = 0;
    vector<int> nums(10000);
    ListNode node(0);
    // Переменные в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        int c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        func();
    }
}
space_complexity.java
/* Функция */
int function() {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
void constant(int n) {
    // Константы, переменные и объекты занимают O(1) памяти
    final int a = 0;
    int b = 0;
    int[] nums = new int[10000];
    ListNode node = new ListNode(0);
    // Переменные в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        int c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        function();
    }
}
space_complexity.cs
/* Функция */
int Function() {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
void Constant(int n) {
    // Константы, переменные и объекты занимают O(1) памяти
    int a = 0;
    int b = 0;
    int[] nums = new int[10000];
    ListNode node = new(0);
    // Переменные в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        int c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        Function();
    }
}
space_complexity.go
/* Функция */
func function() int {
    // Выполнить некоторые операции...
    return 0
}

/* Постоянная сложность */
func spaceConstant(n int) {
    // Константы, переменные и объекты занимают O(1) памяти
    const a = 0
    b := 0
    nums := make([]int, 10000)
    node := newNode(0)
    // Переменные в цикле занимают O(1) памяти
    var c int
    for i := 0; i < n; i++ {
        c = 0
    }
    // Функции в цикле занимают O(1) памяти
    for i := 0; i < n; i++ {
        function()
    }
    b += 0
    c += 0
    nums[0] = 0
    node.val = 0
}
space_complexity.swift
/* Функция */
@discardableResult
func function() -> Int {
    // Выполнить некоторые операции
    return 0
}

/* Постоянная сложность */
func constant(n: Int) {
    // Константы, переменные и объекты занимают O(1) памяти
    let a = 0
    var b = 0
    let nums = Array(repeating: 0, count: 10000)
    let node = ListNode(x: 0)
    // Переменные в цикле занимают O(1) памяти
    for _ in 0 ..< n {
        let c = 0
    }
    // Функции в цикле занимают O(1) памяти
    for _ in 0 ..< n {
        function()
    }
}
space_complexity.js
/* Функция */
function constFunc() {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
function constant(n) {
    // Константы, переменные и объекты занимают O(1) памяти
    const a = 0;
    const b = 0;
    const nums = new Array(10000);
    const node = new ListNode(0);
    // Переменные в цикле занимают O(1) памяти
    for (let i = 0; i < n; i++) {
        const c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (let i = 0; i < n; i++) {
        constFunc();
    }
}
space_complexity.ts
/* Функция */
function constFunc(): number {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
function constant(n: number): void {
    // Константы, переменные и объекты занимают O(1) памяти
    const a = 0;
    const b = 0;
    const nums = new Array(10000);
    const node = new ListNode(0);
    // Переменные в цикле занимают O(1) памяти
    for (let i = 0; i < n; i++) {
        const c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (let i = 0; i < n; i++) {
        constFunc();
    }
}
space_complexity.dart
/* Функция */
int function() {
  // Выполнить некоторые операции
  return 0;
}

/* Постоянная сложность */
void constant(int n) {
  // Константы, переменные и объекты занимают O(1) памяти
  final int a = 0;
  int b = 0;
  List<int> nums = List.filled(10000, 0);
  ListNode node = ListNode(0);
  // Переменные в цикле занимают O(1) памяти
  for (var i = 0; i < n; i++) {
    int c = 0;
  }
  // Функции в цикле занимают O(1) памяти
  for (var i = 0; i < n; i++) {
    function();
  }
}
space_complexity.rs
/* Функция */
fn function() -> i32 {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
#[allow(unused)]
fn constant(n: i32) {
    // Константы, переменные и объекты занимают O(1) памяти
    const A: i32 = 0;
    let b = 0;
    let nums = vec![0; 10000];
    let node = ListNode::new(0);
    // Переменные в цикле занимают O(1) памяти
    for i in 0..n {
        let c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for i in 0..n {
        function();
    }
}
space_complexity.c
/* Функция */
int func() {
    // Выполнить некоторые операции
    return 0;
}

/* Постоянная сложность */
void constant(int n) {
    // Константы, переменные и объекты занимают O(1) памяти
    const int a = 0;
    int b = 0;
    int nums[1000];
    ListNode *node = newListNode(0);
    free(node);
    // Переменные в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        int c = 0;
    }
    // Функции в цикле занимают O(1) памяти
    for (int i = 0; i < n; i++) {
        func();
    }
}
space_complexity.kt
/* Функция */
fun function(): Int {
    // Выполнить некоторые операции
    return 0
}

/* Постоянная сложность */
fun constant(n: Int) {
    // Константы, переменные и объекты занимают O(1) памяти
    val a = 0
    var b = 0
    val nums = Array(10000) { 0 }
    val node = ListNode(0)
    // Переменные в цикле занимают O(1) памяти
    for (i in 0..<n) {
        val c = 0
    }
    // Функции в цикле занимают O(1) памяти
    for (i in 0..<n) {
        function()
    }
}
space_complexity.rb
### Функция ###
def function
  # Выполнить некоторые операции
  0
end

### Постоянная сложность ###
def constant(n)
  # Константы, переменные и объекты занимают O(1) памяти
  a = 0
  nums = [0] * 10000
  node = ListNode.new

  # Переменные в цикле занимают O(1) памяти
  (0...n).each { c = 0 }
  # Функции в цикле занимают O(1) памяти
  (0...n).each { function }
end
Визуализация кода

2.   Линейная сложность \(O(n)\)

Линейная сложность часто встречается у массивов, связных списков, стеков, очередей и других структур, число элементов в которых пропорционально \(n\) :

space_complexity.py
def linear(n: int):
    """Линейная сложность"""
    # Список длины n занимает O(n) памяти
    nums = [0] * n
    # Хеш-таблица длины n занимает O(n) памяти
    hmap = dict[int, str]()
    for i in range(n):
        hmap[i] = str(i)
space_complexity.cpp
/* Линейная сложность */
void linear(int n) {
    // Массив длины n занимает O(n) памяти
    vector<int> nums(n);
    // Список длины n занимает O(n) памяти
    vector<ListNode> nodes;
    for (int i = 0; i < n; i++) {
        nodes.push_back(ListNode(i));
    }
    // Хеш-таблица длины n занимает O(n) памяти
    unordered_map<int, string> map;
    for (int i = 0; i < n; i++) {
        map[i] = to_string(i);
    }
}
space_complexity.java
/* Линейная сложность */
void linear(int n) {
    // Массив длины n занимает O(n) памяти
    int[] nums = new int[n];
    // Список длины n занимает O(n) памяти
    List<ListNode> nodes = new ArrayList<>();
    for (int i = 0; i < n; i++) {
        nodes.add(new ListNode(i));
    }
    // Хеш-таблица длины n занимает O(n) памяти
    Map<Integer, String> map = new HashMap<>();
    for (int i = 0; i < n; i++) {
        map.put(i, String.valueOf(i));
    }
}
space_complexity.cs
/* Линейная сложность */
void Linear(int n) {
    // Массив длины n занимает O(n) памяти
    int[] nums = new int[n];
    // Список длины n занимает O(n) памяти
    List<ListNode> nodes = [];
    for (int i = 0; i < n; i++) {
        nodes.Add(new ListNode(i));
    }
    // Хеш-таблица длины n занимает O(n) памяти
    Dictionary<int, string> map = [];
    for (int i = 0; i < n; i++) {
        map.Add(i, i.ToString());
    }
}
space_complexity.go
/* Линейная сложность */
func spaceLinear(n int) {
    // Массив длины n занимает O(n) памяти
    _ = make([]int, n)
    // Список длины n занимает O(n) памяти
    var nodes []*node
    for i := 0; i < n; i++ {
        nodes = append(nodes, newNode(i))
    }
    // Хеш-таблица длины n занимает O(n) памяти
    m := make(map[int]string, n)
    for i := 0; i < n; i++ {
        m[i] = strconv.Itoa(i)
    }
}
space_complexity.swift
/* Линейная сложность */
func linear(n: Int) {
    // Массив длины n занимает O(n) памяти
    let nums = Array(repeating: 0, count: n)
    // Список длины n занимает O(n) памяти
    let nodes = (0 ..< n).map { ListNode(x: $0) }
    // Хеш-таблица длины n занимает O(n) памяти
    let map = Dictionary(uniqueKeysWithValues: (0 ..< n).map { ($0, "\($0)") })
}
space_complexity.js
/* Линейная сложность */
function linear(n) {
    // Массив длины n занимает O(n) памяти
    const nums = new Array(n);
    // Список длины n занимает O(n) памяти
    const nodes = [];
    for (let i = 0; i < n; i++) {
        nodes.push(new ListNode(i));
    }
    // Хеш-таблица длины n занимает O(n) памяти
    const map = new Map();
    for (let i = 0; i < n; i++) {
        map.set(i, i.toString());
    }
}
space_complexity.ts
/* Линейная сложность */
function linear(n: number): void {
    // Массив длины n занимает O(n) памяти
    const nums = new Array(n);
    // Список длины n занимает O(n) памяти
    const nodes: ListNode[] = [];
    for (let i = 0; i < n; i++) {
        nodes.push(new ListNode(i));
    }
    // Хеш-таблица длины n занимает O(n) памяти
    const map = new Map();
    for (let i = 0; i < n; i++) {
        map.set(i, i.toString());
    }
}
space_complexity.dart
/* Линейная сложность */
void linear(int n) {
  // Массив длины n занимает O(n) памяти
  List<int> nums = List.filled(n, 0);
  // Список длины n занимает O(n) памяти
  List<ListNode> nodes = [];
  for (var i = 0; i < n; i++) {
    nodes.add(ListNode(i));
  }
  // Хеш-таблица длины n занимает O(n) памяти
  Map<int, String> map = HashMap();
  for (var i = 0; i < n; i++) {
    map.putIfAbsent(i, () => i.toString());
  }
}
space_complexity.rs
/* Линейная сложность */
#[allow(unused)]
fn linear(n: i32) {
    // Массив длины n занимает O(n) памяти
    let mut nums = vec![0; n as usize];
    // Список длины n занимает O(n) памяти
    let mut nodes = Vec::new();
    for i in 0..n {
        nodes.push(ListNode::new(i))
    }
    // Хеш-таблица длины n занимает O(n) памяти
    let mut map = HashMap::new();
    for i in 0..n {
        map.insert(i, i.to_string());
    }
}
space_complexity.c
/* Хеш-таблица */
typedef struct {
    int key;
    int val;
    UT_hash_handle hh; // Реализовано на основе uthash.h
} HashTable;

/* Линейная сложность */
void linear(int n) {
    // Массив длины n занимает O(n) памяти
    int *nums = malloc(sizeof(int) * n);
    free(nums);

    // Список длины n занимает O(n) памяти
    ListNode **nodes = malloc(sizeof(ListNode *) * n);
    for (int i = 0; i < n; i++) {
        nodes[i] = newListNode(i);
    }
    // Освобождение памяти
    for (int i = 0; i < n; i++) {
        free(nodes[i]);
    }
    free(nodes);

    // Хеш-таблица длины n занимает O(n) памяти
    HashTable *h = NULL;
    for (int i = 0; i < n; i++) {
        HashTable *tmp = malloc(sizeof(HashTable));
        tmp->key = i;
        tmp->val = i;
        HASH_ADD_INT(h, key, tmp);
    }

    // Освобождение памяти
    HashTable *curr, *tmp;
    HASH_ITER(hh, h, curr, tmp) {
        HASH_DEL(h, curr);
        free(curr);
    }
}
space_complexity.kt
/* Линейная сложность */
fun linear(n: Int) {
    // Массив длины n занимает O(n) памяти
    val nums = Array(n) { 0 }
    // Список длины n занимает O(n) памяти
    val nodes = mutableListOf<ListNode>()
    for (i in 0..<n) {
        nodes.add(ListNode(i))
    }
    // Хеш-таблица длины n занимает O(n) памяти
    val map = mutableMapOf<Int, String>()
    for (i in 0..<n) {
        map[i] = i.toString()
    }
}
space_complexity.rb
### Линейная сложность ###
def linear(n)
  # Список длины n занимает O(n) памяти
  nums = Array.new(n, 0)

  # Хеш-таблица длины n занимает O(n) памяти
  hmap = {}
  for i in 0...n
    hmap[i] = i.to_s
  end
end
Визуализация кода

Как показано на рисунке 2-17, глубина рекурсии этой функции равна \(n\) , то есть одновременно существует \(n\) еще не завершившихся функций linear_recur() , которые используют \(O(n)\) пространства кадров стека:

space_complexity.py
def linear_recur(n: int):
    """Линейная сложность (рекурсивная реализация)"""
    print("Рекурсия n =", n)
    if n == 1:
        return
    linear_recur(n - 1)
space_complexity.cpp
/* Линейная сложность (рекурсивная реализация) */
void linearRecur(int n) {
    cout << "Рекурсия n = " << n << endl;
    if (n == 1)
        return;
    linearRecur(n - 1);
}
space_complexity.java
/* Линейная сложность (рекурсивная реализация) */
void linearRecur(int n) {
    System.out.println("Рекурсия n = " + n);
    if (n == 1)
        return;
    linearRecur(n - 1);
}
space_complexity.cs
/* Линейная сложность (рекурсивная реализация) */
void LinearRecur(int n) {
    Console.WriteLine("Рекурсия n = " + n);
    if (n == 1) return;
    LinearRecur(n - 1);
}
space_complexity.go
/* Линейная сложность (рекурсивная реализация) */
func spaceLinearRecur(n int) {
    fmt.Println("Рекурсия n =", n)
    if n == 1 {
        return
    }
    spaceLinearRecur(n - 1)
}
space_complexity.swift
/* Линейная сложность (рекурсивная реализация) */
func linearRecur(n: Int) {
    print("Рекурсия n = \(n)")
    if n == 1 {
        return
    }
    linearRecur(n: n - 1)
}
space_complexity.js
/* Линейная сложность (рекурсивная реализация) */
function linearRecur(n) {
    console.log(`Рекурсия n = ${n}`);
    if (n === 1) return;
    linearRecur(n - 1);
}
space_complexity.ts
/* Линейная сложность (рекурсивная реализация) */
function linearRecur(n: number): void {
    console.log(`Рекурсия n = ${n}`);
    if (n === 1) return;
    linearRecur(n - 1);
}
space_complexity.dart
/* Линейная сложность (рекурсивная реализация) */
void linearRecur(int n) {
  print('Рекурсия n = $n');
  if (n == 1) return;
  linearRecur(n - 1);
}
space_complexity.rs
/* Линейная сложность (рекурсивная реализация) */
fn linear_recur(n: i32) {
    println!("Рекурсия n = {}", n);
    if n == 1 {
        return;
    };
    linear_recur(n - 1);
}
space_complexity.c
/* Линейная сложность (рекурсивная реализация) */
void linearRecur(int n) {
    printf("Рекурсия n = %d\r\n", n);
    if (n == 1)
        return;
    linearRecur(n - 1);
}
space_complexity.kt
/* Линейная сложность (рекурсивная реализация) */
fun linearRecur(n: Int) {
    println("Рекурсия n = $n")
    if (n == 1)
        return
    linearRecur(n - 1)
}
space_complexity.rb
### Линейная сложность ###
def linear(n)
  # Список длины n занимает O(n) памяти
  nums = Array.new(n, 0)

  # Хеш-таблица длины n занимает O(n) памяти
  hmap = {}
  for i in 0...n
    hmap[i] = i.to_s
  end
end

# ## Линейная сложность (рекурсивная реализация) ###
def linear_recur(n)
  puts "Рекурсия n = #{n}"
  return if n == 1
  linear_recur(n - 1)
end
Визуализация кода

Линейная пространственная сложность, порождаемая рекурсивной функцией

Рисунок 2-17   Линейная пространственная сложность, порождаемая рекурсивной функцией

3.   Квадратичная сложность \(O(n^2)\)

Квадратичная сложность часто встречается у матриц и графов, где число элементов связано с \(n\) квадратичной зависимостью:

space_complexity.py
def quadratic(n: int):
    """Квадратичная сложность"""
    # Двумерный список занимает O(n^2) памяти
    num_matrix = [[0] * n for _ in range(n)]
space_complexity.cpp
/* Квадратичная сложность */
void quadratic(int n) {
    // Двумерный список занимает O(n^2) памяти
    vector<vector<int>> numMatrix;
    for (int i = 0; i < n; i++) {
        vector<int> tmp;
        for (int j = 0; j < n; j++) {
            tmp.push_back(0);
        }
        numMatrix.push_back(tmp);
    }
}
space_complexity.java
/* Квадратичная сложность */
void quadratic(int n) {
    // Матрица занимает O(n^2) памяти
    int[][] numMatrix = new int[n][n];
    // Двумерный список занимает O(n^2) памяти
    List<List<Integer>> numList = new ArrayList<>();
    for (int i = 0; i < n; i++) {
        List<Integer> tmp = new ArrayList<>();
        for (int j = 0; j < n; j++) {
            tmp.add(0);
        }
        numList.add(tmp);
    }
}
space_complexity.cs
/* Квадратичная сложность */
void Quadratic(int n) {
    // Матрица занимает O(n^2) памяти
    int[,] numMatrix = new int[n, n];
    // Двумерный список занимает O(n^2) памяти
    List<List<int>> numList = [];
    for (int i = 0; i < n; i++) {
        List<int> tmp = [];
        for (int j = 0; j < n; j++) {
            tmp.Add(0);
        }
        numList.Add(tmp);
    }
}
space_complexity.go
/* Квадратичная сложность */
func spaceQuadratic(n int) {
    // Матрица занимает O(n^2) памяти
    numMatrix := make([][]int, n)
    for i := 0; i < n; i++ {
        numMatrix[i] = make([]int, n)
    }
}
space_complexity.swift
/* Квадратичная сложность */
func quadratic(n: Int) {
    // Двумерный список занимает O(n^2) памяти
    let numList = Array(repeating: Array(repeating: 0, count: n), count: n)
}
space_complexity.js
/* Квадратичная сложность */
function quadratic(n) {
    // Матрица занимает O(n^2) памяти
    const numMatrix = Array(n)
        .fill(null)
        .map(() => Array(n).fill(null));
    // Двумерный список занимает O(n^2) памяти
    const numList = [];
    for (let i = 0; i < n; i++) {
        const tmp = [];
        for (let j = 0; j < n; j++) {
            tmp.push(0);
        }
        numList.push(tmp);
    }
}
space_complexity.ts
/* Квадратичная сложность */
function quadratic(n: number): void {
    // Матрица занимает O(n^2) памяти
    const numMatrix = Array(n)
        .fill(null)
        .map(() => Array(n).fill(null));
    // Двумерный список занимает O(n^2) памяти
    const numList = [];
    for (let i = 0; i < n; i++) {
        const tmp = [];
        for (let j = 0; j < n; j++) {
            tmp.push(0);
        }
        numList.push(tmp);
    }
}
space_complexity.dart
/* Квадратичная сложность */
void quadratic(int n) {
  // Матрица занимает O(n^2) памяти
  List<List<int>> numMatrix = List.generate(n, (_) => List.filled(n, 0));
  // Двумерный список занимает O(n^2) памяти
  List<List<int>> numList = [];
  for (var i = 0; i < n; i++) {
    List<int> tmp = [];
    for (int j = 0; j < n; j++) {
      tmp.add(0);
    }
    numList.add(tmp);
  }
}
space_complexity.rs
/* Квадратичная сложность */
#[allow(unused)]
fn quadratic(n: i32) {
    // Матрица занимает O(n^2) памяти
    let num_matrix = vec![vec![0; n as usize]; n as usize];
    // Двумерный список занимает O(n^2) памяти
    let mut num_list = Vec::new();
    for i in 0..n {
        let mut tmp = Vec::new();
        for j in 0..n {
            tmp.push(0);
        }
        num_list.push(tmp);
    }
}
space_complexity.c
/* Квадратичная сложность */
void quadratic(int n) {
    // Двумерный список занимает O(n^2) памяти
    int **numMatrix = malloc(sizeof(int *) * n);
    for (int i = 0; i < n; i++) {
        int *tmp = malloc(sizeof(int) * n);
        for (int j = 0; j < n; j++) {
            tmp[j] = 0;
        }
        numMatrix[i] = tmp;
    }

    // Освобождение памяти
    for (int i = 0; i < n; i++) {
        free(numMatrix[i]);
    }
    free(numMatrix);
}
space_complexity.kt
/* Квадратичная сложность */
fun quadratic(n: Int) {
    // Матрица занимает O(n^2) памяти
    val numMatrix = arrayOfNulls<Array<Int>?>(n)
    // Двумерный список занимает O(n^2) памяти
    val numList = mutableListOf<MutableList<Int>>()
    for (i in 0..<n) {
        val tmp = mutableListOf<Int>()
        for (j in 0..<n) {
            tmp.add(0)
        }
        numList.add(tmp)
    }
}
space_complexity.rb
### Квадратичная сложность ###
def quadratic(n)
  # Двумерный список занимает O(n^2) памяти
  Array.new(n) { Array.new(n, 0) }
end
Визуализация кода

Как показано на рисунке 2-18, глубина рекурсии этой функции равна \(n\) , и в каждой рекурсивной функции инициализируется массив длины \(n\) , \(n-1\) , \(\dots\) , \(2\) , \(1\) ; его средняя длина равна \(n / 2\) , поэтому в сумме используется \(O(n^2)\) пространства:

space_complexity.py
def quadratic_recur(n: int) -> int:
    """Квадратичная сложность (рекурсивная реализация)"""
    if n <= 0:
        return 0
    # Длина массива nums равна n, n-1, ..., 2, 1
    nums = [0] * n
    return quadratic_recur(n - 1)
space_complexity.cpp
/* Квадратичная сложность (рекурсивная реализация) */
int quadraticRecur(int n) {
    if (n <= 0)
        return 0;
    vector<int> nums(n);
    cout << "Рекурсия n = " << n << " , длина nums = " << nums.size() << endl;
    return quadraticRecur(n - 1);
}
space_complexity.java
/* Квадратичная сложность (рекурсивная реализация) */
int quadraticRecur(int n) {
    if (n <= 0)
        return 0;
    // Длина массива nums равна n, n-1, ..., 2, 1
    int[] nums = new int[n];
    System.out.println("В рекурсии n = " + n + ", длина nums = " + nums.length);
    return quadraticRecur(n - 1);
}
space_complexity.cs
/* Квадратичная сложность (рекурсивная реализация) */
int QuadraticRecur(int n) {
    if (n <= 0) return 0;
    int[] nums = new int[n];
    Console.WriteLine("В рекурсии n = " + n + ", длина nums = " + nums.Length);
    return QuadraticRecur(n - 1);
}
space_complexity.go
/* Квадратичная сложность (рекурсивная реализация) */
func spaceQuadraticRecur(n int) int {
    if n <= 0 {
        return 0
    }
    nums := make([]int, n)
    fmt.Printf("В рекурсии n = %d, длина nums = %d\n", n, len(nums))
    return spaceQuadraticRecur(n - 1)
}
space_complexity.swift
/* Квадратичная сложность (рекурсивная реализация) */
@discardableResult
func quadraticRecur(n: Int) -> Int {
    if n <= 0 {
        return 0
    }
    // Длина массива nums равна n, n-1, ..., 2, 1
    let nums = Array(repeating: 0, count: n)
    print("В рекурсии n = \(n), длина nums = \(nums.count)")
    return quadraticRecur(n: n - 1)
}
space_complexity.js
/* Квадратичная сложность (рекурсивная реализация) */
function quadraticRecur(n) {
    if (n <= 0) return 0;
    const nums = new Array(n);
    console.log(`В рекурсии n = ${n} длина nums = ${nums.length}`);
    return quadraticRecur(n - 1);
}
space_complexity.ts
/* Квадратичная сложность (рекурсивная реализация) */
function quadraticRecur(n: number): number {
    if (n <= 0) return 0;
    const nums = new Array(n);
    console.log(`В рекурсии n = ${n} длина nums = ${nums.length}`);
    return quadraticRecur(n - 1);
}
space_complexity.dart
/* Квадратичная сложность (рекурсивная реализация) */
int quadraticRecur(int n) {
  if (n <= 0) return 0;
  List<int> nums = List.filled(n, 0);
  print('В рекурсии n = $n длина nums = ${nums.length}');
  return quadraticRecur(n - 1);
}
space_complexity.rs
/* Квадратичная сложность (рекурсивная реализация) */
fn quadratic_recur(n: i32) -> i32 {
    if n <= 0 {
        return 0;
    };
    // Длина массива nums равна n, n-1, ..., 2, 1
    let nums = vec![0; n as usize];
    println!("В рекурсии n = {} , длина nums = {}", n, nums.len());
    return quadratic_recur(n - 1);
}
space_complexity.c
/* Квадратичная сложность (рекурсивная реализация) */
int quadraticRecur(int n) {
    if (n <= 0)
        return 0;
    int *nums = malloc(sizeof(int) * n);
    printf("Рекурсия n = %d, длина nums = %d\r\n", n, n);
    int res = quadraticRecur(n - 1);
    free(nums);
    return res;
}
space_complexity.kt
/* Квадратичная сложность (рекурсивная реализация) */
tailrec fun quadraticRecur(n: Int): Int {
    if (n <= 0)
        return 0
    // Длина массива nums равна n, n-1, ..., 2, 1
    val nums = Array(n) { 0 }
    println("В рекурсии n = $n длина nums = ${nums.size}")
    return quadraticRecur(n - 1)
}
space_complexity.rb
### Квадратичная сложность ###
def quadratic(n)
  # Двумерный список занимает O(n^2) памяти
  Array.new(n) { Array.new(n, 0) }
end

# ## Квадратичная сложность (рекурсивная реализация) ###
def quadratic_recur(n)
  return 0 unless n > 0

  # Длина массива nums равна n, n-1, ..., 2, 1
  nums = Array.new(n, 0)
  quadratic_recur(n - 1)
end
Визуализация кода

Квадратичная пространственная сложность, порождаемая рекурсивной функцией

Рисунок 2-18   Квадратичная пространственная сложность, порождаемая рекурсивной функцией

4.   Экспоненциальная сложность \(O(2^n)\)

Экспоненциальная сложность часто встречается у бинарных деревьев. Обрати внимание на рисунок 2-19: "полное бинарное дерево" с \(n\) уровнями содержит \(2^n - 1\) узлов и занимает \(O(2^n)\) пространства:

space_complexity.py
def build_tree(n: int) -> TreeNode | None:
    """Экспоненциальная сложность (построение полного двоичного дерева)"""
    if n == 0:
        return None
    root = TreeNode(0)
    root.left = build_tree(n - 1)
    root.right = build_tree(n - 1)
    return root
space_complexity.cpp
/* Экспоненциальная сложность (построение полного двоичного дерева) */
TreeNode *buildTree(int n) {
    if (n == 0)
        return nullptr;
    TreeNode *root = new TreeNode(0);
    root->left = buildTree(n - 1);
    root->right = buildTree(n - 1);
    return root;
}
space_complexity.java
/* Экспоненциальная сложность (построение полного двоичного дерева) */
TreeNode buildTree(int n) {
    if (n == 0)
        return null;
    TreeNode root = new TreeNode(0);
    root.left = buildTree(n - 1);
    root.right = buildTree(n - 1);
    return root;
}
space_complexity.cs
/* Экспоненциальная сложность (построение полного двоичного дерева) */
TreeNode? BuildTree(int n) {
    if (n == 0) return null;
    TreeNode root = new(0) {
        left = BuildTree(n - 1),
        right = BuildTree(n - 1)
    };
    return root;
}
space_complexity.go
/* Экспоненциальная сложность (построение полного двоичного дерева) */
func buildTree(n int) *TreeNode {
    if n == 0 {
        return nil
    }
    root := NewTreeNode(0)
    root.Left = buildTree(n - 1)
    root.Right = buildTree(n - 1)
    return root
}
space_complexity.swift
/* Экспоненциальная сложность (построение полного двоичного дерева) */
func buildTree(n: Int) -> TreeNode? {
    if n == 0 {
        return nil
    }
    let root = TreeNode(x: 0)
    root.left = buildTree(n: n - 1)
    root.right = buildTree(n: n - 1)
    return root
}
space_complexity.js
/* Экспоненциальная сложность (построение полного двоичного дерева) */
function buildTree(n) {
    if (n === 0) return null;
    const root = new TreeNode(0);
    root.left = buildTree(n - 1);
    root.right = buildTree(n - 1);
    return root;
}
space_complexity.ts
/* Экспоненциальная сложность (построение полного двоичного дерева) */
function buildTree(n: number): TreeNode | null {
    if (n === 0) return null;
    const root = new TreeNode(0);
    root.left = buildTree(n - 1);
    root.right = buildTree(n - 1);
    return root;
}
space_complexity.dart
/* Экспоненциальная сложность (построение полного двоичного дерева) */
TreeNode? buildTree(int n) {
  if (n == 0) return null;
  TreeNode root = TreeNode(0);
  root.left = buildTree(n - 1);
  root.right = buildTree(n - 1);
  return root;
}
space_complexity.rs
/* Экспоненциальная сложность (построение полного двоичного дерева) */
fn build_tree(n: i32) -> Option<Rc<RefCell<TreeNode>>> {
    if n == 0 {
        return None;
    };
    let root = TreeNode::new(0);
    root.borrow_mut().left = build_tree(n - 1);
    root.borrow_mut().right = build_tree(n - 1);
    return Some(root);
}
space_complexity.c
/* Экспоненциальная сложность (построение полного двоичного дерева) */
TreeNode *buildTree(int n) {
    if (n == 0)
        return NULL;
    TreeNode *root = newTreeNode(0);
    root->left = buildTree(n - 1);
    root->right = buildTree(n - 1);
    return root;
}
space_complexity.kt
/* Экспоненциальная сложность (построение полного двоичного дерева) */
fun buildTree(n: Int): TreeNode? {
    if (n == 0)
        return null
    val root = TreeNode(0)
    root.left = buildTree(n - 1)
    root.right = buildTree(n - 1)
    return root
}
space_complexity.rb
### Квадратичная сложность ###
def quadratic(n)
  # Двумерный список занимает O(n^2) памяти
  Array.new(n) { Array.new(n, 0) }
end

# ## Квадратичная сложность (рекурсивная реализация) ###
def quadratic_recur(n)
  return 0 unless n > 0

  # Длина массива nums равна n, n-1, ..., 2, 1
  nums = Array.new(n, 0)
  quadratic_recur(n - 1)
end

# ## Экспоненциальная сложность (построение полного двоичного дерева) ###
def build_tree(n)
  return if n == 0

  TreeNode.new.tap do |root|
    root.left = build_tree(n - 1)
    root.right = build_tree(n - 1)
  end
end
Визуализация кода

Экспоненциальная пространственная сложность, порождаемая полным бинарным деревом

Рисунок 2-19   Экспоненциальная пространственная сложность, порождаемая полным бинарным деревом

5.   Логарифмическая сложность \(O(\log n)\)

Логарифмическая сложность часто встречается в алгоритмах "разделяй и властвуй". Например, при сортировке слиянием входной массив длины \(n\) на каждом шаге рекурсии делится пополам по середине, образуя рекурсивное дерево высоты \(\log n\) и используя \(O(\log n)\) пространства кадров стека.

Еще один пример - преобразование числа в строку. Если задано положительное целое число \(n\) , то количество его цифр равно \(\lfloor \log_{10} n \rfloor + 1\) , то есть длина соответствующей строки тоже равна \(\lfloor \log_{10} n \rfloor + 1\) , следовательно, пространственная сложность составляет \(O(\log_{10} n + 1) = O(\log n)\) .

2.4.4   Компромисс между временем и пространством

В идеале нам хотелось бы, чтобы и временная, и пространственная сложность алгоритма были оптимальными. Однако на практике одновременно оптимизировать и время, и память обычно очень трудно.

Снижение временной сложности обычно достигается ценой увеличения пространственной сложности, и наоборот. Подход, при котором мы жертвуем памятью ради ускорения работы алгоритма, называется "обмен пространства на время"; обратный подход называется "обмен времени на пространство".

Выбор между этими двумя идеями зависит от того, что для нас важнее. В большинстве случаев время ценнее памяти, поэтому стратегия "обмена пространства на время" используется чаще. Но при очень больших объемах данных контроль пространственной сложности тоже становится крайне важным.

Оставляйте свои идеи, вопросы и предложения в комментариях