К вопросу об эффективном использовании потоков

По собственном опыту знаю, что разработчики слишком часто используют потоки в приложениях. Как показывает история, раньше операционные системы не поддерживали потоки. В однопоточных системах был лишь один поток, попеременно выполнявший все программы, а ошибка в программе приводила к сбою всей системы. Например, таковы 16-разрядные версии Windows: бесконечный цикл или сбой одного приложения «подвешивал» всю систему и заставлял принудительно перезагружаться. Поддержка многопоточности впервые была реализована в Windows NT 3.1 с целью повышения устойчивости системы. Каждому процессу выделялся отдельный поток, и зацикливание или зависание потока одного процесса не приводило к сбою потоков других процессов и всей системы.

Если быть точным, потоки приводят к издержкам. Создание потока обходится недешево: объект ядра процесса должен быть размещен и инициализирован, для каждого потока резервируется (и по требованию выделяется) 1 Мб адресного пространства для его стека пользовательского режима, и еще примерно 12 Кб выделяется для стека режима ядра.

Создав поток, Windows сразу же вызывает функцию в каждой DLL-библиотеке процесса, уведомляя все DLL-библиотеки о создании нового потока. Уничтожение потока также требует затрат: каждая DLL-библиотека в процессе получает уведомление об уничтожении потока, также следует очистить объект ядра и стеки.

На однопроцессорных компьютерах в каждый момент времени может выполняться всего один поток. Windows должна отслеживать объекты-потоки и время от времени решать, какой поток процессор будет обрабатывать следующим. А это дополнительный код, выполняющийся примерно раз в 20 мс. Остановку выполнения процессором кода одного потока и запуск на выполнение кода другого потока называют переключением контекста (context switch). Оно обходится недешево, поскольку ОС должна выполнить следующее.

1. Перейти в режим ядра.

2. Сохранить регистры процессора в объекте ядра текущего процесса. Между прочим, регистры процессора занимают примерно 700 байт в процессорных архитектурах х8б, 1240 байт — в хб4 и 2500 байт — в 1Аб4.

3. Установить спин-блокировку, определить, какой поток поставить следующим, и освободить спин-блокировку. Если следующий поток относится к другому процессу, затраты увеличатся, потому что потребуется переключение виртуального адресного пространства.

4. Загрузить регистры процессора со значениями из объекта ядра потока, который будет выполняться следующим.

5. Выйти из режима ядра.

Все это — чистые издержки, замедляющие работу Windows и всех приложений по сравнению с однопоточной системой. Но они необходимы, потому что Microsoft стремится к созданию отказоустойчивой ОС, не подверженной сбоям при неполадках в ходе выполнения кода приложений.

Все это аргументы в пользу следующего утверждения: потоки следует использовать как можно реже. Чем больше создается потоков, тем больше издержки в системе и тем медленнее работает приложение. Кроме того, каждому потоку нужны ресурсы (память для объекта ядра и двух стеков), кроме того, поток занимает память, которая становится недоступной для ОС и приложений. Помимо повышения отказоустойчивости, потоки служат еще одной полезной цели — масштабируемости.

В многопроцессорной системе Windows может планировать несколько потоков: по одному на каждый процессор. В таком случае имеет смысл создавать несколько потоков, чтобы эффективно задействовать возможности аппаратного обеспечения. Именно к этому все чаще прибегают разработчики. Мы привыкли, что с каждым годом процессоры становились все мощнее, а, значит, написанные тогда приложения работали быстрее на компьютерах с более мощным процессором. Но производителям процессоров, в числе которых Intel и AMD, становится все сложнее создавать более мощные процессоры, потому что современные процессорные архитектуры и аппаратные компоненты почти достигли пределов в рамках существующих конструкторских решений.

Современные технологии производства процессоров ограничены физическим размером процессоров, поэтому производители процессоров считают более эффективным создавать отдельные чипы, включающие несколько процессоров. Такие чипы повышают производительность многопоточных ОС и приложений за счет одновременного выполнения нескольких процессов. Современные производители процессорных чипов используют два типа технологий — Hyperthreading и многоядерную (multi-core), — которые позволяют представить для Windows и приложений отдельный чип как два (и более) процессора. На самом деле есть чипы, например, Intel Pentium Extreme), воплощающие обе технологии.

Так, для ОС Windows один процессор Pentium Extreme равнозначен четырем процессорам! В некоторых чипах, например Intel Xeon и Intel Pentium 4, реализована Нурег-:hreading. В этой технологии физический процессор состоит из двух логических. / каждого из них есть своя архитектура (регистры процессора), но они пользуется общими рабочими ресурсами, например кешем процессора. Когда один логический процессор приостанавливается (из-за промаха кеша, ошибочного прогнозирования ветви или ожидания результатов предыдущей команды), чип переключается на другой логический процессор. В идеале для процессоров, использующих Hyperthreading, можно рассчитывать на стопроцентное улучшение производительности, ведь теперь вместо одного процессора работают сразу два. Но, поскольку они используют общие рабочие ресурсы, ожидаемого резкого повышения производительности нет. Так, по сообщению Intel, производительность повышается всего на 10-30%.

В некоторых чипах, таких как Intel Pentium В и AMD Athlon 64 Х2, реализована технология нескольких ядер. На многоядерном чипе есть два физических процессора. У каждого — своя архитектура и рабочие ресурсы. Можно ожидать, что его рабочие характеристики будут лучше, чем у чипа Hyperthreading, и обеспечат стопроцентную производительность, потому что два процессора выполняют независимые задачи.

Итак, на сегодняшний день производители процессоров не могут создать более быстрые процессоры, поэтому они совмещают несколько более медленных. Поэтому для обеспечения быстрой работы приложений в будущем их следует создавать с расчетом на использование дополнительных процессоров. Для этого нужны несколько потоков, а потоки — это лишние издержки; они замедляют работу и расходуют ресурсы.