В последнее время обращал внимание на материалы о производительности и замерах скорости функций PHP. После анализа ряда материалов был сделан следующий вывод. Сравнений довольно много, но все замеры проводятся с разными входными условиями, вывод результатов тестирования у каждого решения свой, не говоря уже о том, если появится желание проверить тесты в своей среде, то придется копипастить куски кода.
Поэтому возникла идея написать собственный механизм простого тестирования скорости различных операций. Задумка показалась интересной, поэтому начало было положено!
Цели
Начать следовало с постановки целей будущего инструмента. Проект хотелось видеть как универсальный инструмент для тестирования скорости чего угодно. Но поразмыслив над деталями и ошибками прошлого, решено было начать с малого.
Итак, требовалось получить инструмент, который:
- сравнивает скорость выполнения различных функций
- имеет возможность использования заранее подготовленных тестов
- выводит в читаемом виде результат
- имеет возможность создания собственных тестов и вариантов представления результатов
- может быть легко использован на других платформах
Механизм замеров
Для замера времени выполнения функции было решено воспользоваться подобным, методом
protected function getTime($time = false)
{
return $time === false? microtime(true) : microtime(true) - $time;
}
Принцип действия прост, если происходит вызов без параметров, то возвращаем текущее состоянии времени, если же вызов происходит с параметром времени, тогда возвращается разница между текущим и переданным временем.
Но там где расчет времени, там же и потребляемый объем памяти, поэтому в последствии был добавлен аналогичный метод измерения потребляемой памяти.
protected function getMemory($memory = false)
{
return $memory === false? memory_get_usage() : memory_get_usage() - $memory;
}
Механизм аналогичен механике замера времени, только в данном случае происходит передача значения выделенной памяти скрипту.
Как известно, некоторые функции ведут себя по разному в зависимости от входного набора данных, поэтому в каждом тесте определен массив входных данных для функций тестирования. Для получения наиболее точных результатов, тестирование функций проводится на каждом наборе несколько раз. Помимо прочего, тестирование проводится в разной последовательности.
В ходе экспериментов, было замечено, что объем свободной памяти перед началом каждого теста разный, хоть для большинства проводимый испытаний это было незначительным, но для порядка хотелось бы иметь условия одинаковые для всех испытаний либо близкие к таковым. Поэтому хранение результатов было решено хранить в локальном хранилище SQLite, а перед началом испытаний делать один проверочный тест для заполнения переменных данными.
Для того, чтобы иметь возможность создания собственных вариантов представления результатов и собственных вариантов теста, создано 2 модели абстракции. Модель тестов (Test), содержит всю информацию о тесте, включая функции тестирования. Модель представления данных (DataViwer) содержит методы преобразования результатов тестирования в читаемый вид. Для удобного вывода представлений был задействован шаблонизатор Twig и подключена библиотека стилей bootstrap, также создан вьювер с графиком HighCharts.
В итоге общий механизм работы такой. Берутся необходимые для сравнения функции и запускаются на выполнение с разными наборами данных и в разной последовательности. При этом происходит замер времени каждого выполнения и запись результата в хранилище. За данный этап отвечает модель теста (Test). После всех замеров происходит передача результатов в представление данных (DataViwer), где происходит обработка и вывод информации.
Реализация тестирования
Класс теста
Простой пример реализации класса теста, на примере тестирования скорости выполнения операции пред инкрементирования и пост инкрементирования.
class IncPrefVsPos extends TestAbstract
{
public $name = 'Speedy ++i vs i++';
public $valueTest = [100, 1000, 2000, 3000];
public $qntTest = 5;
public $viewers = [TestCore::VIEWER_TLIST, TestCore::VIEWER_TGROUP, TestCore::VIEWER_TAVG, TestCore::VIEWER_GBUBLE];
public $functions = ['postIncrement' => 'testPost', 'prefIncrement' => 'testPref'];
protected $strategy = [['testPost', 'testPref'], ['testPref', 'testPost']];
public function testPref($size)
{
$testCounter = 0;
for($i=0;$i<$size;$i++) {
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
}
}
public function testPost($size)
{
$testCounter = 0;
for($i=0;$i<$size;$i++) {
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
}
}
}
Класс должен наследовать абстрактный класс TestAbstract, в котором заложена основная механика работы с потоками данных.
$name — задает название теста, которое может быть использовано при выводе в DataViewer.
$valueTest — объем выборки тестирования, массив значений, с каждым из которых будет выполнена функция для тестирования. Таким образом каждая тестируемая функция должна обязательно принимать один параметр. Будет он являться числом, строкой или массивом не важно, все зависит от конкретного случая. В нашем примере, достаточно чисел, которые будут обозначать объем проводимых операций с инкрементом.
$qntTest — говорит о том, какое количество раз будет протестирован каждый объем выборки.
$viewers — массив представлений данных, который будет сформирован при рендере отчета. На самом деле это набор полных имен классов наследующих абстрактный класс ViewrAbstract. Заранее подготовленные вьюверы вынесены в константы класса TestCore.
$functions — массив названий функций которые будут использоваться в тестировании. Ключами массива являются названия, которые будут отображены в результатах.
$strategy — массив стратегий тестирования, каждая стратегия должна быть представлена массивом с последовательностью имен функций. В примере указано 2 стратегии — прямой последовательности и в обратной.
Непосредственно сами функции, которые как говорилось выше, должны принимать одно значение. В нашем примере, мы считаем это за количество выполняемых операций серии инкрементирования.
В итоге получим, серию тестов где каждая стратегия тестирования будет протестирована по 5 раз с каждым объемом выборки ([100, 1000, 2000, 3000]).
Класс представления данных
Сейчас давайте подробнее рассмотрим простой класс представления данных.
class TableList extends ViewerAbstract
{
public $view = 'tableList.php';
public function generateData($data){
return $data;
}
public function run($data)
{
$data = $this->generateData($data);
return App::render('/viewer/'.$this->view, compact('data'));
}
public static function model($class = __CLASS__) {
return parent::model($class);
}
}
Класс реализует абстрактный класс ViewerAbstract.
$view — содержит имя представления, которое поумолчанию должно лежать в папке /views/viewers
function generateData($data) — метод обработки массива результатов тестирования. Результат будет передан поумолчанию в параметр data в указанное представление.
function run($data) — необязательный для реализации метод, но если необходимо изменить путь к представлению данных, то именно он должен быть переопределен.
public static function model($class = __CLASS__) — метод поддержки статического обращения к методам
Варианты использования
Чтобы воспользоваться функционалом тестирования, создано 2 основных метода.
Метод запуска теста
function test($test, $params = [], $onlyData = false)
$test — полное имя запускаемого теста. Могут быть задействованы как свои варианты тестов либо заранее подготовленные.
$params — массив параметров для запуска теста. Данным параметром можно точечно изменить параметры тестирования.
$onlyData — параметр отвечающий за вывод набора результатов либо отрендеренное представление.
Метод сравнения функций
Метод сравнения пользовательских функций без создания дополнительных классов
function compare($func = [], $params = [], $onlyData = false)
$func — массив анонимных функций, где ключи массива являются названиями функций в результатах тестирования.
$params — массив параметров тестирования, аналогичен параметрам метода test.
$onlyData — также аналогичен параметру метода test, и отвечает за вариант вывода результатов.
Примеры работы
Самый простой и быстрый вариант использования — это воспользоваться заранее подготовленным тестом. Все подготовленные тесты вынесены в константы класса Speedy.
print Speedy::test(Speedy::PHP_SOF_VS_COUNT);
Для сравнения пользовательских функций, необходимо создать анонимные функции и вызвать метод Speedy::compare
$pref = function($size)
{
$testCounter = 0;
for($i=0;$i<$size;$i++) {
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter; ++$testCounter;
}
};
$post = function($size)
{
$testCounter = 0;
for($i=0;$i<$size;$i++) {
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
$testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++; $testCounter++;
}
};
print speedySpeedy::compare(['pref' => $pref, 'post' => $post]);
Результаты тестирования
Результаты тестирования на данный момент могут быть выведены 4мя представлениями.
VIEWER_TLIST
Представление в табличной форме списка всех произведенных замеров времени. По сути это вывод всех записей из хранилища, без каких-либо преобразований. В наборе данных содержится информация о имени тестируемой функции, затраченном времени, объему выборки, используемому объему памяти, номер партии в которой выполнялся тест и комментарий. В комментарии указывается в рамках какой стратегии был выполнен тест данной функции.
name | time | size | memory | part | comment |
postInc | 0.000650882720947 | 100 | 48 | 2 | postInc-prefInc |
prefInc | 0.000411987304688 | 100 | 48 | 2 | postInc-prefInc |
prefInc | 0.000406980514526 | 100 | 48 | 3 | prefInc-postInc |
postInc | 0.000549077987671 | 100 | 48 | 3 | prefInc-postInc |
postInc | 0.000330924987793 | 100 | 48 | 5 | postInc-prefInc |
prefInc | 0.000287055969238 | 100 | 48 | 5 | postInc-prefInc |
prefInc | 0.00043797492981 | 100 | 48 | 6 | prefInc-postInc |
postInc | 0.000365018844604 | 100 | 48 | 6 | prefInc-postInc |
postInc | 0.000295162200928 | 100 | 48 | 8 | postInc-prefInc |
prefInc | 0.000373125076294 | 100 | 48 | 8 | postInc-prefInc |
prefInc | 0.000263929367065 | 100 | 48 | 9 | prefInc-postInc |
postInc | 0.000449895858765 | 100 | 48 | 9 | prefInc-postInc |
postInc | 0.00030517578125 | 100 | 48 | 11 | postInc-prefInc |
prefInc | 0.000247955322266 | 100 | 48 | 11 | postInc-prefInc |
prefInc | 0.000244140625 | 100 | 48 | 12 | prefInc-postInc |
postInc | 0.000265121459961 | 100 | 48 | 12 | prefInc-postInc |
postInc | 0.000267028808594 | 100 | 48 | 14 | postInc-prefInc |
prefInc | 0.000245094299316 | 100 | 48 | 14 | postInc-prefInc |
prefInc | 0.000285148620605 | 100 | 48 | 15 | prefInc-postInc |
postInc | 0.000273942947388 | 100 | 48 | 15 | prefInc-postInc |
postInc | 0.00273203849792 | 1000 | 48 | 17 | postInc-prefInc |
prefInc | 0.00240206718445 | 1000 | 48 | 17 | postInc-prefInc |
prefInc | 0.00274896621704 | 1000 | 48 | 18 | prefInc-postInc |
postInc | 0.00259804725647 | 1000 | 48 | 18 | prefInc-postInc |
postInc | 0.00391817092896 | 1000 | 48 | 20 | postInc-prefInc |
prefInc | 0.00303602218628 | 1000 | 48 | 20 | postInc-prefInc |
prefInc | 0.00229096412659 | 1000 | 48 | 21 | prefInc-postInc |
postInc | 0.00281691551208 | 1000 | 48 | 21 | prefInc-postInc |
postInc | 0.00273108482361 | 1000 | 48 | 23 | postInc-prefInc |
prefInc | 0.00221014022827 | 1000 | 48 | 23 | postInc-prefInc |
prefInc | 0.00266814231873 | 1000 | 48 | 24 | prefInc-postInc |
postInc | 0.00307106971741 | 1000 | 48 | 24 | prefInc-postInc |
postInc | 0.00283098220825 | 1000 | 48 | 26 | postInc-prefInc |
prefInc | 0.00239992141724 | 1000 | 48 | 26 | postInc-prefInc |
prefInc | 0.00246214866638 | 1000 | 48 | 27 | prefInc-postInc |
postInc | 0.00273704528809 | 1000 | 48 | 27 | prefInc-postInc |
postInc | 0.00283288955688 | 1000 | 48 | 29 | postInc-prefInc |
prefInc | 0.00229215621948 | 1000 | 48 | 29 | postInc-prefInc |
prefInc | 0.00220608711243 | 1000 | 48 | 30 | prefInc-postInc |
postInc | 0.0028657913208 | 1000 | 48 | 30 | prefInc-postInc |
postInc | 0.00557017326355 | 2000 | 48 | 32 | postInc-prefInc |
prefInc | 0.0048840045929 | 2000 | 48 | 32 | postInc-prefInc |
prefInc | 0.00449013710022 | 2000 | 48 | 33 | prefInc-postInc |
postInc | 0.0064799785614 | 2000 | 48 | 33 | prefInc-postInc |
postInc | 0.00543594360352 | 2000 | 48 | 35 | postInc-prefInc |
prefInc | 0.00509881973267 | 2000 | 48 | 35 | postInc-prefInc |
prefInc | 0.00483298301697 | 2000 | 48 | 36 | prefInc-postInc |
postInc | 0.00555992126465 | 2000 | 48 | 36 | prefInc-postInc |
postInc | 0.00516104698181 | 2000 | 48 | 38 | postInc-prefInc |
prefInc | 0.00512599945068 | 2000 | 48 | 38 | postInc-prefInc |
prefInc | 0.00484395027161 | 2000 | 48 | 39 | prefInc-postInc |
postInc | 0.00530505180359 | 2000 | 48 | 39 | prefInc-postInc |
postInc | 0.00509691238403 | 2000 | 48 | 41 | postInc-prefInc |
prefInc | 0.00525093078613 | 2000 | 48 | 41 | postInc-prefInc |
prefInc | 0.00447416305542 | 2000 | 48 | 42 | prefInc-postInc |
postInc | 0.00536584854126 | 2000 | 48 | 42 | prefInc-postInc |
postInc | 0.0054669380188 | 2000 | 48 | 44 | postInc-prefInc |
prefInc | 0.00468182563782 | 2000 | 48 | 44 | postInc-prefInc |
prefInc | 0.00512504577637 | 2000 | 48 | 45 | prefInc-postInc |
postInc | 0.00545692443848 | 2000 | 48 | 45 | prefInc-postInc |
postInc | 0.00782418251038 | 3000 | 48 | 47 | postInc-prefInc |
prefInc | 0.00726389884949 | 3000 | 48 | 47 | postInc-prefInc |
prefInc | 0.00674796104431 | 3000 | 48 | 48 | prefInc-postInc |
postInc | 0.007483959198 | 3000 | 48 | 48 | prefInc-postInc |
postInc | 0.00781297683716 | 3000 | 48 | 50 | postInc-prefInc |
prefInc | 0.0069580078125 | 3000 | 48 | 50 | postInc-prefInc |
prefInc | 0.00711393356323 | 3000 | 48 | 51 | prefInc-postInc |
postInc | 0.0072808265686 | 3000 | 48 | 51 | prefInc-postInc |
postInc | 0.00790119171143 | 3000 | 48 | 53 | postInc-prefInc |
prefInc | 0.00662994384766 | 3000 | 48 | 53 | postInc-prefInc |
prefInc | 0.00825595855713 | 3000 | 48 | 54 | prefInc-postInc |
postInc | 0.00739097595215 | 3000 | 48 | 54 | prefInc-postInc |
postInc | 0.00811100006104 | 3000 | 48 | 56 | postInc-prefInc |
prefInc | 0.00712990760803 | 3000 | 48 | 56 | postInc-prefInc |
prefInc | 0.00698399543762 | 3000 | 48 | 57 | prefInc-postInc |
postInc | 0.00758218765259 | 3000 | 48 | 57 | prefInc-postInc |
postInc | 0.00795316696167 | 3000 | 48 | 59 | postInc-prefInc |
prefInc | 0.00725698471069 | 3000 | 48 | 59 | postInc-prefInc |
prefInc | 0.00684094429016 | 3000 | 48 | 60 | prefInc-postInc |
postInc | 0.00778198242188 | 3000 | 48 | 60 | prefInc-postInc |
VIEWER_TGROUP
Представление в табличной форме в виде сгруппированных данных по партии тестирования (по номеру прохода по стратегии), т.е. в одной строке окажутся результаты тестирования функций которые проводились в рамках одной стратегии и в рамках одного прохода теста.
В столбцах таблицы будут отображены данные о размере выборки, времени выполнения, проценту скорости от худшего результата, затраченной памяти, комментария и названия функции, которая стала победителем по времени среди текущего прохода. Отдельно хотелось бы пояснить столбец процента. Данное значение высчитывается как процент, на сколько по времени функция опередила выполнение самой медленной функции. Если значение не установлено, значит эта функция по времени выполнения является аутсайдером в проходе.
size | postInc | prefInc | comment | time win | ||||
time | % | memory | time | % | memory | |||
100 | 0.000650882720947 | 48 | 0.000411987304688 | 36.7 | 48 | postInc-prefInc | prefInc | |
100 | 0.000549077987671 | 48 | 0.000406980514526 | 25.88 | 48 | prefInc-postInc | prefInc | |
100 | 0.000330924987793 | 48 | 0.000287055969238 | 13.26 | 48 | postInc-prefInc | prefInc | |
100 | 0.000365018844604 | 16.66 | 48 | 0.00043797492981 | 48 | prefInc-postInc | postInc | |
100 | 0.000295162200928 | 20.89 | 48 | 0.000373125076294 | 48 | postInc-prefInc | postInc | |
100 | 0.000449895858765 | 48 | 0.000263929367065 | 41.34 | 48 | prefInc-postInc | prefInc | |
100 | 0.00030517578125 | 48 | 0.000247955322266 | 18.75 | 48 | postInc-prefInc | prefInc | |
100 | 0.000265121459961 | 48 | 0.000244140625 | 7.91 | 48 | prefInc-postInc | prefInc | |
100 | 0.000267028808594 | 48 | 0.000245094299316 | 8.21 | 48 | postInc-prefInc | prefInc | |
100 | 0.000273942947388 | 3.93 | 48 | 0.000285148620605 | 48 | prefInc-postInc | postInc | |
1000 | 0.00273203849792 | 48 | 0.00240206718445 | 12.08 | 48 | postInc-prefInc | prefInc | |
1000 | 0.00259804725647 | 5.49 | 48 | 0.00274896621704 | 48 | prefInc-postInc | postInc | |
1000 | 0.00391817092896 | 48 | 0.00303602218628 | 22.51 | 48 | postInc-prefInc | prefInc | |
1000 | 0.00281691551208 | 48 | 0.00229096412659 | 18.67 | 48 | prefInc-postInc | prefInc | |
1000 | 0.00273108482361 | 48 | 0.00221014022827 | 19.07 | 48 | postInc-prefInc | prefInc | |
1000 | 0.00307106971741 | 48 | 0.00266814231873 | 13.12 | 48 | prefInc-postInc | prefInc | |
1000 | 0.00283098220825 | 48 | 0.00239992141724 | 15.23 | 48 | postInc-prefInc | prefInc | |
1000 | 0.00273704528809 | 48 | 0.00246214866638 | 10.04 | 48 | prefInc-postInc | prefInc | |
1000 | 0.00283288955688 | 48 | 0.00229215621948 | 19.09 | 48 | postInc-prefInc | prefInc | |
1000 | 0.0028657913208 | 48 | 0.00220608711243 | 23.02 | 48 | prefInc-postInc | prefInc | |
2000 | 0.00557017326355 | 48 | 0.0048840045929 | 12.32 | 48 | postInc-prefInc | prefInc | |
2000 | 0.0064799785614 | 48 | 0.00449013710022 | 30.71 | 48 | prefInc-postInc | prefInc | |
2000 | 0.00543594360352 | 48 | 0.00509881973267 | 6.2 | 48 | postInc-prefInc | prefInc | |
2000 | 0.00555992126465 | 48 | 0.00483298301697 | 13.07 | 48 | prefInc-postInc | prefInc | |
2000 | 0.00516104698181 | 48 | 0.00512599945068 | 0.68 | 48 | postInc-prefInc | prefInc | |
2000 | 0.00530505180359 | 48 | 0.00484395027161 | 8.69 | 48 | prefInc-postInc | prefInc | |
2000 | 0.00509691238403 | 2.93 | 48 | 0.00525093078613 | 48 | postInc-prefInc | postInc | |
2000 | 0.00536584854126 | 48 | 0.00447416305542 | 16.62 | 48 | prefInc-postInc | prefInc | |
2000 | 0.0054669380188 | 48 | 0.00468182563782 | 14.36 | 48 | postInc-prefInc | prefInc | |
2000 | 0.00545692443848 | 48 | 0.00512504577637 | 6.08 | 48 | prefInc-postInc | prefInc | |
3000 | 0.00782418251038 | 48 | 0.00726389884949 | 7.16 | 48 | postInc-prefInc | prefInc | |
3000 | 0.007483959198 | 48 | 0.00674796104431 | 9.83 | 48 | prefInc-postInc | prefInc | |
3000 | 0.00781297683716 | 48 | 0.0069580078125 | 10.94 | 48 | postInc-prefInc | prefInc | |
3000 | 0.0072808265686 | 48 | 0.00711393356323 | 2.29 | 48 | prefInc-postInc | prefInc | |
3000 | 0.00790119171143 | 48 | 0.00662994384766 | 16.09 | 48 | postInc-prefInc | prefInc | |
3000 | 0.00739097595215 | 10.48 | 48 | 0.00825595855713 | 48 | prefInc-postInc | postInc | |
3000 | 0.00811100006104 | 48 | 0.00712990760803 | 12.1 | 48 | postInc-prefInc | prefInc | |
3000 | 0.00758218765259 | 48 | 0.00698399543762 | 7.89 | 48 | prefInc-postInc | prefInc | |
3000 | 0.00795316696167 | 48 | 0.00725698471069 | 8.75 | 48 | postInc-prefInc | prefInc | |
3000 | 0.00778198242188 | 48 | 0.00684094429016 | 12.09 | 48 | prefInc-postInc | prefInc |
VIEWER_TAVG
Представление в табличной форме в виде усредненных показателей по размеру выборки, т.е. в одной строке окажутся средние показатели тестирования функций по одной выборке.
В столбцах представлена информация по количеству побед функции в выборке, средний процент времени побед, имя функции-победителя. Функции-победитель — определяется количеством побед в выборке.
size | postInc | prefInc | winner | ||
winns | % | winns | % | ||
100 | 3 | 13.83 | 7 | 21.72 | prefInc |
1000 | 1 | 5.49 | 9 | 16.98 | prefInc |
2000 | 1 | 2.93 | 9 | 12.08 | prefInc |
3000 | 1 | 10.48 | 9 | 9.68 | prefInc |
VIEWER_GBUBLE
Представление в графической форме в виде набора точек, каждая из которых соответствует значению времени и объему выборки. Данное представление реализовано при помощи графиков HighCharts.
Итоги
Подытожить хотелось бы тем, что поставленные цели были достигнуты. Но конечно же еще есть над чем поработать. В планах работа над обработкой исключений, добавление возможности смены в настройках набора столбцов а также возможность задавать собственные имена столбцам, увеличение количества тестов. Также хотелось бы добавить возможность удобного тестирования скорости работы с базами данных.
Исходный код проекта можно смотреть здесь
P.S.: Данный проект разрабатывается в рамках личного интереса к данной теме и не претендует на место лучшего в своем роде. Буду рад, если кому-то понравится и будет полезен данный труд. Конструктивная критика и советы приветствуются.
Автор: IIISpikerIII