Трудовые будни инженера производительности

Трудовые будни performance engineer

Владимир Ситниковjokerconf university 2015

Кто я

• Владимир Ситников• Инженер-ускорятор в NetCracker• sitnikov@netcracker.com• @VladimirSitnikv

Характерные требования в enterprise

• Время отклика‒ 100мс … 1с … 1ч

• Частота выполнений‒ 1/день … 1/с … 100/с

• Объём обрабатываемых данных‒ 10КиБ … 1Миб … 1ГиБ

Основная ошибка при проверке производительности

Проверку требований нужно выполнять на приближенных к боевым условиях

Проверку требований нужно выполнять на приближенных к боевым условиях• Та же версия java, OS, application server

Проверку требований нужно выполнять на приближенных к боевым условиях• Та же версия java, OS, application server• Тот же объём данных

Проверку требований нужно выполнять на приближенных к боевым условиях• Та же версия java, OS, application server• Тот же объём данных• Та же входная нагрузка

Проверку требований нужно выполнять на приближенных к боевым условиях• Та же версия java, OS, application server• Тот же объём данных• Та же входная нагрузка• Тот же процент ошибочных сценариев

Проблемы в Production• Создан работающий код

• Пройдено тестирование

• Production Проблемы производительности, недоступность приложения, и т.п.

• Customer Support передает проблему в System Performance

• SP находит причину, и автор кода о ней не знает

Сложение строк

• StringBuilder vs StringBuffer

• String + String vs SB.append

Сложение строк

• StringBuilder vs StringBuffer• Без разницы

• String + String vs SB.append• В циклах лучше SB

Когда же нужен StringB***er?

String res = ""; String names[] = ...; for(int i=0; i<length; i++) { res += (i==0 ? "" : ", ") + names[i]; }

StringBuilder полезен в циклах/if’ах

String res = ""; String names[] = ...; for(int i=0; i<length; i++) { res += new SB() .append(i==0 ? "" : ", ") .append(names[i]).toString(); }

StringBuilder res = new StringBuilder(); String names[] = ...; for(int i=0; i<length; i++) { res .append(i==0 ? "" : ", ") .append(names[i]); }

Добавляем вишенку

StringBuilder res = new StringBuilder(100500); String names[] = ...; for(int i=0; i<length; i++) { res .append(i==0 ? "" : ", ") .append(names[i]); }

GC друг или враг?

• Основная масса проблем с java в enterprise – java GC или OS swap

• Для анализа всегда сохраняем логи работы GC: -Xloggc

• Открываем программой GCViewer

• GC наносит ответный удар: лог пишется синхронно• Не стоит размещать gc.log на сетевых дисках (NFS):

http://mail.openjdk.java.net/pipermail/hotspot-gc-use/2014-April/001849.html

GCViewer: пример случая, когда «всё пропало»

• Без GC логов не понять хватило ли памяти

Где может встретиться regexp

• «Маскирование» (~засекречивание) данных: pin коды, номера карт, …

• Обработка XML: логирование, проверка success/fail, …

• Много где ещё

Решили использовать regexp

Стоит избегать .*, .+ и подобных не специфичных конструкцийhttp://www.regular-expressions.info/catastrophic.html

Пример медленного выражения:Pattern.compile(

"<(\\S+:)?processID.*>(\\d+)</(\\S+:)?processID>"

Пример медленного выражения:Pattern.compile(

"<(\\S+:)?processID.*>(\\d+)</(\\S+:)?processID>"

Встречались экземпляры, работающие 30 секунд на 100КиБ строкеВстречались SQL запросы, работающие по 30 минут вместо 30 секунд

/^.*ab$/.match("ab")

|ab.*ab

a|b.*ab

ab|.*ab

a|b.*abоткатились

a|b.*abне помогло

|ab.*abоткатились

ab|.*abУра!

.* – жадная конструкция. Ест как не в себя

Чиним

Стоит избегать .*, .+ и подобных неспецифичных конструкцийhttp://www.regular-expressions.info/catastrophic.html

Пример быстрого выражения:Pattern.compile(

"[:<]processID[^>]*>(\\d+)</([^>:]+:)?processID>"

Решение: [^>]* и [^>:]+ остановятся на первом неподходящем символе. За границу xml тэга наш regexp не уйдёт.

Чиним ещё чуть-чуть

Добавляем плюсик для отмены откатов:Pattern.compile(

"[:<]processID[^>]*+>(\\d+)</([^>:]++:)?processID>“

Меньше вариантов на проверку – быстрее работает

График скорости .*, .*?, [^>]

1 КиБ 2 КиБ 3 КиБ 4 КиБ0

50100150200250300350

.*?[^>]*

Быст

рее,

График скорости .*, .*?, [^>], шаблон не найден

.*?[^>]*

Быст

рее,

Поиск тормозил, т.к. шаблон не нашёлся

График скорости .*, .*, [^>], шаблон не найден

.*?[^>]*(?>

Быст

рее,

мс <ROW>(?>.*?<RSACCTNMBR>)(?>[^<]*</RSACCTNMBR>)…

Признаки хорошего регулярного выражения

• Кушает только нужные символы• [^>]* vs .*• .(!=hello)

• Не содержит лишних конструкций• <MAC\\d{5} vs (<MAC\\d{5}\\s)

• Не выполняется вообще• Например, если мы маскируем значения, то делать это нужно только если реально

выводим данные• Если XML всё равно парсить, то стоит посмотреть на XPath

А давайте ускорим String?

String.format("...") использует java.util.regex.Pattern для разбора формата

formatSpecifier = "%(\\d+\\$)?([-#+ 0,(\\<]*)?(\\d+)?(\\.\\d+)?([tT])?([a-zA-Z%])";

Откуда взять тестовые данные?

Возьмём шаблон из Java Microbenchmark Harness:

(min, avg, max) = (%s, %s, %s), stdev = %s%n CI (99.9%%): [%s, %s] (assumes normal distribution)

Добавляем плюсов по вкусу

formatSpecifier = "%(\\d+\\$)?([-#+ 0,(\\<]*)?(\\d+)?(\\.\\d+)?([tT])?([a-zA-Z%])";

fastSpecifier = "%(\\d++\\$)?+([-#+ 0,(\\<]+)?+(\\d++)?+(\\.\\d++)?+([tT])?+([a-zA-Z%])";

Бесплатный сыр

Benchmark Cnt Score Error Unitsjdk18u45 60 1,067 ± 0,025 us/opoptimized 60 0,917 ± 0,021 us/op

HashMap$Entry

• HashMap создаёт вспомогательные Entry объекты для хранения связки ключ-значение

HashMap$Entry

• HashMap создаёт вспомогательные Entry объекты для хранения связки ключ-значение

• Если большинство ключей оказываются одинаковыми, то очень хочется не хранить ключи в каждом отдельном объекте Map

HashMap

HashMap Entry[]

Entryid

Entryname

HashMap: entry лишние

HashMap Entry[]

Entryid

Entryname

HashMap

HashMap Entry[]

Entryid

Entryname

CompactMap

CMap1 Object[]41

keyposid=0

name=1

Object[]42

CompactHashMap: границы применимости

• Работает, если форма (состав ключей) у многих объектов одинаковая• Например, у всех объектов есть запись “width”=“100%”

• https://github.com/vlsi/compactmap• См. v8/design.html#prop_access

CompactHashMap: первые тесты

HashMap -> CompactHashMap в реальном проекте:

• 500МиБ –> 290МиБ• 3.0 сек / 1M обращений -> 150 сек / 1M обращений

CompactHashMap

HashMap -> CompactHashMap в реальном проекте:

• 500МиБ –> 290МиБ• 3.0 сек / 1M обращений -> 150 сек / 1M обращений

ReservedCodeCacheSize

• Если у JIT компилятора заканчивается память, то он перестаёт компилировать

• В приложении с большим количеством кода стандартных 64M мало

• -XX:+ReservedCodeCacheSize=128m/192m

CompactHashMap

HashMap -> CompactHashMap, -XX:+ReservedCodeCacheSize=128m:

• 500МиБ –> 290МиБ• 3.0 сек / 1M обращений -> 3.5 сек / 1M обращений

Типичные проблемы в SQL

• Выборка лишних данных• max(order_number)+1, count(*)>0, большая иерархия

• Нет ясного порядка выполнения запроса• Лишние таблицы в части FROM• Неверное использование связанных переменных

Типичные проблемы в SQL

• Выборка лишних данных• max(order_number)+1, count(*)>0, большая иерархия

• Нет ясного порядка выполнения запроса• Лишние таблицы в части FROM• Неверное использование связанных переменных

Один запрос – один правильный план выполнения

1. В “Folder for Orders” найти Order, ссылающийся на нужный Instance

Как бы решал человек:

2. По ссылкам находим ордера, и проверяем Folder

2. В “Service Order’е” найти компоненту, ссылающуюся на нужный Template

Как бы решал человек:

3. Находим дочерние компоненты и проверяем Template

Один запрос – один правильный план выполненияЗадачи:

1. В “Folder for Service Orders” найти Service Order, ссылающийся на нужный Service Instance

2. В “Service Order’е” найти компоненту, ссылающуюся на нужный Template

В обоих случаях может получиться одинаковый запрос (например, EAV):select o.object_id from objects o, references ref where o.parent_id = :1 and o.object_id = ref.object_id and ref.reference = :2 and ref.property = :3

• Разработчик должен хотя бы задумываться о плане выполнения• Без explain plan никуда

• Если в запросе несколько условий, то хинты обязательны

• Основные хинты:• leading(a b c) – указываем с каких таблиц начинать

выполнение запроса• index(o index_name) – указываем какой индекс нужно

использовать• no_merge – запрещаем раскрывать подзапросы• use_nl/use_hash – основные способы объединения таблиц

А нужны ли хинты?

• База умная,сама ускорит запросы

• База умная, статистику собрали,сама ускорит запросы

• База умная, статистику собрали, собираем статистику регулярно,запросы сами будут хорошие

• База умная, статистику собрали, собираем статистику регулярно,запросы сами будут хорошиебаза не понимает бизнес-смысл

• Без хинтов не взлетит

А нужна ли тогда статистика?

• Если всё равно хинты, то зачем статистика?

• Если всё равно хинты, то зачем статистика?• Повторяемость production и dev/test

окружений

• Если всё равно хинты, то зачем статистика?• Повторяемость production и dev/test

окружений• Отсутствие out-of-thin air проблем

А как же любимые cost/rows?

• База оценивает количество строк на основе собранной статистики

• В статистику входят• Общее количество строк• Количество уникальных записей в колонке• Количество null записей в колонке

• Rows – оценка базы о том, сколько строк вернёт запрос

• Cost – оценка базы о том, сколько дисковых операций потребуется для выполнения запроса

• В статистику входят• Общее количество строк• Количество уникальных записей в колонке• Количество null записей в колонке• Бизнес-смысл данных в статистику не входит!

• Rows – оценка базы о том, сколько строк вернёт запрос

• Cost – оценка базы о том, сколько дисковых операций потребуется для выполнения запроса

Кто я

• Владимир Ситников• Инженер-ускорятор в NetCracker• sitnikov@netcracker.com• @VladimirSitnikv

Спасибо

Трудовые будни инженера производительности

Engineering

школьные будни

наши будни»

Индивидуальные трудовые...

ТРУДОВЫЕ БУДНИ СТАНЦИИ...

мои будни

Заводские будни 0216

Трудовые хроники. Выпуск 2

Путевые заметки социального...

ПРОФЕССИОНАЛЬНАЯ ЭТИКА ИНЖЕНЕРА

СЕЛЬСКИЙ СТРОИТЕЛЬ Издаётся с...

Будни тестирования cassandr-ы

Трудовые права ...

Трудовые будни в мире спорта:...

Аналитический отчет Инженера ОТ...

фотоальбом трудовые будни

№2 (21) март 2016 года Газета филиала...

наши будни — копия

Каплун ansys в Руках Инженера

Дмитрий Поварницын - ascon ·...

Юбилей шахтерской...