Управление хаосом, или как жить когда число тестов...

21
1 | © 2016 RingCentral, Inc. All rights reserved. Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч. Акмаев Дмитрий. Санкт-Петербург. DINS

Upload: sqalab

Post on 09-Jan-2017

69 views

Category:

Education


0 download

TRANSCRIPT

Page 1: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

1 | © 2016 RingCentral, Inc. All rights reserved.

Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч.Акмаев Дмитрий. Санкт-Петербург. DINS

Page 2: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

2 | © 2016 RingCentral, Inc. All rights reserved.

О себе

► Акмаев Дмитрий► Lead QA Automation в DINS

• до этого Quest Software (DELL), I-FREE► 12 лет в тестировании► Управляю проектом Global CI

Page 3: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

3 | © 2016 RingCentral, Inc. All rights reserved.

Предыстория

Page 4: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

4 | © 2016 RingCentral, Inc. All rights reserved.

Global continuous integration

► Интеграционный CI► Тестовое окружение максимально близкое к PRO► Полное собрание автотестов

Page 5: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

5 | © 2016 RingCentral, Inc. All rights reserved.

Проблемы

Page 6: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

6 | © 2016 RingCentral, Inc. All rights reserved.

Проблемы

► Перевернутая пирамида► Десятки тысяч тестов► Нестабильность► Зоопарк фреймворков

Page 7: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

7 | © 2016 RingCentral, Inc. All rights reserved.

А все ли тесты нужны?

Page 8: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

8 | © 2016 RingCentral, Inc. All rights reserved.

А все ли тесты нужны?

► Не могут работать паралельно► Есть аналоги не на UI► Меняют окружение► Долго бегущие

Page 9: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

9 | © 2016 RingCentral, Inc. All rights reserved.

Что делать?

Page 10: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

10 | © 2016 RingCentral, Inc. All rights reserved.

Унификация

ВОЕНКОМАТ► Меньше фреймворков► Единый репортинг► Кодеревью

Page 11: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

11 | © 2016 RingCentral, Inc. All rights reserved.

Модульная система

► Используйте только то, что нужно► Создавайте свои модули

Page 12: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

12 | © 2016 RingCentral, Inc. All rights reserved.

Предварительная приемка

► Не должны мешать другим► Соответствуют соглашениям► Не используются таймауты

Page 13: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

13 | © 2016 RingCentral, Inc. All rights reserved.

Приоритезация / Группировка

► Быстро получить результат► Проверять то, что менялось

Page 14: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

14 | © 2016 RingCentral, Inc. All rights reserved.

Запись результатов в базу

► Группировка результатов► Быстрое сравнение► Расширенная отчетность

Page 15: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

15 | © 2016 RingCentral, Inc. All rights reserved.

Выделение впервые упавших тестов

► Отдавать только разницу► Делить на зоны ответственности

Page 16: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

16 | © 2016 RingCentral, Inc. All rights reserved.

Выделение впервые упавших тестов

Tests Day 1 Day 2 Day 3

Test 1 Passed Failed Failed

Test 2 Passed Passed Failed

Test 3 Passed Passed Passed

Test 4 Passed Failed Passed

Test 5 Passed Passed Failed

Page 17: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

17 | © 2016 RingCentral, Inc. All rights reserved.

Пометка известных падений

► Не отвлекаться на известное► Выделение максимально

проблемных баг

Page 18: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

18 | © 2016 RingCentral, Inc. All rights reserved.

Автоматический перезапуск

► Сокращение ложных срабатываний• Сетевые проблемы• Редко улавимые сбои

Page 19: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

19 | © 2016 RingCentral, Inc. All rights reserved.

Контроль вносимых изменений

► Знать, кто мог сломать► Не менять одновременно одно и то

же разными людьми

Page 20: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

20 | © 2016 RingCentral, Inc. All rights reserved.

Спасибо

Page 21: Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч

21 | © 2016 RingCentral, Inc. All rights reserved.

Контакты

[email protected]► https://vk.com/akmaev► https://www.facebook.com/dmitry.akmaev