2014 testbird中国手游兼容性测试白皮书(中文版)

47

Upload: testbird

Post on 14-Apr-2017

196 views

Category:

Internet


0 download

TRANSCRIPT

Page 1: 2014 TestBird中国手游兼容性测试白皮书(中文版)
Page 2: 2014 TestBird中国手游兼容性测试白皮书(中文版)

引言

你知道你的手游有多少兼容性问题吗?你知道这些兼容性问题都是什么原因造成的嘛?你知道怎么去

解决这些问题吗?你以为兼容性问题只是安装启动那么简单?你知道过去这样的轻视和忽略给你造成

了多少损失吗?

●近日,由专注手游的云测试平台 TestBird 联合国家手游测试中心共同研究撰写的《2014 年手游

兼容性测试白皮书》(以下称白皮书)正式发布,这是全球首次专门针对手游兼容性问题进行研究和

解析的白皮书,首次为业界定义了手游兼容性问题,完整展现了手游兼容性问题现状、系统诠释了手

游兼容性问题的分类,深度解析了手游兼容性问题的根源,并提供了诸多了真实有效的解决建议。

●通过白皮书,也许你更能清楚地了解上述问题的答案:作为手游上线前必经的第一关,兼容性问题,

远非想象的那么简单。第 1 次,手游兼容性问题被正视研究。

●据了解,在手游产业,任何一款手游产品都必须经过兼容性测试后方可上线,然而,由于传统的

兼容性测试周期长,测试成本较高,加上兼容性问题属于隐形问题,不如游戏画面设计、游戏内容和

操作设计等影响游戏品质的因素那么具象和明显,导致兼容性问题长期未收到手游开发者的重视。

白皮书是手游行业第一次专门针对手游兼容性问题进行的研究。整个研究准备过程历时长达 8 个月,

测试多达 2168 款手游游戏,整理分析了上万份的评测报告。而这些数据正式基于 TestBird 独创的领

先测试技术优势和作为国家手游测试中心的权威地位。也正是基于和透过这些真实的数据,白皮书才

能首次并真正地对手游兼容性问题进行了系统而全面的研究,并与广大手游行业同仁共享。

2014 年度手游兼容性测试白皮书

http://www.testbird.com

Page 3: 2014 TestBird中国手游兼容性测试白皮书(中文版)

目录

概述 ........................................................................................................................................... 3

被测游戏属性分析 .................................................................................................................... 4

终端描述 ................................................................................................................................... 8

手游兼容性分析 ..................................................................................................................... 11 总述 ............................................................................................................................................ 12

TestBird 在业界首次定义手游兼容性问题 ............................................................................ 12

各终端品牌兼容性分析:主流品牌的兼容性整体好于非主流品牌 ....................................... 13

各 CPU 品牌兼容性分析:展讯出现的兼容性问题最多 .......................................................... 13

各游戏引擎的兼容性分析:自定义引擎出现的兼容性问题最多 ................................................. 14

各内存大小的兼容性分析:内存越大出现兼容性问题越少 ................................................... 14

各类兼容性问题分析:闪退和卡死是最主要问题 ................................................................ 15

TOP1. 游戏闪退 ........................................................................................................... 15

TOP2. 游戏卡死 ........................................................................................................... 17

TOP3.UI 异常 ............................................................................................................... 19

各游戏类型的兼容性分析:动作格斗类游戏问题最多 ............................................................ 20

动作格斗 ...................................................................................................................... 21

角色扮演 ...................................................................................................................... 22

策略经营 ...................................................................................................................... 22

虚拟养成 ...................................................................................................................... 23

卡牌游戏 ...................................................................................................................... 23

飞行射击 ...................................................................................................................... 24

跑酷竞速 ...................................................................................................................... 24

塔防游戏 ...................................................................................................................... 25

体育运动 ...................................................................................................................... 25

棋牌扑克 ...................................................................................................................... 26

休闲益智 ...................................................................................................................... 26

消除游戏 ...................................................................................................................... 27

手游性能分析 ......................................................................................................................... 28 TestBird 在业界首次定义手游性能 ........................................................................................ 29

各性能指标分析 ........................................................................................................................ 29

CPU 占用率:体育运动类游戏最高,棋牌扑克类最低。 ............................................. 29

启动时延:飞行射击类游戏最大,体育运动类最小。 ..................................................... 30

http://www.testbird.com 1

2014 年度手游兼容性测试白皮书

Page 4: 2014 TestBird中国手游兼容性测试白皮书(中文版)

内存占用:动作格斗类游戏最高,棋牌扑克类最低。 ...................................................... 31

平均流量消耗:虚拟养成类游戏最大,消除类游戏最小。 .............................................. 32

IO 等待率:酷跑竞速类游戏较高,体育运动类较低。 ..................................................... 33

手机平均温度:卡牌游戏最高,体育运动类最低。 .......................................................... 34

性能数据总结 ............................................................................................................................ 35

付费测试分析 ......................................................................................................................... 37

安全测试分析 ......................................................................................................................... 39

手游安全测试背景 .......................................................................................................... 40

手游主要安全威胁 .......................................................................................................... 40

TestBird 专业手游安全测试 .......................................................................................... 40

解决建议 ................................................................................................................................. 41 兼容性问题解决建议 ............................................................................................................... 42

安装失败解决建议 ......................................................................................................... 42

启动失败解决建议 ......................................................................................................... 42

游戏闪退解决建议 ......................................................................................................... 42

游戏卡死解决建议 ......................................................................................................... 42

游戏卡顿解决建议 ......................................................................................................... 43

游戏黑屏解决建议 ......................................................................................................... 43

UI 异常解决建议 ............................................................................................................ 43

数据异常解决建议 ......................................................................................................... 43

游戏链接异常解决建议 .................................................................................................. 43

程序异常解决建议 ......................................................................................................... 44

性能指标优化建议 ................................................................................................................... 44

CPU 占用率优化建议 .................................................................................................... 44

内存占用值优化建议 ..................................................................................................... 44

IO 等待率优化建议 ....................................................................................................... 44

帧速率优化建议 .............................................................................................................. 44

温度优化建议 ............................................................................................................... 44

启动时延优化建议 ........................................................................................................ 44

流量优化建议 ................................................................................................................ 44

http://www.testbird.com 2

2014 年度手游兼容性测试白皮书

Page 5: 2014 TestBird中国手游兼容性测试白皮书(中文版)

概述

2014 年 5 月,TestBird 手游自动化真机测试平台正式对外发布,在 8 个月的时间内,平台一共测试了

2618 款手机游戏,并被授予“国家手游测试中心”的称号。在这个过程中,国家手游测试中心也获得

了大量宝贵的关于手游兼容性测试的数据和经验,在此,我们将报告奉献给广大的手游 CP、发行和渠道,

希望能给行业分享一些经验和干货,打造更精品的手机游戏。

报告分析数据全部来自国家手游测试中心 -TestBird 手游自动化真机测试平台。

感谢您参阅《2014TestBird 中国手游兼容性测试白皮书》

http://www.testbird.com 3

2014 年度手游兼容性测试白皮书

Page 6: 2014 TestBird中国手游兼容性测试白皮书(中文版)

被测游戏属性分析

http://www.testbird.com 4

2014 年度手游兼容性测试白皮书

Page 7: 2014 TestBird中国手游兼容性测试白皮书(中文版)

2014 年,手游市场重度手游增长趋势明显。TestBird 在 2014 年总共测试了 2618 款游戏,轻 / 中 / 重度游戏分

布比例基本相同,重度手游以微弱优势占据第一位置。

图 1:轻 / 中 / 重度游戏分布

2014 年以卡牌游戏为代表的中度手游依然火热,比重最高达 26%,而以角色扮演游戏为代表的重度手游市场占

有率也越来越大,其以 21% 占有率紧随其后,2 者共占据近 50% 份额。

图 2:游戏类型分布

2014 年 Cocos2D-X 和 Unity3D 引擎依然占据主流市场,在 TestBird 所测游戏中合计占比 70%。Cocos2D-X

以 37% 的占比微弱领先 Unity3D,自定义引擎以 9% 占比位列第三。

2014 年自定义引擎游戏增长明显。

http://www.testbird.com 5

2014 年度手游兼容性测试白皮书

Page 8: 2014 TestBird中国手游兼容性测试白皮书(中文版)

游戏安装包大小主要集中在 50~100MB,且有逐步增大的趋势。该区间占据 TestBird 所测游戏 44% 比例。另外

40% 的游戏安装包低于 50MB,高于 100MB 大小的安装包占比则为 15%。

-

图 4:游戏安装包大小分布

2014 年 TestBird 所测游戏中,80% 以上游戏需要联网,只有不到 20% 的游戏是单机游戏。其中 7 成多的游戏

为强联网游戏,说明在网络环境越来越好的情况下,手机游戏对网络质量要求也越来越高。

图 3:游戏引擎类别分布

http://www.testbird.com 6

2014 年度手游兼容性测试白皮书

Page 9: 2014 TestBird中国手游兼容性测试白皮书(中文版)

2014 年 TestBird 对 2173 款联网游戏统计发现,游戏的更新数据大小,主要集中在 10MB 以下和 20~50MB 这

两个区间段。在这些游戏中,只有 13% 的游戏不需要更新。

图 6:联网游戏更新数据大小分布

图 5:游戏联网情况

http://www.testbird.com 7

2014 年度手游兼容性测试白皮书

Page 10: 2014 TestBird中国手游兼容性测试白皮书(中文版)

终端描述

http://www.testbird.com 8

2014 年度手游兼容性测试白皮书

Page 11: 2014 TestBird中国手游兼容性测试白皮书(中文版)

TestBird 目前终端总数 812 部,覆盖了全球主要国家 / 地区,包括中国大陆、港澳台、东南亚、韩国、日本、美国、

欧洲、俄罗斯等。海外终端均内置 Googleplay 服务,可连接海外服务器,可以为海外发行的游戏进行全面的兼容性、

性能评估。用户覆盖数 7.5 亿,主流游戏用户覆盖率 95% 以上。机型配置方面,覆盖了从安卓 2.0~5.0 的所有系

统版本,几乎覆盖所有种类的分辨率、CPU、内存。

安卓 4.0 及其以上系统版本覆盖面广,占比达到了接近 82%。

图 7:操作系统版本统计

高通和联发科的芯片是绝对主流,游戏在这两类品牌上的表现需要重点关注。它们在所有机型中分别占比 44% 和

31%,三星、Marvell、海思、intel、英伟达等品牌组成第二梯队。

图 8:CPU 品牌统计

http://www.testbird.com 9

2014 年度手游兼容性测试白皮书

Page 12: 2014 TestBird中国手游兼容性测试白皮书(中文版)

720P 及以上终端将逐步增多,720P 以下已经进入市场份额的衰退期。除了 720P 以 32% 的占比高居榜首,其他

各主流分辨率都有分布。分辨率种类多、分布广,尽可能适配多种分辨率已经成为减少用户流失的必备手段。

图 9:分辨率统计

内存 1G 及以上的终端是手游适配的重点,512MB 及以下已经处于衰退期。TestBird 保有的终端中,内存

1G~2G 占比达到 72% 以上,是绝对主流。结合近期新上市的终端趋势可以看出, 内存达到 2G 的终端份额处于

增长期,512MB 及以下处于衰退期。

图 10:机型内存统计

http://www.testbird.com 10

2014 年度手游兼容性测试白皮书

Page 13: 2014 TestBird中国手游兼容性测试白皮书(中文版)

手游兼容性分析

http://www.testbird.com 11

2014 年度手游兼容性测试白皮书

Page 14: 2014 TestBird中国手游兼容性测试白皮书(中文版)

1. 总述

2.TestBird 在业界首次定义手游兼容性问题

2014 年 TestBird 测试了 2618 款游戏,共发现 134812 个兼容性问题,按照平均每款游戏测试 250 部终端统计,

游戏平均兼容性问题数 52 个,平均通过率为 79%。严重的兼容性问题,是影响用户体验、导致玩家流失的重要

因素。在手游市场竞争越来越激烈,用户导入成本越来越高的今天,通过减少兼容性问题数,可以大大减少用户流失,

从而可以较好的控制游戏的研发与运营成本。

问题类型 释义

安装失败 游戏app在某款手机上进行安装操作,

但是没有安装成功。

启动失败

游戏 app 安装成功,但是无法启动 ,

或者启动后马上自动退出。判断标准:

启动后,检测游戏画面是否可见。

游戏闪退 在游戏过程中程序崩溃导致意外退出。

判断标准:崩溃日志与游戏画面结合分

析。

游戏卡顿 在游戏过程中运行不流畅,画面切换卡

屏。主要原因是 cpu 或者内存占用过

高,需要 CP 进行优化。

游戏卡死 手机系统无法正常运行,不接受输入事

件,但游戏没有闪退。游戏触发了手机

的系统级 bug,引起系统崩溃。

TestBird 深入分析了 134812 个兼容性问题,将兼容性问题定义为 10 大分类,具体分类和释义如下:

问题类型 释义

游戏黑屏 手机系统正常运行,但游戏无法正常运

行,没有显示任何 UI 界面。

数据异常 游戏客户端与服务器数据交互异常,但

是链接未断开。通常是手机游戏与服务

器交互接口设计没有经过充分验证,导

致异常数据在服务器与手机游戏之间

传输。

UI 异常 UI 界面显示紊乱。主要原因是分辨率

差异或者游戏场景切换逻辑代码书写

有误。

游戏链接异常 与服务器交互链接发生异常。通常由于

开发人员没有考虑到网络编程中的异

常,或压力过大引发服务器崩溃。

程序异常 游戏运行时出现异常提示或现象。

表 1: 表 2:

http://www.testbird.com 12

2014 年度手游兼容性测试白皮书

Page 15: 2014 TestBird中国手游兼容性测试白皮书(中文版)

3. 各终端品牌兼容性分析:主流品牌的兼容性整体好于非主流品牌

4. 各 CPU 品牌兼容性分析:展讯出现的兼容性问题最多

2014 年,TestBird 测试终端总数达到 812 款,含中国主流终端 95% 以上,通过分析 134812 个兼容性问题,对

比各品牌的兼容性问题数,主流品牌的兼容性整体好于非主流品牌。非主流品牌的兼容性问题非常严重,每终端每

款游戏的失败率(即平均每款终端在每款游戏上的不兼容率)高达 10% 以上。

图 11:各品牌每终端每游戏失败率

2014 年,TestBird 测试终端总数达到 812 款,含中国主流终端 95% 以上,通过分析 134812 个兼容性问题发现,

各类 CPU 品牌中,展讯出现的兼容性问题占比最大。而我们所熟知的联发科和高通两大类 CPU 品牌的兼容性问

题检出率相当,检出率均占总数的 20%。

图 12:各 CPU 品牌兼容性问题检出率

* 兼容性问题检出率:即兼容性问题的数量占该品牌总数的比值。

http://www.testbird.com 13

2014 年度手游兼容性测试白皮书

Page 16: 2014 TestBird中国手游兼容性测试白皮书(中文版)

6. 各内存大小的兼容性分析:内存越大出现兼容性问题越少

5. 各游戏引擎的兼容性分析:自定义引擎出现的兼容性问题最多

2014 年,TestBird 测试终端总数达到 812 款,含中国主流终端 95% 以上,通过分析 134812 个兼容性问题发现,

内存越大出现兼容性问题越少,256M 的兼容性问题最多,兼容性问题检出率高达 82%。

图 14:各内存大小兼容性问题检出率

2014 年,TestBird 测试终端总数达到 812 款,含中国主流终端 95% 以上,通过分析 134812 个兼容性问题发现,

cocos2D-X 和 unity3D 游戏引擎的兼容性问题的检出率分别是 28% 和 27%,相比于自定义游戏引擎高达 32%

的兼容性问题检出率而言,表现情况较好。

图 13:各游戏引擎兼容性问题检出率

http://www.testbird.com 14

2014 年度手游兼容性测试白皮书

Page 17: 2014 TestBird中国手游兼容性测试白皮书(中文版)

7. 各类兼容性问题分析:闪退和卡死是最主要问题

2014 年,TestBird 对 134812 兼容性问题进行了统计分析,发现游戏闪退、游戏卡死、UI 异常是兼容性问题占

比最高的 3 大类问题。游戏闪退问题占比最高,达到 37.18%,游戏卡死问题同样严重,达到 18.53%。随着安卓

手机的快速发展,以往的问题重灾区安装、启动问题在所有问题中的占比很低,绝大部分问题是在游戏运行后发

生的。

图 15:各兼容性问题占比

(1)TOP1. 游戏闪退

2014 年 TestBird 统计了各游戏类型闪退分布,统计发现卡牌游戏兼容性问题中闪退数量最高。

对游戏闪退场景分析发现,游戏中主要闪退点如:初次启动加载资源、场景切换、复杂的场景(如战斗场景)、

快速操作、释放技能等,其中加载资源、战斗中及快速操作最多。

加载资源出现闪退情况通常是游戏下载资源缓慢,游戏内存占用较高等原因导致;快速操作时对手机配置要求高,

这种情况同样容易出现闪退。

图 16:各游戏类型闪退问题检出率

http://www.testbird.com 15

2014 年度手游兼容性测试白皮书

Page 18: 2014 TestBird中国手游兼容性测试白皮书(中文版)

以下是根据游戏引擎、CPU 品牌、内存大小、系统版本等四个维度统计的游戏闪退占比:

图 17:游戏引擎闪退问题检出率

图 18:CPU 品牌闪退问题检出率

图 19:内存大小闪退问题检出率

http://www.testbird.com 16

2014 年度手游兼容性测试白皮书

Page 19: 2014 TestBird中国手游兼容性测试白皮书(中文版)

图 20:系统版本闪退问题检出率

(2)TOP2. 游戏卡死

2014 年 TestBird 统计了各游戏类型游戏卡死分布,统计发现卡牌游戏兼容性问题中游戏卡死数量最高。游戏卡

死场景分析如下:

●卡死情况频繁出现在游戏场景切换,登陆注册页面及游戏战斗等场景。

●手机配置较低,反应时间较长导致。

●网络较差的情况导致游戏卡死。

●游戏适配较差导致游戏卡死。

图 21: 各游戏类型卡死问题检出率

以下是根据游戏引擎、 CPU 品牌、内存大小、系统版本等四个维度统计的游戏卡死占比:

http://www.testbird.com 17

2014 年度手游兼容性测试白皮书

Page 20: 2014 TestBird中国手游兼容性测试白皮书(中文版)

图 22:游戏引擎卡死问题检出率

图 23:CPU 品牌卡死问题检出率

图 24:内存大小卡死问题检出率

http://www.testbird.com 18

2014 年度手游兼容性测试白皮书

Page 21: 2014 TestBird中国手游兼容性测试白皮书(中文版)

图 25:系统版本卡死问题检出率

(3)TOP3.UI 异常

2014 年 TestBird 统计了各游戏类型游戏 UI 异常分布,统计发现卡牌游戏兼容性问题中 UI 异常数量最高。UI 异

常分析:

● UI 异常主要分布在游戏场景较复杂,游戏场景频繁切换等。

●手机配置较低导致(需要游戏做优化处理)。

●手机分辨率对 UI 方面影响较大。

图 26:各游戏类型 UI 异常检出率

以下是根据游戏引擎、 CPU 品牌、内存大小、系统版本等四个维度统计的游戏闪退占比:

图 27:游戏引擎 UI 异常检出率

http://www.testbird.com 19

2014 年度手游兼容性测试白皮书

Page 22: 2014 TestBird中国手游兼容性测试白皮书(中文版)

8. 各游戏类型的兼容性分析:动作格斗类游戏问题最多

图 29:内存大小 UI 异常检出率

图 30:系统版本 UI 异常检出率

图 28:CPU 品牌 UI 异常检出率

TestBird 平台上共测试 2618 款游戏,共发现 134812 个问题,分别分布在“卡牌游戏、策略经营、角色扮演、

http://www.testbird.com 20

2014 年度手游兼容性测试白皮书

Page 23: 2014 TestBird中国手游兼容性测试白皮书(中文版)

塔防游戏、跑酷竞速、飞行射击、消除游戏、棋牌扑克、动作格斗、体育运动、虚拟养成、休闲益智”共 10 类游

戏中,其中每类游戏的平均问题数如下:

图 31:各类游戏问题均值(个)

其中平均问题数在 50 以上的游戏类别依次为: 动作格斗、角色扮演、策略经营、虚拟养成、卡牌游戏、飞行射击。

可见这些中重度游戏中,出现的问题数量会最多。

(1) 动作格斗

TestBird 共测试 119 款动作格斗类游戏,发现 9898 个问题,每类问题分布如下图:

图 32:动作格斗游戏

占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、游戏卡顿、程序异常、数据异常。其中游戏闪退、游戏卡死、

游戏卡顿所占比例总数达到 70% 以上。动作格斗类游戏属于重度游戏,对终端配置要求比较高,较容易导致游戏

闪退和卡死的现象。

http://www.testbird.com 21

2014 年度手游兼容性测试白皮书

Page 24: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(2) 角色扮演

TestBird 共测试 555 款角色扮演类游戏,发现 35266 个问题,每类问题分布如下图:

图 33:角色扮演游戏

角色扮演类游戏属于重度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、游戏连接异常、数据异常、

游戏卡顿。其中游戏闪退、游戏卡死、游戏连接异常所占比例总数达到 67% 以上。

(3) 策略经营

TestBird 共测试 279 款策略经营类游戏,发现 16961 个问题,每类问题分布如下图:

图 34:策略经营游戏

策略经营类游戏属于重度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、游戏连接异常、游戏卡顿、

数据异常。其中游戏闪退、游戏卡死、游戏连接异常所占比例总数达到 68% 以上。

http://www.testbird.com 22

2014 年度手游兼容性测试白皮书

Page 25: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(4) 虚拟养成

TestBird 共测试 59 款虚拟养成类游戏,发现 3504 个问题 , 每类问题分布如下图:

图 35:虚拟养成游戏

虚拟养成类游戏属于中度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、程序异常、UI 异常、

安装失败。其中游戏闪退、游戏卡死、程序异常所占比例总数达到 69% 以上。

(5) 卡牌游戏

TestBird 共测试 681 款卡牌类游戏,发现 39458 个问题 , 每类问题分布如下图:

图 36:卡牌游戏

卡牌类游戏属于中度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、UI 异常、游戏连接异常、

数据异常。其中游戏闪退、游戏卡死、UI 异常所占比例总数达到 66% 以上。

http://www.testbird.com 23

2014 年度手游兼容性测试白皮书

Page 26: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(6) 飞行射击

TestBird 共测试 126 款飞行射击类游戏,发现 6296 个问题 , 每类问题分布如下图:

图 37:飞行射击游戏

飞行射击类游戏属于轻度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、游戏卡顿、UI 异常、

数据异常。其中游戏闪退、游戏卡死、游戏卡顿所占比例总数达到 66% 以上。

(7) 跑酷竞速

TestBird 共测试 143 款跑酷竞速类游戏,发现 6540 个问题 , 每类问题分布如下图:

图 38:跑酷竞速游戏

跑酷竞速类游戏属于轻度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、安装失败、启动失败、

数据异常。其中游戏闪退、游戏卡死、安装失败所占比例总数达到 60% 以上。

http://www.testbird.com 24

2014 年度手游兼容性测试白皮书

Page 27: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(8) 塔防游戏

TestBird 共测试 77 款塔防类游戏,发现 3022 个问题,每类问题分布如下图:

图 39:塔防游戏

塔防类游戏属于中度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、程序异常、UI 异常、数据异常。

其中游戏闪退、游戏卡死、程序异常所占比例总数达到 59% 以上。

(9) 体育运动

TestBird 共测试 17 款体育运动类游戏,发现 590 个问题,每类问题分布如下图:

图 40:体育运动游戏

占比最大的前 5 类问题依次为:游戏闪退、游戏卡死、游戏黑屏、安装失败、UI 异常。其中游戏闪退、游戏卡死、

游戏黑屏所占比例总数达到 73% 以上。

http://www.testbird.com 25

2014 年度手游兼容性测试白皮书

Page 28: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(10) 棋牌扑克

TestBird 共测试 91 款棋牌扑克类游戏,发现 2544 个问题,每类问题分布如下图:

图 41:棋牌扑克游戏

棋牌类游戏属于轻度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、UI 异常、游戏连接异常、数据异常、

游戏卡顿。其中游戏闪退、游戏连接异常、UI 异常所占比例总数达到 67% 以上。

(11) 休闲益智

TestBird 共测试 332 款休闲益智类游戏,发现 7964 个问题,每类问题分布如下图:

图 42:休闲益智游戏

占比最大的前 5 类问题依次为:程序异常、游戏闪退、UI 异常、游戏卡顿、安装失败。其中程序异常、游戏闪退、

UI 异常所占比例总数达到 67% 以上。休闲益智类游戏属于轻度游戏,不需要占用终端较大的空间和内存,在游戏

卡死和卡顿问题上表现不会那么明显。

http://www.testbird.com 26

2014 年度手游兼容性测试白皮书

Page 29: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(12) 消除游戏

TestBird 共测试 140 款消除类游戏,发现 2768 个问题,每类问题分布如下图:

图 43:消除游戏

消除类游戏属于轻度游戏,其中占比最大的前 5 类问题依次为:游戏闪退、UI 异常、游戏卡死、程序异常、数据异常。

其中游戏闪退、游戏卡死、UI 异常所占比例总数达到 72% 以上。

http://www.testbird.com 27

2014 年度手游兼容性测试白皮书

Page 30: 2014 TestBird中国手游兼容性测试白皮书(中文版)

手游性能分析

http://www.testbird.com 28

2014 年度手游兼容性测试白皮书

Page 31: 2014 TestBird中国手游兼容性测试白皮书(中文版)

1.TestBird 在业界首次定义手游性能

2 各性能指标分析

一款手游的性能是否良好,主要来源于游戏运行过程中的 CPU 占用率、内存占用值、IO 等待率、帧数率、温度、

启动时延、流量数据。通过这七点数据可以很好的反应一款游戏的性能。

手游性能数据定义:

名词 解释

CPU 占用率

(%)

游戏进程占用的 CPU 资源,cpu 使用率过高,说明游戏比较耗电,

而且容易卡顿。

内存占用值

(kb)

游戏进程所消耗的手机内存,内存占用高容易引起游戏卡顿甚至

闪退。

IO 等待率

(%)

游戏进程进行 IO 等待所占用 CPU 时间百分比,占用率过高说明

游戏进行了大量的 io 操作,例如文件读写。

帧速率

(fps)游戏引擎每一秒内刷新的帧数,反映了游戏画面流畅程度。

温度

(° C)

通过 android 温度传感器获取的手机温度,跟手机 cpu 占用率

成正比。

启动时延

(ms)

对游戏发起启动指令,到真正进入游戏第一个界面所消耗的时间,

反映了游戏的加载速度,跟游戏资源包大小有关。

流量

(bps)

游戏运行过程中所消耗的网络流量,主要集中在游戏与服务器交

互过程中产生的网络消耗。

(1)CPU 占用率:体育运动类游戏最高,棋牌扑克类最低。

CPU 占用率是游戏进程占用的 CPU 资源,CPU 使用率过高,说明游戏比较耗电,而且容易卡顿。行业游戏 CPU

平均占用率平均值为 18.41%,CPU 峰值占用率平均为 37%。

各类游戏平均 CPU 占用率如下表:

http://www.testbird.com 29

2014 年度手游兼容性测试白皮书

Page 32: 2014 TestBird中国手游兼容性测试白皮书(中文版)

(2) 启动时延:飞行射击类游戏最大,体育运动类最小。

启动时延是衡量一个游戏启动耗时的指标,反应了游戏的加载速度,时延越小,启动加载速度越快。行业游戏平

均启动时延为 1745ms,启动时延最小值平均为:189ms。

各类游戏启动时延如下表:

从上图可以明显看出体育运动、动作格斗、塔防游戏类游戏 CPU 占用率较高,棋牌扑克、休闲益智类游戏 CPU

占用率较低。

图 44:各类游戏平均 CPU 占有率

游戏类型CPU 峰值占用率

平均值

CPU 平均占用率

平均值

体育运动 41.16% 21.28%

动作格斗 38.97% 20.70%

塔防游戏 41.88% 20.67%

卡牌游戏 37.49% 19.63%

角色扮演 36.57% 19.39%

飞行射击 36.19% 19.25%

游戏类型CPU 峰值占用率

平均值

CPU 平均占用率

平均值

消除游戏 36.08% 18.66%

策略经营 36.42% 18.63%

跑酷竞速 36.22% 16.80%

虚拟养成 37.73% 16.51%

休闲益智 35% 15.62%

棋牌扑克 31.07% 13.80%

表 1: 表 2:

http://www.testbird.com 30

2014 年度手游兼容性测试白皮书

Page 33: 2014 TestBird中国手游兼容性测试白皮书(中文版)

游戏类型启动时延平均值

(ms)

启动时延最小值

(ms)

飞行射击 2355 223

策略经营 2236 177

棋牌扑克 2155 218

角色扮演 1955 171

虚拟养成 1870 303

动作格斗 1865 153

游戏类型启动时延平均值

(ms)

启动时延最小值

(ms)

消除游戏 1796 100

卡牌游戏 1636 141

跑酷竞速 1564 237

塔防游戏 1297 177

休闲益智 1253 128

体育运动 958 241

表 1: 表 2:

图 45:各类游戏启动时延(ms)

从上图可以看出,体育运动、休闲益智、塔防游戏三类游戏的平均启动时延最好,飞行射击、策略经营、棋牌扑

克三类游戏的平均启动延时最差。

(3) 内存占用:动作格斗类游戏最高,棋牌扑克类最低。

内存占用是游戏进程所消耗的手机内存,内存占用高容易引起游戏卡顿甚至闪退。行业游戏内存占用值平均占用

值为 114343kb,内存峰值占用平均值为 133742kb,各类游戏平均内存占用如下表:

http://www.testbird.com 31

2014 年度手游兼容性测试白皮书

Page 34: 2014 TestBird中国手游兼容性测试白皮书(中文版)

游戏类型内存平均占用

(kb)

平均内存峰值占用

(kb)

动作格斗 185782 212700

卡牌游戏 145175 170764

策略经营 143814 172817

角色扮演 134941 154785

飞行射击 114039 131421

体育运动 112591 143141

游戏类型内存平均占用

(kb)

平均内存峰值占用

(kb)

虚拟养成 111513 128670

跑酷竞速 100438 116339

塔防游戏 93098 108406

消除游戏 89119 102163

休闲益智 76204 85159

棋牌扑克 65407 78542

表 1: 表 2:

从上图可以看出动作格斗类游戏内存占用值最高,棋牌扑克类游戏内存占用较低。

(4) 平均流量消耗:虚拟养成类游戏最大,消除类游戏最小。

流量是衡量一个游戏在游戏过程中对流量消耗的指标,从流量角度游戏一般分为单机游戏、弱联网游戏、强联网

游戏。消除类游戏大多都是弱联网,虚拟养成类游戏联网性较强。除去单机游戏外各类游戏流量消耗如下表:

图 46:各类游戏内存占用(kb)

http://www.testbird.com 32

2014 年度手游兼容性测试白皮书

Page 35: 2014 TestBird中国手游兼容性测试白皮书(中文版)

游戏类型 流量平均值 (bps)

虚拟养成 15467

休闲益智 12140

角色扮演 7946

跑酷竞速 6168

策略经营 6083

塔防 4071

游戏类型 流量平均值 (bps)

卡牌 2770

棋牌扑克 2718

动作格斗 2074

飞行射击 2020

体育运动 1248

消除游戏 857

表 1: 表 2:

图 47:各类游戏流量平均值(bps)

从上图可以看出,消除游戏,体育运动,飞行射击三类游戏的流量平均消耗最小,虚拟养成,休闲益智,角色扮

演三类游戏流量平均消耗最大。

(5)IO 等待率:酷跑竞速类游戏较高,体育运动类较低。

IO 等待率是指游戏进程进行 IO 等待所占用 CPU 时间的百分比,占用率过高说明游戏进行了大量的 IO 操作,例

如文件读写等。行业 IO 等待平均等待值为 4.23%,IO 最长等待平均值为 17.22%。各类游戏 IO 平均等待如下表:

http://www.testbird.com 33

2014 年度手游兼容性测试白皮书

Page 36: 2014 TestBird中国手游兼容性测试白皮书(中文版)

游戏类型 IO 平均等待(%) IO 最长等待(%)

跑酷竞速 5.36% 18.75%

动作格斗 4.80% 18.88%

飞行射击 4.67% 17.63%

塔防游戏 4.43% 16.57%

卡牌游戏 4.33% 18.61%

角色扮演 4.29% 17.79%

游戏类型 IO 平均等待(%) IO 最长等待(%)

策略经营 4.22% 17.43%

棋牌扑克 4.17% 15.46%

虚拟养成 3.98% 17.32%

休闲益智 3.90% 16.16%

消除游戏 3.84% 17.17%

体育运动 3.11% 14.84%

表 1: 表 2:

从上图可以看出跑酷竞速类游戏平均 IO 等待率较高,体育运动类游戏 IO 等待率较低。

(6) 手机平均温度:卡牌游戏最高,体育运动类最低。

温度是衡量一个游戏对终端设备发热程度影响的指标,行业最优指标为 23.98 摄氏度,行业平均指标为 31.03 摄

氏度,各类游戏平均温度如下表:

图 48:各类游戏 IO 等待

http://www.testbird.com 34

2014 年度手游兼容性测试白皮书

Page 37: 2014 TestBird中国手游兼容性测试白皮书(中文版)

3. 性能数据总结

游戏类型 温度最大值(℃) 温度平均值(℃)

跑酷竞速 55.3 31.95

卡牌游戏 55.1 31.89

角色扮演 56.2 31.75

策略经营 56.3 31.72

塔防游戏 53.1 31.6

飞行射击 59.4 31.45

游戏类型 温度最大值(℃) 温度平均值(℃)

动作格斗 53.2 31.21

休闲益智 59.2 30.35

棋牌扑克 55.2 29.79

体育运动 52.2 28.62

消除游戏 59.7 28.08

虚拟养成 54.4 27.38

表 1: 表 2:

图 49:各类游戏温度值

从上图可以看出,体育运动,虚拟养成,消除游戏三类游戏导致终端发热的情况最好,卡牌游戏,角色扮演,跑

酷竞速三类游戏导致终端发热情况最严重。

通过对各类游戏的数据性能分析,我们可以清晰的看到,卡牌游戏、跑酷竞速、动作格斗等重度游戏对手机要求较高,

CPU 占用率、内存消耗、IO 等待率都比其他类型游戏要高,手机温度也比较高。虚拟养成类游戏消耗流量较大。

http://www.testbird.com 35

2014 年度手游兼容性测试白皮书

Page 38: 2014 TestBird中国手游兼容性测试白皮书(中文版)

体育运动,休闲益智,塔防游戏三类游戏的启动时延最好,策略经营,飞行射击,消除游戏三类游戏的启动延时

有待优化。

一款可以兼容更多手机的手游必须进行大量的性能优化,不仅需要减少 CPU 占用率,减少内存消耗,降低 IO 等待率,

还要提高启动速度,减少手机发热。虽然目前 wifi 比较广泛,但玩家对一款游戏流量的消耗还是很关心的,因此

控制游戏的流量消耗非常必要。

http://www.testbird.com 36

2014 年度手游兼容性测试白皮书

Page 39: 2014 TestBird中国手游兼容性测试白皮书(中文版)

付费测试分析

http://www.testbird.com 37

2014 年度手游兼容性测试白皮书

Page 40: 2014 TestBird中国手游兼容性测试白皮书(中文版)

2014 年 TestBird 共进行了 300 余次付费兼容性测试,共发现 200 个付费兼容性问题。付费测试涉及手游充值中

主流充值方式,如第三方支付、银联充值、电话充值卡支付、话费余额充值等。300 次付费充值测试中,我们统

计每次测试各项付费测试类型,其中第三方支付方式占据近 50% 比例。

付费测试各充值方式分布如下:

图 50:付费测试各充值方式分布

TestBird 对付费兼容性问题进行了分析,在 200 个付费兼容性问题中,我们发现手游付费充值主要会出现下面 5

类问题:

●充值失败

●充值不到账

●充值卡余额丢失

●充值数额错误

●充值到账延迟

对于这 5 类充值兼容性问题,我们发现充值过程中出现“充值失败”比例最高,在所有问题中占比为 54%,“充

值不到账”问题以 15% 占比位列第二。

付费测试兼容性问题分布如下:

图 51:付费测试兼容性问题分布

http://www.testbird.com 38

2014 年度手游兼容性测试白皮书

Page 41: 2014 TestBird中国手游兼容性测试白皮书(中文版)

安全测试分析

http://www.testbird.com 39

2014 年度手游兼容性测试白皮书

Page 42: 2014 TestBird中国手游兼容性测试白皮书(中文版)

1. 手游安全测试背景

2. 手游主要安全威胁

3.TestBird 专业手游安全测试

2014 年全球移动端游戏市场规模达到 274 亿美元,然而手游在快速发展的同时滋生了很多安全问题,大量游戏被

破解后植入木马病毒,植入恶意吸费代码,二次打包,盗版,导致游戏收益和品牌形象受损,据调查,2014 年因

为破解导致的游戏行业损失在 20 亿人民币左右,手机网游市场因为破解全年直接损失在 5 亿人民币左右,单机手

游全年直接损失达到 2 亿 4000 万人民币。

Android 提供了一个开放的平台,在获得了灵活性、可以满足各种定制需求的同时,损失了部分安全性,由于

android 本身的特性使得程序容易被反编译,手游被恶意破解之后进行二次打包,植入广告、木马、病毒以及恶

意吸费代码,非法获取广告收入,窃取用户隐私或财产,另外还有各种游戏外挂,给手游行业造成严重损失,据了解,

“二次打包”已经形成一条灰色的产业链,在暴利驱使下,越来越多人加入到这个行业,越来越多地游戏遭此毒手,

因此手游安全性检测至关重要。

国内部分游戏存在安全问题,83% 的游戏都存在获取用户权限隐私的问题,65% 的游戏都非法植入了广告。

图 52:各类安全问题占比

目前手游安全性检测主要有两个方面,一是对手游程序缺陷漏洞检查和分析,二是针对程序已经存在的威胁 ( 如木

马,病毒,吸费代码,恶意广告等 ) 进行安全检测,TestBird 主要专注于第二类安全检测,包括以下几个方面:

●专业检测游戏是否被二次打包植入木马病毒;

●专业检测游戏是否被植入恶意吸费代码;

●专业检测游戏是否存在非法获取用户权限或隐私的行为;

●专业检测游戏是否存在广告;

TestBird 专业手游安全测试,可以帮助客户发现安全漏洞,检测出安全威胁,并有针对性的给出专业安全建议,

提高游戏安全性,减少安全问题带来的损失。

http://www.testbird.com 40

2014 年度手游兼容性测试白皮书

Page 43: 2014 TestBird中国手游兼容性测试白皮书(中文版)

解决建议

http://www.testbird.com 41

2014 年度手游兼容性测试白皮书

Page 44: 2014 TestBird中国手游兼容性测试白皮书(中文版)

1. 兼容性问题解决建议

通过对大量问题的统计和分析,闪退、卡死、UI 异常是游戏面临的三大问题。而引发兼容性问题的因素,不仅仅

是游戏本身的“内因”,还涉及到硬件性能、系统版本、程序间冲突、服务器连接情况、支付接口等等。

2014 年我们对各类兼容性问题进行深入分析,结合部分游戏公司的解决方案,我们汇总出各类兼容性问题解决建

议和性能优化建议。

(1) 安装失败解决建议

游戏安装失败,一般是会有错误信息提示。常见的原因有内存不足、手机上已经存在其他签名版本、版本不匹配、

需要用户手动授权等。针对内存不足和版本不匹配,解决建议如下:

●内存不足:

我们通过分析 6914 个安装问题,发现内存不够是安装失败最大原因。建议 CP 开发人员定位安装问题时,重

点关注安装失败时,当前手机内存状态,是否有内存不足情况。TestBird 测试平台实时监控手机状态信息并记录

为日志信息,游戏公司开发人员可在 TestBird 提供日志中非常方便查看到手机内存状态,如果是内存不足原因,

可以考虑优化游戏安装时内存占用大小。

●版本不匹配:

这种情况发生在游戏 apk 要求的版本高于手机的系统版本。这种情况在失败终端上会 100% 重现。如果

是此类问题,建议 CP 开发人员对游戏 apk 要求的版本和手机系统版本做相应匹配。对于安装失败问题,通过

TestBird 提供的测试日志,获取出错信息会对定位问题有很大的帮助。

(2) 启动失败解决建议

游戏启动失败,表现为游戏无法启动或者启动后马上自动退出。常见原因有内存不足,加载资源出错,其他程序

影响等。

●内存不足:

参考安装失败中“内存不足”的解决建议。

●加载资源出错:

问题很可能是兼容性的问题。此问题解决主要靠游戏公司开发人员根据系统日志分析定位。

(3) 游戏闪退解决建议

我们测试中发现游戏闪退问题是所有兼容性问题中出现最多的问题,闪退问题出现场景各不相同,常见原因为内

存不足、温度过高、系统不兼容、cpu 不兼容等。开发人员可以根据这几种现象分析定位原因,找到闪退原因后

根据需求优化。

(4) 游戏卡死解决建议

游戏卡死现象很像 ANR(application not response)。系统在一定时间内发现 UI thread 没有响应,就会出现弹

http://www.testbird.com 42

2014 年度手游兼容性测试白皮书

Page 45: 2014 TestBird中国手游兼容性测试白皮书(中文版)

框报错。比如输入事件,等待通常是 5 秒。主要原因是在 UI thread 做了不必要且费时的操作。比如访问网络操作、

本地数据读写操作、游戏计算下一帧数据操作。

解决方案是把这些费时用异步的方式完成。UI thread 只做响应用户操作以及绘制 UI 的事情。开发过程中可以

StrictMode 来检查一些潜在 ANR 的代码风险。开发完以后,可以使用 android 工具 Systrace 和 Traceview 对

游戏的性能瓶颈进行分析,避免 ANR。

(5) 游戏卡顿解决建议

游戏卡顿和游戏卡死原因类似,只是卡顿的严重程度更低,还没有触发系统报出 ANR。所以卡顿问题和卡死问

题解决方案是一样的,避免 UI thread 上面繁重的操作。关于内存占用高的问题,先需要分析 logcat 日志,

系 统 每 次 GC 的 时 候 会 有 相 关 log, 比 如 D/dalvikvm( 9050): GC_CONCURRENT freed 2049K, 65% free

3571K/9991K, external 4703K/5261K, paused 2ms+2ms。 其中 3571K/9991K 是 heap stats,如果一直在

升高,那可能就有内存泄露的问题。分析方法:

●用 android device monitor 分析 heap 状态。

●用 android device monitor 分析 Allocation Tracker

●内存分析:adb shell dumpsys meminfo <package_name>

●另外,主要管理 bitmap memory,android 2.3.3 以前,使用 recycle,android 3.0 及以后版本注意使用

BitmapFactory.Options.inBitmap 。

(6) 游戏黑屏解决建议

黑屏现象和卡死卡顿都是 ANR 的表现。解决建议为通过分析造成卡顿的性能瓶颈,通过提高性能指标来解决。

(7)UI 异常解决建议

通过对 10016 个 UI 问题的统计和分析,TestBird 认为导致 UI 异常主要有两方面的问题:

●和安卓手机分辨率相关,如手机分辨率尺寸,游戏上控件排版时需要考虑分辨率,避免使用 pixel unit,考

虑使用 dp(Density-independent pixel)、sp 等 . 可以了解多尺寸多密度屏幕支持等相关文章。

●和游戏引擎相关,如 Unit3D 引擎游戏,使用系统字库,容易出现在 OPPO 等手机终端上,字体无法显示,

原因为部分安卓厂商深度定制安卓系统,导致部分 U3D 引擎游戏,调用的系统字体不能显示。解决建议为使用其

他字体库。

(8) 数据异常解决建议

数据异常表现为游戏与服务器数据交互异常 , 但是链接未断开 , 通常是手机游戏与服务器交互接口设计没有经过充

分验证 , 导致异常数据在服务器与手机游戏之间流窜。

这个问题需要游戏公司开发人员根据实际情况分析服务器交互接口设计,避免异常数据交互。

(9) 游戏链接异常解决建议

这类问题解决需要游戏公司开发人员根据实际情况分析问题,检查游戏与服务器交互链接是否异常,网络编程是

http://www.testbird.com 43

2014 年度手游兼容性测试白皮书

Page 46: 2014 TestBird中国手游兼容性测试白皮书(中文版)

2. 性能指标优化建议

(1)CPU 占用率优化建议

CPU 占用率高将导致游戏耗电量增加,并且容易卡顿。这里介绍大家使用 android 工具 Systrace 和 Traceview

对游戏的性能瓶颈进行分析,逐步优化指标,降低 CPU 占用率。

(2) 内存占用值优化建议

内存占用值优化,需要分析内存占用率高的原因。分析方式如“游戏卡顿解决建议”描述。

(3)IO 等待率优化建议

IO 等待率优化,需要提高 IO 操作效率比如增加 cache、优化存储数据库存储等。这个需要分析性能瓶颈然后优化。

比如用 Traceview 分析。

(4) 帧速率优化建议

帧速率优化类似于游戏卡顿。一是需要把非 UI thread 的工作从 UI thread 里面去掉,加快响应速度。二是需要

优化帧的计算速度。

(5) 温度优化建议

手机温度的高低和 CPU 占用率成正比,所以温度的优化同 CPU 占用率优化。

(6) 启动时延优化建议

启动时间的长短反映游戏的加载速度,跟资源包大小也有关系。优化启动时延可以考虑把资源加载做成异步,保

证界面的流程,用户视角的体验将提高。

(7) 流量优化建议

在国内,玩家使用付费流量包玩游戏的比例很高,可以说减少游戏的流量将减少玩家的支出成本,大大提高用户

体验。流量的优化需要游戏开发公司设计时考虑减少流量消耗,同时可以考虑对传输数据进行压缩。

否异常,着重分析是否是服务器压力过大引发服务器奔溃。

在实际测试过程中,我们发现由于服务器压力过大引发服务器奔溃原因最多,TestBird 兼容性测试时往往在半小

时内有 3 百多个终端登录游戏,游戏测试服务器往往配置较低,容易出现压力多大服务器崩溃。

(10) 程序异常解决建议

程序异常表现为游戏运行时出现异常提示或现象。这类问题现象明显,游戏公司开发人员可以根据 TestBird 提供

的现场截图、结合 log 日志信息分析并解决该问题。

http://www.testbird.com 44

2014 年度手游兼容性测试白皮书

Page 47: 2014 TestBird中国手游兼容性测试白皮书(中文版)