想知道你在网上的发言,被怎么分析么?

古牧聊数据
古牧聊数据
古牧聊数据
8
文章
0
评论
2020-08-0713:08:00 评论 268 3549字
摘要

古牧君这次跟大家分享一下,我们日常在网上的留言评论,都会被怎么分析利用,能产生哪些价值。这也正好对应了数据产品的一个子类——舆情数据产品。

对数据应用感兴趣的朋友们好~古牧君这次跟大家分享一下,我们日常在网上的留言评论,都会被怎么分析利用,能产生哪些价值。这也正好对应了数据产品的一个子类——舆情数据产品。

想知道你在网上的发言,被怎么分析么?

舆情数据的应用可以粗略分为面子和里子:

面子,主要是政府和企业,想及时知道大家的看法,尤其是有没有骂的;以及如果有突发性事件,需要尽快的知道,最好能在初始阶段就控制好源头,不要让事情闹大了。

里子,主要是企业,想知道消费者对他的品牌或者产品有什么看法,好的坏的都可以,而且越具体越好。比如一款新车上市了,车企自我感觉良好,但消费者到底买不买帐?如果不买帐的话,到底是觉得哪儿有问题,告诉我们,我们好去改。

想知道你在网上的发言,被怎么分析么?

这种事情在前互联网时代是怎么搞定的呢?主要靠调研咨询公司了。他们会拟定科学详尽的问卷调研方案,然后通过电话或者直接出街拉人头问问题,了解广大用户的心声。

这种做法,肉眼可见的问题就是人工成本高,需要铺不少人力去打电话或者访谈;同时,周期也比较长,一般都是以月为单位计数;再有,就是操作空间比较大,毕竟中间隔着好几个人工环节,你懂的......

想知道你在网上的发言,被怎么分析么?

来到互联网时代,我们有专门针对舆情的数据产品来解决。一共5步,就可以产品化自动化的给出答案。这其中政府的事儿不好说,所以就只重点介绍下企业是怎么利用舆情数据,了解消费者对自家品牌or产品的看法。

想知道你在网上的发言,被怎么分析么?

第一步就是构建一个图谱,叫行业知识库也行。这个图谱其实并没有很高级,一个初级的行业图谱,一个Excel文档可以搞定了。它的作用很简单,就是把那些非结构化的舆情数据,通过关键词映射到标签,转化为结构化的、可以被统计分析的数据。

一般一个行业图谱,都会有品牌、产品、细分市场和关注点这4类。

品牌顾名思义,就是一个行业里大部分品牌的叫法,这些关键词同时还能帮你框定一个行业的基本数据范围。

细分市场你可以理解为是跟品牌进行交叉组合的一个维度or标签,比如汽车行业里,车型、产地、能源类型等都可以作为细分市场,它往往是每个行业独有的一种划分方式。比如宝马跟车型进行交叉组合,就可以有宝马的suv、宝马的轿车等不同的细分领域了。

产品是比品牌更小的一个粒度,比如宝马x5、奥迪a6,它的粒度已经细化到没法再跟细分市场进行交叉组合了。

最后是关注点,就是一般消费者会从哪些角度来评价一个品牌or产品。它可以有层级关系,比如汽车的外观,可以进一步下钻到具体的颜色啊、大灯啊、前脸啊什么的。

想知道你在网上的发言,被怎么分析么?

具象一些,就是上面这个Excel截图示例了。最关键的就是第一列的关键词,品牌、产品、细分市场和关注点这4大类标签都是通过这些关键词进行匹配的。比如一句话是"奥迪a1在国内价格进一步走低",那么它就会被打上品牌=奥迪、产品=奥迪a1、关注点=价格、车型=小型车、能源类型=传统能源、厂商属性=进口等一系列标签。可以发现,这里面有些标签映射关系是显性的,比如产品和关注点,字面上提到了哪些词,就会被打上对应的标签;而另外一些标签是隐性的,依靠的就是行业图谱,而这个行业图谱的结构基本都是依赖业务专家人工搭建,但关键词那列会需要很多技术支持。比如同样一个商品,官方有一种叫法,但消费者往往会赋予不同的昵称,如果漏掉后者,就会遗漏很多舆情数据。

想知道你在网上的发言,被怎么分析么?

有了一个框架,我们就可以满世界的去爬数据了。正如上文演示,我们通过关键词去匹配数据,但也需要先把控一下数据的来源。一般情况,企业都会比较重视两微一抖,也就是微信、微博和抖音。微信指的是公众号,这是一个很大的舆情数据来源;微博虽然大家日常很少发言了,但对于品牌宣传来讲,仍然是一个兵家必争之地;抖音是新晋的广告品宣投放重地,自然也不能放过。除此之外,一些行业垂直性的论坛贴吧,也经常有高质量、大密度的讨论,自然也要搜罗进来。

这些数据怎么来?对一些小厂商来说,只能靠爬虫了,而且还经常会被数据的拥有方通过各种反爬虫手段屏蔽。所以这是个体力活,而且爬下来的数据量级很大,比如微博、公众号、贴吧,很难做到全量的爬取,这就又要考验存储实力。所以你看,自己拥有这些数据,是多么省时省力。

而且爬的时候也要挑,也有一定策略。比如微信公众号吧,这里面有大量的自媒体,文章的标题正文本身,就代表着作者的观点,能量不小。比如前两年的《腾讯没有梦想》,着实让腾讯的公关在梦里都得好好想想。同时,公众号下面的精选评论,也都是网民的态度。那么问题就来了,有些文章,人家标题就不会有汽车啊、奥迪啊这些词,但正文里满满的都是对品牌的品头论足,这种文章你爬不爬?还有些文章,标题党,蹭热门,但正文满不是那么回事儿,这种文章你爬不爬?还有些文章,本来是说奔驰的,结果评论翻车跑偏了,大家都聊奥迪去了,作为奥迪的厂商爸爸,这些评论你要不要?

诶......想想就头大是不是?

想知道你在网上的发言,被怎么分析么?

然而更头大的还在后面,数据清洗。行业图谱阶段,我们通过关键词,尽量多的囊括一个行业的舆情数据,但里面有很多噪音杂质,比如上面提到的标题党啊、还有各种广告水军,不把它们给清理干净,你就很难听到消费者真正的声音。

像标题党,我们可以通过正文去辅助判断。交给机器学习就好了,只要文章字数够多,判断它是否这个行业的准确性就能足够高;但一些评论数据就会犯难了,因为它字数少,信息量小,这就需要用到上下文关系去判断了。一提到上下文语义识别,就很难了,机器目前真心没法像人一样读懂很多句子的潜台词以及上下的关联。这种例子不仅标题党,一词多义也是。比如红牛,它既是饮料、又是个F1车队、还是个球队的名称,这个词要是出现在一大段文字中还好办,也是就来一句"红牛不错",你说你咋整?

好在,技术在不断的进步,而且大数据时代嘛,大家都追求用足够多的"好数据"淹没稀释那些"脏数据",不影响大面儿上的结论就还好......

想知道你在网上的发言,被怎么分析么?

进一步,非常需要用情感模型来识别消费者的评价是好是坏。而且我们的目标更高阶一些,不仅仅要识别出消费者对品牌or产品的看法,还要具体到对品牌or产品的某个关注点的看法,这对情感模型也是一件颇有难度的事儿。

比如"奔驰的外观比较大气稳重,要是价格也能像外观一样就好了",这句话里既有品牌词(奔驰)、也有关注点词(外观、价格)、还有表达情感正负向的词(大气稳重)。我们人类是比较好识别出来,这句话是夸奔驰的外观,但对它的定价略有微词。

可对机器就比较犯难了,首先机器需要能识别出,"大气稳重"这个褒义词跟"外观"是一对儿,而不是修饰"价格"的;其次,机器还需要能理解"要是xxx也能像xxx一样就好了"这种句式,稍有不慎就会把"价格"跟"好"凑成一对,那不就满拧了么?~

想知道你在网上的发言,被怎么分析么?

最后我们来到了数据呈现阶段,很多数据产品往往就砸在这儿。一开始就说了,厂商需要的就是清晰的告诉他们,消费者对品牌or产品的具体评价,那我们就按照品牌or产品来组织数据,并且将情感正负向与关注点交叉,让评价能够更具体。

进一步,当点击上图中的任何一个色块时,都可以弹出对应这个关注点的情感倾向的具体言论,让厂商爸爸们不仅知其然、还能知其所以然:

想知道你在网上的发言,被怎么分析么?

除了条形占比图的呈现以外,厂商爸爸们还很喜欢上面这种散点图,它是由对应分析方法画出来的。这个图其实就是把二维列联表格式的数据进行可视化处理,原始数据其实就是这么一个Excel表格:

想知道你在网上的发言,被怎么分析么?

表格中的数字,表示同时提到某个品牌和某个关注点的数据量。比如大家在讨论宝马的时候,经常会提及操控性和动力;在提及奔驰的时候常常把舒适性和外观挂在嘴边。反应在图形上,就是宝马距离操控性和动力两个点会更近一些,奔驰距离舒适性和外观两个点会更近一些。

但这种图也有它的问题,就是直观有余但量化不足。不过客户往往就喜欢这种直观可解释性强的东西,你要是真给他整一个深度神经网络,还真不见得他会买单。

想知道你在网上的发言,被怎么分析么?

当然,上述的5个步骤都还有较大的提升空间,比如会在网上发表评论的用户,是不是本身就比较有偏?他们的声音能否真正的代表广大消费者的看法?以及,目前的机器学习对评论数据理解的准确性能否更进一步,像个人一样去理解句子?

最后再叨叨一句舆情数据产品这个行业:其实上面的分析讲解已经可以看到,这是一个相对重资产、体力活、且游走在灰色边缘的事儿,很大互联网大厂看不上这块小肉,这反倒给了很多第三方小公司一些生存空间。不过他们有没有不同的行业专家帮忙搭建各个行业的图谱?能不能顺利爬到足够覆盖率的舆情数据?爬回来之后调用那些开源的NLP能力接口能否分析的精准?最后的产品化打磨能否到位?这些点,都会影响最终的商业售卖。

OK,关于数据的应用场景,我们暂时告一段落,下次咱们说回数据分析和策略本身。回见了您内!

End.爱数据网专栏作者:古牧聊数据作者简介:互联网数据从业者,集齐BAT工作经验(曾任职百度策略产品经理;蚂蚁金服数据产品经理;腾讯高级产品经理)个人微信公众号:古牧聊数据(ID:GuMu-Data-Talk)

  • 我的微信公众号
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: