逻辑回归方法

逻辑回归方法是一种常用的离散选择模型,在金融领域,很早便被应用于违约风

险、早偿风险分析等方面。在选股方面也经常被用于预测涨跌分类,因此我们采

用此方法为参照物对比机器学习方法的效果。

当我们提到机器学习这个概念的时候,往往会先入为主的认为这已经超过量化的

范畴。但是,从概念上讲,方法的理念却很简单:利用因子组合特性预测股票未

来趋势;从应用上讲,和回归方法类似,它也是基于因子历史解释能力预测未来

的走势。本文应用的AdaBoost 算法核心思想是通过历史训练数据训练出一组弱

分类器,并由这组弱分类器通过各自权重线性加权得到一个强分类器。

二元AdaBoost 算法流程:

1. 等权重初始化每一个样本权重 𝑤𝑖 =

1

𝑁

, i = 1,2, … N,N 为样本总数。

2. 从 m = 1 到 M,迭代训练每一个弱分类器,M 为弱分类器总数

a) 利用整体样本训练弱分类器 𝑇𝑚(𝑥),样本权重为 𝑤𝑖

b) 计算弱分类器错误率

𝑒𝑚 = Σ 𝑤𝑖 𝐼(𝑇𝑚(𝑥𝑖 ) ≠ 𝑦𝑖) 𝑁1

Σ 𝑤𝑖

𝑁1

⁄ ,𝐼()为示性函数

c) 计算弱分类器权重 𝛼𝑚 = log (

1−𝑒𝑚

𝑒𝑚 )

d) 更新样本权重 𝑤𝑖 ← 𝑤𝑖 exp(𝛼𝑚𝐼(𝑇𝑚(𝑥𝑖 ) ≠ 𝑦𝑖 )) , 𝑖 = 1,2, … 𝑁

证券研究报告

请务必阅读正文后免责条款部分 5

e) 归一化 𝑤𝑖

3. 输出由弱分类器线性加权强分类器 C(x) = 𝑎𝑟𝑔max

𝑘

Σ 𝛼𝑚𝐼(𝑇𝑚(𝑥) = 𝑘) 𝑀1

针对该算法,以下几个问题在实际应用过程中值得关注:

1. 算法流程中指的二元AdaBoost 是指分类结果分为两类,在本文应用中,具

体是将股票分为强势股和弱势股两类,当然AdaBoost 算法可以支持多分类,

但是在选股应用情景中,多分类是否可以提高预测准确性,我们将会在以后

的报告中进行讨论。

2. 弱分类器的数量M 选择也是分类的关键问题,过少的弱分类器是否可以有效

的组合因子分类效果?过多的弱分类器数量是否可以持续提高分类准确性?

这两个问题会在本文中进行测试。

3. 另外,弱分类器 Tm(x)是指计算简单,分类效果较略好于掷硬币的分类方法,

如单层的树状分类器,当然,较为复杂分类方法,如逻辑回归法,SVM 法

理论上都可以作为弱分类器应用到Boosting 方法中,但实际效果和计算开

销都值得探讨。

4. 在利用单层决策树作为弱分类器时,以哪个因子做为因变量进行分类训练,

并不在于AdaBoost 算法本身,而是AdaBoost 算法将这个问题代理给弱分

类器,这是我们这里应用的决策树算法需要解决的问题,通常情况下,决策

树在分类过程中会遍历每个因子,从中筛选基尼不纯度或是熵信息增益,来

选择当前分类效果最好的因子,作为此层弱分类器的分类因子,虽然最先选

择出的因子体现了该因子在弱分类器中的相对重要作用,但我们不能仅因此

判断该因子在整个AdaBoost 算法中的重要程度,随着弱分类器数量的增加,

相对不显著的因子被选中的次数可能在迭代过程中增加,实际上,通过对所

有弱分类器中选择因子,按照因子的重要程度进行求和之后才能体现该因子

的综合重要程度。

米筐量化交易平台:http://www.ricequant.com

量化炒股QQ群:484490463  群内大神每日在线讲解代码,用Python自动赚钱!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容